AI와 인간, 물체 인식 방식의 차이: 의미 vs 시각 특성

AI와 인간은 물체를 다르게 인식한다: 의미 대 시각적 특성 人类和人工智能在识别物体时有不同的侧重点。人类更关注物体的意义，而人工智能则更依赖于视觉特征。 "이 차원들은 '반드시' 또는 '흰색'과 같은 순전히 시각적인 측면부터 '동물 관련' 또는 '화재 관련'과 같은 더 의미론적인 속성까지 다양한 물체의 특성을 나타냅니다. 많은 차원들이 시각적 요소와 의미론적 요소를 모두 포함하고 있습니다." 막스 플랑크 인지 및 뇌 과학 연구소의 플로리안 마흐너는 설명합니다. 연구 결과, 인간은 주로 물체가 무엇인지, 그것에 대해 무엇을 알고 있는지를 나타내는 의미론적 차원에 집중하는 반면, AI 모델은 물체의 형태나 색상과 같은 시각적 속성에 더 많이 의존한다는 것이 밝혀졌습니다. 이를 '시각적 편향'이라고 부릅니다. "AI가 물체를 인식하는 방식이 인간과 유사해 보일 때도, 실제로는 근본적으로 다른 전략을 사용하는 경우가 많습니다. 이 차이는 AI 시스템이 인간처럼 행동하더라도 완전히 다른 방식으로 생각하고 결정을 내릴 수 있다는 것을 의미하며, 이는 우리가 AI에 얼마나 신뢰를 할 수 있는지를 크게 영향을 미칩니다." 마흐너는 덧붙입니다. 이미지 판단 과학자들은 인간의 행동을 분석하기 위해 공개된 500만 개 이상의 이질감 판단 데이터를 사용했습니다. 이 데이터는 1,854개의 다른 물체 이미지를 기준으로 수집되었습니다. 예를 들어, 참가자는 기타, 코끼리, 그리고 의자의 이미지를 보고 어떤 물체가 다른 것인지 선택하도록 요청받았습니다. 과학자들은 이미지 인식이 가능한 여러 깊은 신경망을 인간 참가자와 유사하게 처리하여 같은 물체의 이미지에 대한 유사성 판단을 수집했습니다. 그런 다음, 과학자들은 동일한 알고리즘을 적용하여 이러한 이미지를 기반으로 하는 이질감 결정의 핵심 특성을 식별했습니다. 이 특성을 '차원'이라고 부르며, 신경망을 인간과 유사하게 처리함으로써 두 가지를 직접 비교할 수 있었습니다. "깊은 신경망에서 발견한 차원들을 처음 살펴보았을 때, 그것들이 실제 인간에서 발견된 차원들과 매우 유사해 보였습니다." 논문의 마지막 저자인 마틴 헤버트는 설명합니다. "하지만 human과 직접 비교하면서 closer하게 살펴보니 중요한 차이점이 있었습니다." 과학자들은 신경망의 해석 가능성 평가를 위해 일반적으로 사용되는 해석 기법을 사용했습니다. 예를 들어, 한 차원이 동물과 관련이 많다면 '동물관련'이라는 이름을 붙일 수 있습니다. 과학자들은 해당 차원이 실제로 동물에 반응하는지 확인하기 위해 여러 테스트를 수행했습니다. 신경망이 이미지의 어떤 부분을 사용했는지 살펴보고, 해당 차원과 가장 잘 일치하는 새로운 이미지를 생성하며, 특정 차원을 제거하기 위해 이미지를 조작하기도 했습니다. "이 모든 엄격한 테스트들은 매우 해석 가능한 차원임을 나타냈습니다." 마흐너는 덧붙입니다. "하지만 human과 깊은 신경망 사이의 일치하는 차원을 직접 비교했을 때, 신경망이 이러한 차원을 단순히 근접하게 추정하는 것에 불과하다는 사실을 발견했습니다. 동물관련 차원의 경우, 많은 동물 이미지가 포함되지 않았으며, 반대로 동물이 아닌 많은 이미지가 포함되었습니다. 이는 표준 기술로는 놓칠 수 있는 내용입니다." 과학자들은 앞으로의 연구에서 인간과 AI를 직접 비교하는 비슷한 접근법을 사용하여 AI가 세계를 어떻게 이해하는지 더 잘 파악하기를 희망합니다. "우리 연구는 이러한 차이점을 연구하는 명확하고 해석 가능한 방법을 제공합니다. 이는 AI가 정보를 처리하는 방식을 인간과 비교하여 더 잘 이해하는 데 도움이 됩니다." 헤버트는 말합니다. "이 지식은 AI 기술 개선뿐만 아니라 인간의 인지 과정에 대한 귀중한 통찰력을 제공하는 데도 도움이 될 것입니다." 업계 인사이더의 평가와 기업 프로필 이 연구는 AI와 인간이 물체를 인식하는 방식의 근본적인 차이를 명확히 밝혔다는 점에서 중요한 의미를 가집니다. AI의 '시각적 편향' 현상은 AI 시스템이 인간처럼 행동하면서도 전혀 다른 방식으로 판단을 내릴 수 있다는 것을 보여줍니다. 이는 AI 기술의 신뢰성과 안전성을 향상시키기 위한 중요한 단서를 제공합니다. 행동 신경과학 분야의 전문가들은 이 연구가 AI의 의사결정 과정을 더 깊이 이해하는 데 큰 도움이 된다고 평가합니다. 또한, 이 연구는 AI 기술의 발전을 촉진하고, 인간의 인지 과정에 대한 새로운 통찰력을 제공할 것으로 기대됩니다. Max Planck Institute for Human Cognitive and Brain Sciences는 인지 과학과 뇌 과학 분야에서 세계적으로 인정받는 연구기관입니다. 이 연구팀은 인간과 AI가 정보를 처리하는 방식의 차이점을 체계적으로 분석하고, 이를 통해 미래의 AI 기술 개발에 기여하고자 합니다.