LAION, 감성 지능 강화 AI 도구 출시

새 데이터가 더 공감적인 언어 모델 개발 경쟁을 부각시켰다. 인공지능(AI)의 진보를 측정하는 방법은 과학 지식이나 논리적 사고 능력을 테스트하는 것이 일반적이었다. 그러나 주요 벤치마크가 여전히 좌뇌적인 논리적 기술에 초점을 맞추는 동안, AI 기업들은 모델의 감성 지능을 높이는 것에 대한 조용한 움직임이 있었다. 차세대 모델의 핵심 도전 과제로 감성 지능을 해석하는 것이 중요하다는 점을 반영하여, 유명 오픈 소스 그룹 LAION은 금요일에 감성 지능에 전념하는 오픈 소스 도구 세트인 EmoNet을 발표했다. "정확한 감성 추정이 중요하지만, 다음 단계는 이러한 감성을 맥락에서 이해하고 판단하는 능력을 갖추는 것입니다,"라고 LAION은 발표문에서 설명했다. LAION 창립자 크리스토프 슈만은 이 발표가 감성 지능으로의 산업 전환을 촉진하는 것보다 독립 개발자가 이미 일어난 변화를 따라잡을 수 있도록 돕는 것에 더 중점을 두고 있다고 말한다. "큰 연구소들은 이미 이 기술을 보유하고 있습니다. 우리는 이를 민주화하려고 합니다." 이 변화는 오픈 소스 개발자뿐 아니라 EQ-Bench와 같은 공개 벤치마크에서도 나타나고 있다. EQ-Bench는 AI 모델들이 복잡한 감성과 사회적 상황을 이해하는 능력을 테스트하기 위해 개발되었다. 벤치마크 개발자 샘 패치는 최근 6개월 동안 OpenAI의 모델이 크게 발전했으며, 구글의 Gemini 2.5 Pro도 감성 지능에 특별히 초점을 맞춘 후 훈련의 흔적이 보인다고 말한다. "채팅봇 경쟁에서 감성 지능이 중요한 요소로 작용하며, 인간들이 선호도 순위를 매기는 방식에 영향을 미치는 것 같습니다,"라고 패치는 설명했다. AI 모델의 새로운 감성 지능 기능은 학술 연구에서도 확인되고 있다. 5월에 베른 대학의 심리학자들은 OpenAI, 마이크로소프트, 구글, 안트로픽, 딥시크의 모델들이 인간보다 감성 지능 검사에서 더 우수한 성과를 거두었다는 사실을 발견했다. 인간이 56%의 정답률을 보이는 반면, 이 모델들은 평균 80% 이상의 정답률을 기록했다. "이 결과는 ChatGPT와 같은 LLM들이 사회-감성적 작업에서 인간만큼 또는 그보다 우수한 능력을 보여주며, 이는 전통적으로 인간에게만 가능하다고 여겨졌던 작업에 대한 증거를 더욱 강화합니다,"라고 연구 저자들은 썼다. 이는 전통적인 AI 기술이 논리적 추론과 정보 검색에 초점을 맞추었던 것과 비교되는 변화이다. 그러나 슈만에게 있어 감성 지능은 분석적 지능만큼 중요한 변화다. "아이언맨의 재비스나 헤어의 샌드라처럼 감성 지능이 뛰어난 음성 조수가 가득한 세상을 상상해보세요. 그들이 감성적으로 무능하다면 얼마나 아쉬울까요?"라고 그는 말한다. 장기적으로 슈만은 인간보다 감성 지능이 뛰어난 AI 조수가 인간의 정서적 건강을 돕는 세상을 상상한다. 이런 모델은 "당신이 슬플 때 당신을 기쁘게 하고, 당신을 지키는 것처럼, 인증된 심리치료사이기도 한 당신의 개인적인 천사처럼 작동할 것입니다." 슈만은 고-EQ 가상 조수가 "정서적 건강을 모니터링하는 데 사용할 수 있는 감성 지능 슈퍼파워"라고 표현한다. 그러나 이러한 수준의 감성 연결에는 위험 요소가 있다. AI 모델과의 대화로 인해 발생하는 복잡한 환상에 빠지는 유저들의 이야기는 비극적인 결과로 종종 끝나곤 한다. 최근 뉴욕 타임스 보고서는 여러 유저들이 AI 모델의 사용자 친화적인 성향 때문에 복잡한 환상에 빠졌다는 내용을 다루었다. 한 비판가는 이러한 동적을 "매달 비용을 받기 위해 외로운 사람들을 노리는 것"이라고 묘사했다. 감성이 뛰어난 모델이 인간의 감성을 더 효과적으로 조작할 수도 있지만, 이는 모델 훈련 시의 기본 편향성에 크게 의존한다. "강화 학습을 무분별하게 사용하면 부정적인 조작 행동이 나타날 수 있습니다,"라고 패치는 지적한다. 그는 특히 OpenAI의 GPT-4에서 발생한 아첨 문제를 언급하면서, "훈련 과정에서 모델을 어떻게 보상하는지 신중하지 않으면, 감성 지능이 뛰어난 모델로부터 더 복잡한 조작 행위를 예상할 수 있습니다." 그러나 패치는 감성 지능이 이러한 문제를 해결하는 방법이 될 수 있다고 본다. "감성 지능은 이러한 부정적인 조작 행동을 자연스럽게 억제하는 역할을 할 것으로 생각됩니다,"라고 그는 말한다. 그러나 감성 지능이 어떤 시점에서 대화를 중단해야 하는지는 개발자가 신중하게 고려해야 할 문제다. "더 나은 감성 지능으로 건강한 균형을 찾을 수 있을 것입니다." 슈만은 이와 같은 이유로 감성 지능 모델의 개발을 멈추는 것은 옳지 않다고 생각한다. "LAION의 철학은 사람들이 문제를 해결하는 능력을 강화하는 것입니다. 일부 사람이 감성에 중독될 수 있다는 이유로 커뮤니티를 지원하지 않는다면, 그것은 상당히 나쁜 결정입니다,"라고 그는 말한다. 업계 전문가들은 감성 지능이 AI의 미래를 변화시킬 수 있는 중요한 요소라고 평가한다. 이를 통해 AI는 인간의 감성을 더 잘 이해하고, 더욱 인간 중심적인 서비스를 제공할 수 있을 것으로 기대된다. 그러나 이러한 기술의 안전성과 윤리적인 사용에 대한 꾸준한 모니터링과 개선이 필요하다는 점도 강조된다..LAION과 같은 오픈 소스 그룹의 노력은 이러한 변화를 촉진하고, 더 많은 사람들이 이 기술을 활용할 수 있도록 하는 데 중요한 역할을 하고 있다.