LLM의 인간화에 대한 비판: 유용성은 인정되나 의식과 윤리 논란은 부적절

언어 모델의 비인간화된 시각 대화형 언어 모델(LLM)은 단어들을 특정 벡터로 변환하여 텍스트를 생성하는 과정을 통해 작동한다. 이 변환 단계에서 각 단어는 (\mathbb{R}^n) 공간의 벡터로 매핑된다. 따라서 한 문장은 이 벡터 공간에서의 경로로 생각할 수 있다. 예를 들어, "뱀" 게임처럼 고차원 공간에서 단어를 따라가는 경로를 상상해볼 수 있다. 마지막 단어를 1로 표시하고, 처음 단어나 최대 컨텍스트 길이 (c)까지 역순으로 번호를 매긴다. 이렇게 하면, LLM은 이전 경로를 고려하여 다음 단어를 선택할 확률을 계산하고, 그 확률에 따라 무작위로 선택하여 새로운 단어를 생성한다. 고정된 랜덤 시드를 사용한 LLM은 ((\mathbb{R}^n)^c \mapsto (\mathbb{R}^n)^c) 형태의 매핑으로 표현될 수 있다. 이 매핑은 동역학 시스템에서 볼 수 있는 복잡한 경로, 즉 '이상 유인자'와 비슷한 구조를 가진다. 매핑 학습 LLM은 인간의 글을 모방하도록 훈련된다. 이를 위해 가능한 모든 인간의 글, 특정 주제에 대해 전문가가 작성한 코퍼스, 그리고 자동 생성 및 검증이 가능한 도메인의 텍스트를 사용한다. 이렇게 다양한 데이터를 통해 LLM은 인간의 글쓰기 패턴을 학습하게 된다. 피해야 할 경로 LLM의 놀라운 활용성 LLM은 계속해서 발전하고 있으며, 이러한 모델이 해결할 수 없는 문제들이 점점 줄어들 것으로 기대된다. 현재 LLM은 이미 많은 분야에서 유용하게 활용되고 있으며, 앞으로도 더 많은 영향력을 미칠 것이다. 인간화의 한계 LLM를 '의식', '윤리', '가치관', '도덕' 등의 속성을 부여하려는 순간부터 이해하기 어려워진다. 여기서 말하는 것은 단지 새로운 단어를 생성하는 대규모 재귀 방정식일 뿐이다. 이 방정식은 우리가 더 이상 단어를 생성하지 않으면 멈추게 된다. 저는 LLM가 '깨어날' 가능성이 있다는 질문이 마치 기상 학자가 기상 예측 모델이 '깨어날까' 걱정하듯이 어리둥절하다고 느낀다. LLM을 단순히 단어 시퀀스를 생성하는 함수로 간주하지 않고, 인간처럼 행동할 수 있는 존재로 여길 때 이러한 논의가 혼란스럽고 무섭게 느껴지는 이유다. 예를 들어, "AI 에이전트가 내부 위협이 될 수 있으므로 모니터링이 필요하다"라는 주장은, 실제로는 무작위 시퀀스 생성기에서 어떤 결과가 나올지 모른다는 점을 간과한 채, 인간적인 개념으로 접근하고 있다고 볼 수 있다. 실제 이슈 현대 LLM이 대표하는 함수 클래스는 매우 유용하다. AGI(일반 인공 지능)를 달성하지 못하더라도, 현재 기술을 적극적으로 활용한다면 우리 세상은 극적으로 바뀔 것이다. LLM는 전기화만큼이나 큰 영향력을 미칠 수도 있다. 인간 의식과 LLM의 비교 불가능성 저의 세계관에서는 인간과 LLM는 완전히 다른 존재이다. 인간의 사고 과정은 수많은 뉴런, 매우 높은 대역폭의 입력, 복잡한 호르몬 조합, 에너지 수준의 지속적인 모니터링, 그리고 수백만 년에 걸친 엄격한 자연 선택 압력에 의해 형성되었다. 이런 복잡성을 이해하는 것은 거의 불가능하며, 특정 단어 시퀀스를 생성할 가능성을 예측하기 위해서는 인간의 뇌 구조를 완벽히 이해해야 한다. 반면, LLM의 경우 이러한 복잡성 없이 단순히 단어 시퀀스를 생성하는 함수로 이해할 수 있다. 인간의 감정, 생존 의지, 두려움 등을 LLM에 적용하는 것이 마치 기상 예측 모델의 감정을 논의하는 것처럼 이상하다고 느끼는 이유다. 인간화 경향의 배경 많은 AI 연구자들은 자신들이 AGI를 만드는 데 성공할 수 있다고 믿으며, 이는 마치 '신을 창조'하거나 인간보다 더 우수한 생명체를 만들겠다는 의지에서 비롯된다. 이러한 믿음은 그들이 이 경로를 선택한 이유일 수 있으며, 이를 포기하는 것이 쉽지 않을 것이다. 결론 LLM는 매우 유용하고 중요한 기술이지만, 인간의 의식이나 윤리와 같은 개념을 이에 적용하는 것은 혼란스러운 논의를 초래한다. LLM의 본질을 이해하고, 이에 대한 인간적인 해석을 최소화하는 것이 필요하다. 이를 통해 우리는 LLM의 진정한 잠재력을 더 잘 이해하고 활용할 수 있을 것이다. 업계 전문가들의 평가와 회사 프로필 많은 전문가들은 LLM의 발전 속도를 높이 평가하면서도, 이 기술을 인간처럼 해석하는 경향이 문제라고 지적한다. 이러한 인간화는 기술에 대한 불신과 공포를 증폭시키며, 합리적인 논의를 방해할 수 있다. LLM 개발과 모니터링에 있어 인간 중심적인 개념을 배제하고, 과학적이고 명료한 접근 방식을 취하는 것이 중요하다.