실제 AI, 한정된 문제 해결에 초점...오픈 월드는 아직 먼 미래

무엇의 화제 - 실제 AI 에이전트는 제한된 문제를 해결하지, 개방형 세계의 환상은 아니다 2025년 7월 6일 오후 1시 15분 현재 어디를 둘러봐도 AI 에이전트에 대한 이야기가 넘쳐난다. 마치 입력만 주면 부서 전체를 대체할 것처럼 말이다. 그러나 이 환상은 대부분의 기업에서 실제로 적용되기 어렵다. 실제 가치를 제공하는 AI 시스템들은 정확히 반대의 특성을 가진다. 그들은 잘 정의된 문제를 해결하며, 명확한 입력과 예측 가능한 결과를 도출한다. 개방형 세계의 환상 기술 산업은 항상 혁신적인 아이디어를 좋아한다. 현재 가장 큰 꿈은 개방형 세계 AI다. 이 AI 에이전트들은 어떤 상황에서도 처리할 수 있으며, 새로운 상황에 적응하고, 실시간으로 학습하며, 불완전하거나 모호한 정보로도 작동할 수 있다. 일반 지능 시스템의 꿈은 단순히 추론을 넘어 즉흥적으로 문제를 해결하는 것이다. 그러나 개방형 세계의 문제는 우리가 아는 것이 거의 없는 환경을 의미한다. 시간과 공간이 제약 없이 확장되며, 미리 정의되지 않은 동적인 작업이 생기기 쉽다. 이런 환경에서는 AI가 완전한 정보를 가지고 있지 않으며, 미지의 변수에 적응해야 한다. 이는 현재의 AI 기술로는 매우 어려운 도전이다. 대부분의 기업 문제는 닫힌 세계에서 발생한다 반면, 닫힌 세계의 문제는 범위가 명확하고 규칙이 분명하며, 해당 영역 내에서 모든 관련 데이터를 알고 있다고 가정할 수 있다. 기업들이 매일 직면하는 실제 문제들은 이와 같다. 발주서와 일치하는 인보이스 확인, 계약 검증, 사기 탐지, 청구 처리, 재고 예측 등이다. 닫힌 세계의 특징: - 범위: 명확하게 정의됨 - 지식: 영역 내에서 완전함 - 가정: 미지의 정보는 거짓으로 간주 - 작업: 미리 정의되고 반복적 - 테스트 가능성: 매우 제약적 이런 문제들은 화려한 헤드라인을 만들지 못할지라도, 기업들이 실제로 해결해야 하는 중요한 이슈들이다. 환상과 무작위 행동의 위험성 환상은 해롭다. 개방형 세계의 일반 지능을 목표로 설정하면, 기업용 AI가 접근하기 어려워진다. 리더들은 모든 것을 할 수 있는 AI 에이전트에 대해 듣고, 어디서부터 시작해야 할지 모른 채 얼어붙게 된다. 이 문제는 너무 크고, 모호하며, 위험하다. 이는 자동차 업계에서 연소 엔진을 개발하기 전에 자율 주행 차량을 설계하려는 것과 같다. 꿈은 흥미롭지만, 기본을 건너뛰면 실패할 가능성이 높다. 현재 해결 가능한 문제에 집중하기 개방형 세계의 문제가 환상적인 데모와 펀딩 라운드를 만들어내지만, 닫힌 세계의 문제는 실제 가치를 창출한다. 이 문제들은 해결 가능하고, 테스트가 용이하며, 자동화될 수 있다. 그리고 기업 내부에 이미 이러한 문제가 존재하고 있다. 실제 기업용 AI 에이전트들은 사용자가 요청을 보내야 활성화되는 대화형 창이 아니라, 데이터가 기업을 통과할 때마다 반응하는 자율적인 마이크로서비스 형태로 구현된다. 예를 들어, 새로운 인보이스가 도착하면, 에이전트는 관련 필드를 추출해 개방된 발주서와 비교하고, 불일치를 감지하여 승인 또는 거절을 결정한다. 이 과정은 아무도 요청하지 않아도 자동으로 수행된다. 또는 고객 온보딩을 생각해보자. 새로운 계정이 생성되면, 에이전트는 문서를 검증하고 KYC(Know Your Customer) 조사를 실시하며, 맞춤형 환영 경험을 제공하고 후속 메시지를 예약한다. 사용자는 이 에이전트가 존재한다는 사실조차 모른다. 이는 신뢰성 있고, 실시간으로 작동한다. AI 에이전트의 구성 요소 기업용 AI 에이전트는 이벤트 기반 마이크로서비스, 컨텍스트 데이터, 언어 모델(LLM)로 구성된다. [ \text{에이전트} = \text{이벤트 기반 마이크로서비스} + \text{컨텍스트 데이터} + \text{LLM} ] 이 구조는 기업 시스템이 필요한 방식대로 작동하도록 한다. 신뢰성, 책임감, 명확한 제어가 가능하다. 비결정적 모델을 결정적 인프라로 둘러싸기 기업에서 해결해야 할 대부분의 문제는 닫힌 세계의 문제다. 그러나 우리가 사용하는 AI 모델, 특히 LLM은 본질적으로 비결정적이다. 같은 입력이 다른 결과를 낼 수 있다. 이는 대화형 프롬프트 응답에는 적합할지언정, 기업 프로세스 실행에는 부담이다. 따라서 생산급 AI 시스템을 구축하려면 비결정적 모델을 결정적 인프라로 둘러싸야 한다. 각 에이전트의 역할을 명확히 하고, 필요한 경우에만 모델을 사용하도록 설계해야 한다. 이는 시스템의 신뢰성을 높이고, 성능을 예측 가능하게 만든다. 테스트의 어려움 개방형 세계의 AI 에이전트를 테스트하는 것은 거의 불가능하다. 문제 공간이 무한하고, 입력도 제약 없으며, 원하는 출력이 모호하고, 성공 기준이 상황에 따라 변하기 때문이다. 반면, 닫힌 세계의 문제는 입력이 제한되어 있고, 기대되는 출력이 정의 가능하며, 정확한 결과를 모티브로 테스트할 수 있다. 이벤트 기반 다중 에이전트 시스템은 이러한 문제를 더 작은 단계로 분해한다. 각 에이전트에게 특화된 역할을 할당하고, 구조화된 이벤트로 트리거하면, 애플리케이션은 신뢰성 있고 추적 가능하며, 명확한 제어 하에서 작동한다. 실제 효과를 내는 기초 구축하기 기업에서 AI의 미래는 AGI(인공 일반 지능)에서 시작하지 않는다. 실제 작동하는 자동화에서 시작된다. 이는 잘 정의된, 제약적이고, 진정한 영향력을 가진 문제에 집중하는 것을 의미한다. 비용 절감 시간 절약 신뢰성 강화 이런 작은 승리들은 누적되어 큰 변화를 가져온다. 이를 위해 필요한 것은 프롬프트 엔지니어링의 돌파구나 다음 모델이 마법처럼 일반화되기를 바라는 것이 아니라, 좋은 엔지니어들이 항상 해온 것처럼 문제를 분해하고, 조합 가능한 시스템을 구축하며, 테스트와 관찰 가능한 방식으로 컴포넌트를 연결하는 것이다. 이벤트 기반 다중 에이전트 시스템은 완벽한 도구는 아니지만, 불완전한 도구를 구조화된 방식으로 활용하는 실용적인 아키텍처를 제공한다. 이렇게 하면 지능이 필요한 부분과 그렇지 않은 부분을 분리할 수 있으며, 시스템이 예측 가능하게 작동할 수 있다. 이는 기본 소프트웨어 엔지니어링 원칙을 새로운 문제 유형에 적용하는 것일 뿐이다. 업계 전문가의 평가 및 회사 프로필 이 글은 Confluent의 AI 기업가인 Sean Falconer가 작성했다. Confluent는 실시간 데이터 스트리밍 플랫폼을 제공하는 기업으로, AI 기술의 기업 적용에 중점을 두고 있다. Falconer는 AI 기술의 실제 적용에 대한 깊이있는 이해를 바탕으로, 기업들이 AI를 신뢰할 수 있도록 하는 방법에 대해 강조한다. 그는 기업용 AI가 미래의 혁신을 위한 기반이 되어야 하며, 이를 위해서는 현재의 닫힌 세계 문제에 집중해야 한다고 주장한다.