OpenAI, 기업들의 AI 에이전트 성공 사례 공개

venturebeat의 2025년 트랜스폼 컨퍼런스에서 올리비에 고드망, 오픈AI의 API 플랫폼 제품 담당 책임자는 기업 팀들이 어떻게 AI 에이전트를 대규모로 채택하고 배포하는지에 대한 뒤집어본 이야기를 제공했습니다. 이 세션에서는 오픈AI의 최신 개발자 도구인 Responses API와 Agents SDK에 대해 설명하며, Stripe와 Box 같은 초기 채택사들의 실제 사례, 보안 고려사항, 그리고 비용-효과성 예시를 강조했습니다. 주요 8가지 요약 1. AI 에이전트는 프로토타입에서 프로덕션으로 빠르게 진화 고드망은 2025년을 AI가 대규모로 배포되는 시기로 보고 있습니다. 오픈AI API 플랫폼의 월간 활성 사용자가 100만 명을 넘어섰으며, 토큰 사용량은 해마다 700% 증가했습니다. AI 사용 사례는 단순 Q&A를 넘어 실제로 사용자를 돕는 역할로 확장되고 있습니다. 2. 단일 에이전트와 하위 에이전트 아키텍처 선택 시 고려사항 단일 에이전트 루프는 모든 도구 접근권한과 컨텍스트를 하나의 모델에 포함시키는 개념적으로 우아한 방법이지만, 대규모로 적용하기에는 어렵습니다. 복잡성이 증가하면 여러 하위 에이전트로 나누는 모듈식 아키텍처가 더 효과적입니다. 이러한 하위 에이전트는 소프트웨어에서의 관리 분리를 통해 각각의 역할을 수행합니다. 3. Responses API는 중요한 변화 Responses API는 개발자 도구의 기초적인 발전으로 자리 잡았습니다. 과거에는 개발자가 모델 호출 시퀀스를 수동으로 조율해야 했지만, 이제는 내부적으로 처리됩니다. Responses API는 고객에게 최상의 응답을 반환하는 데 집중할 수 있도록 인텐트 표현을 가능하게 합니다. 4. 지식 검색, 웹 검색, 함수 호출 등의 내장 기능 Responses API는 기업이 실제 AI 에이전트 워크플로우에 필요한 지식 검색, 웹 검색, 함수 호출 등의 내장 기능을 제공합니다. 이를 통해 기업은 복잡한 작업을 자동화할 수 있습니다. 5. 보안과 준법감시는 기본으로 제공 보안과 준법감시는 기업이 AI를 안심하고 사용할 수 있도록 하는 핵심 요소입니다. 고드망은 금융 및 의료와 같은 규제된 산업에서도 오픈AI 스택을 활용할 수 있는 주요 방어벽들을 언급했습니다. especially, 모델 평가는 초기 시연과 실제 프로덕션 사이에서 가장 큰 차이점으로 지목되었습니다. 6. 초기 ROI는 특정 기능에서 확인 가능 특정 기능에서는 이미 측정 가능한 성과가 나타나고 있습니다. 예시로는 고객 지원(음성 포함), 내부 거버넌스, 그리고 복잡한 문서를 탐색하는 지식 도우미 등이 있습니다. 7. 프로덕션 출시를 위한 인간 요소 성공적인 배포에는 인간 요인이 중요합니다. 고드망은 문제를 보고 기술을 활용하려는 열정적인 인재들, 특히 엔지니어링 부서 외에도 이런 인재들이 있다는 점을 강조했습니다. 이들은 초기 챗GPT 사용을 기업 내에서 추진했으며, 이제는 전체 에이전트 시스템 실험을 진행 중입니다. 8. 도메인 전문성의 중요성 기업 내의 지식은 엔지니어가 아닌 운영 팀에 존재한다는 점도 주목할 만합니다. 오픈AI는 에이전트 구축 도구를 비개발자들에게도 접근 가능하게 만드는 데 노력하고 있습니다. 기업 에이전트의 미래 고드망은 오픈AI의 로드맵을 일부 공개했습니다. 현재 진행 중인 작업으로는: - 더 복잡한 에이전트 시스템을 위한 개선 - 다양한 산업 분야에서의 확장 - 더 강력한 추론 모델 개발 이러한 변경사항은 혁신적이기보다는 기존 기능을 확장하는 반복적인 개선입니다. "모델이 몇 초가 아니라 몇 분, 몇 시간 동안 생각할 수 있게 되면 상상할 수 없는 사용 사례가 가능해질 것입니다." 마무리: 추론 모델은 과소평가되어 있다 고드망은 세션을 마치며 추론 능력을 가진 모델이 장기적인 변혁의 진정한 주동자가 될 것이라고 확신했습니다. "추론 모델의 성숙도는 아직 GPT-2 또는 GPT-3 수준에 불과하다… 우리는 여전히 이 모델들이 할 수 있는 것의 표면만 긁어내고 있다." 기업 의사결정자들에게 전하는 메시지는 명확합니다. 에이전트 자동화를 위한 인프라는 이미 구축되어 있습니다. 이제 중요한 것은 집중된 사용 사례를 구축하고, 다양한 부서의 팀을 지원하며, 실제 요구에 맞춰 지속적으로 개선하는 것입니다. 다음 단계의 가치 창출은 새로운 시연이 아니라, 현실적인 필요에 맞춰 신뢰성을 갖춘 견고한 시스템에 있습니다. 업계 인사들의 평가 고드망의 발언은 업계에서 큰 호응을 얻었습니다. 많은 전문가들이 오픈AI의 새로운 도구와 아키텍처 선택의 중요성을 인정하며, especially, Responses API의 도입이 기업 AI 자동화의 큰 전환점이 될 것이라는 의견을 제시했습니다. 오픈AI는 이러한 도구들을 통해 기업이 더욱 효과적으로 AI를 활용할 수 있도록 지원하고 있으며, 앞으로도 지속적인 개선과 혁신을 이어갈 것으로 보입니다.