서비스나우와 엔비디아, 기업용 인텔리전트 AI 에이전트 출시

ServiceNow와 NVIDIA가 기업용 인공지능(AI)의 새로운 시대를 열기 위해 협력하고 있다. 양사는 오늘 ServiceNow의 연례 고객 및 파트너 행사인 Knowledge 2025에서 이 사실을 발표했다. 새로운 고성능 추론 모델인 Apriel Nemotron 15B는 두 회사의 협력을 통해 개발되었으며, 복잡한 워크플로우를 처리하고 실시간으로 응답하며, IT, HR, 고객 서비스 팀과 같은 다양한 부서에서의 기능을 확장할 수 있도록 설계되었다. 주요 내용 주요 인물 및 조직 - Bill McDermott: ServiceNow의 회장兼CEO - Jensen Huang: NVIDIA의 CEO兼창립자 - Jon Sigler: ServiceNow의 플랫폼 및 AI 부사장 - Kari Briski: NVIDIA의 엔터프라이즈 제너레이티브 AI 소프트웨어 부사장 타임라인 및 배경 - 4월: NVIDIA, Llama Nemotron Ultra 모델 공개 - 오늘: ServiceNow와 NVIDIA, Knowledge 2025에서 Apriel Nemotron 15B 모델 및 데이터 플라이휠 아키텍처 공개 - Q2 2025: Apriel Nemotron 15B 모델 출시 예정 원인, 진행 과정, 결과 - 원인: 기업용 AI의 필요성 증가와 복잡한 워크플로우 처리의 요구 - 진행 과정: ServiceNow와 NVIDIA는 NVIDIA NeMo, NVIDIA Llama Nemotron Post-Training Dataset, ServiceNow 도메인별 데이터를 활용해 Apriel Nemotron 15B 모델을 개발했다. 이 모델은 NVIDIA DGX Cloud(AWS에서 실행)에서 후처리 훈련을 거쳤다. - 결과: Apriel Nemotron 15B는 실시간 추론, 목표 균형 맞추기, 규칙 준수 등을 수행할 수 있으며, 더 작은 크기로 빠른 응답 시간, 낮은 추론 비용, 그리고 높은 성능을 제공한다. 주요 사실, 돌파구, 전환점 - Apriel Nemotron 15B: 150억 파라미터 규모의 모델로, 일반적인 LLM보다 작지만 기업급 지능을 제공한다. 실시간 워크플로우 실행에 특화되어 있으며, 빠르고 효율적이며 비용 효과적으로 운영될 수 있다. - 데이터 플라이휠 아키텍처: ServiceNow의 Workflow Data Fabric과 NVIDIA NeMo 마이크로서비스를 통합하여, 지속적인 학습과 개선이 가능한 폐루프 프로세스를 구현한다. 이를 통해 모델의 정확성과 사용자 경험의 개인화가 향상된다. - 실제 기업 적용 사례: AstraZeneca에서 AI 에이전트가 직원들의 문제 해결과 의사 결정을 가속화하여 매년 9만 시간의 생산성을 회복할 예정이다. 세부 내용 Apriel Nemotron 15B의 특징 - 추론 능력: 관계 평가, 규칙 적용, 목표 균형 맞추기 등 복잡한 워크플로우를 처리할 수 있다. - 효율성: 150억 파라미터 규모로, 일반적인 LLM보다 작아 빠른 응답 시간과 낮은 추론 비용을 제공한다. - 후처리 훈련: NVIDIA DGX Cloud(AWS에서 실행)에서 고성능 인프라를 활용해 개발 시간을 단축하고 성능을 최적화했다. 데이터 플라이휠 아키텍처 - Workflow Data Fabric: ServiceNow의 워크플로우 데이터를 수집하고 문맥화하여 모델의 성능을 개선한다. - NVIDIA NeMo 마이크로서비스: NeMo Customizer와 NeMo Evaluator를 포함하여, 모델의 개인화와 정확성을 높이는 데 도움을 준다. - 폐루프 학습 프로세스: 실제 워크플로우 데이터를 활용해 모델을 지속적으로 개선하고 업데이트한다. 보안과 컴플라이언스를 위한 가드레일도 설치되어 있다. 실제 기업 적용 사례 - AstraZeneca: AI 에이전트를 통해 복잡한 문제 해결과 의사 결정 과정을 가속화하여, 매년 9만 시간의 생산성을 회복할 수 있을 것으로 기대된다. 전문가 및 업계 의견 ServiceNow의 Jon Sigler 부사장은 "Apriel Nemotron 15B 모델은 일반 모델이 할 수 없는, 기업 데이터, 워크플로우 문맥, 고급 추론을 결합하여 실제 생산성을 극대화하는 데 초점을 맞춘 모델"이라고 말했다. NVIDIA의 Kari Briski 부사장은 "ServiceNow와 함께 기업용 추론 엔진으로 Apriel Nemotron 15B 모델을 개발했으며, 이를 통해 더욱 개인화되고 문맥 인식이 뛰어난 AI 에이전트를 구현할 수 있게 되었다"고 강조했다. 기업 프로필 ServiceNow: 기업의 혁신 속도에 맞춰 각 산업 분야에서 고객이 조직을 전환할 수 있도록 지원하는 기업이다. AI 플랫폼을 통해 사람, 프로세스, 데이터, 디바이스를 연결하여 생산성을 향상시키고 비즈니스 결과를 최대화한다. NVIDIA: 세계적인 AI 및 그래픽스 기술 기업으로, 고성능 컴퓨팅 및 딥러닝 분야에서 선두를 달리고 있다. NeMo와 Llama Nemotron Post-Training Dataset을 제공하여, 기업용 AI 모델의 개발과 최적화를 지원한다. 넓은 의미와 반응 ServiceNow와 NVIDIA의 이번 협력은 기업용 AI의 새로운 시대를 열 것으로 기대된다. 더 작은 모델로 높은 성능을 제공하는 Apriel Nemotron 15B는 기업이 복잡성 증가와 매크로 경제적 불확실성에 대처하면서 더 똑똑하고 탄력적인 운영을 지원할 것이다. 또한, 데이터 플라이휠 아키텍처를 통해 AI 에이전트의 지속적인 학습과 개선이 가능해져, 기업의 실제 요구에 더욱 부합할 것으로 보인다. 이 협력은 기업 AI의 발전에 중요한 이정표가 될 것이며, 앞으로도 두 회사는 기업 워크플로우의 속도, 정밀성, 비용 효율성을 높이는 혁신을 계속해 나갈 것으로 예상된다.