NTT, ICML 2025에서 AI 정확도·보안·비용 개선 발표

NTT 연구원들이 ICML 2025에서 AI와 머신 러닝의 정확성, 보안, 비용 효율성 향상 연구 성과 발표 캘리포니아 주 선니베일 & 도쿄 -- (비즈니스 와이어) -- NTT 리서치(N TT Research, Inc.)와 NTT R&D 연구원들은 2025년 7월 13일부터 19일까지 밴쿠버에서 열린 제42회 국제 기계 학습 회의(ICML)에서 12편의 논문을 발표했습니다. ICML은 인공 지능의 한 분야인 기계 학습의 발전을 목표로 하는 세계적인 컨퍼런스로, 컴퓨터 비전, 계산 생물학, 음성 인식, 로봇공학 등의 응용 프로그램에 중점을 두고 있습니다. NTT 리서치의 물리 인공 지능(PAI) 그룹의 연구원들이 공동으로 저술한 세 편의 논문은 대형 언어 모델(LLM)의 정확성, 기계 학습의 해석 가능성, 순환 신경망(RNN)의 단기 기억 메커니즘에 대한 이해를 깊게 다루었습니다. "트랜스포머에서의 표현 파괴: 지식 편집을 통한 합성 연구"1라는 논문에서는, LLM의 가중치를 변경하여 잘못된, 오래된 혹은 원하지 않는 사실적 연관성을 수정하는 알고리즘인 지식 편집(Knowledge Editing, KE) 알고리즘이 모델의 사실적 회상 정확성과 추론 능력에 부정적인 영향을 미치는 이유를 탐색했습니다. 연구팀은 KE가 "대상 외의 엔티티의 표현도 부정적으로 영향을 미쳐, 모델이 새로운 지식을 유추할 수 있는 관련 구조를 왜곡한다"는 현상을 "표현 파괴(representation shattering)"라고 명명하고 이를 통해 모델의 성능 저하 원인을 설명했습니다. "대규모 시각 모델에서 개념 추출을 위한 적응적이고 안정적인 사전 학습: 아키타입 SAE"2라는 논문에서는, 기계 학습의 해석 가능성을 개선하기 위한 사전 학습(DL) 프레임워크인 희소 오토인코더(Sparse Autoencoders, SAE)의 근본적인 한계인 심각한 불안정성을 밝히고, 이를 해결하기 위한 아키타입 SAE(Archetypal SAEs) 및 이의 변형(Relaxed Archetypal SAEs)를 제시했습니다. 이 기술은 SAE의 안정성을 크게 향상시키는데 기여할 것으로 기대됩니다. "RNNs에서의 단기 기억 메커니즘 동적 단계"3라는 논문에서는, 신경 메커니즘이 단기 기억에 어떤 역할을 하는지 거의 알려지지 않은 부분을 탐구했습니다. 연구팀은 이 메커니즘에 대한 새로운 통찰력을 제공하며, 이를 바탕으로 더욱 체계적인 신경과학 연구를 촉진할 수 있는 실험 가능한 예측들을 제시했습니다. NTT 리서치 PAI 그룹 리더 히데노리 타나카(Hidenori Tanaka)는 "NTT는 지속 가능한 발전을 가능하게 하면서 인간의 자율성을 존중하고 공정성 및 투명성을 보장하며 보안과 프라이버시를 보호하는 AI 기술 개발을 약속하고 있다"며, "이러한 긍정적인 결과를 실현하기 위해서는 기초 과학적 관점에서 AI ML을 탐구하는 것이 필수적이다. NTT 리서치 PAI 그룹과 NTT R&D의 동료들이 수행한 연구에 대해 자부심을 느끼며, ICML 2025에서 우리 연구 결과를 AI 학술 공동체와 공유할 수 있는 기회가 큰 영광이었다"고 말했습니다. 또한, 일본 NTT R&D 연구실과 관련된 과학자들이 공동으로 저술한 8편의 논문도 ICML 2025에서 발표되었습니다. "다양한 사전 학습 모델 간 재사용 가능한 fine-tuning을 위한 이동 가능한 보상 조정(Portable Reward Tuning: Towards Reusable Fine-Tuning across Different Pretrained Models)"4라는 논문에서는, 기존 기반 모델을 업데이트할 때 특화된 AI 모델을 다시 교육할 필요성을 제거하는 세계 최초의 "이동 가능한 조정(Portable Tuning)" 기술을 소개했습니다. 이 기술은 재교육 비용을 크게 절감시키고, 맞춤형 생성 AI의 지속 가능성을 개선할 것으로 기대됩니다. "잠재적 토큰 증폭을 통한 차별적 개인 정보 보호 기반의 암시적 베이지안 추론 기법 개선(Plausible Token Amplification for Improving Accuracy of Differentially Private In-Context Learning Based on Implicit Bayesian Inference)"5라는 논문에서는, 차별적 개인 정보 보호(differential privacy)를 통해 추가되는 "잡음"이 대형 언어 모델(LLM)의 정확성을 저하시키는 이유를 이론적으로 처음으로 밝혔습니다. 이 기술은 개인 사용자 데이터를 활용하는 의료, 정부, 금융 등 분야에서 LLM의 사용을 촉진할 것으로 기대됩니다. "K2IE: 공간 및 시간 내 불균일 포아송 과정을 위한 커널 방법 기반 커널 강도 추정기(K2IE: Kernel Method-based Kernel Intensity Estimators for Inhomogeneous Poisson Processes)"6라는 논문에서는, 소셜 미디어 플랫폼에서의 게시물부터 질병 유행까지 다양한 사건 패턴을 분석하고 예측하는 데 사용되는 대량 데이터 세트의 포아송 과정(Poisson processes)의 계산 효율성이 크게 향상됨을 입증했습니다. NTT R&D 연구원들이 저술하거나 공동 저술한 나머지 5편의 논문은 다음과 같습니다: "다중 모델의 순열 대칭성을 고려한 선형 모드 연결(Liner Mode Connectivity between Multiple Models modulo Permutation Symmetries)"12라는 논문에서는, 이전 연구가 두 개의 사전 학습 모델을 결합하는 방법을 제안한 것과 달리, 세 개 이상의 모델을 동시에 결합하는 방법을 확장해, 결합된 모델의 성능이 결합하는 모델 수가 증가할수록 개선됨을 보여주었습니다. NTT는 신뢰, 무결성, 혁신을 결합하여 글로벌 비즈니스와 커뮤니티에 효율성, 안전, 진보를 이끌어내는 최첨단 AI 솔루션을 제공하는 데 헌신하고 있습니다. 2025년 4월에 설립된 NTT 리서치 PAI 그룹은 AI의 본질을 연구하며, "생물학적 지능과 인공 지능 사이의 유사성을 해결하고, AI 메커니즘의 복잡성을 더 깊게 이해하며, 인간과 AI 협업의 조화로운 융합을 위한 신뢰를 구축"하는 것을 목표로 하고 있습니다. NTT 리서치는 2019년 7월 실리콘밸리에 사무실을 열고, NTT 그룹의 글로벌 비즈니스 전반에 걸친 고영향 혁신을 추진하기 위해 기본 연구와 기술 발전을 수행하고 있습니다. 현재 선니베일의 NTT 리서치 시설에는 물리학 및 정보ศาส研究所(PHI) 实验室、密码和信息安全(CIS) 实验室、医疗和健康信息学(MEI) 实验室以及物理人工智能(PAI) 集团等四个小组入驻。 NTT Research致力于在四个领域推进科学：1) 量子信息、神经科学和光子学；2) 密码学和信息安全；3) 医疗和健康信息学；4) 人工智能。NTT Research是NTT的一部分，NTT是一家全球技术和业务解决方案提供商，每年将其利润的30%用于研发投资。 NTT와 NTT Research, 그리고 해당 로고는 NTT, Inc. 또는 NTT Research, Inc. 및/또는 그 계열사의 상표 및 서비스 마크입니다. 언급된 모든 기타 제품 이름은 각 소유자의 상표입니다. © 2025 NTT Research, Inc. NTT Research의 PAI 그룹이 ICML 2025에서 발표한 연구는 인공 지능과 기계 학습의 근본적인 이해를 향상시키고, 이 분야의 미래 발전 방향을 제시하는 중요한 역할을 하고 있습니다. 특히, LLM의 정확성과 해석 가능성, RNN의 단기 기억 메커니즘에 대한 새로운 통찰력은 AI 기술의 발전을 가속화할 것으로 기대됩니다. 이러한 연구 성과는 NTT의 지속 가능한 발전과 신뢰성 강화, 보안 및 프라이버시 보호를 위한 노력의 일환으로, AI 분야의 전문가들로부터 높은 평가를 받고 있습니다.