HyperAIHyperAI

Command Palette

Search for a command to run...

斯坦福报告警示:AI透明度集体倒退,IBM领跑,xAI垫底

스탠포드대 등이 발표한 ‘2025 기초모델 투명도 지수(FMTI)’ 보고서에 따르면, 전 세계 주요 AI 기업들의 모델 투명도가 다시 후퇴한 것으로 나타났다. 평균 점수는 2024년 58점에서 2025년 40점으로 하락하며, 2023년 처음 발표 당시 수준으로 회귀했다. 이는 성능은 향상되지만, 데이터 사용, 모델 훈련 과정, 실제 적용 후 영향 등 핵심 정보의 공개가 오히려 줄어들고 있음을 시사한다. 이번 평가에는 IBM, OpenAI, Meta, Alibaba, DeepSeek, xAI, Midjourney 등 13개 기업이 포함됐으며, IBM가 95점으로 최고를 기록하며 투명도 1위를 차지했다. 반면, 마스크의 xAI와 Midjourney는 각각 14점으로 최하위를 기록했다. 중국 기업인 알리바바와 딥시크는 각각 0점으로 데이터 사용, 영향, 배포 후 모니터링 항목에서 정보를 공개하지 않았다. 이는 ‘전혀 공개하지 않았다’는 의미가 아니라, 보고서 기준의 구체적 지표를 충족하지 못했기 때문이며, 투명도는 오픈소스나 성능과 직접 연관되지 않는다. 특히, 투명도가 높은 기업은 보통 B2B 중심의 기업, 자체 투명도 보고서를 발표하거나 유럽 AI법의 행동강령에 서명한 기업들이 많았다. 반면, 투명도가 낮은 기업은 정보 공개가 부족해 모델의 편향, 개인정보 유출, 법적 책임 등 리스크가 높아진다. 清华大学邱한 부교수는 “투명도는 성능과 다르며, 보고서 기준의 지표를 충족하지 않으면 점수가 0이 된다”며, “모델이 완전히 공개되지 않더라도, 행동이 측정 가능하고, 선언이 검증 가능하며, 안전하게 제어될 수 있어야 한다”고 강조했다. 투명도 부족은 사고 발생 시 과도한 규제로 이어질 수 있으며, 오히려 기술 발전을 저해할 수 있다. 결국, 투명도는 단순한 정보 공개가 아니라, 책임 소재 명확화와 함께 안전하고 신뢰할 수 있는 AI 생태계를 만드는 기반이다. 앞으로는 기술적 평가와 정책적 유도를 병행해, ‘공개되지 않아도 안전하고 검증 가능한 모델’이 가능한 시스템이 필요하다.

관련 링크