수학, 인공지능의 검증 가능한 미래를 밝히다

수학이 인공지능의 가장 앞선 부분을 밝혀내는 방법 헨리 키벤게는 파시픽 노스웨스트 국립 연구소(PNNL)에서 일하는 수학자로, 정형화된 수학과 인공지능(AI)의 교차점을 탐구하고 있다. 그는 수학적 증명의 확실성을 사랑하며, 이를 통해 직관이 관찰 가능한 진리와 일치하는지 확인한다. 이러한 수학적 증명의 논리는 AI의 검증 불가능한 흑상자/black box를 열어볼 수 있는 기반이 되어 신뢰성을 확보하는 데 도움을 준다. PNNL에서는 수학자들이 AI의 한계를 탐색하면서 그들이 말하는 것이 믿을 만한 것인지 확인하는 연구를 진행하고 있다. 키벤게는 수학과 AI의 관계를 세 가지 범주로 나누어 설명한다. 각각은 AI 시스템의 잠재력을 활용하는 데 중요한 역할을 한다. AI 이해를 위한 수학: 수학은 복잡한 AI 모델의 내부 작동 원리를 해독하는 강력한 도구를 제공한다. 예를 들어, 연구원들은 신경망—AI의 흑상자—내에서 어떤 일이 벌어지는지를 파악하여, 모델이 잘못된 추론이나 논리에 의존하지 않도록 하는데 노력한다. 수학은 이들 복잡한 시스템을 분해하여 근본적인 실패를 식별하고 성능을 최적화하는 데 도움을 준다. 최근 키벤게는 곡률, 형태, 대칭성 등의 수학 개념이 특정 작업에 대한 AI 모델의 정확성을 분석하는 도구 키트를 제공한다는 글을 작성했다. AI 개발을 위한 수학: 수학은 AI 시스템의 고급 설계 원칙을 설명하는 언어를 제공한다. 수학적 원칙을 인코딩하면 AI 모델이 데이터에서 유기적으로 해결책을 배우면서도 제약을 받을 수 있다. 이 접근 방식은 훈련 시간을 줄이고 더 적은 계산 자원을 요구할 수 있다. 예를 들어, AI 훈련을 손실 지형으로 설명할 때, 산과 계곡은 각각 약하고 강한 모델을 나타낸다. 훈련 중 목적은 모델을 견고한 모델에 해당하는 상대적으로 얕고 넓은 계곡에 정착시키는 것이다. 이 경우, 대칭성과 곡률 같은 수학적 개념을 사용하여 모델이 보다 유리한 해결책으로 이동하도록 하는 훈련 루틴을 개발할 수 있다. 수학을 위한 AI: 과학자들이 AI가 더 빠른 과학적 발견에 어떻게 기여할 수 있는지를 탐구하기 시작한 것처럼, 수학자들도 AI가 복잡하고 해결되지 않은 수학 문제를 해결하는 데 도움이 될 수 있음을 깨닫기 시작했다. 최근 키벤게와 동료들은 AI 알고리즘을 사용하여 대수 조합론에서 어려운 결과를 재발견하는 데 필요한 통찰력을 제공할 수 있음을 보였다. 이 연구는 딥러닝 기반 시스템이 어떻게 해결책을 도출하는지를 역추적하는 노동집약적이고 특수한 전문성이 필요하지만, 이러한 유형의 연구는 여전히 드물다. 그러나 이 결과는 좁은 AI 모델이 특정 수학 문제에 성공적으로 적용될 수 있다는 것을 보여주었다. 이런 성과들은 점차 AI 주도 연구의 잠재성을 인정하는 더 광범위한 커뮤니티를 형성할 것으로 기대된다. 키벤게의 연구 성과는 PNNL이 4년간 진행한 '과학에서 인공 추론을 위한 수학(MARS)' 프로젝트의 일부였다. 이 초기 작업의 성공은 새로운 질문과 도전을 낳았으며, 키벤게와 그의 팀은 'Generative AI: Foundations for the Future' 프로젝트와 함께 기본 데이터 과학 문제를 해결하기 위한 위상수학, 대수학, 기하학 연구를 계속하고 있다. 이에 따라 키벤게는 수학 동료들에게 MARS 팀이 협력하여 수학 커뮤니티를 위해 준비한 AI 친화적인 미해결 수학 문제들의 목록과 게시된 해결책을GitHub에서 찾아보기를 권장한다. 수학자들과 데이터 엔지니어 사이의 협업 키벤게의 경험에 따르면, AI 개발에서 많은 중요한 진전은 공학에 의해 이루어지고 있다. 전통적으로 수학자들은 근본적인 원칙에서 출발하는 경향이 있지만, 실제 시스템에서 머신 러닝 커뮤니티가 관찰한 문제와 현상을 수학에 적용하는 데 개방적인 태도를 가질 때 가장 효과적으로 협업할 수 있다고 한다. 이 동적인 접근 방식은 수학의 기여가 실용적인 문제에 기반을 두도록 유지한다. "머신 러닝에서 유명한 글인 'The Bitter Lesson'은 가능한 한 인간의 선택을 학습 과정에서 제거하고 대신 데이터와 계산에 의존해야 한다는 내용을 담고 있습니다."라고 그는 말한다. "수학은 매우 추상적인 수준에서 개념을 표현하는 능력을 통해 시스템에 최소한의 제약을 부과하고, 나머지는 학습 알고리즘이 처리하도록 할 수 있습니다." 그러나 이 모델들은 때때로 데이터 수집 또는 전처리 방법과 관련된 부정확한 상관관계를 포착하는 경우가 있다. 이는 학생이 실제로 자료를 배우지 않고 시험에서 높은 점수를 받는 것과 같다. 당분간은 인간이 이 과정에 개입하여 이러한 문제를 포착하는 것이 중요하다. 그러나 신경망의 내부를 파악하여 이러한 탐정 일을 수행하기 위해서는 수학이 필요하며, 이는 키벤게와 그의 동료들이 당분간 바빠야 할 이유를 제공한다. 산업 내부자의 평가와 회사 프로필: PNNL의 연구는 수학과 AI 간의 협력을 통해 AI의 신뢰성과 효율성을 크게 향상시킬 수 있음을 입증하고 있다. 키벤게의 연구는 특히 수학적 원칙을 AI에 적용함으로써 실용적인 문제를 해결하는 데 중점을 두고 있으며, 이는 AI의 미래 발전에 중요한 역할을 할 것으로 보인다. PNNL은 미국 에너지부 산하의 주요 연구 시설로, 첨단 과학기술 연구에 앞서가는 기관으로 알려져 있다.