Google DeepMind의 밀레니엄상에 대한 새로운 AI 접근 방식은 세 개의 유체 방정식에서 새로운 불안정한 특이점을 발견하는 것을 목표로 합니다.

올해 5월 말, 수학자 Javier Gómez Serrano는 인터뷰에서 Google DeepMind와 협력하고 있다고 밝혔습니다."인류에게 알려진 가장 난해한 퍼즐 중 하나인 나비에-스토크스 방정식을 가능한 한 빨리 풀려고 노력합니다."이 방정식은 클레이 수학 연구소가 수여하는 7가지 밀레니엄 문제 중 하나이며, 문제를 해결한 사람에게는 100만 달러의 상금이 주어집니다.

하비에르 고메스 세라노 등이 시작한 "오퍼레이션 나비에-스토크스(Operation Navier-Stokes)"라는 프로젝트는 3년간 진행되었으며, 20명으로 구성된 팀에 의해 수행되어 왔으며, 항상 극비로 유지되어 왔다고 합니다. 그러나 구글 딥마인드(DeepMind)의 수장인 데미스 하사비스는 올해 1월 인터뷰에서 다음과 같이 밝혔습니다.그는 "밀레니엄상 문제를 해결하기 직전"이라고 말했지만, 어떤 문제인지는 구체적으로 밝히지 않았습니다. "1년이나 1년 반 안에 답을 알게 될 겁니다."

이제 이 신비로운 작전이 점차 밝혀지고 있는 듯합니다.

Google DeepMind는 뉴욕대학교, 스탠포드대학교, 브라운대학교 및 기타 기관의 연구자들과 협력하여 머신 러닝 프레임워크와 고정밀 가우스-뉴턴 최적화 프로그램을 개발했습니다.세 가지 다른 유체 방정식에서 처음으로 새로운 불안정한 특이점이 체계적으로 발견되었습니다.폭발률을 불안정성 순서와 연결하는 간결한 경험적 점근 공식이 밝혀졌습니다.

실험 결과는 다음과 같습니다.이 방법은 발견된 모든 솔루션에 대해 기존 연구보다 훨씬 더 높은 정확도를 달성했습니다.특정 CCF 솔루션의 경우, 결과는 GPU 하드웨어의 반올림 오차에 의해서만 제한되는 이중 정밀도 부동 소수점의 기계 한계에 가깝습니다. 이는 비선형 편미분 방정식(PDE)의 복잡한 영역을 탐구하고 수학 물리학의 오래된 문제를 극복하기 위한 새로운 경로를 여는 새로운 연구 패러다임을 제공합니다.

관련 연구의 제목은 "불안정한 특이점의 발견"이며 arXiv에 사전 인쇄본으로 게재되었습니다.

서류 주소:
https://go.hyper.ai/iGh6t
공식 계정을 팔로우하고 "Unstable Singularity"에 답글을 남겨 전체 논문을 다운로드하세요.

2단계 구조를 발견하고 분석하며 불안정한 특이점을 찾습니다.

인간이 자연 법칙을 탐구해 온 역사를 돌이켜보면, 유체 역학은 항상 가장 복잡하고 도전적인 분야 중 하나였습니다. 수 세기 동안 수학자들은 허리케인 소용돌이부터 비행기 날개의 양력에 이르기까지 모든 물리 법칙을 설명하기 위해 복잡한 방정식에 의존해 왔습니다. 그러나 유체에서 특이점이나 폭발이 발생할지 여부는 여전히 수학에서 가장 근본적이고 미해결 문제 중 하나입니다. 이 현상은 다음을 의미합니다.지배 방정식(예: 3차원 오일러 방정식)의 풀이가 매끄러운 초기 조건에서 시작하면 무한한 기울기가 발생할 수 있습니다.

기존의 수치해석 방법은 주로 안정 특이점을 찾아내는데, 안정 특이점은 초기 조건에 약간의 변동이 있어도 형성될 수 있는 강건한 결과입니다. 반면, 불안정 특이점은 초기 조건을 무한히 정밀하게 조정해야 하기 때문에 포착하기가 매우 어렵습니다.이처럼 매우 불안정한 상태에서는 아무리 작은 섭동이라도 솔루션이 폭발 궤적에서 벗어나게 됩니다.그러나 경계 없는 오일러와 나비에-스토크스 경우와 같은 몇몇 핵심적인 미해결 문제의 경우, 수학계에서는 불안정한 특이점이 중요한 역할을 할 것이라는 추측이 널리 퍼져 있습니다.

이 세기 동안 해결되지 않은 문제에 대한 대응으로,연구자들은 솔루션 발견과 솔루션 분석이라는 두 단계를 거쳤습니다.불안정한 특이점을 고정밀도로 발견합니다.

첫 번째,연구진은 버거스 방정식에 대해 자기유사적 스케일링 인자 λ와 자기유사적 공간 분포를 갖는 폭발물 해를 찾기 위해 후보 해를 사용했습니다(아래 그림 (i) 참조). 그런 다음 반복적 접근법을 사용하여 머신 러닝 프로세스와 해의 정확도를 지속적으로 최적화했습니다(아래 그림 ii 참조). 후보 해의 경험적 결과와 정확도는 수학적 모델링과 신경망 아키텍처 설계의 방향을 제시했으며, 이는 다시 입력 좌표 변환 및 출력 필드의 형태학적 설계와 같은 네트워크 아키텍처의 귀납적 편향을 유도했습니다.

이 과정에서 연구진은 가우스-뉴턴 최적화기와 다단계 학습 전략을 결합한 물리 정보 신경망(PINN)을 사용하여 정확한 스케일링 속도 λ를 찾는 동시에 고정밀 후보 솔루션을 생성했습니다.

둘째,해를 분석하는 동안, 연구진은 CCF, IPM, 그리고 Boussinesq 방정식에 대해 발견된 각 불안정한 해에 대해, 그 주변의 편미분 방정식을 선형화하여 그 안정성을 분석했습니다. 발견된 n번째 불안정한 해에 대해, 연구진은 해와 동일한 대칭 가정을 공유하는 n개의 불안정한 모드를 발견했습니다.

이러한 불안정 모드는 해를 더 높은 안정성으로 끌어올려야 할 방향을 나타내며, 발견된 해의 집합이 고려된 λ 값의 허용 범위 내에서 완전함을 보여줍니다. 이를 통해 연구진은 안정성의 정도뿐만 아니라 안정 및 불안정 특이점의 발견도 높은 정밀도로 특성화할 수 있습니다.

수학적 통찰력 + 신경망이 PINN을 새로운 무기로 만듭니다

본 연구에서는 물리 정보 신경망에 편미분 방정식을 푸는 일반적인 도구로서의 역할을 넘어 새로운 힘을 부여했습니다. 연구팀은 신경망에 의해 매개변수화된 매끄러운 함수로 해를 표현했습니다.수학적 통찰력을 신경망 아키텍처에 직접 내장하여 수학적으로 관련성 있는 솔루션을 향한 최적화 프로세스를 안내합니다.

연구팀은 대칭성, 주기성, 무한 도메인 처리와 같은 지배 방정식에서 도출된 제약 조건을 적용하기 위해 아키텍처 설계를 사용하여 학습을 위한 견고한 표준 훈련 매개변수를 제공했습니다. 수치 실험과 수학적 분석의 피드백 루프를 통해 네트워크 아키텍처를 반복적으로 최적화함으로써, 이러한 거동을 명시적으로 고려하고 나머지 방정식을 다시 작성하여 최적화 안정성을 크게 향상시켰습니다.

향상된 고정밀 훈련

불안정한 특이점에 필요한 매우 높은 정확도를 충족하기 위해 연구진은 훈련 과정에 두 가지 주요 개선 사항을 도입했습니다.고정밀 학습을 위해 가우스-뉴턴 최적화와 다단계 학습이 도입되었습니다.

이 최적화기를 채택한 이유는 현재 널리 사용되는 표준 그래디언트 최적화기(예: Adam 또는 L-BFGS)로는 방정식에 대한 고품질 해를 도출하기에 충분하지 않기 때문입니다. 따라서 연구팀은 신경망 최적화를 위해 더욱 강력한 가우스-뉴턴 최적화 방법을 선택했습니다. 네트워크의 크기가 작았기 때문에 이전에는 불가능했던 이 해가 성공적으로 도출되었습니다. 실험 결과, 가우스-뉴턴 최적화는 약 50,000번의 반복만으로도 잔차 오차를 10⁻⁸까지 줄일 수 있음을 보여줍니다.표준 그래디언트 최적화 프로그램보다 더 나은 성능과 훨씬 빠른 수렴을 보여줍니다.

간단히 말해서,다단계 학습의 아이디어는 먼저 하나의 네트워크를 학습시켜 대략적인 해를 구한 다음, 이전 네트워크가 제대로 처리하지 못했던 오류를 구체적으로 수정하기 위해 두 번째 네트워크를 학습시키는 것입니다.두 네트워크의 출력을 결합하면 해의 정확도를 높일 수 있습니다. CCF 및 IPM 방정식의 안정 해와 1차 불안정 해에 대한 실험에서, 다단계 학습 방법은 최대 잔차를 50배까지 향상시킬 수 있었으며, 이는 CAP 기반 엄격한 수학적 검증을 충족하기에 충분한 정확도입니다.

이 접근법을 통해 모델은 새로운 수준의 정확도를 달성할 수 있습니다. 연구팀은 3차원 시각화와 2차원 와도장 분석을 참고 사례로 활용하여 각 지점에서 유체의 회전 정도를 측정했습니다. 최대 오차는 지구 지름 예측 정확도를 수 센티미터 이내로 개선하는 것과 같습니다.

논문 1 중국 박사 학위로서

본 논문의 주저자인 왕 용지(Yongji Wang)는 현재 뉴욕대학교 쿠랑 수리과학 연구소(Courant Institute of Mathematical Sciences)의 박사후 연구원이자 스탠퍼드대학교의 방문 박사후 연구원입니다. 그의 연구 관심사는 연속체 역학, 지구물리학, 그리고 과학적 기계 학습이며, 자연과 환경에서 복잡한 물리적 과정을 규명하기 위해 이론 및 수치 기법을 적용하는 데 풍부한 경험을 가지고 있습니다.

이 연구는 남극 빙붕의 숨겨진 물리적 특성을 밝히는 것부터 비선형 편미분 방정식(PDE)에 대한 자기 유사 폭발 솔루션을 찾는 것까지 다양한 과학적 문제에 대한 고정밀 딥 러닝 기술을 개발하는 데 중점을 두고 있습니다.

참고문헌:
1.https://deepmind.google/discover/blog/discovering-new-solutions-to-century-old-problems-in-fluid-dynamics/
2.https://english.elpais.com/science-tech/2025-06-24/spanish-mathematician-javier-gomez-serrano-and-google-deepmind-team-up-to-solve-the-navier-stokes-million-dollar-problem.html

3.https://mp.weixin.qq.com/s/CRlGLmji4BWNkNaA7e2JEw