복잡계 연구에서 "네트워크"는 유전자 조절 네트워크와 미생물 군집에서부터 인간 사회의 통신 및 교통 네트워크에 이르기까지 거의 모든 곳에 존재합니다. 그러나 이러한 고차원 네트워크의 역학을 진정으로 이해하는 것은 이 분야에서 가장 어려운 과제 중 하나로 남아 있습니다.

한편으로는,센서, 시퀀싱 기술 및 디지털 인프라의 발전으로 사람들은 전례 없는 양의 관측 데이터에 접근할 수 있게 되었습니다.반면에,이러한 데이터를 설명하고 인과 관계를 밝힐 수 있는 설명 가능한 수학적 모델이 심각하게 부족합니다. 높은 차원성, 강한 비선형성, 구조적 이질성으로 인해 기존 모델링 방법은 강력한 가정에 의존하여 적용 범위가 제한적이거나, 상관 분석 수준에 머물러 시스템 작동을 지배하는 핵심 법칙을 파악하지 못합니다.

관련 문제에 대응하여,칭화대학교 전자공학과 리용 교수 연구팀은 신경 기호 회귀 방법인 ND²를 제안했습니다.이 방법은 데이터로부터 수학적 공식을 자동으로 도출하여 시스템 역학을 특성화합니다. 고차원 네트워크에서의 탐색 문제를 1차원 시스템으로 단순화하고, 사전 학습된 신경망을 활용하여 고정밀 공식 도출을 유도합니다. 다양한 규모의 인간 이동 네트워크에서 감염병 전파를 연구한 결과, 이 방법은 규모에 관계없이 동일한 멱법칙 분포를 보이는 노드 상관관계 역학을 밝혀냈으며, 국가별 개입 효과의 차이를 규명했습니다.

"신경 기호 회귀를 이용한 네트워크 역학 발견"이라는 제목의 관련 연구는 Nature Computational Science에 게재되었습니다.

논문 링크:

https://www.nature.com/articles/s43588-025-00893-8

저희 공식 위챗 계정을 팔로우하고 백그라운드에서 "신경 기호 회귀"라고 답글을 달면 전체 PDF 파일을 다운로드할 수 있습니다.

더 많은 AI 프런티어 논문:
https://hyper.ai/papers

NDformer를 활용한 기호 검색 알고리즘을 도입하여 효율적인 공식 발견을 달성하고자 한다.

연구진은 신경 기호 회귀 방법(Neural Discovery of Network Dynamics, ND²)을 제안했는데, 이는 기호 회귀를 통해 네트워크 동역학 공식을 자동으로 발견하는 딥러닝 접근 방식입니다. 이를 위해,연구원들은 일련의 네트워크 동적 연산자를 설계했습니다.이로써 원래 고차원 네트워크에서 발생하던 기호 탐색 문제가 동등한 1차원 문제로 변환됩니다. 동시에...NDformer를 활용한 기호 탐색 알고리즘을 소개합니다.효율적인 화학식 발견을 달성하기 위해.

아래 그림에서 보는 바와 같이, 네트워크 동역학 연산자에는 소스 연산자 φ(s), 타겟 연산자 φ(t), 그리고 집계 연산자 ρ가 포함됩니다. 이러한 연산자들을 통해 네트워크 동역학 공식은 네트워크 크기에 독립적이게 되며, 원래 네트워크 크기에 따라 기하급수적으로 증가하던 탐색 공간이 차원에 독립적인 1차원 문제로 압축됩니다.

또한, NDformer에 의해 유도되는 기호 탐색 알고리즘은 신경망과 기호 탐색 방법의 장점을 결합하여 공식 발견의 효율성과 정확성을 크게 향상시킵니다.이 알고리즘은 탐색을 담당하는 기호 모듈과 안내를 담당하는 신경 모듈로 구성됩니다.아래 그림에서 보는 바와 같이, 신경 모듈 NDformer는 시스템의 기본 동역학에 내재된 특징을 포착하도록 학습하고, 공식을 구성하는 데 필요한 각 기호의 확률 분포를 추정합니다. 기호 모듈 MCTS는 NDformer가 예측한 확률을 기반으로 기호를 선택하여 후보 공식을 구성합니다.

각 후보 공식에 대해 보상 계산기는 브로이든-플레처-골드파브-섀노(BFGS) 알고리즘을 사용하여 알려지지 않은 계수(있는 경우)를 데이터에 맞추고 정확성과 간결성을 종합적으로 평가하는 보상 값을 반환합니다. 데이터에 더 잘 맞고 더 간결한 후보 공식일수록 더 높은 보상을 받으므로 MCTS는 지속적으로 더 나은 후보 공식을 생성하게 됩니다.

구체적으로,NDformer는 그래프 신경망(GNN)과 트랜스포머를 결합한 신경망의 한 유형입니다.NDformer는 복잡한 네트워크 역학적 특징을 포착하는 데 사용됩니다. 사전 학습을 통해 네트워크 구조와 노드 활동 데이터를 기반으로 공식의 부호를 예측하고, 몬테카를로 트리 탐색(MCTS) 모듈이 탐색 공간을 효율적으로 탐색하도록 안내하여 궁극적으로 정확하고 간결한 네트워크 역학 공식을 찾아냅니다.

복잡한 다중 규모 및 다학제 시스템에서 "출현" 현상의 미시적 역학을 밝힙니다.

연구팀은 신경 기호 회귀 분석 방법(ND²)의 효과성을 검증하기 위해 세포 규모에서 도시 규모에 이르기까지 유전적, 생태적, 사회적 네트워크를 아우르는 다양한 규모와 분야의 복잡계에 이 방법을 적용하여 아래 그림과 같이 다양한 복잡계의 미시적 역학을 탐구했습니다.

유전자 발현 네트워크에서,연구팀이 발견한 동적 공식은 기존의 경험적 공식에 비해 예측 정확도를 약 60% 향상시킵니다.더욱 중요한 것은, 발견된 공식이 고차원적인 상호작용을 드러낸다는 점입니다. 두 유전자 사이의 상호 조절은 두 유전자 자체뿐만 아니라 제3의 유전자에 의해서도 영향을 받으며, 따라서 복잡한 미시적 동적 구조를 보여줍니다.

미생물 생태계에서,새롭게 발견된 동적 공식은 기존 Lotka-Volterra 모델에 비해 예측 정확도를 약 561 TP3T 향상시킵니다.또한 기존 모델에서는 볼 수 없었던 독특한 행동 양상을 보입니다. 즉, 개체 수가 많은 집단일수록 다른 집단의 영향을 덜 받습니다.

한편, 연구진은 ND² 기호 회귀 분석 방법을 적용하여 다양한 규모의 도시 시스템에서 감염병 전파 메커니즘을 규명했습니다. 본 연구에서는 도시 수준부터 전 세계적 규모에 이르는 전파 네트워크를 포괄하는 7개의 대표 지역을 선정하고, 아래 그림과 같이 해당 방법을 이용하여 전염병 전파의 동적 방정식을 자동으로 도출했습니다.

이 방정식들은 예측에서 높은 정확도를 보여주며, 서로 다른 지역에서 전파 메커니즘의 차이점을 드러냅니다.미국과 중국을 예로 들면, 두 나라의 자체적인 진화 양상은 서로 다른 특징을 보인다. 미국에서는 전파 과정이 안정적으로 유지되는 반면, 중국에서는 감염자 수가 증가함에 따라 전파 강도가 약화되어 자체 억제 메커니즘을 보여주고 예방 및 통제 정책의 효과성을 반영한다. 지역 간 상호작용 양상을 살펴보면, 미국의 각 주별 신규 감염자 수는 다른 주의 신규 감염자 수에 따라 달라지는데, 이는 주 간 이동이 전염병 확산을 촉진한다는 것을 나타낸다. 반면 중국에서는 성(省) 간 전파 연결 고리가 매우 약하여 지역 간 전파가 엄격하게 통제되고 있음을 보여준다. 이러한 차이는 두 나라의 예방 및 통제 전략의 강도 차이와 매우 밀접하게 관련되어 있다.

발견된 동적 방정식을 바탕으로 연구진은 시스템의 거시적 정상 상태 특성을 추가적으로 분석했습니다. 그 결과, 중국과 미국의 전염병 확산 양상이 극명하게 다른 것으로 나타났습니다. 중국에서는 성간 교통량이 특정 임계값 이하일 때 감염자 수를 장기간 통제할 수 있지만, 임계값을 초과하면 감염자 수가 급증하는 전형적인 위기 양상을 보였습니다. 반면 미국에서는 평균 감염자 수가 주간 교통량에 비례하여 선형적으로 증가하여 교통 통제가 전체적인 전파에 상대적으로 미미한 영향을 미치는 것으로 나타났습니다. 본 연구는 두 나라 간 전염병 예방 및 통제 방식의 차이를 야기하는 근본적인 동적 요인을 밝혀낼 뿐만 아니라,또한 이는 복잡한 시스템의 다양한 규모에서의 "출현" 이면에 있는 미시적 메커니즘을 추출하는 데 있어 신경 기호 회귀 방법의 광범위한 잠재력을 보여줍니다.

연구팀은 다양한 규모와 학문 분야에 걸친 검증을 통해 신경 기호 회귀 분석 방법의 효과성을 입증했을 뿐만 아니라, 복잡한 시스템의 미시적 역학을 밝히고 새로운 과학적 지식을 발견하는 데 있어 그 잠재력을 보여주었으며, 기초 과학 연구와 과학적 발견을 위한 새로운 도구와 아이디어를 제공했습니다.

팀 소개

칭화대학교 전자공학과 도시과학컴퓨팅센터(FIB LAB)는 인공지능 및 데이터 과학 분야의 최첨단 연구를 수행합니다. 기초 모델, 인공지능 과학자, 세계 모델 분야의 핵심 기술 혁신에 중점을 두고, 머신러닝을 활용하여 다양한 규모의 복잡한 시스템을 모델링, 생성, 시뮬레이션 및 제어하는 기술을 탐구합니다. 연구 대상은 로봇, 드론, 실내외 환경에서의 인간 행동을 아우르며 물리적 공간, 디지털 세계, 사회 시스템을 연결합니다. 본 연구실은 체화된 지능, 도시 과학, 사회 컴퓨팅 등의 응용 분야에 집중하며, 관련 분야의 중요한 요구를 충족하기 위해 다학제적 통합과 대규모 시스템 모델링 역량을 강조합니다.