10만 가지의 가능성에서 성공적인 합성까지, 글로벌 어텐션 메커니즘과 AI 모델 CGformer의 혁신적인 통합은 고엔트로피 소재의 개발을 용이하게 합니다.

特色图像

인공지능은 재료 과학 연구 개발의 패러다임을 근본적으로 변화시키고 있으며, 신소재 발견을 가속화하고 성능을 최적화하는 데 있어 획기적인 가치를 입증하고 있습니다. 고처리량 컴퓨팅과 머신러닝의 긴밀한 통합을 통해, 긴 실험 주기와 높은 자원 소모와 같은 기존 "시행착오" 방식의 문제점들이 효과적으로 해결되었습니다.재료 탐색은 "계산 기반 실험 검증"의 효율적인 반복 단계에 들어섰습니다.그러나 인간의 기술과 라이프스타일이 혁신됨에 따라 신에너지, 항공우주 등의 분야에서 신소재에 대한 성능 요구 사항이 점점 더 엄격해지고 있으며, 특히 고엔트로피 소재 연구 개발 분야에서 기존 머신러닝 방법의 한계가 점차 드러나고 있습니다.

고엔트로피 재료는 여러 주요 원소의 혼합물로 만들어진 새로운 종류의 재료입니다. 이러한 원소들의 시너지 효과를 통해 고엔트로피 재료는 원자 배열의 구성 엔트로피(즉, 무질서)를 크게 증가시켜 기존 재료에 비해 우수한 기계적, 고온 및 내식성을 나타냅니다. 이러한 재료는 에너지 저장, 항공우주 및 극한 환경 장비 분야에 응용될 수 있는 상당한 잠재력을 가지고 있습니다.

CGCNN(Crystal 그래프 합성 신경망)과 ALIGNN(Atomistic 선 그래프 신경망)과 같은 이전 접근 방식은 모두 구조적 결함이 있습니다.국소적 정보 상호작용 메커니즘에 의해 제한되어 장거리 원자 상승효과를 모델링하기 어렵고 복잡한 결정 구조에 고유한 전역적 정보를 완전히 포착할 수 없어 예측 정확도가 제한됩니다.동시에, 고엔트로피 소재의 본질적인 특성으로 인해 연구 개발은 기존 소재를 뛰어넘는 난관에 직면하게 됩니다.복잡한 미세 구조, 부족한 고품질 실험 데이터, 역동적으로 무질서한 원자 행동은 모두 고엔트로피 소재 개발에 있어 주요 장애물이 됩니다.

공구 결함 및 수요 업그레이드에 대응하여,상하이 교통대학교 인공지능 및 미세구조 연구실(AIMS-Lab)의 리진진 교수와 황푸창 교수 팀은 기존 모델의 한계를 성공적으로 극복하는 새로운 AI 소재 설계 모델 CGformer를 개발했습니다.이 모델은 Graphormer의 글로벌 어텐션 메커니즘과 CGCNN을 혁신적으로 결합하고, 중심성 코딩과 공간 코딩을 통합하여 결정 다이어그램을 통해 물질 구조를 직관적으로 설명할 수 있을 뿐만 아니라, "글로벌 어텐션" 메커니즘의 도움으로 장거리 원자 간의 상호 작용도 포착할 수 있습니다. 이를 통해 기존의 "인접 원자에만 초점을 맞추는" 모델에는 없는 글로벌 정보 처리 능력을 얻을 수 있습니다.

이 방법은 더욱 포괄적인 구조 정보를 제공하여 구조 내 이온 이동을 더욱 정확하게 예측하고, 특히 고엔트로피 및 복잡한 결정질 재료와 같은 신소재의 연구 개발을 위한 신뢰할 수 있는 도구를 제공합니다. 본 연구 결과는 저명한 학술지인 Matter에 "CGformer: Transformer-enhanced crystal graph network with global attention for material property prediction"이라는 제목으로 게재되었습니다.

연구 하이라이트:


* 글로벌 어텐션 메커니즘을 기반으로 한 AI 소재 설계 모델인 CGformer의 연구개발은 소재 연구개발 과학을 위한 신뢰성 있고 강력한 도구를 제공하여 복잡한 결정 구조의 발견 과정을 가속화하는 데 도움이 됩니다.


* CGformer는 CGCNN과 비교했을 때 고엔트로피 나트륨 이온 고체 전해질(HE-NSE) 연구에서 평균 절대 오차를 25% 감소시켜 실용성과 진보성을 효과적으로 입증했습니다.


*148,995개의 가능한 고엔트로피 구조 중 18개를 선별하고, 실온에서 나트륨 이온 전도도가 최대 0.256 mS/cm인 6개의 고엔트로피 나트륨 이온 고체 전해질(HE-NSE)을 성공적으로 합성하고 검증하여 실용화 가치를 입증했습니다.

서류 주소:

https://www.cell.com/matter/abstract/S2590-2385(25)00423-0
공식 계정을 팔로우하고 "CGformer"라고 답글을 달면 전체 PDF를 받을 수 있습니다.

더 많은 AI 프런티어 논문: 

https://hyper.ai/papers

다중 카테고리 데이터 세트는 CGformer 모델 기능을 향상시킵니다.

본 연구의 목적은 사례 기반 솔루션을 통해 고엔트로피 시스템에서 데이터 부족과 구조적 복잡성으로 인해 발생하는 과제를 해결하는 것입니다.본 연구 사례는 신에너지 전기 자동차 및 그리드 에너지 저장 응용 분야에 중점을 두고, 특히 고엔트로피 나트륨 이온 고체 전해질의 성능 예측 및 검증에 중점을 두고 있습니다. CGformer 모델의 학습, 미세 조정 및 실험 검증을 지원하기 위해 다음과 같이 다양한 데이터셋을 구축하여 활용했습니다.

나트륨 이온 확산 에너지 장벽(Eb) 기본 데이터 세트:이는 본 연구를 위해 연구자들이 구축한 고엔트로피 구조의 나트륨 이온 확산 장벽에 대한 가장 큰 규모의 알려진 데이터셋입니다. 이는 보로노이 분해에 의한 결정학적 분석(CAVD) 및 결합 원자가 자리 에너지(BVSE) 방법을 기반으로 합니다. 이 데이터셋은 주로 CGformer 사전 학습에 사용되어 모델이 나트륨 함유 구조와 관련된 그래프 정보를 학습하도록 합니다. 이 정보는 계산된 고엔트로피 데이터셋으로 전달되어, 고엔트로피 물질의 Eb 예측을 위한 기반을 마련합니다.

CGformer 스크리닝 워크플로

HE-NSEs 계산 데이터 세트:Na₃Zr₂Si₂PO₁₂(위 그림 참조)를 기반으로, Zr 위치에 45개의 잠재적 고엔트로피 도핑 원소가 고려되었으며, 그 결과 148,995개의 고엔트로피 구조가 포함된 초기 화학 공간이 도출되었습니다. 이후, 부적합한 원소(방사성, 고독성, 고가 원소)를 배제하고 원자 반경 차이 및 전하 균형에 대한 제약 조건을 적용하는 등 여러 차례의 스크리닝을 통해 화학 공간을 826개의 비교적 안정적인 구조로 더욱 좁혔습니다. 이후 비지도 계층적 군집화를 사용하여 이러한 구조를 20개의 그룹으로 분류했습니다. 각 그룹에서 301개의 TP3T 구조(총 238개)를 계층적으로 샘플링하고 밀도 함수 이론(DFT)을 사용하여 Eb 값을 계산했습니다. 이를 통해 CGformer를 미세 조정하기 위한 전용 데이터 세트가 형성되었으며, 특히 모델을 고엔트로피 NASICON 구조에서 나트륨 이온의 Eb를 예측하는 작업에 맞게 조정하여 대상 시나리오에서 모델의 정확도를 향상시켰습니다.

열 안정성 평가 데이터 세트:연구진은 Materials Project 데이터베이스에서 볼록 껍질 값(Ehull) 이상의 에너지를 갖는 모든 나트륨 함유 구조를 추출하여 전용 학습 세트에 통합했습니다. 이 데이터 세트는 주로 HE-NSE의 열역학적 안정성 평가를 위한 보완 모델을 학습하는 데 사용됩니다. CGformer에서 예측한 Eb와 결합하면, 이 모델을 사용하여 고성능과 안정성을 모두 갖춘 후보 물질을 선별할 수 있습니다.

혁신적인 퓨전 아키텍처로 CGformer의 "글로벌한 인식" 실현

CGformer는 기존 방법의 단점을 해결하기 위해 근본적인 혁신을 이루어 두 가지 첨단 기술을 통합하여 상호 보완적인 이점을 얻었습니다.그 핵심은 결정 구조의 그래픽 표현 능력을 유지하고, 글로벌 어텐션 메커니즘을 통해 국소 원자 상호작용에만 초점을 맞추는 한계를 깨는 것입니다.구체적으로 Graphormer의 글로벌 어텐션 메커니즘과 CGCNN의 크리스탈 그래프 표현 방법을 결합하고, 키 인코딩 모듈을 추가하여 새로운 정보 처리 파이프라인을 구축합니다.

아래 그림 a는 결정도 인코딩 과정을 보여줍니다.이 과정은 실제 3차원 결정 구조를 모델로 처리할 수 있는 결정 다이어그램으로 변환하는 것입니다.결정 구조에서 원자는 노드(node)로, 원자 간의 화학 결합은 에지(edge)로 표현됩니다. 이러한 변환 과정을 통해 연구진은 다양한 원소 특성, 전하, 공유 결합 반경, 원자 간 거리, 결합 유형, 결정 대칭 정보 등 노드와 에지 특징을 추출할 수 있었습니다. 이러한 특징들을 결합하여 CGformer에 필요한 초기 입력 데이터를 얻었고, 이를 통해 결정의 화학적 및 구조적 정보가 완벽하게 보존되었습니다.

크리스탈 맵에서 크리스탈 맵으로의 인코딩 과정의 개략도

아래 그림 b는 CGformer의 네트워크 아키텍처를 보여줍니다.다중 모듈 협업을 통해 글로벌 정보 통합과 정확한 예측이 달성됩니다.먼저, 입력 결정 그래프는 일련의 그래프 합성곱 연산을 거쳐 단순화된 그래프 구조를 생성하여 후속 네트워크 계층의 계산 부하를 줄이고 CGformer의 학습 과정을 가속화합니다. 이를 기반으로 연구진은 중심 코드를 계산하고 결정 그래프의 노드 특징을 업데이트합니다. 중심 코드에는 각 노드의 입력 차수와 출력 차수가 포함되어 있으며, 이 정보들은 원래 노드 특징에 통합됩니다. 각 노드는 다중 헤드 어텐션 모듈(Multi-head Attention Module)을 통과하여 가변 특징과 공간 인코딩을 결합하여 노드 간의 위치 관계를 표현합니다. 중심 코드는 인접 노드의 평균 특징을 합으로 변환하고, 공간 인코딩은 셀프 어텐션 메커니즘이 인접 노드를 구분하고, 효과적인 메시지 집계를 촉진하며, 서로 다른 원자 간의 정보 연결을 강화할 수 있도록 합니다. 마지막으로, 출력 벡터는 "풀링(전역 특징의 통합)" 및 "활성화(함수 연산)" 과정을 거쳐 최종적인 재료 특성 예측을 완료합니다.

CGformer의 네트워크 아키텍처

특히, 멀티헤드 어텐션 모듈은 각 노드가 결정 그래프의 인접한 노드뿐만 아니라 다른 모든 노드에도 "주의를 기울여" 장거리 원자 상호작용을 포착할 수 있도록 합니다. 또한, 중심 인코딩과 공간 인코딩을 추가함으로써 모델은 원자의 화학적 특성을 식별할 뿐만 아니라 구조 내에서 원자의 "위치적 중요성"과 "공간적 관계"까지 인식할 수 있게 되어 복잡한 결정을 특성화하는 모델의 정확도가 향상됩니다.

결론적으로,기존의 결정 네트워크와 비교했을 때, CGformer는 세 가지 주요 장점인 글로벌 비전, 정보 강화, 효율성 균형을 실현하여 질적 도약을 이루었으며, 복잡한 고엔트로피 물질의 발견과 성능 최적화를 위한 신뢰할 수 있고 안정적인 도구를 제공합니다.

CGformer는 강력한 성능을 보여주고 실용적인 지침 가치를 강조합니다.

연구진은 CGformer 모델의 성능과 발전을 정확하게 평가하기 위해 CGCNN, ALIGNN, SchNet과 같은 기존 모델과 비교했습니다. 이 실험은 "사전 학습"과 "미세 조정"의 두 단계를 거쳐 CGformer의 예측 정확도를 검증했습니다.

사전 학습 단계(아래 그림 참조)에서 CGformer는 우수한 안정성과 예측 정확도를 보였습니다. 초기 오차와 변동폭은 CGCNN보다 현저히 낮았습니다. 10배 교차 검증(10배 CV) 결과, 학습 세트 평균 절대 오차(MAE)는 0.1703으로 CGCNN 대비 25.71 TP³T 향상되었고, 검정 세트 평균 MAE는 0.3205로 CGCNN 대비 거의 101 TP³T 향상되었습니다. ALIGNN 및 SchNet과의 비교는 CGformer의 탁월한 성능을 더욱 강조했습니다.


CGformer와 CGCNN 비교

적합 결과에 따르면, CGformer의 예측값은 실제값과 덜 차이가 나고, 잔차는 0에 더 집중되어 있으며, 잔차 표준편차가 더 작아 나트륨 이온 Eb에 대한 예측이 더 신뢰할 수 있음을 증명합니다.

미세 조정 단계(아래 그림 참조)에서 사전 학습된 CGformer의 MAE는 200회 미세 조정 중 약 10회차 미세 조정 후 크게 감소했으며, 10겹 교차 검증의 최종 평균 MAE는 0.0361에 불과했습니다. 미세 조정 후 예측값과 참값의 편차는 더욱 줄어들었고, 잔차는 주로 -0.05에서 0.05 범위에 집중되어 있으며, 양호한 정규 분포를 보였습니다. 이는 고엔트로피 시스템 Eb를 예측하는 데 있어 매우 높은 정확도를 보이며, 데이터 결측 시나리오에서의 적용 가능성을 보여줍니다.


계산된 고엔트로피 나트륨 Eb 데이터 세트에 대한 CGformer의 미세 조정 결과

마지막으로, CGformer가 선정한 6개의 최적 HE-NSE를 합성하고 전기화학적으로 분석하여 구조와 성능을 검증했습니다. 그 결과, 이 소재들은 우수한 상온 이온 전도도를 보였으며, 25°C에서 나트륨 이온 전도도는 0.093~0.256 mS/cm로, 도핑되지 않은 Na₃Zr₂Si₂PO₁₂보다 훨씬 높았습니다.


선택된 HE-NSE의 실험적 검증

"인공지능+소재"가 소재과학 발전의 주류로 자리 잡았다

"인공지능 + 재료"는 현재 재료과학 분야의 최첨단 연구 방향으로 자리 잡았습니다. 인공지능 기술을 재료 연구 및 개발, 설계, 응용 분야에 접목함으로써 두 학문의 융합이 지닌 강력한 개발 잠재력과 응용 가치를 입증합니다. CGformer의 도입은 재료 과학 분야에서 인공지능을 적용하는 데 상당한 기여를 했습니다. CGformer는 독특하고 혁신적인 알고리즘 아키텍처를 통해 고엔트로피 재료 연구 개발의 핵심 문제들을 해결합니다.

CGformer는 AIMS-Lab의 인공지능 및 재료과학 분야 탐구에서 빙산의 일각에 불과합니다. 본 연구실의 주요 연구 방향 중 하나인 인공지능과 재료과학의 학제간 연구는 오랫동안 본 연구실의 중요한 연구 분야로 자리 잡았으며, 풍부한 연구 성과를 거두었습니다.

작년에 같은 연구팀은 저명한 국제 학술지인 에너지 스토리지 머티리얼즈(Energy Storage Materials)에 "변압기를 이용한 고체 전해질의 이온 수송 거동 진화 및 전도도 조절"이라는 제목의 연구 결과를 발표했습니다. 이 연구는 변압기 네트워크 아키텍처를 활용하는 T-AIMD라는 인공지능 모델을 제안했습니다. 이 모델은 계산 비용을 크게 절감하는 동시에 모든 결정 구조 내 이온의 거동을 빠르고 정확하게 예측할 수 있도록 합니다. 이러한 접근 방식은 기존 AIMD 시뮬레이션 속도를 100배 이상 향상시켜 재료 특성 평가 프로세스를 크게 가속화합니다.


서류 주소:

https://www.sciencedirect.com/science/article/abs/pii/S2405829724003829

베를린 공과대학교와 독일 룩셈부르크 대학교 연구팀은 AIP 출판에 관련 연구를 발표하며, 원자 시스템 시뮬레이션을 위해 특별히 설계된 딥러닝 아키텍처인 SchNet을 제안했습니다. 이 아키텍처는 연속 필터링 합성곱 계층을 활용하여 주기율표에서 화학적으로 타당한 원자 유형의 임베딩을 학습하여 분자 및 물질의 다양한 화학적 특성을 예측하는 강력한 역량을 보여줍니다. 논문 제목은 "SchNet – 분자 및 물질을 위한 딥러닝 아키텍처"입니다.


서류 주소:

https://pubs.aip.org/aip/jcp/article-abstract/148/24/241722/962591/SchNet-A-deep-learning-architecture-for-molecules?redirectedFrom=fulltext

일상의 플라스틱 포장재와 금속 제품부터 첨단 산업의 나노소재와 초전도체에 이르기까지, 인류 문명의 발전은 재료 과학의 발전과 밀접하게 연관되어 있습니다. 인공지능의 급속한 발전은 재료 과학의 미래에 엄청난 잠재력을 열어줄 것이며, 이는 결국 인류 문명의 발전을 간접적으로 촉진할 것입니다.