AI「腐敗防止」、ドイツのマックス・プランク研究所がNLPとDNNを組み合わせて耐腐食合金を開発

1 年前

情報

Xuran Zhang

特色图像

内容の概要:ステンレス鋼に囲まれた世界では、腐食の存在をほとんど忘れているかもしれません。しかし、腐食は生活のあらゆる側面に存在します。錆びたスチール釘、老朽化して漏れたワイヤー、光沢を失った車など、すべては腐食が原因で起こります。統計によると、世界中で金属腐食によって引き起こされる年間経済損失は2兆5000億米ドルを超え、他の自然災害をはるかに上回っています。そのうち、中国における腐食による経済損失は約3,949億ドルで、中国のGDPの4.2%を占めています。このため、研究者はより優れた耐食性を備えた合金または金属保護膜を研究してきました。現在、AI は材料の耐食性を最適化するのに役立ちます。

キーワード:自然言語処理のディープニューラルネットワーク腐食

著者 | 雪才

編集者 | 三陽

この記事は、HyperAI Super Neural WeChat パブリック プラットフォームで初めて公開されました。~

全米腐食技術者協会 (NACE) の統計によると、2013 年に世界中で腐食によって引き起こされた経済的損失は 2 兆 5,000 億を超えました。同時に、中国も腐食に悩まされており、約3,949億米ドルの経済的損失が発生し、同年のGDPの4.2%を占め、他の先進国よりも若干高い割合となっている。

比較のために、2008 年の汶川地震では約 1,100 億ドルの経済損失が発生しました。言い換えれば、2013 年の時点で、腐食によるわが国への経済損失だけでも、汶川地震 3 回を超えていたのです。

表 1: 2013 年の世界中の腐食による経済的損失 (数十億米ドル)

腐食の問題を解決するために、研究者は材料の強度を向上させることに熱心に取り組んでおり、材料の耐食性を向上させる方法も常に模索しています。。 AIの活用により、高温における合金の腐食メカニズムの予測、鉄鋼の大気腐食速度や鉄筋コンクリートの環境腐食の解析、畳み込みニューラルネットワーク(CNN)の利用が可能になるなど、一定の進歩を遂げている。 from 画像から材料の腐食形態を判断します。

しかし、機械学習モデルの入力データは数値データがほとんどです。しかし、金属材料の加工・分析では、pH値や試験温度などの数値データに加え、材料の種類などの機密データや、熱処理工程や試験方法などのテキストデータも存在します。従来の機械学習モデルでは、すべてのデータを完全に読み取って分析することができず、予測精度が低くなります。

この目的を達成するために、ドイツのマックス・プランク・アイゼンフォルシュング研究所 (MPIE、マックス・プランク・アイゼンフォルシュング研究所)  プロセス認識 DNN は、ディープ ニューラル ネットワーク (DNN) と自然言語処理 (NLP) を組み合わせて開発されます。このモデルは数値データとテキストデータを組み合わせて処理することができ、その精度は他のモデルに比べて15%高くなります。

同時に、金属の物理的および化学的特性を記述子に変換し、特徴変換 DNN を構築しました。を使用して、トレーニング セットに存在しない要素が耐食性に及ぼす影響を予測できます。この研究は、「自然言語処理と深層学習による耐食合金設計の強化」というタイトルで、2023年8月に『Science Advances』に掲載されました。

関連する研究は Science Advances に掲載されています

論文リンク:

https://www.science.org/doi/10.1126/sciadv.adg7992

プロセスアウェアな DNN

モデル設計

この研究のデータ セットは、5 つのカテゴリの 769 合金の孔食電位です。データ セットには、数値データ、分類データ、およびテキスト データが含まれます。このうち、数値データはモデルに直接入力され、カテゴリデータは連番を通じて数値入力モデルに変換されます。テキスト データは NLP アーキテクチャを通じて処理され、モデルに入力されます。

NLP アーキテクチャは主に、語彙タグ付け、ベクトル化、ベクトル シーケンス処理を含む 3 つの部分に分かれています。

トークン化プロセス中に、各トークンは特定の整数トークンに置き換えられます。語彙のタグ付けを通じて、フレーズまたはセンテンスが整数ベクトルに変換されます。

字句タグ付け後、テキストデータは数値に変換されますが、数値間に相関関係はなく、元のテキストの意味論を継承することはできません。したがって、整数ベクトルはベクトル化され、n 次元の浮動小数点ベクトルに変換されます。トレーニング プロセス中、各単語の重みは継続的に最適化されます。トレーニングが完了すると、ベクトル間の近接性がそれらの意味的な類似性に対応します。

最後に、n 次元の浮動小数点ベクトルは長期短期記憶リカレント ニューラル ネットワーク (LSTM) を通じて単一のベクトルに変換され、入力層に入ります。 LSTM は、ゲート機能を通じて単語間の長期的な依存関係を識別できます。したがって、LSTM は、特定の文から重要な関連単語を見つけ出し、文の最も重要な部分を DNN の入力層に渡すことができます。

図1:プロセスを意識した DNN モデルの構造

A: NLP データ処理ワークフロー

B: プロセス認識 DNN モデルの概略図

トレーニングと検証 

トレーニング後、研究者らはモデルの絶対平均誤差を要約しました。プロセス認識 DNN の平均絶対誤差は約 150 mV で、これは単純な DNN の絶対誤差より 20 mV 低くなります。予測された孔食電位と実際の孔食電位の間の R2  は 0.78 ± 0.06 であり、単純な DNN の 0.61 ± 0.04 よりも高くなります。上記の結果は、テキスト データを分析した後、プロセス認識 DNN が単純な DNN モデルよりも優れたパフォーマンスを発揮することを示しています。

図 2: プロセス認識 DNN トレーニングの結果

A: トレーニングおよび検証中の平均絶対誤差。赤い線は単純な DNN モデルの平均絶対誤差です。

B: プロセス認識 DNN と単純な DNN モデルの結果の比較。

合金組成の最適化 

合金組成の最適化プロセスにおけるプロセス認識 DNN と単純な DNN の違いを比較するために、研究者らは同様の合金組成から開始し、同じ学習率を使用して 2 つのモデルを使用して合金組成を最適化しました。

図 3: コンポーネントの最適化の結果

A&B: 鉄基合金の最適化結果。

C&D: Ni-Cr-Mo 合金の最適化結果。

E&F: Al-Cr 合金の最適化結果。

G&H: 高濃縮合金の最適化結果。

この図から、鉄基合金と FeCrNiCo 高富化合金の 2 つのモデルの最適化結果は部分的に似ていますが、他の 2 つの合金の最適化結果は大きく異なることがわかります。まず、プロセスを意識した DNN は、Mo 元素の含有量が増加すると、鉄基合金および Ni-Cr-Mo 合金の孔食の可能性が大幅に増加すると予測しています。第二に、プロセスを意識した DNN は、Ni-Cr-Mo 合金では、格子間窒素と格子間炭素が合金の孔食の可能性を高める可能性があると考えています。最後に、Al-Cr 合金では、Cu 元素も孔食電位の増加に役立ちます。これらは単純な DNN では無視されます。

特徴変換 DNN

モデル設計 

合金組成特性評価機能「WenAlloys」を通じて、合金組成情報を一連の原子、物理、化学特性に分解し、DNN モデルの入力値としてさまざまな記述子に変換することもできます。

表 2: いくつかの機能の変換結果

ここでc 、r 、X そしてEc、i  それぞれ原子分率、原子半径、パウリ電気陰性度、元素結合エネルギーを表します。

トレーニングと検証

図 4: 特徴変換 DNN の学習結果

A: モデルのトレーニングおよび検証プロセス中の誤差曲線。

B: 予測された孔食の可能性とトレーニング後の実際の孔食の可能性の間の回帰曲線。

C: 特徴変換 DNN と単純な DNN の結果の比較。

トレーニング後、特徴変換 DNN の平均絶対誤差は約 168 mV、R です。2  は 0.66 であり、単純な DNN モデルと比較してパフォーマンスがわずかに向上しています。

特徴変換DNNの耐食メカニズムの解析 

5 種類の合金からそれぞれ 1 種類が選択されて特徴変換され、最適化のためにモデルに入力されます。最適化曲線に基づいて、入力特徴は 2 つのカテゴリに分類できます。1 つのタイプの特徴曲線は、最適化プロセス中に大幅に変化し、トレーニング セットの予想を超えます。もう 1 つのタイプの特徴曲線は、最適化プロセス中にわずかに変化します。

図 5: さまざまな入力特徴の最適化曲線

この図は、最適化プロセス中に大きく変化した 4 つの特徴を示しています。これは、これらの特徴が合金の孔食電位を改善するための重要なパラメーターである可能性があることを意味します。

特徴変換DNNによるAl-Cu-Sc-Zr合金の予測 

特徴変換 DNN の入力にはコンポーネントの原子的、物理的、化学的特性のみが含まれるため、したがって、トレーニング セットに存在しない要素の予測を行うことができます。

さまざまな合金において、Sc および Zr 元素は耐食性の向上を示しています。したがって、研究チームは特徴変換DNNを使用して、Al-Cu合金に対するこれら2つの元素の影響を分析しました。

図6:特徴変換DNNを用いたAl-Cu-Sc-Zr合金の孔食電位の予測結果

図に示すように、ZrおよびSc元素の含有量が増加するにつれて、合金の孔食電位は増加し続け、合金の耐食性が向上していることを示しています。この結果は、新しい要素に対する特徴変換 DNN の予測能力を検証します。

上記の結果は次のことを示しています。NLP と DNN を組み合わせることで、モデルは合金の加工方法と試験方法に関するテキスト データを読み取ることができます。したがって、従来の DNN モデルのパフォーマンスが向上し、単純な DNN で無視された元素が合金の耐食性に及ぼす影響を発見できます。特徴変換 DNN は、合金の原子、物理、化学的特性に基づいて、トレーニング セットに存在しない元素の特性を予測できます。

  腐食: サイレントメタルキラー

2009 年、世界腐食機関 (WCO) は、腐食に対する国民の意識を高めるために、毎年 4 月 24 日を世界腐食デーに制定しました。一般的な化学現象として、腐食は私たちの生活の隅々に存在します。様々な調理器具、様々な家庭用電化製品はもちろん、海、陸、空を越える輸送手段、さらには様々なユニークなデザインの建築物に至るまで、腐食に悩まされています。金属があるところには腐食があると言えます。

金属腐食には化学腐食と電気化学腐食が含まれますが、電気化学腐食の方が一般的であり、より有害です。電食とは、一次電池を構成するために電解液中で2つの金属が回路を形成し、活性金属が腐食される現象を指します。一般的な電気化学腐食には、均一腐食、孔食、応力腐食、隙間腐食などが含まれます。中でも不均一腐食、特に孔食など発見されにくい腐食は金属にとって有害であり、事故を引き起こしやすいものです。

図 7: 一般的な種類の電気化学腐食

2013年11月22日、山東省青島市の石油パイプラインが高濃度の塩素と湿潤と乾燥が交互に繰り返される環境に長時間さらされ、パイプ壁が腐食して薄くなり、最終的には破裂して原油が漏洩した。その後の清掃と修理の過程で、現場での不適切な作業により原油が爆発し、最終的に62人が死亡、163人が負傷した。

腐食は検出が難しいことが多いため、腐食事故を回避するには定期的な手作業による検査と修理が必要となり、多くの人的資源と物的資源を消費します。AI の助けを借りて、合金の組成を最適化し、より優れた耐食性を備えた材料を見つけることができるようになりました。同時に、腐食の可能性を迅速に特定し、「サイレントキラー」をもはや沈黙させないようにするために、デジタル腐食監視システムも使用されています。

参考リンク:

[1] http://impact.nace.org/documents/Nace-International-Report.pdf

[2] https://whatispiping.com/corrosion/?expand_article=1

[3] https://www.gov.cn/govweb/jrzg/2014-01/11/content_2564654.htm#:

この記事は、HyperAI Super Neural WeChat パブリック プラットフォームで初めて公開されました。~