HyperAIHyperAI

Command Palette

Search for a command to run...

AIの安全を守る「免疫システム」Elloe AI、Disrupt 2025でTop 20 finalistに

Elloe AIの創業者オーウェン・サカワ氏は、自社のプラットフォームを「AIの免疫システム」、あるいは「AIエージェントのウイルス対策ソフト」と位置づけている。TechCrunch Disrupt 2025のスタートアップ・バトルフィールドでトップ20に選出された同社は、大規模言語モデル(LLM)の出力に対して、バイアス、誤情報、ハルシネーション、誤った情報、コンプライアンス違反、不適切な出力などをリアルタイムで検証する仕組みを提供する。サカワ氏は、「AIの進化は非常に速く、安全対策や制御メカニズムが整っていない。このままでは、AIが道を外れることも避けられない」と指摘。 Elloe AIはAPIまたはSDKとして提供され、LLMの出力層の上に配置されるインフラ。サカワ氏は「AIの出力に対して、すべての応答を事実確認する」と説明。このシステムには3つの「アンカー(Anchor)」が設けられている。1つ目は、出力内容を検証可能な情報源と照合する「事実検証」。2つ目は、米国のHIPAAや欧州のGDPRなど、個人情報保護法に違反していないかをチェックする「コンプライアンス監視」。3つ目は、出力の意思決定プロセスを記録する「監査トレール」。これにより、出力の根拠や信頼性スコア、判断の流れを詳細に確認でき、監査機関や企業内部のレビューにも活用可能だ。 サカワ氏は、Elloe AI自体がLLMをベースにしているわけではないと強調。なぜなら、「LLMが別のLLMをチェックするのは、傷口にバンドエイドを貼るようなもの」と説明。代わりに、機械学習技術を活用しつつ、人間のエンジニアが常に新たな規制動向に追随してシステムを維持管理している。 Disrupt 2025(10月27~29日、サンフランシスコ)では、Elloe AIの技術とその意義を直接体験できる。同イベントでは、他にも多数のスタートアップのプレゼンテーションや専門家トークが行われる。

関連リンク

AIの安全を守る「免疫システム」Elloe AI、Disrupt 2025でTop 20 finalistに | 人気の記事 | HyperAI超神経