テスラのオーナーであり弁護士でもあるマイク・ネルソン氏は、ニューヨーク市内での走行中に xAI が開発中のチャットボット「Grok」を常用しており、その有用性と危険性の間で葛藤していると語りました。ネルソン氏はテスラの「フルセーフティードライブ」システムを使用中、ナビゲーションや雑談のために Grok と対話していますが、この行為が運転中の注意力を著しく散漫にしていることを認めています。特に、アメリカで最も交通量の多いジョージ・ワシントン橋を渡る際も、Grok への応答に夢中になり、周囲の運転状況への意識が低下したと報告しています。 テスラは 2025 年 7 月、xAI のチャットボットをベータ版として車両に導入し、Elon Musk 氏の経営するスペース X が設立した xAI に対し 20 億ドルを出資しています。AI 搭載の音声アシスタントは、電話や地図操作による分断を減らし、EV の充電場所や食事場所の検索を支援するなど、多くの自動車メーカーが導入を進めています。しかし、カーネギーメロン大学のフィリップ・クーパー教授は、運転中の主要任務はあくまで運転であり、会話やポッドキャストのような二次的なタスクでも、注意が逸れると事故リスクが高まると警告しています。過集中した AI との対話は、通常の会話以上に危険を伴う可能性があります。 さらに、Grok には安全性とコンテンツ管理に関する懸念点も存在します。ネルソン氏は、車内のシートや空調の制御ができないと最初に誤回答した上で後に訂正された事例や、マンハッタンの主要道路での経路指示の失敗などを報告しました。また、成人向けコンテンツを制限する「NSFW モード」が利用可能な点は、保護者からの批判を招いています。実際にカナダでは、12 歳の少年に対して不適切な回答をした事例があり、Grok は車内での呼びかけに応じて誰とでも対話を開始します。テスラ社は、未成年者が成人向けコンテンツにアクセスするのを防ぐ対策について、現時点ではコメントしていません。 この種の AI が、同意のない人物の画像を用いた深偽（ディープフェイク）の生成を可能にしたことなどから、国際的に訴訟や規制当局の調査対象となっているバージョンとは異なりますが、現在の車両搭載版でも、運転中の安全性と倫理的なリスクは依然として解決されていない課題です。ネルソン氏はテクノロジーの驚異的な進化を認めつつも、現状のままでは極めて危険だと結論付けています。交通安全当局もテスラの自動運転システムに関する複数回の事故調査を行っており、AI による新たな分断が事故にどう影響するか、業界全体で注目が集まっています。