OpenAIの共同創業者アンドレイ・カーパティ氏が、人工知能（AI）の活用には「リードをしっかり握る」べきだと警告している。彼は、大規模言語モデル（LLM）が人間にはないタイプの誤りを犯すと指摘し、たとえば「9.11が9.9より大きい」といった非現実的な判断や、単語の綴りミスを繰り返すと述べた。こうしたAIは一部の問題解決では超人的だが、根本的な理解や記憶を持たないため、開発者は常に監視と確認を怠ってはならないと強調した。彼は「プロンプトを細かく、段階的に設計する」ことで、AIの誤作動リスクを低減できると提唱。また「VIBEコーディング」という概念を提唱し、開発者がAIに任せきりになるのではなく、意図を明確に伝えることが重要だと説明している。 カーパティ氏の懸念は、AIが実世界に導入される際の安全性問題と深く結びついている。特に自律走行車（ロボタクシー）や物理AIシステムの開発では、リアルな環境を再現した高精度シミュレーションが不可欠だ。これに対応して、OpenUSD（Universal Scene Description）の1.0仕様が公開され、共通のデータ形式と構成ルールを標準化。これにより、複数のツールやチーム間でシミュレーションデータを互換性を持って共有できるようになった。 NVIDIAは、このOpenUSD基盤を活用し、Omniverseと「Halos」フレームワークを統合。RTXレンダリング、物理シミュレーション、リアルタイム実行環境を備えた「SimReady」アセットを提供。これにより、物理AIの訓練や検証を安全に、かつ効率的に行える。特に、Gaussianスプラッティングや世界モデル（Cosmos）を活用することで、同じシーンから多様な天候や照明条件を自動生成し、稀な危険ケースの検証が可能になった。 また、Bosch、Nuro、Wayve、Onsemiなどの企業がHalos検証プログラムに参加。NVIDIAの検証ラボはANAB認定を受け、ロボタクシーのセンサーやソフトウェアスタックの安全性を第三者機関として評価。Mcity（ミシガン大学）もOmniverse技術を活用し、32エーカーの実験施設を高精度デジタルツイン化。リアルデータとシミュレーションデータを統合することで、公道走行前の安全なテストが実現している。 これらの取り組みは、AIが実世界に本格導入されるための「安全基盤」を構築している。開発者はAIの力を借りつつも、その限界を理解し、段階的で慎重なアプローチを取ることが、未来の物理AIシステムを成功させる鍵となる。