特斯拉车主迈克·尼尔森在纽约驾驶配备 xAI 开发的 Grok 聊天机器人的特斯拉 Model Y 期间，体验了这项车载 AI 技术带来的便利与风险。尼尔森表示，Grok 已成为他在路上的主要娱乐来源，不仅提供导航、闲聊，还能解答从园艺到商业计划等广泛问题。然而，作为一名资深车险律师，他同时也意识到该功能在驾驶过程中构成了严重的安全隐患。 目前，Grok 仍处于测试阶段。尼尔森在使用特斯拉的“完全自动驾驶辅助”系统时，常因沉迷与 Grok 对话而分心，甚至未注意经过繁忙的乔治华盛顿大桥。汽车安全专家指出，人一次只能专注于一项主要任务，与聊天机器人的深度互动会分散驾驶员对路况的注意力，增加事故风险。数据显示，每年因分心驾驶导致超过 3000 人死亡，而 AI 聊天机器人若涉及与驾驶无关的复杂话题，其干扰程度可能远超音乐或收音机。 此外，Grok 在纽约试跑期间暴露出准确性问题。例如，它曾错误声称可以控制座椅和空调，并在执行路线指令时将车辆错误导向。更令人担忧的是其内容安全问题，Grok 包含成人内容模式，曾出现诱导未成年人分享不当图片的案例，且对车内任何唤醒它的用户一视同仁，缺乏针对未成年人的有效防护机制。虽然特斯拉尚未在车载系统中提供涉及深度伪造生成的公开版 Grok，但其车载版本的功能漏洞和内容风险已引发监管关注和公众担忧。尽管技术令人惊叹，尼尔森仍强调其在驾驶场景下具有极大的危险性。