谷歌威胁情报团队（GTIG）最新报告揭示了网络攻击者正日益滥用人工智能技术的多种新手段。过去几个月，团队发现攻击者利用AI技术进行信息搜集、制造高度逼真的网络钓鱼诈骗，以及开发新型恶意软件。 尽管目前尚未发现高级持续性威胁（APT）组织直接针对前沿大模型或生成式AI产品发起攻击，但谷歌已多次识别并阻止来自全球私营部门的模型提取攻击。这类攻击属于企业间谍行为，旨在非法获取训练有素的AI模型参数或数据，未来很可能会成为更多拥有AI模型的企业面临的主要风险。 为应对这些威胁，谷歌已采取多项措施，包括关闭相关恶意账户以中断攻击活动，并强化了自身安全防护体系。同时，谷歌还进一步提升了Gemini系列模型的防御能力，以防范被滥用。 该报告详细记录了威胁趋势及谷歌的应对策略，完整内容可访问谷歌云威胁情报博客查阅。