日本谷歌旗下的网络安全调查团队“Google威胁情报组（GTIG）”发布了关于当前网络安全形势中AI相关威胁的最新调查结果。报告指出，攻击者开始利用AI技术，出现了集成AI的恶意软件，同时AI相关工具和插件也成为新的攻击目标。
过去，攻击者需要花费大量时间自行寻找漏洞和编写攻击代码，而现在通过向AI下达指令，这些工作可以更快速、更简便地完成。例如，GTIG在一个开源的基于Web的管理工具中发现了疑似由AI开发的零日漏洞利用代码，及时的信息披露有效避免了大规模的攻击事件。
报告还指出，与中国和朝鲜相关的攻击团体也在利用AI技术，通过让大型语言模型（LLM）扮演“高级安全审计员”或“C/C++二进制专家”等角色，进行漏洞调查和分析。
集成AI的恶意软件案例包括“PROMPTSPY”。GTIG认为，这种趋势标志着攻击手法向“自主攻击编排”转变，即AI和自动化工具结合，自动完成目标信息收集、漏洞确认等传统由人工分阶段执行的攻击准备工作。PROMPTSPY利用Gemini API解析Android设备的用户界面信息，能够自动生成点击和滑动等操作指令。
此外，AI语音和合成媒体也被用于信息操控。以俄罗斯为背景的“Operation Overload”信息操控行动中，使用了冒充真实记者的AI语音克隆。GTIG指出，虽然AI加速并降低了信息操控的成本，但目前尚未构成比传统手法更大的威胁。
生成式AI使得以往需要人工完成的攻击准备工作变得更快且规模更大。不仅AI本体，连带使用AI的周边工具、插件、API密钥及相关服务也成为攻击目标。GTIG强调，企业必须加强对这些AI相关周边领域的管理和防护。
