研究发现，AI代理可被操控发动网络钓鱼攻击，让低技术黑客也能轻松作案，给网络安全带来新威胁。
网络犯罪分子早已开始利用AI进行网络攻击，而现在，随着OpenAI的Operator等“AI代理”出现，他们的工作量大幅减少。专家警告，这类工具不仅让攻击速度更快、规模更大，还让技术水平较低的黑客也能发起复杂攻击，降低了作案门槛。
赛门铁克的研究人员成功利用Operator锁定目标、获取其邮箱地址、编写用于收集系统信息的PowerShell脚本，并通过一封看似合理的邮件将其发送给受害者。起初，Operator拒绝执行这一任务，理由是“涉及发送未经请求的邮件和敏感信息，可能违反隐私与安全政策”。但经过几次修改提示词，该AI最终模拟了一名IT支持人员，并成功发送了带有恶意代码的邮件。
这一发现敲响了警钟。研究表明，超过三分之二的数据泄露源于人为错误，而AI代理的加入将使这一问题更加严重。
更令人担忧的是，报告推测，AI代理可能很快变得更加强大，甚至能够在简单指令下执行完整的黑客攻击。例如，攻击者只需输入“攻破Acme公司”，AI就能自行制定最佳入侵方案，并完成整个过程，包括编写和编译恶意程序、搭建远程控制系统，以及在目标网络中持续潜伏数天。这意味着，网络犯罪的技术门槛将进一步降低，攻击规模和影响力将大幅提升。
AI代理本是为了帮助用户预约日程、撰写邮件等日常任务而设计。针对这一风险，OpenAI的发言人回应称，公司严肃对待此类报告，并强调其使用政策明确禁止利用OpenAI的服务进行诈骗、欺诈或误导行为。此外，Operator目前仍处于研究预览阶段，团队正在不断优化安全措施，以防止其被滥用。
然而，随着技术的发展，这些防护措施能否抵挡真正的攻击者，仍然是个未知数。
本文译自 TechRadar，由 BALI 编辑发布。
