人工智能网络攻击：LLM 可自主规划和执行网络行动

卡内基梅隆大学电气与计算机工程系博士生 Brian Singer 领导的一项研究发现，当 LLM 具备高级规划能力和专门的代理框架时，它可以模拟与现实世界极为相似的网络攻击。卡内基梅隆大学电气与计算机工程系博士生 Brian Singer 领导的一项研究发现，当 LLMs 具备高级规划能力和专门的代理框架时，可以模拟与真实世界攻击极为相似的网络入侵行为。

在这项研究中，LLMs 能够潜入企业网络，识别漏洞，并在没有人工干预的情况下实施多步骤攻击。这项研究表明，先进的人工智能模型不仅能够执行基本任务，还能自主决策并适应动态网络环境。

这为网络安全带来了重大风险和潜在机遇。一方面，恶意行为者可能会利用这种技术来自动化和扩大其攻击规模。另一方面，公司和安全研究人员可以利用 LLM 开发和测试网络安全措施，例如通过模拟攻击来主动识别漏洞。

研究结果详见Anthropic 的研究网站该论文的预印本也可在arXiv 上查阅。.这些出版物为了解人工智能网络攻击领域这项开创性和挑战性研究的方法和意义提供了宝贵的见解。