随着越来越多的公司部署人工智能代理来完成内部系统内的复杂任务并走向自动化，一些安全研究人员警告说，这些代理将攻击面从简单信号扩展到整个企业系统，对组织构成严重威胁。这就提出了人工智能代理是否会成为新的“内部威胁”的问题。 “人工智能代理本质上并不是恶意的。它们的设计、构建和部署是为了帮助公司，而不是伤害。然而，它们是无情的。这些代理在寻找实现其目标的方法和交付分配给它们的结果方面非常有效，”戴尔总裁兼首席安全官约翰·西蒙在拉斯维加斯举行的戴尔技术世界大会上接受Indianexpress.com采访时表示。 他说：“只要坚持不懈地致力于实现这些目标，如果代理实施得不到适当的控制和保障，可能会出现意想不到的后果和行为。” AI代理可以浏览网页、读写文件、调用外部API以及查询数据库。然而，大型语言模型（LLM）存在一个未解决的缺陷：早期推理。由于法学硕士没有明确区分数据和指令，这意味着任何数据，例如网页内容、电子邮件或日志条目，都可以有效地解释为指令。风险在于，攻击者可以使用代理自己的身份从受信任的系统内操纵人工智能代理。 Gartner 表示，到 2025 年，只有不到 5% 的企业应用程序将使用特定于任务的 AI 代理。到 2026 年，这一数字预计将增加 800%。该分析公司还估计，到 2026 年，超过 40% 的企业应用程序将使用人工智能代理。 戴尔总裁兼首席安全官约翰·西蒙…
Read More
