人工智能的浪潮席卷而来，正以前所未有的速度重塑着我们的世界。从起初简单的任务自动化，到如今能够独立行动的复杂系统，人工智能的演进已然抵达一个关键的转折点。我们将其称为“自主智能体人工智能”（Agentic AI），它预示着一场范式转变，不仅将重新定义我们与科技的互动方式，还将深刻影响工作和安全领域的本质。与生成式人工智能（例如聊天机器人）被动地响应指令不同，自主智能体人工智能更进一步，能够主动识别目标，制定行动计划，并自主执行这些计划，与各种工具和环境进行交互，最终实现预期的结果。这种能力标志着人工智能应用领域的一次巨大飞跃，并吸引了包括网络安全在内的各个行业的广泛关注。
自主智能体人工智能的核心特征在于其自主性。与受限于预定义参数的传统人工智能系统不同，这些智能体具备学习、适应和实时决策的能力，而无需持续的人工干预。这种自主性在网络安全领域尤其具有重要意义，因为在这一领域，响应速度至关重要。依托诸如Trend Cybertron之类的框架，并利用包括NVIDIA在内的多家公司的技术，自主智能体人工智能安全代理能够实时分析海量数据集，从而比人类分析师更有效地检测和响应威胁。这种积极主动的方法与被动的安全措施截然不同，它使得能够预测和预防攻击成为可能。我们已经可以看到，这些智能体与人类安全团队协同工作，形成一种全新组织层级的潜力，在这种层级中，人工智能与人类并肩作战。然而，这种转变并非没有挑战。赋予自主智能体人工智能强大力量的，恰恰是其自主性，而这种自主性也带来了新的漏洞。
自主智能体人工智能的崛起并非孤立事件。它建立在生成式人工智能奠定的基础之上，但至关重要的是，它承认了仅靠响应查询的局限性。正如专注于过程智能的研究强调的那样，只有理解底层的运营流程，才能充分释放真正的潜力。如果没有这种细致的理解，即使是自主做出的由人工智能驱动的决策，也可能导致效率低下和意想不到的后果。因此，有必要采取一种整体的方法，将自主智能体人工智能与现有的系统和工作流程整合起来。此外，自主智能体人工智能固有的与各种系统和数据源的日益频繁的交互也带来了新的安全风险。与其他新兴技术一样，它容易受到攻击，而且传统的漏洞也会变得更加严重。“投机抢注”（slopsquatting）就是一个令人担忧的例子，在这种情况下，人工智能智能体会产生恶意的软件包，这表明这些系统有可能被操纵。因此，需要主动保护的不仅是人工智能模型本身，还有它们运行的环境。
网络安全的影响尤其深远。自主智能体人工智能为应对新兴的网络威胁提供了一种强大的新工具，但同时也扩大了攻击面。这些智能体与敏感数据和关键系统交互的能力需要强大的安全措施。保护驱动这些智能体的大型语言模型（LLM）至关重要，理解并减轻其自主行动中固有的漏洞同样重要。正如贝克（2025年）所指出的那样，形势正在迅速变化，在现有威胁持续存在的同时，新的威胁也在不断涌现。这需要在网络安全实践中进行持续的评估、适应和创新。趋势科技（Trend Micro）决定开源其人工智能模型和智能体框架Trend Cybertron，是朝着促进协作和加速开发安全自主智能体人工智能解决方案迈出的重要一步。免费提供先进的网络安全能力，使组织和研究人员能够为构建更具弹性的网络安全生态系统的集体努力做出贡献。这项举措鼓励了社区参与到安全框架的迭代和完善中，也降低了小型企业和研究机构进入网络安全前沿技术的门槛。
自主智能体人工智能的潜在影响远不止于网络安全。哈佛商业评论的文章探讨了这项技术如何从根本上改变工作的性质，承诺提高生产力、创新能力和洞察力。然而，这种潜力也受到风险的制约，包括人工智能驱动的决策中可能存在的偏见和错误。因此，在开发和部署自主智能体人工智能时，必须认真考虑伦理影响和潜在的社会后果。例如，在招聘筛选过程中使用自主智能体人工智能可能无意中延续或加剧现有的社会偏见，导致不公平的招聘结果。在医疗保健领域，自主智能体人工智能辅助诊断可能因为训练数据的偏差而出现误诊，对患者的健康造成不良影响。这些潜在的风险凸显了在开发和部署自主智能体人工智能时，采取负责任的态度和建立完善的监管机制的重要性。
自主智能体人工智能所代表的范式转变不仅仅是一项技术进步，而是我们与人工智能互动并依赖人工智能方式上的根本改变。它要求我们对它的能力、局限性以及运用这种强大工具所承担的责任有一个全新的理解。自主智能体人工智能的道路上既有机遇，也有风险，而要成功地走过这条路，需要一种协作的、积极主动的、且具有伦理基础的方法。我们必须认识到，自主智能体人工智能的部署不仅仅是技术问题，更是一个复杂的社会挑战，需要各行各业的共同努力。未来的技术发展方向需要朝着更安全、更透明、更符合伦理的方向发展，我们才能充分地利用自主智能体人工智能所带来的巨大潜能，并避免潜在的风险。只有这样，我们才能确保人工智能的发展最终服务于人类的福祉，创造一个更加繁荣和可持续的未来。
发表评论