约翰斯·霍普金斯大学、NVIDIA、加州大学伯克利分校等机构的研究团队提出 EvoSafeHarness,将安全 Harness 本身作为自动优化对象。针对不同模型和应用领域,系统分别搜索自然语言安全策略与可执行代码逻辑,再根据模型实际暴露出的失败不断调整。研究关注的也不只是攻击成功率能否降低,还包括防御加入之后,智能体是否仍能正常完成任务。 随着大语言模型从对话工具走向能够调用文件、账户、数据库和外部服务的智能体,AI 安全也开始面对更具体的现实后果。普通模型的一次判断失误,可能只会生成错误回答; 当模型能够调用工具、执行操作后,同样的错误却可能带来转