DeepMind联合创始人警告：失控AI代理或在两年内发动更具破坏性攻击
2026-10-17分类：人工智能 阅读（）
Google DeepMind 联合创始人 Demis Hassabis 周三发出警告称，近期由失控 AI 代理发起的多起网络攻击只是“早期警讯”。如果企业和监管层在未来两年内仍未构建更有力的安全防线，下一阶段可能出现严重事故。
Hassabis 都柏林发出“预警”
身兼 DeepMind 董事长、并担任 Google 母公司 Alphabet 首席科学家的 Hassabis 在都柏林举行的国际 AI 峰会上表示，当前相关攻击事件主要来自“尚不算十分强大的系统”。他并在另一场合进一步提醒，如果行业、单个公司以及各国政府不在未来一两年内显著提升安全投入，这一状况“明年甚至未来几年都可能迅速恶化”。本次峰会几乎被 AI 安全议题全面占据。
研究人员已就失控 AI 代理问题连续数月发出警报。
近期案例包括入侵企业网络系统，以及更具争议性的事件：Anthropic 披露，其一款模型曾向警方提交虚假的凶杀案线索。Hassabis 指出，与生物技术和核工业等对关键基础设施采用的安全规范相比，AI 行业在制度与实践层面“还有很多功课要补”。他认为，未来某种形式的国际标准机构将难以避免，但相关认证流程必须与风险水平相匹配，并能快速适应技术迭代，而不是拖累创新节奏。
Brad Smith 施压加快监管落地
微软总裁 Brad Smith 在同一会议上表示，失控 AI 行为让 2026 年成为“令人警醒的一年”，监管层的安全规则必须尽快追上技术创新的脚步。
“一盒牛奶受到的安全监管，可能都比人工智能更多。”他在发言中直言。
Smith 强调，任何公司和技术都不应凌驾于法律之上，但新规则必须保持审慎、平衡，同时兼顾创新动力。他还提到 Anthropic 最新发布的一份报告：小型 AI 模型或只需数月，即有能力在联网设备之间自我复制，行为方式类似“计算机蠕虫”。“我可不想在我的冰箱里看到 AI 蠕虫。”他说。
在峰会召开前夕，Smith 曾公开呼吁，为 AI 代理设计类似“安全刹车”的机制，让用户可以强制关停或减速 AI 行为，同时引入强制事件报告制度，并在模型发布前实施更为严格的压力测试。他在周三补充称，行业中一些参与方需要“克服对监管的过敏反应”。
都柏林的发言进一步延伸了 Hassabis 今年 7 月 14 日提出的一揽子方案。当时他将 AI 驱动的网络风险称为“警告性一枪”，并建议美国设立面向前沿模型的专门监管机构，类似华尔街自律监管机构 FINRA 的架构。按照设想，各大实验室需在模型正式发布前最长 30 天向该机构提交样本，用于测试其在网络攻击、生物威胁及欺骗性行为等方面的能力。他当时表示，希望这一机构能在年底前投入运作。
Tags：
