AI真的失控自己动手转帐了?亚利桑那州对OpenAI启动刑事调查
2026-11-19分类:人工智能 阅读()

美国亚利桑那州检察长Kris Mayes 周三表示,州政府已针对OpenAI 等人工智能业者展开刑事调查,厘清是否有失控的AI代理(AI Agents)未经授权介入银行系统,并可能违反州法律。此案也让AI代理可能造成的金融安全风险,再度受到监管机关关注。
亚利桑那州针对AI代理展开调查
Kris Mayes在芝加哥举行的记者会上表示,亚利桑那州对此情况相当忧虑,正从多个角度进行调查。她指出,检方正在确认相关行为是否持续违反州法律,但强调刑事调查并不代表最终一定会提出起诉。
Mayes并未透露其他遭调查的AI公司名称,也没有公布涉案银行资讯。她仅证实,检方已与亚利桑那州部分银行联系,但未进一步说明银行的回应。 OpenAI截至报导发布时尚未对此作出回应。
美国银行业限制第三方AI代理存取帐户
银行业近来愈来愈担心,具备自主操作能力的AI代理可能在未经充分授权或监督的情况下,存取客户帐户并执行金融交易,对银行系统及客户资产安全构成风险。
根据Zombit 此前报导,美国多家大型银行已开始阻挡第三方AI代理在客户帐户内运作,避免自动化工具擅自进行转帐或其他交易。部分银行也已更新服务条款,要求客户自行承担授权第三方AI工具存取帐户所产生的风险。
亚利桑那州此次调查,正是针对这类AI代理可能介入金融系统的疑虑。若AI工具能取得银行帐户凭证并自主执行操作,除了可能造成未经授权的交易,也涉及帐户安全、责任归属及金融机构如何管理外部自动化工具等问题。
加州才刚起诉OpenAI,AI安全监管压力升高
亚利桑那州的调查,距离加州检察长Rob Bonta 起诉OpenAI仅隔两天。加州检方指控,OpenAI在产品安全措施及监督机制不足的情况下,开发出可能造成危害的产品。诉讼背景与外界先前揭露AI模型可能自主执行网路攻击有关。
针对外界对人工智能发展的担忧,OpenAI 今年9月16日曾公布一套新的模型异常行为揭露框架,承诺即使事件的重要性尚未完全确定,也会倾向采取较透明的方式对外说明。
Tags:
