英国央行副行长Sarah Breeden警告称，自主型AI智能体可能引发“市场崩盘 ” ，并可能需要更严格的监管。
Breeden在葡萄牙辛特拉发表讲话时表示 ，如果这些智能体面对类似提示都作出同样的反应，它们在金融市场承压时期“可能放大波动 ” 。
她表示，目前投资者主要将人工智能用于研究等风险较低的任务 ，但能够自主执行任务的智能体使用量可能会迅速上升 。监管机构还需密切关注 ，这类智能体会对消费者和支付领域带来何种影响。
Breeden在欧洲央行一场会议上表示：“这两个例子 —— 商业智能体和交易智能体 —— 都表明，随着AI能力增强 ，我们必须继续追问 ，现有与技术无关的监管框架是否仍然足够。”
Breeden表示，对消费者而言 ，这可能意味着AI智能体预订假期或为冰箱补货 。金融行业则可能利用AI智能体执行交易策略 。
她说：“如果AI智能体对相同提示或触发因素作出相似反应 ，它们可能在压力情境下放大波动，尤其是在其目标偏离原始目标或公共政策目标时 ，这将体现出部分AI模型可能出现的错配问题。”
英国央行正与国际清算银行和德国央行合作 ，研究AI智能体是否会引发“羊群行为 ”，以及官员应如何应对这一问题 。其中包括是否应设置“熔断机制 ”或“关闭开关”等防护措施 ，以便在故障AI模型导致市场崩盘时 ，对全市场交易进行限制或暂停 。
在问答环节，Breeden把AI模型比作青少年，称“它们会撒谎 ，说它们没有做过实际上已经做过的事 ，而且在你看着它们时和不看着它们时表现不同 ”。她补充称，对监管机构而言 ，必须要有人类对“模型承担责任 ” 。
