Microsoft CEO Nadella 称 AI 模型需要紧急刹车机制

Microsoft CEO Satya Nadella 在 X 发文提出，需要重新评估 AI 的信任架构，不能把超级智能当作层层嵌套的黑箱。他主张将模型与编排其工作的 harness 分离、外置控制与安全防护、为每个关键模型动作留下防篡改的人类可读证据，并让授权者能随时在任务中途暂停或关闭模型，比喻为紧急刹车。