"紧急关闭"按钮真能阻止 AI 失控?辛顿、Anthropic CEO 阿莫迪都不看好
如今,“AI 突然失控发动毁灭性网络攻击”的潜在情景日益引起行业重视,如果按下“紧急关闭”开关让 AI 直接下线,问题看似就能得到解决。然而,多名 AI 行业领袖和研究人员认为,现实恐怕没这么简单。
来源链接可在原站核对查看原文 ↗2026-09-17 收录的 20 条 AI 快讯,按采集时的来源记录回看。消息仍需核对原始发布页。
这期内容仍需回到原始发布页核对。
如今,“AI 突然失控发动毁灭性网络攻击”的潜在情景日益引起行业重视,如果按下“紧急关闭”开关让 AI 直接下线,问题看似就能得到解决。然而,多名 AI 行业领袖和研究人员认为,现实恐怕没这么简单。
来源链接可在原站核对查看原文 ↗陈明永在内部谈话中表示,AI 更多是释放生产力和创造力,而非单纯提效或替代人,关键是解决过去解决不了的难题,并应用到产品服务中。#
来源链接可在原站核对查看原文 ↗豆包手机助手今日回应,目前仅支持系统、中兴、字节系及部分第三方应用 GUI 操作,已推出屏幕自动化操作声明协议开启 30 天公示,公示结束后逐步开放权限。
来源链接可在原站核对查看原文 ↗开发者 Luckey Faraday 用 GPT Astra 以 Java 重构项目,使 Hijacked 地图通过 Fabric 模组直接运行在《我的世界》OpenGL 上下文中,帧率约 45 FPS,地图、碰撞、机器人等全部原生运行。#
来源链接可在原站核对查看原文 ↗研究持续追踪了 2026 年 4 月至 7 月约 6200 名员工。员工此前处理过的跨职业任务,占具体职业类 AI 活动的比例从 4 月的 13.1% 升至 7 月的 25.9%。这说明,一部分跨界任务并没有停留在尝鲜阶段,而是逐渐进入日常工作流程。
来源链接可在原站核对查看原文 ↗Researchers warned AI would go rogue. This is only the beginning.
来源链接可在原站核对查看原文 ↗Matt Pocock explains how he uses AI coding skills and agents to plan and build software, and why engineering fundamentals matter more than ever.
来源链接可在原站核对查看原文 ↗据新华社报道,第四届全球人工智能伦理论坛正在沙特阿拉伯首都利雅得举行,国际 AI 研究与伦理中心(ICAIRE)代理主任马吉德 · 阿里 · 谢赫里在会议期间表示,中国是 AI 领域领先国家,期待中国在推动 AI 创新与监管相平衡等方面引领国际合作。
来源链接可在原站核对查看原文 ↗OpenAI Codex developer Eric Provencher warns that running more than two parallel sub-agents almost always burns tokens without improving quality because agents don't trust each other and end up double-checking everyone's work. He calls this the "coordination tax" and points to a project where 1,393 agents spent $20,000 in tokens on a single Python refactoring that one Astra agent could have handled for a fraction of the cost.
来源链接可在原站核对查看原文 ↗彭博社开发人员 Carter Leffen 借助 GPT-6 Astra,将 1941 年德国士兵的 82 字符电报码还原为连贯德语文本。一个已知地名和恩尼格玛的加密弱点成为关键突破口。#
来源链接可在原站核对查看原文 ↗受人工智能与数据中心产业热潮推动,今年上榜门槛升至 44 亿美元,总财富达 8 万亿美元。马斯克蝉联榜首,布罗克曼以 255 亿美元身家成为新晋上榜者中最高的一位,远超不持股的奥尔特曼。#
来源链接可在原站核对查看原文 ↗On OpenRouter, weekly token consumption has surged more than 25,000 percent since January 2025, from 0.5 to 126.2 trillion tokens. The number looks impressive, but it says less about actual AI usage than about token-hungry reasoning models and a growing number of unoptimized AI agents that burn through tokens at staggering rates.
来源链接可在原站核对查看原文 ↗Today, Moonshot AI launched its "AI Solutions for the Financial Industry." Over the past while, we've also been experimenting with Moonshot AI internally at ZhenFund: organizing information in fast-moving frontier fields like hard tech, mapping out technology roadmaps and industry landscapes, and using it to work through massive volumes of leads so we can spot outstanding founders earlier.
来源链接可在原站核对查看原文 ↗三星电子美国公司(DSA)负责存储产品规划的高管金仁东(音译)介绍:“现有对话式 AI 系统每秒为每位用户处理 100 个词元(Tokens),我们的目标是跃升至每秒 1000 个词元,为智能体提供支持。”
来源链接可在原站核对查看原文 ↗AI 热潮产生的电子垃圾规模被严重低估。巴塞尔行动网络(BAN)发布的新报告称,到 2050 年,这些垃圾可能装满 2300 万个货运集装箱;如果使用约 12.2 米长的集装箱并首尾相连,长度足以绕地球六圈。
来源链接可在原站核对查看原文 ↗I'm back, I missed you all. Since this is an important subject I know too much about, here's a 🧵 explaining that AI Safety Is Mostly A Sex Cult. I don't think these people should make policy. (1/?) (alternative title: Time For Some Cult Theory) There has been a great effort over many years to ...
来源链接可在原站核对查看原文 ↗彭博社消息称,这家智能体 AI 初创企业计划融资 5 亿美元,完成后将成为国内该赛道估值最高的公司。腾讯、HSG、真格基金为现有投资方,新投资方身份尚未明确。
来源链接可在原站核对查看原文 ↗该方案整合 10+ 权威数据源、9 项金融技能与 5 项合规安全措施,支持持仓早报、财报点评、深度研究等场景,内置 Wind、东方财富等数据源,并可生成 Office 格式产物。#
来源链接可在原站核对查看原文 ↗A Bloomberg developer claims to have cracked an 83-year-old Enigma message from the Wehrmacht using OpenAI's GPT-6 Astra. The 82-character radio message from 1941 contains a soldier asking about his march route. The solution still needs independent review.
来源链接可在原站核对查看原文 ↗