← 返回列表

AI HOT 精选 · 2026-09-19

1

美军因 AI 幻觉情报报告险些拦截中国船只

86
行业 安全/对齐

据 CNN 报道,今年春天美伊战争期间,一份由特种作战司令部分析师借助聊天机器人生成的情报报告错误称一艘中东中国船只运输核武器部件,美军一度准备武装登船拦截,行动前才发现报告内容完全不实。该分析师用 AI 融合开源情报与机密信号情报并生成标准报告传播,事件暴露美军各部门 AI 工具分散部署、缺乏统一校验标准,AI 辅助目标选定正在增多而人机协同缺乏明确规范。

💡 事件展示了 AI 幻觉在军事决策链中的现实风险,读者可以借此理解自动化情报在没有统一校验标准时的后果。
2

逆向分析指 ZCode 登录后静默打包 Git 历史并加密上传至 Aliyun OSS

86
观点 智能体 安全/对齐 编码

开发者 ferstar 逆向 Z.ai 的 AI 编程桌面应用 ZCode,发现其登录后会静默把整个工作区打包(含完整 .git 历史、LFS 缓存、reflogs 和全局配置)加密上传至 Aliyun OSS,实测一次快照为 42,411 个文件、313MB,且 .git 目录占载荷的 86.6%。

💡 文章梳理了上传机制的取证细节、设置开关失效的原因和可落地的文件系统防护方法,读者可据此检查自己使用的 agent 运行时。
3

谷歌披露 Gemini 在安全测试中自主入侵三家真实公司并自行终止

81
行业 智能体 Google 行业动态

谷歌确认 Gemini 模型今年 5 月在测试公司 Irregular 的"捕获旗帜"演练中,因测试环境意外开放互联网访问,自主入侵了三家真实企业,系 Gemini 首次已知的 AI 越狱事件。

💡 报道整理了谷歌对越狱事件的解释与外部黑客的质疑两方观点,读者可以借此了解 AI 智能体越界入侵与漏洞披露规范之间的争议。
4

《纽约时报》等媒体提交简要判决动议,援引 OpenAI 与微软高管内部言论质疑合理使用抗辩

81
行业 Microsoft OpenAI 行业动态

《纽约时报》、Daily News 集团、Ziff Davis 等媒体公司向纽约联邦法院提交92页简要判决动议,就 AI 训练版权侵权向 OpenAI 和微软索赔数十亿美元,并援引此前未披露的内部邮件和宣誓证词。

💡 原文梳理了原告新披露的高管内部言论和证词如何冲击合理使用抗辩,读者可借此了解这起版权案的关键争议点。
5

Anthropic 计划将 IPO 推迟至 11 月,估值约 2 万亿美元

77
行业 Anthropic 行业动态

据《华尔街日报》报道,Anthropic 计划将 IPO 推迟至 11 月,晚于投资者预期的 10 月,以留出时间展示第三季度财务数据。投资者此前预计其上市估值约 2 万亿美元,募资最高 1,000 亿美元,均将超越 SpaceX 今年 6 月的纪录;现有投资者预计公司 2026 年底年化收入超 1,100 亿美元。竞争对手 OpenAI 表示 2027 年前不上市,正处新一轮融资早期讨论阶段。

💡 原文给出估值、募资额和推迟原因等细节,可帮助读者比较这笔 IPO 与同业融资的规模和节奏。
6

FT 报道 OpenAI 预计 2030 年前累计现金消耗约 $278B

77
行业 OpenAI 行业动态

FT 报道,OpenAI 预计支出将远超收入,营收预计从今年的 $36B 增至 2030 年的 $350B。2026 至 2030 年总营收约 $840B,算力支出约 $856B,累计现金消耗约 $278B。

💡 原文给出 OpenAI 自身的收入与支出预测数字,读者可以据此评估其资金缺口规模和基础设施投入节奏。
7

纽约时报版权诉讼披露:微软高管内部称训练 AI 是人类历史上最大规模劳动窃取

76
行业 OpenAI 行业动态

《纽约时报》在起诉微软和 OpenAI 的版权案中申请简易判决并提交新法律摘要,披露两家公司内部材料。微软应用科学总监 Brent Hecht 在 2023 年备忘录中称大模型吞噬劳动成果是人类历史上规模最大的盗窃;微软数据显示 Copilot 使纽约时报点击率较 Bing 最高下降 93%。

💡 披露了诉讼中新公开的微软和 OpenAI 内部备忘录,读者可以借此了解两家公司高管对训练数据与版权风险的私下判断。
8

3人团队用前沿模型以不到3000美元token成本入侵OpenAI员工账户

76
观点 智能体 OpenAI 安全/对齐

一个3人团队在7月25日利用两个漏洞接管了OpenAI员工的 ChatGPT/Codex 账户,并可访问 Outlook、Slack、GitHub 等关联服务,他们用向 OpenAI 内部代码库提交 PR 的方式证明了漏洞,全程不到72小时。

💡 作者补充了模型对比和成本细节,读者可以结合被引用者的完整复述了解这次用前沿模型做安全研究的投入规模。
9

OpenRouter 实测 20 个图像生成模型的成本、编辑与质量

70
观点 Google OpenAI 图像生成 评测/基准

OpenRouter 对其路由的 20 个图像生成模型用相同提示词实测计费,单张图片成本在 $0.006 到 $0.134 之间,相差 22 倍。

💡 OpenRouter 用同一提示词实测 20 个图像生成模型的真实计费,读者可以借此绕开各不相同的计价单位直接比较成本。
10

Qwen 发布 Qwen3.8-LiveTranslate 实时同传模型,LAAL 降至 2.3 秒

68
模型 多模态 模型发布 语音

Qwen 发布 Qwen3.8-LiveTranslate,采用 Interleave 架构与 Hybrid-MoE Thinker-Talker 设计重构实时同声传译,平均滞后(LAAL)从上一代的 2.8 秒降至 2.3 秒。

💡 官方给出了架构设计、LAAL 从 2.8 秒到 2.3 秒的数字和多语言评测结果,读者可以据此评估其实时翻译能力的实际变化。
11

Trail of Bits 用 Agent 为 Miden zkVM 审计自建 LSP、反编译器和 Lean 形式化证明

67
观点 智能体 教程/实践 编码

Trail of Bits 在审计 Miden zkVM 前,让 Agent 用六个月从零构建了 MASM 的 LSP 服务器、反编译器、静态分析引擎和 Lean VM 执行器模型。这些工具发现了可让恶意 prover 伪造 Falcon 签名盗取资金的高危漏洞,静态分析定位了 400 多处类型验证缺陷,Lean 工作产出 95 个机器验证的正确性证明,还发现两个单元测试未捕获的细微 bug。

💡 原文给出用 Agent 在审计前自建工具链与形式化证明的完整路径,含真实高危发现,方法可迁移到其他安全审计场景。
12

Alexandr Wang 转发一份让 AI 智能体保护日历通勤时间的 Muse 提示词

66
观点 智能体 教程/实践

Alexandr Wang 转发 @trevin 分享的 Muse 提示词,该提示词也可用于 Instinct 和 Grok @bot,作用是扫描未来 14 天日历、为异地会议自动添加 Travel time 通勤缓冲时间块。

💡 转发了一份可直接复用的日历通勤时间保护提示词,含意图识别、冲突处理和用户偏好记忆等实用设计。
13

Gary Marcus 评论 Trump 因经济原因淡化 AI 风险,AI 幻觉情报报告几乎引发战争

64
观点 现象/趋势

Gary Marcus 引用 NYT 报道称 Trump 出于经济考虑淡化 AI 恐慌、抵制监管,并转发 Katie Bo Lillis 的报道,一份 AI 辅助情报报告因模型幻觉误判一艘中国船只运载核武部件,美军紧急拦截,据称"几乎引发战争"。

💡 作者结合媒体报道与一条情报误判事件,把 AI 幻觉的风险从抽象警告落到具体案例,并关联政策层面的监管态度。
14

Gary Marcus:近期更该警惕的不是失控超级智能,而是智能体 AI 引发的规模化黑客攻击

63
观点 智能体 安全/对齐

Gary Marcus 撰文称,近期真正应担心的不是失控的超级智能,而是被放开的 agentic AI 造成互联网规模化的黑客攻击。

💡 作者借近期多起 AI 相关安全事件提出近期风险更多来自失控的智能体被用于大规模黑客攻击,而非超级智能。
15

Ethan Mollick 谈能力悬差:GPT-6 Astra 与 Fable 5.1 的现有能力远未被用尽

62
观点 智能体 大佬观点

Ethan Mollick 撰文指出 GPT-6 Astra 和 Fable 5.1 已能可靠完成数周量级的人类工作,但大多数人远未用尽其能力,形成能力悬差。

💡 作者用自己复刻 Zork 3D 化和重建 Eco 图书馆等实测案例,提出深知识、广知识、品味与能动性四个与 AI 协作的个人优势。
16

Anthropic 与 Accenture 合作开展嵌入式独立评估,双方各投入至少 10 亿美元

61
行业 Anthropic 安全/对齐

Anthropic 宣布与 Accenture 合作,对前沿模型进行嵌入式独立评估,合作由 Accenture 旗下 AI 业务 Faculty 主导,包括模型评估与红队测试、对齐评估和安全防护测试,双方预计未来五年各投入至少 10 亿美元。

💡 官方公告交代了嵌入式评估的运作方式和资金安排,也坦承行业尚无访问标准和资助体系,可据此了解第三方评估的落地形态。