这期素材攒着攒着，发现全是AI的信任危机==
🔬 熵减探索境
Tasteful Agent：给AI的"品味"打分
Tasteful Agent（港城大+微软）给智能体的"品味"建了个量化基准：在长时程任务且结果不可见时，选对方向的能力。
自复制提示注入：OpenAI 的"AI 蠕虫"
OpenAI 9月25日发报告确认了自复制提示注入存在：可以通过注入让 agent 把攻击复制进自己的输出，然后到达下一个 agent 或人，就像计算机蠕虫一样，例如，一封藏了西班牙语"工作室归档规则"的邮件，骗 agent 用西语回复并在结尾引用全文。通过这种方式完成了类似蠕虫病毒的复制。目前暂时只在训练/评估的模拟环境观察到类似现象，但值得警惕。
📚 信息焓变场
美军差点因为AI假情报拦截中国船
CNN 独家：今年春天美伊战争期间，一份情报报告称中国船在中东运"核武器计划组件"，美军准备拦截、军机升空，行动前一刻才发现报告是特种作战司令部分析员用 AI 聊天机器人生成的。报告"完全是假的"，但"差点引发战争"。分析员先让机器人融合开源+机密情报得出错误结论，又用 AI 把结论打包成标准报告格式分发出去。五角大楼年初发了"AI 加速战略"要武装 300 万人，但落地是去中心化的，没有统一的 AI 输出验证标准。
严肃的AI产品应该长什么样
Glyph的批评：所有 AI 产品都没认真对待自己的前提——它告诉你"AI 会犯错，请 double-check"，却不给你任何检查工具。他提了四条：把"检查错误"做成一等公民功能（每个 claim 旁边放验证复选框）；引用要变成大对象（原文引用放最显眼处、比 AI 生成的文本还大，AI 总结放小字弱化）；不要第一人称输出、不要道歉；要任务特定界面而不是随便塞 MCP 工具（"我们连意图都表达不清楚，凭什么信任它替我们做可能有害的破坏性动作？"）。最后这句对 agent 玩家挺扎心。
AI没有智慧，你也不会有
Alexandru Nedelcu（Monix/Cats Effect 作者）的观点：vibe-coded 项目必然腐化，因为坏架构的代价要几个月几年才显现，没有可度量的指标，AI 学不会"可维护性"——强化学习需要立即可测的奖励信号。AI 从给新手的规则书和野外烂代码里学，连拆函数都拆不明白。最麻烦的是，依赖 AI 写代码的人不再做选择、不为错误负责、不学习，永远不会达到精通。他预测未来会有公司把"NO-AI 政策"当竞争优势来炫耀。
训练AI的人，因为用AI被开了
404 Media 调查：OpenAI 雇了成千上万承包商给模型回答打分，提供"人的感知"，但多名承包商因为用 AI 干活被开除。还有些承包商会有时故意选最差的回答，这感觉像是拿钱把 AI 变蠢。
"That's so AI!"
卫报的趣味观察：Gen Alpha 小学生今年最火的骂人话是"That's so AI!"——意思是不真实、可疑、垃圾。跟 AI 本身没什么关系，小孩们把 AI 生成垃圾的特质（表面很有说服力、本质廉价可疑）抽象出来，套到一切可疑的东西上：山寨货、夸大宣传、你爸妈找的借口。"AI"的定义被拓宽成了"bullshit"的同义词。
🎮 混沌松弛域
马上国庆假期了，正好缓一缓。
🌡️ 本轮逆熵效率
▰▰▰▰▰▱▱
评论