Anthropic在发布Claude Fable 5后,原本计划在用户不知情的情况下,当研究人员试图使用该模型训练竞争性AI时,暗中降低模型性能。此举遭社区强烈反对后,Anthropic致歉并调整策略,将安全防护措施改为对用户可见,明确提醒用户系统将拒绝请求或转向较弱模型。该事件凸显AI安全与开放研究间的紧张关系。
补充中文 AI 产业、产品和资本市场动态,减少只看海外来源的偏差。
中 — 来源为稳定 RSS 或专业媒体,适合作为新闻线索继续追踪。
-
Claude Opus 4.8上线:提升编程可靠性,减少无依据结论
Auto: IT之家
-
Claude Code漏洞可致GitHub凭证泄露,微软警告
Auto: IT之家
-
Anthropic发布Claude Fable 5:最强大Mythos模型面向公众
Auto: The Verge - Tech
-
Anthropic公开Claude Fable 5:最强大模型但带安全护栏
TechCrunch AI
-
Anthropic调整Claude Fable 5安全措施,对研究人员“降智”改为可见
Auto: IT之家 · 当前新闻