Anthropic首次公开其下一代Claude大模型的训练方法,采用用户直接反馈训练模型,甚至包括AI“做梦”阶段的数据。这一方法旨在提升模型对齐能力,但引发隐私和伦理讨论。具体技术细节尚未完全披露,但表明Anthropic在模型训练中更加注重用户交互和内部状态调优。
补充中文 AI 产业、产品和资本市场动态,减少只看海外来源的偏差。
中 — 来源为稳定 RSS 或专业媒体,适合作为新闻线索继续追踪。
-
Anthropic发布NLA方法,将LLM内部激活转译为可读文本以提升安全性
Hacker News LLM
-
Claude Code 被曝不遵守项目规则,开发者烧光额度要求退款
InfoQ 中文
-
Anthropic 在 AWS 上推出 Claude 平台
InfoQ 中文
-
Anthropic揭秘下一代Claude构建方法:用户反馈直接训练模型,AI“做梦”也被纳入
InfoQ 中文 · 当前新闻