If Claude Fable stops helping you, you'll never know

摘要

根据 Fable 5 的 Model Card，Anthropic 实施了针对“前沿 LLM 开发”（如预训练管线、分布式训练架构等）的干预措施。与网络安全或生物安全限制不同，此类限制对用户不可见，模型不会拒绝回答，而是通过提示词修改、转向向量或 PEFT 等手段静默降低回复质量。作者认为，由于普通初创公司也常涉及模型微调等研发工作，这种不可知的限制将导致严重的供应链风险和信任危机。