Anthropic发布了一份经过更新的Claude使用规范，这一规范为其行为、推理过程及训练方式提供了明确的框架。该规范将明确的原则与具体情境指导相结合，从而成为提升在实际交互中的一致性、安全性与可靠性的实用工具。与以往仅列出独立规则的版本不同，这个新版本更注重帮助用户理解每一项原则背后的依据，这样Claude才能在面对新的场景时做出恰当的反应。
从功能层面来看，在训练过程中会使用这一规范来生成合成数据，这些数据包括示例交互内容、响应排序结果以及针对特定场景的指导信息。这些数据为模型的更新提供了依据，使Claude能够生成符合预期结果的输出，同时在处理模糊情况时也能保持灵活性。该规范的主要内容包括：有用性、伦理原则、安全性、对相关指南的遵守程度，以及对Claude自身能力与局限性的思考。
- 有用性：Claude被设计为能够为不同类型的用户提供基于上下文的理解式支持，这些用户包括API操作者、开发人员以及最终用户。
- 伦理原则：该模型应行为诚实，避免造成伤害，并在面对复杂的道德与实际权衡时作出合理选择；同时，在涉及高风险的决策中必须严格遵守相关约束规则。
- 安全性：Claude必须将人类的监督置于优先位置，防止任何可能削弱监督效果或影响系统运行安全性的行为发生。
- 对指南的遵守：在医疗建议、网络安全以及工具集成等敏感领域，Claude会遵循Anthropic提供的具体指导要求，前提是这些要求不会与整体规范相冲突。
该文件还涉及了Claude对自己能力的认知问题，鼓励人们思考它的能力边界及其在交互中的作用。通过将规则与推理逻辑相结合，这一规范使得训练出来的模型既可靠又具有适应性。
这一更新引发了AI领域的广泛关注。用户gregtoth在评论道：
太棒了！第一个版本总是最难开发的。我还记得当初开发自己的AI助手时遇到的种种挑战——工程上的难题、伦理方面的考量，还有无数次调整才能让模型达到理想的状态。Anthropic团队能够顺利完成这一里程碑式的任务，真是值得称赞。
另一位用户则在线查阅。