正在加载模式…
⚖️
Constitutional AI 评估框架(CAI-Eval)
Anthropic 通过章程原则评估 AI 安全性的框架，包括越狱抵抗测试和无害性评估。
复杂度: high评估与监控
30秒速览
- 是什么
- 借助分类器和红队对手，依据一组明确的原则测试 AI 输出，用以衡量越狱抵抗力和有害行为。
- 何时使用
- 在构建安全攸关的系统时，若你需要对抗性提示抵抗力的量化证据和可度量的无害性评分。
- 注意
- 红队测试成本高、耗时长；其结果未必能迁移到你的具体部署环境或全新的攻击方式上。
向AI专家咨询此模式
打开助手并预填您的问题,发送前可先确认。
Constitutional AI 评估框架: 概览
Anthropic 通过章程原则评估 AI 安全性的框架，包括越狱抵抗测试和无害性评估。
- Constitutional principle adherence testing
- Jailbreak resistance evaluation (95%+ success rate)
- Red team adversarial assessment
- Harmlessness from AI feedback
- Constitutional classifiers validation
- 3000+ hours of red team testing
获取智能体评估实战指南
25 种智能体评估方法浓缩成一份指南：每个基准测量什么、公开分数何时具有误导性、如何用自己的失败构建评估。链接随确认邮件送达，并附每周的 The Agent Architect。
每周一封邮件,一键退订。您的地址仅用于发送简报。
参考资料
该模式所依据的论文、规范和代码仓库。
- Constitutional AI: Harmlessness from AI Feedback - Anthropic (2022)
- Constitutional Classifiers: Defending against universal jailbreaks - Anthropic (2025)
- Progress from our Frontier Red Team - Anthropic (2024)
由本目录背后的工程师执行
看看你的评测漏掉了什么
评测智能体比做出来更难，多数测试套件一路全绿，线上却在悄悄漂移。我们从头到尾检查你的评测体系：现在测到了什么、还有什么看不见，以及当前套件会放过哪些回归。
€750（原价 €1,500），一周交付，书面报告加讲解通话，9月30日前