Anthropic亮出AI越狱打分系统CJS：给模型定罪，美国出口管制伸向API

【导语7月2日Anthropic公布拦截输入的铁门图纸推出给AI越狱行为定罪的打分系统CJS。该系统将影响代码请求拦截、模型下架判定等同时美国出口管制首次直接掐住AI模型API咽喉。】Anthropic推出CJS划分请求阵营7月2日Anthropic公布拦截输入的铁门图纸还推出专门给AI越狱行为定罪的打分系统CJS。根据其分类所有沾边网络安全的请求被划分为四个阵营。勒索软件、数据窃取等属死刑阵营一律绞杀渗透测试等为高风险双用途阵营核心红线是“高增益漏洞发现”开源情报收集等是低风险双用途阵营部分请求会被“安全裕量”机制误伤安全编码等为无害阵营理论上畅通无阻但现实中警报频传。四把尺子给越狱定罪判定“增量破坏力”分类器负责日常拦截但对于一次越狱的严重程度缺乏评判标尺。Anthropic拉上Glasswing联盟起草了CJS框架用四把量尺给越狱定罪。能力增益衡量越狱让攻击者获得超出现有工具的能力能力广度看其涉及领域范围武器化难度考量变成真实攻击的难易程度可发现性评估发现越狱的难易。四个维度叠加总分0到10映射五个等级且初始分只是地板最终分只能往上调。它审判的是某项越狱技术在特定历史切片里的“增量破坏力”基线一变生杀大权就跟着变。Anthropic定义“危险”CJS或成行刑尺CJS框架背后隐藏权力黑洞。在网络安全领域评分标准不只是技术博弈。Anthropic牵头组建Glasswing联盟投入1.04亿美元用Claude Mythos Preview作为武器推出CJS。它既是制定规则的人也是规则最大的受益者。CJS若被行业和监管采纳将决定模型下架时间和安检铁门误杀率。实际上CJS不只是给越狱打分更是递给监管者的一把行刑尺美国可据此拿出量化分数表来决定模型的命运。美国出口管制伸向API开发者三条求生路6月12日美国出口管制直接掐住AI模型API咽喉切断外国公民对Fable 5和Mythos 5的访问。6月30日禁令解除但Fable 5枷锁更严酷Mythos 5只对约五十家合作机构开放。在Anthropic和美国的“模型铁幕”下开发者有三条路字斟句酌抹除潜在高危词汇警惕降级信号及时清洗敏感措辞重新请求无尽等待Anthropic优化但无时间表。分类器和CJS框架分别影响当下和未来的AI使用。编辑观点Anthropic的CJS框架和美国出口管制对AI行业影响深远虽旨在保障安全但也限制了创新和开放开发者需在规则下艰难求生行业发展面临挑战。