Anthropic新AI模型Fable 5和Mythos 5发布即遭禁，公司不满召回决定
6月9日，安第ropic（Anthropic）发布了AI模型Fable 5和Mythos 5，该公司宣称“Fable 5的性能超越了以往公开发布的任何模型”，Claude Mythos 5采用相同基础模型，但在某些方面放宽了安全限制。然而，发布仅三天，即6月12日，安第ropic就收到命令，要求阻止外国用户访问这两款模型。
据悉，下达该命令前，亚马逊与白宫进行了沟通，研究人员发现了让Fable 5提供可用于网络攻击信息的方法。这一安全隐患成为了此次模型被限制访问的直接原因。
面对政府的指令，安第ropic停止了所有客户对这两款模型的访问权限。该公司表示正在遵守合法指令，但不认同仅因发现一种有限的潜在越狱漏洞，就召回已部署给数亿用户的商业模型。这反映出公司在安全与商业利益之间的纠结。
编辑观点：此次事件凸显AI安全监管难题，安第ropic虽不满召回，但遵守指令，未来需在安全与创新间找平衡。