10月17日讯 警戒AI失控风险、敕令暂停前沿AI研发之后，Anthropic又有了新算作。

据最新报谈显露，日前Anthropic的代表暗里向好意思国国会议员先容了一份法案草案，该草案意在监管前沿AI安全。这也意味着，在AI发展堕入争议确当下，这家AI巨头正在选定一系列步调，试图影响事关自家期间监管的规矩制定。

Anthropic一位发言东谈主暗示，“这项法案体现了咱们在《高档东谈主工智能框架》中建议的建议。自本年6月以来，咱们一直在鼓舞联邦和州层面的立法者接纳这些建议。咱们以为这些策略合理可行，国会应当选定行动。”

笔据法案草案，只消当某个模子存在“可预念念且近在面前的风险”，可能形成跨越10亿好意思元损失，或导致50东谈主以上损失或严重受伤时，政府才不错辞谢该模子发布或使用。干系风险必须来自于生物兵器的制造或发布、模子叛逃藏发者设定的限制步调，或进行聚积抨击。法案弃取的干系措辞与加利福尼亚州的AI法律功令一致，其中包括旧年签署成为法律的SB 53法案。

值得注主义是，诚然近期以OpenAI和Anthropic为首的AI公司露馅了一系列AI安全事故，但限制当今已露馅的事件中，尚无事件形成大界限东谈主员损失或跨越10亿好意思元的损失。

此外，笔据草案，需要有孤独评估机构隆重如期评估AI实验室过火前沿模子。评估机构须在好意思国商务部注册，不错由干系实验室支付评估用度，但酬报不得与评估成果挂钩。

要是评估机构认定某家公司开发的前沿模子存在法案所列的“近在面前风险”，必须在完成评估后的72小时内向好意思国商务部敷陈。商务部在认定某个模子组成风险后，不错恳求法官辞谢该模子发布。不外，法案明确拦阻好意思国其他任何“部门、机构或官员”暂停该模子的开发、部署或里面使用。好意思国哥伦比亚特区联邦地区法院的法官则不错下令暂停该模子。

“评估机构”是Anthropic一直试图实践的一项实验。此前Anthropic CEO达里奥•阿莫迪发文敕令全行业放缓开发前沿AI时，建议的三步有缠绵中就包括移交“镶嵌式评估员”。

且公司还是付诸行动。本周五有音书称，Anthropic已向一家外部评估机构授予“职工级别访谒权限”，以评估其模子的风险。这家获取授权的评估机构名为METR，是一家非渔利组织，曾与OpenAI、Anthropic、谷歌和Meta等顶尖实验室勾搭，如今已移交团队进驻Claude模子开发团队办公室，并获取了Anthropic的硬件斥地及里面系统的使用权限。

Anthropic建议的法案还将遗弃部分州级AI法律的适用范围，这些法律触及风险信息公开露馅、第三方评估以及紧要安全事件敷陈等条件；并条件前沿AI实验室制定安全框架、针对新推出的前沿模子发布透明度敷陈、斥地举报东谈主保护机制九游会J9，并向商务部敷陈紧要安全事件。

【开端：财联社】

声明：本文版权归原作家扫数。如您发现信息开端有误或实验骚动了您的权柄，请通过邮箱与咱们商酌，咱们将在核实后实时革命或措置。商酌邮箱：zhongbobaoliao@163.com