
Anthropic PBC首席执行官Dario Amodei表示,如果新的人工智能模型带来特定风险 ,政府应有权阻止AI开发商部署这些模型 。

Amodei周三在一篇长文中主张,人工智能模型应接受第三方强制测试,以评估在多个领域的潜在风险 ,包括引发网络安全威胁和制造生物武器。如果AI被认定“构成不可接受的风险”,他写道,“政府应有权阻止或遏制其部署 ”。
随着AI技术日益先进,Amodei的言论代表了他迄今对加强AI监管的最强烈呼吁之一 。Anthropic上周还呼吁建立一种机制 ,由政府和AI开发商共同决定何时放缓相关研发工作,以防范该技术可能带来的风险。
“是时候超越透明度,对人工智能实施更严格且更具约束力的监管了 ,”Amodei写道。“我认为,至少在当前这一技术呈指数级发展的阶段,最恰当的类比是汽车、飞机或药物——这些技术对现代经济至关重要 ,但如果设计或操作不当,可能造成大量人员伤亡。”









