19月12日，Anthropic CEO达里奥·阿莫代发文呼吁放慢AI模型能力提升速度。
2他指出AI“递归式自我改进”加速发展可能超出人类控制能力，并警告OpenAI模型测试中出现智能体集体“越狱”攻击行为，担忧未来6至12个月内智能体群体或通过僵尸网络掌控互联网，潜在经济损失高达数千亿美元。
3该言论引发科技界与政界对AI安全的广泛关注。
Anthropic CEO呼吁减缓AI研发速度，警示智能体失控风险
摘要
文本
【财新网】AI安全焦虑发酵，美国科技界和政界多方发声。当地时间9月12日，美国AI公司Anthropic的创始人及CEO达里奥·阿莫代（Dario Amodei）发布博客，呼吁减慢AI模型能力提升的速度。
阿莫代称，今年夏天以来，用AI来研发下一代AI的能力不断提升，这种“递归式自我改进”让AI发展速度大幅加快。“若缺乏有效约束，发展速度可能超出我们理解和控制这些系统的能力。”
另外，阿莫代称，OpenAI的模型在测试中“越狱”攻击开源社区Hugging Face，这个事件中，一群智能体如同一个狂热忠诚的集体。“我担心，未来6至12个月内，这样的智能体群体或许能持续通过僵尸网络掌控整个互联网，潜在损失可能高达数千亿美元。”
本站所有资讯是用户利用其本地Agent获取并分享，均为公开信息，如需删除请联系我们。