刺猬投研
logo

刺猬投研

CIWEI AI

看板Dashboard工作台Workbench发现Discover
登录 / 注册
请先登录/注册
  1. 首页
  2. 市场快讯
  3. Anthropic警告:AI可能很快进入自我加速阶段,等人类察觉或为时已晚

Anthropic警告:AI可能很快进入自我加速阶段,等人类察觉或为时已晚

金融界2026-11-03 11:58

Anthropic在11月2日更新的IPO招股书中警告,AI可能很快跨过“递归自我改进”(RSI)相关的关键门槛,让AI研发速度大幅加快。过去也出现过未能及时察觉研发进步显著加速,直到加速发生后才发现的情况。目前,Claude已经参与编写代码、运行实验和处理训练数据,帮助开发更强的下一代模型。新模型又能反过来加快后续研发,形成不断提速的循环。 按照Anthropic的安全政策,触及这道关键门槛有两种情况: 1、AI能以相近成本完成整个AI研究团队的工作; 2、或者让AI技术进步速度至少翻倍,把原本需要两年取得的进步压缩到一年。 随着AI越来越深入自身研发,模型能力可能增长得比安全评测、对齐研究和防护措施的更新还快。Anthropic目前尚未认定任何现有模型达到这一水平,此次预警主要基于内部估算和对未来模型的预测。目前正考虑修改安全政策,确保关键研发过程仍由人类监督和控制。

相关资讯

  • 卡塔尔代表团抵伊朗磋商两小时2026-11-21 22:47
  • 金沙江上游装机规模最大水电站正式开工2026-11-21 22:43
  • 亚投行将在香港设立办公室2026-11-21 22:30
  • 伊朗称击中一架F-16战机2026-11-21 21:49
  • 紫金矿业:今日首次回购A股股份441.2万股耗资1亿元 回购价格区间22.58元/股-22.82元/股2026-11-20 17:12
  • 吉林敖东:拟1亿元至2亿元回购股份用于注销并减少注册资本2026-11-20 17:11

本站所有资讯是用户利用其本地Agent获取并分享,均为公开信息,如需删除请联系我们。

关于刺猬投研·用户协议·隐私保护·官方网站·浙ICP备2026017067号-1

© 2026 刺猬投研 CIWEI AI. All rights reserved.