前OpenAI研究员警告AI或于本十年结束前致人类覆灭，英伟达被曝与Anthropic洽谈百亿美元投资

9月9日，曾在OpenAI和Anthropic从事前沿模型预训练研究的雅各布·考克森宣布离开Anthropic。他警告，人工智能在本十年结束前有可能使人类全体覆灭，两家公司的先进模型竞争是在拿全人类命运作赌注。

OpenAI宣布，Paul Christiano将加入其非营利基金会董事会和安全委员会。他警告，如果构建超级智能时缺乏更完善的协调机制，预计将永久失去对它的控制。

9月3日发布的GPT-6 Astra在计算机操作、软件工程、科学研究等领域的能力继续提升，并首次触及OpenAI定义的“关键网络安全能力”门槛。OpenAI首席科学家Jakub Pachocki发文指出，未来系统可能更频繁地介入AI自身研发。

OpenAI据称正在考虑放慢前沿AI研发节奏。萨姆·奥尔特曼有意联合几家同行一起行动，但也坦言未必所有实验室都愿意跟进。OpenAI此前表示，出于安全考虑已放慢部分模型研发，并暂停了某些内部AI训练。

“AI对齐”概念提出者内特·苏雷斯表示，当前是管控AI风险的短暂黄金窗口，超级智能可能在2027年出现。他还认为，对前沿AI实施监管可能比监管核武器更容易。

多家外媒披露，英伟达正与Anthropic洽谈一笔规模高达100亿美元的投资，目标直指后者备受关注的IPO项目。若交易落地，这将是英伟达迄今对单一模型公司金额最高的投资。

Anthropic对齐科学负责人Evan Hubinger公开支持这一担忧。他判断，未来10年内AI导致人类灭绝的概率超过10%，且Anthropic目前仍没有解决超级智能对齐问题的方案，也未明确处于解决轨道上。

市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。