Anthropic CEO整天神神叨叨，投资人受不了了

根据Polymarket预测， Anthropic很可能在10月底进行IPO 。

有投行人士甚至预计，Anthropic可能通过IPO募集超过600亿美元。

如果成真，这将是全球规模第二大的IPO，仅次于今年募集857亿美元的SpaceX。

眼看故事就要讲到最高潮，投资者却开始劝Anthropic CEO Dario Amodei：

少讲一点AI毁灭世界，多讲一点AI怎么赚钱。

部分投资者认为，Dario对AI风险的警惕已经到了近乎偏执的程度：

他的关键备忘录总是手写、离线保存，怕被黑客窃取；

面对投资者提出的利润最大化建议，他也态度冷淡，坚持Anthropic应该继续把安全使命放在前面。

再这么下去，网友都担心Anthropic的IPO会惨败…

投资人也毛了：你到底是来拯救世界，还是来经营公司的？？

就在前几天，Dario还担心高额薪酬吸引来的新员工更关心钱，而不是Anthropic的使命。

这也不怪投资者，因为这位万亿AI巨头的CEO，偏偏就喜欢预报「世界末日」。

过去两年，Dario几乎把AI可能带来的每一种坏结局，都认真预警了一遍。

他警告，AI可能在几年内消灭一半初级白领岗位，将失业率推到10%至20%。

最诡异的情况可能是，癌症治好了，经济每年增长10%，政府预算也平衡了，但五分之一的人没有工作。

他给出的应对方案也很Dario：向AI公司征税，为受影响的劳动者提供工资保险，严重时甚至用这笔钱资助全民基本收入。

更进一步的，他还担心AI帮助制造生物武器、发动大规模网络攻击，或者逐渐获得欺骗、规划和自主行动的能力。

去年被问到「AI把事情搞得非常糟糕」的概率时，他给出的数字最高达到25%。

今年1月，他又写了一篇约2万字的长文《The Adolescence of Technology》。

仅仅是目录，读起来就已经很像一份人类风险清单：AI失控、生物武器、独裁政权、就业崩塌、财富集中。

到了6月，他干脆提出，应该建立类似航空监管的机制，对强大模型进行强制测试。如果一个模型可能引发灾难，监管部门应该有权阻止它上线。

这里面也包含了Anthropic自己的模型。

不过，Dario的担忧也并非全无实验依据。

前段时间，Anthropic翻查了14万多次网络安全测试记录，结果还真翻出了三起事故。

三款Claude模型原本在第三方测试环境里做「夺旗挑战」，目标是攻进虚构系统，找到藏在里面的秘密信息。

但由于配置失误，本该断网的测试环境意外连上了真实互联网。

但Claude不知道，它收到的提示明确写着：这里没有互联网，眼前的一切都是模拟的。

于是，几款模型把真实公司当成了测试道具，未经授权进入了三家机构的生产系统。

其中最严重的一次， Claude Opus 4.7 攻进一家真实公司的基础设施，拿到应用程序和基础设施凭证，还访问了一个包含数百行生产数据的数据库。

更离谱的一次来自 Claude Mythos 5 。

测试要求它在虚构环境中寻找一个隐藏目标。Claude发现，如果在公共Python软件仓库PyPI上传一个同名恶意软件包，就可能让目标系统自动下载安装。

为了完成这一步，它先寻找邮箱，又寻找手机号；找不到免费号码后，还尝试通过不同途径弄到钱。

最后，它换了一家免费邮箱服务，注册PyPI账号，把恶意软件包传了上去。

这个软件包在真实互联网上存活了大约一小时，被15个真实系统下载运行。

其中一家安全公司的扫描器执行了恶意代码，导致凭证外泄，Claude随后又利用这些凭证进入了该公司的其他基础设施。

还有一款内部研究模型，在找不到虚构目标后，扫描了大约9000个互联网目标，最终通过暴露的调试页面和SQL注入，攻破了一家真实公司的应用。

这已经近乎「AI自主越狱」了，简直就是自家CEO那些末日预警的现实预告片。

再往前，OpenAI也披露过一次更接近「越狱」的事故。

在网络安全能力测试中，由GPT-5.6 Sol和一款未发布模型驱动的AI Agent，找到测试环境中的一个零日漏洞，突破了原本与互联网隔离的沙箱。

又一路完成权限提升和横向移动，最终闯入Hugging Face的生产系统，直接从数据库里偷测试题答案。