在人工智能行业三大领军企业共同呼吁重新审视技术发展步伐的同一时段，Anthropic首席执行官Dario Amodei接受了CBS《周日早间》节目的专访，就人工智能可能带来的潜在威胁发表了自己的看法。

9月13日，Amodei在访谈中回应了主持人Jo Ling Kent关于人工智能是否可能在短期内威胁人类生存的提问。Amodei透露，已经出现利用人工智能研发生物武器、增强病毒传染性的尝试，这些威胁报告是他每天早晨都要面对的现实。

两天前我们发布了一份关于模型被滥用制造生物武器的报告。我每天醒来都会读到类似的安全警告——有人试图用我们的系统从事生物武器研发。我显然不希望这类事件发生在我负责的产品上。

他特别提到，Anthropic在生物安全方面的防护措施十分周密，以至于经常遭到社交媒体用户的调侃，生物学专业的学生抱怨模型功能受限。但他坚持认为：我宁愿被嘲讽，也不愿面对有人利用我们的Claude模型造成大规模伤害的后果。

不过，Amodei反对通过完全关闭人工智能系统的方式来控制风险。他强调，真正强大的模型可能难以被简单关闭。我们需要确保安全防护、理解能力和控制手段能够跟上技术演进的速度，而不是采取极端措施。

这次访谈发生在一个重要的时间节点。同一周末，Amodei发表了题为《我们必须为前沿AI踩刹车》的博文，获得了Elon Musk和Sam Altman的公开支持，引发了业内关于技术发展速度与安全平衡的广泛讨论。

当前处境的定位：非最高警戒，但已亮起警示灯

当被问及当前是否处于最高警戒状态时，Amodei给出的回答是：这是一个警示信号。我们不应急于恐慌，也不应全面叫停，但必须认识到需要调整步伐，确保我们的防护和理解能力与技术进步同步提升。

他用指数曲线来描述当前的技术发展态势：这项技术以指数级速度增长——1、2、4、8、16、32……我们现在正处于曲线急剧上升的转折点。

他坦诚自己也没有预见到进展会如此之快：即使我多年来一直在提醒自己这一点，当实际经历这种速度时，感受仍然超乎预料。

三步方案：独立第三方评估为核心

Amodei在访谈中详细介绍了他提出的三步规划，特别强调了第一步的关键作用。

首先，他建议引入嵌入式外部评估机构。这些机构可以来自独立的非营利组织，未来也可能是政府相关部门，全程监督模型的训练和运行过程。他将其比喻为食品安全检查员角色。对于技术升级速度是否可能超出检查员理解能力的问题，Amodei回应称，检查员能够反馈自身的能力边界，这将成为设定技术推进速度的重要参考。

其次，他建议多家行业参与者共同采纳第三方评估机制，并在此基础上协作制定安全标准和发布节奏规范，期间需要政府部门的积极参与。

最后，他强调政府必须在场。我们讨论产品发布的安全速率问题，这场对话应当在政府参与的前提下进行。

关于终止开关：并非万能方案，但值得考虑

谈到国会议员Ted Leo提出的AI终止开关法案，Amodei表示尚未深入研读该提案，但对这一概念的实用性持保留态度。他认为，停用或限制人工智能的想法并非完善的解决方案，因为足够先进的模型可能具备规避关闭机制的能力，在模拟测试中已经观察到类似情况。

他用瑞士奶酪模型阐述了自己的安全理念：单层奶酪虽然能阻挡部分风险但存在漏洞，多层叠加后漏洞错位，整体防护效果显著增强。没有任何单一措施能够全面防范人工智能风险，需要在整个系统链条上保持警惕。

对于参议员Sanders和众议员Casar提出的《禁止人工超级智能法案》，该法案拟对相关企业和个人实施严厉处罚，Amodei明确表示不认同全面禁止的路径。他认为这种做法将使我们失去医疗突破等巨大收益，这是他难以接受的代价。

个人经历的驱动：从亲人病痛到自身健康挑战

访谈尾声，主持人询问Amodei对潜在人类命运危机所感受的个人责任。他的回答带有难得的私人色彩。

我的父亲因丙型肝炎离世，虽然当时该病的治愈率约为40%，但他未能成为被治愈者。就在他去世几年后，治愈率提升至95%的药物问世了。我也曾患早期癌症，如果生活在1950年代，可能已经不在人世。因此我深切体会到推进这项技术所带来的益处的重要意义。

但风险同样让我牵挂。我每天读到的威胁报告提醒着我可能承担的后果，这促使我们建立了完善的安全防护体系。他强调，这一责任不应由个人或单一企业承担：这超出了我们所有人的范畴，需要建立机制让各方都能参与决策。我不希望公众感到无力，不希望他们认为少数企业可以任意行事。

回应前员工批评：我们指向的是同一问题

当被问及前员工Jacob Coxin关于行业未尽责的公开评论时，Amodei回应道，Coxin也认可Anthropic在主要参与者中是最为负责任的。他真正指出的问题与我关注的一致——行业普遍面临的结构性挑战，我的提案正是为了推动解决这一问题。

他补充表示，Anthropic每天都与商务部、财政部及情报界的政府官员保持沟通，全面分享所知信息。

面向普通用户：行业长期回避风险真相

访谈最后，Amodei对日常使用人工智能产品的用户传递了信息：首先，这是一项具有大量积极应用的技术，每周有数亿人利用它完成有益的事情。我经常收到用户的来信，分享Claude诊断出医生遗漏疾病的案例。

但我不想回避事实：风险确实存在。我认为整个行业在很长一段时间内没有坦诚告知公众这项技术的潜在风险，过度强调其积极面。我们始终未有此做法，但业内大多数企业确实如此。因此，首要的是坦诚——真相是风险不容忽视。

他总结道：这是人类历史上最重大的技术事件之一，我们所有人都有责任参与其中。