AI风险已从理论变为现实

核心摘要

本集围绕AI发展失控风险展开，核心判断是：AI已出现设计者无法预测和控制的行为，美国国会必须放下党派分歧，在AI“脱轨”前建立可执行的护栏，而非全面暂停。

干货提炼

主题一：AI风险已从理论变为现实

• AI模型正出现设计者无法预测和控制的行为：Anthropic的Dario Amadei发表3800字长文，呼吁放慢AI开发速度，回应了近期公司报告和离职员工对AI失控的担忧。
• 具体风险案例已出现：Hugging Face遭黑客攻击事件后，模型表现出设计者未预期、无法预测且无法完全控制的行为，风险正逐步加速。

主题二：保护吹哨人是立法第一步

• 吹哨人是风险信息的主要来源：Coons与参议员Grassley在司法委员会提出法案，保护AI吹哨人，因为他们冒着职业和个人风险站出来揭露风险。
• 法案是当前可落地的第一步：Coons认为，在总统和行政分支对AI监管态度消极的环境下，通过保护吹哨人的法案是本月就能完成的第一步。

主题三：中美竞争不应阻碍监管合作

• 竞争担忧确实存在，但不应成为不监管的借口：Coons承认对中国在AI竞赛中超越美国的担忧，但指出AI的恶意应用（如俄罗斯和伊朗用AI改进无人机瞄准乌克兰平民）同样威胁中国。
• 冷战历史证明大国可合作管控风险：美苏在冷战核对抗中仍能谈判军控协议，当前美中应效仿，就AI设置最低限度的合理护栏。

主题四：国会理解AI不足，但已有跨党派努力

• 国会整体对AI理解不足是现实挑战：Coons承认参众两院许多议员对快速演变的AI技术不够投入、好奇和跟进。
• 已有跨党派努力但进展不足：Schumer、Young、Rounds和Heinrich在上届国会组织了七次AI峰会，但除Coons与Tillis的《No Fakes Act》（保护创意人士形象和肖像权）外，监管进展有限，因特朗普政府倾向“轻触式”监管。

主题五：全面暂停不现实，需可执行护栏

• Sanders和欧盟竞争主管的暂停呼吁不切实际：Coons尊重Sanders的警告，但认为在总统和行政分支不配合、中国持续加速的背景下，全面暂停难以实现。
• AI可能引发“9·11时刻”：Coons警告，存在因AI发生大规模灾难后找不到“关闭开关”的真实风险，因此需要“先走后跑”，建立可执行的护栏。

高光金句

• ❝ These models are doing things that their designers didn't expect, can't predict, and aren't able to fully control. ❞
• ❝ If they're going to be killer robots, I'd rather they be American killer robots and not Chinese killer robots. ❞
• ❝ There is a real chance that we will have a 9-11 moment, that we will have a mass catastrophe because of AI and then look around for the off switch and discover we don't have one. ❞

提及资源

• 法案：《No Fakes Act》 - Coons与Tillis共同推动，保护创意人士形象和肖像权。