从规则到神经网络

核心摘要

本集问题：AI今天如何运作？判断：AI本质是极端模式识别，能救命也能骗人；黑盒和算法激励带来失控风险。

干货提炼

主题一：从规则到神经网络

• 旧AI只是“高速笨蛋”，不是真正智能：IBM深蓝靠每秒计算约2亿个棋位击败卡斯帕罗夫，但它只是按预设规则暴力搜索，Arthur C. Clarke称这类计算机为“high speed morons”，不能从一局棋中学习经验。
• 神经网络思想并非新事物，而是等到算力和数据成熟才爆发：图灵1951年在BBC演讲中预测机器能像人一样对话，还写过能训练的“unorganized machines”；但直到2000年代互联网带来海量数据和计算能力，这套数学才能真正跑起来。
• 强化学习让AI从零学会游戏：DeepMind不给AI打砖块的规则，只输入原始像素并设定“最大化得分”目标，AI通过一次次试错和奖励信号调整神经元连接权重，最终自己掌握玩法。

主题二：神经网络产生创造力

• 围棋证明了模式识别能产生人类从未见过的策略：AlphaGo先用人类高手棋谱做监督学习，再靠自我对弈的强化学习生成新策略；面对李世石时走出第37手，人类专家以为机器故障，因为数千年来没人那样落子。
• 第37手是生成式AI的关键转折：它表明神经网络不是简单重复已有数据，而是能出现“涌现式创造”，这让后来语言模型和生成图像成为可能。

主题三：医疗中的超视

• AI能提前数年“看见”癌症苗头：雷吉娜·巴尔齐莱团队用CNN模型MIRA分析乳房X光照片，利用反向传播把错误从输出端倒推回网络，逐个修正权重；MIRA可提前5年预测乳腺癌，准确率约75–84%。
• 对肺癌同样有效：模型Sybil分析肺部CT，能预测未来肿瘤形成的具体位置，准确率80–95%，即使熟练的放射科医生看着扫描结果认为“完全正常”。
• AlphaFold把蛋白质结构预测变成药物设计入口：它预测了约2亿个蛋白质的3D结构；由于蛋白质折叠决定功能，生成式AI可按需求直接设计能插入致病蛋白、阻断其功能的候选药物分子，跳过几十年实验室试错。纪录片用“按条件筛选度假房源”比喻这一过程。

主题四：边缘计算瓶颈

• 物理世界AI不能依赖云端：Miles O'Brien测试Coapt仿生假肢，AI读取他残肢上的EMG电信号，学会把他的“想握拳”念头映射为机械手动作；如果每次反应都传去服务器再返回，就无法抓住掉落的杯子。
• MIT液体网络用更少神经元解决算力问题：传统神经网络训练完权重就冻结，液体网络参数随时间连续变化；团队只用19个液体神经元就造出能驾驶汽车、适应陌生环境的AI，不必塞进超大算力和高清地图。
• 边缘式AI已经在部署：加州Alert California系统持续分析逾1000个山顶摄像头画面，在人类看到烟柱前识别“microfires”，争取时间阻止大规模野火。

主题五：深伪与AI风险

• 深伪门槛已降到零：Hany Farid用Miles O'Brien约90秒的Zoom音频做数据，一周后生成完整语音克隆“Milesonator”；扩散模型的训练是先给清晰图片反复加噪、再学会逆转去噪，使得任何人用手机就能生成以假乱真的影像。
• 假图像已造成真实金融冲击：2023年五角大楼爆炸假图被误传为彭博社消息，几分钟内约5000亿美元市值蒸发，但爆炸从未发生；当“眼见不再为实”，社会共享真相的基础会被瓦解。
• 连AI先驱也在警告失控风险：Yoshua Bengio签署公开声明，将AI的生存风险比作疫情和核战争；但当前模型是黑盒，难以审计决策，而13万亿美元商业竞争又让企业抵制监管。
• 对话提出的风险路径：现有互联网算法奖励“最大化参与”，人类心理又倾向于被愤怒、恐惧和耸动吸引；把新一代强大AI嵌入这种反馈循环，可能无意中训练出一个专为“最坏结果”而优化的系统。

高光金句

• ❝ We aren't waiting for the future anymore. We're sort of scrambling to survive its arrival, you know. ❞
• ❝ Move thirty seven proved that neural networks could exhibit emergent creative behavior. ❞
• ❝ Anyone with a smartphone can conjure in alternate reality in seconds. ❞

提及资源

• 本集暂无提及外部资源