AI 安全担忧加剧，三位先驱为何力主开放？

在近日的 Ai4 大会上Geoffrey Hinton、李飞飞和吴恩达三位 AI 先驱就 AI 安全与开放的平衡展开辩论。面对快速升级的风险担忧他们分别从风险治理、社会信任和产业创新角度阐述了开放生态的必要性。一、辛顿风险越大越需要开放协作作为 2018 年图灵奖得主杰弗里·辛顿Geoffrey Hinton是深度学习革命的奠基人之一。2023 年他因担心 AI 的潜在风险而离开谷歌并多次公开表示AI 可能威胁人类生存。然而在本场辩论中辛顿明确反对闭关自守的应对方式。他认为将模型和研究完全封闭不仅无法消除风险反而会让问题被掩盖导致安全机制滞后于技术进展。“我们需要的不是把实验室锁起来而是让更多研究者拥有测试和防御的工具。”在他看来AI 风险是全球性挑战任何单一组织或国家都无法独自应对。开放研究能够让更广泛的群体参与模型审计也能加速安全技术的突破。二、李飞飞开源是建立信任的必由之路李飞飞是斯坦福大学终身教授被誉为ImageNet 之父也是以人为本的人工智能理念的重要推动者。她指出AI 技术正在深刻影响公共决策、医疗健康等敏感领域如果这些系统不透明公众无法信任监管也无从下手。开源可以让模型参数、训练数据和评估方法接受独立检验进而推动负责任的 AI 发展。“开放不是为了免费获取代码而是为了让技术面对公众问责。”三、吴恩达监管不能成为封闭的借口作为 Coursera 和 DeepLearning.AI 创始人吴恩达始终对过度监管保持警惕。他在发言中强调AI 风险更多地体现在应用环节而非基础模型。许多大模型的开源版本已经被广泛使用它们并没有造成人们想象中的灾难反而让更多创业者能够参与创新。“将模型技术转让给开源社区不是安全风险而是竞争力。”面对中国在 AI 领域的快速进步吴恩达认为美国不应通过技术封锁来维持优势而应通过更健康的创新生态来保持领先。四、编者按开放是安全命题的另一种解法三位专家的立场也许并不完全一致辛顿更强调风险治理李飞飞聚焦社会信任吴恩达则关注产业活力。但在开放这一点上他们获得了罕见共识。在一些媒体和政策讨论中安全往往与限制画上等号但先驱们提醒我们封闭本身也可能是一种危险的短视。这场讨论发生在一个特殊的时代背景下。中国 AI 产业在模型能力和应用场景上不断突破美国则持续收紧出口管制。当开放与竞争发生碰撞它已然超出技术范畴成为一种战略选择。而三位专家的观点或许是在提醒任何以安全为由的孤立都可能削弱长期创新能力进而在全球竞赛中被边缘化。“安全不是一堵墙而是一座桥。”——李飞飞本文首发于赢政天下 (https://www.winzheng.com)获取更多深度技术内容与资源欢迎访问官网。