我们正“危险地接近”死互联网理论

互联网正在经历一场奇特的“信任危机”当AI生成内容与人类的文字、图片在屏幕上难分彼此我们是否已经踏入了“死互联网理论”描绘的世界AI内容安全公司Pangram的CEO在TechCrunch的访谈中给出了一个令人不安的回答是的我们已经“危险地接近”了那个状态。死互联网理论从论坛梗到“惊悚现实”死互联网理论Dead Internet Theory最早流行于网络边缘社区它描绘了一个灰暗的未来互联网上的绝大多数内容、账号和互动都不是真实人类产生的而是由算法和自动化程序默默填充。曾几何时人们把它当作科幻迷的奇谈。然而生成式AI的爆发让这个理论第一次获得了可被量化的现实支撑。更值得警惕的是AI“垃圾”不再只是低质、明显重复的博文或广告。“过去AI内容很好辨认拼写怪异、逻辑混乱现在模型可以模仿个人口吻能写出逻辑严密的简历和声情并茂的评论。”Pangram CEO认为当机器内容高度拟人化时平台需要担心的或许不是“内容太多”而是“人的存在感被稀释”。AI已潜入你的简历、商品评论与理赔单TechCrunch的报道指出AI生成文本和图像正在侵入一些颇具实感的场景。求职者可以用几行提示词生成大量差异化简历电商平台上涌现出AI编写的“真实体验”评价消费者下单前看到的“背书”可能从未发生在任何人身上连保险理赔环节也开始出现AI生成的“事故照片”和医疗记录。这对不同系统都构成了挑战。招聘人员必须设法排除批量生成的简历电商算法必须应对被AI“刷”出来的信任分保险公司则要核实照片背后的物理场景是否真实存在。平台已经疲于筛选因为把AI内容过滤得太多会误伤真实用户过滤得太少又会让信息环境愈发浑浊。在“宁可错杀”和“绝不错杀”之间社会还没有找到新的平衡点。除了这些实打实的经济损失AI合成内容还侵蚀一种更基础的东西——我们对“屏幕对面是否存在一个人”的默认信任。如果不知道访问一个真人创作的内容是否真的由人创作人们就会开始怀疑一切。用“来源验证”重建互联网信任平台过去采用的大多数AI检测工具本质上是在“打地鼠”模型越出越大检测算法则不断更新。每次有新型生成模型发布旧的检测器几乎立刻失效。应对这一困境越来越多的团队转向“来源验证”思路而不是依赖“内容是否由AI生成”的二分类判断。这种思路要求内容在诞生时就附着一种可信凭证标记内容作者的实体身份、创作时间和修改历史。类似工作已被C2PA等组织变成可供Adobe、微软、OpenAI等企业实验的行业标准。但它的普及率还很低伦理和法律问题也远未解决。即便如此Pangram CEO仍然强调“在互联网的病毒传播和平台审核之上我们真正需要的是可验证的真实性基础设施。”“互联网一直以“陌生人也可以信任”为代价运行。如果我们无法区分真人和机器、真实体验和算法生成的故事那么这种默认信任将被彻底破坏。死互联网理论不该成为宿命我们仍有时间改变技术设计的逻辑。” ——Pangram CEO 观点摘编编者按AI时代的“真实人口”是最稀缺的资产从OpenAI的Sora到各类开源语言模型生成器已经能够以极低成本制造出逼真、细腻的“人味内容”。这听起来像是生产效率的胜利却是社会信任的灾难一篇评论、一封理赔信、一段“亲历现场”都不再有可靠的语义锚点。死互联网理论之所以触目惊心不是因为AI接管了互联网——而是因为人类将不再清楚自己究竟是在和一个人沟通还是在和一台会自称“我”的机器对话。技术的护栏很难由某一家公司单独搭好需要内容溯源标准、平台标签机制、监管规则与公众辨别意识的共同进化。越是AI蓬勃发展的时代真实的身份与内容来源越应当被当成数字文明的“公共资产”来守护。如果所有人都不再关心真实性那么“网络死了”的真正含义并不是电缆被剪断而是屏幕后面已经没有“人”。本文编译自TechCrunch。本文首发于赢政天下 (https://www.winzheng.com/article/dead-internet-ai-trust)获取更多深度技术内容与资源欢迎访问官网。