员工让AI写代码“误烧”1215万元！曝亚马逊用Claude干个“小活”却翻车：超预算860%，5个月后才发现

整理 | 郑丽媛出品 | CSDNIDCSDNnews过去几年科技巨头们不断向员工强调一个理念拥抱 AI才能提高生产效率。但现在一个越来越现实的问题摆在企业面前——如果 AI 用不好不仅不会省钱反而可能成为一个疯狂吞噬预算的新“黑洞”。近日亚马逊内部曝光多起 AI 项目成本失控事件。其中最夸张的一次公司用 Anthropic 的 Claude Sonnet 模型完成一项看似简单的数据匹配任务最终却产生了 180 万美元约合人民币 1215 万元账单——更离谱的是这个项目不仅失败实际成本还比原预算高出了 860%而亚马逊直到约 5 个月后才发现问题。对此一位亚马逊工程师总结道“过去微不足道的错误在 AI 时代变成了灾难性的昂贵错误。”用 AI 完成简单任务结果烧掉 180 万美元据英国《金融时报》报道亚马逊近期整理了多份内部 AI 使用报告用于分析公司在推广生成式 AI 过程中遇到的问题。其中最严重的一起事故来自一个基于 Claude Sonnet 的项目。该项目原本计划利用 AI 自动完成电商平台上的一项数据处理工作将作者信息与亚马逊网站上的商品列表进行匹配。从传统软件开发角度来看这并不是一个特别复杂的任务。但在引入 AI 后项目运行过程中出现了问题由于模型调用量不断增加加上缺乏有效的成本监控机制最终导致项目产生约 180 万美元的费用。更关键的是亚马逊并没有立即发现异常。直到问题持续了大约五个月后团队才意识到这个 AI 项目已消耗了远超预期的资源。对于这起事故一位亚马逊工程师在内部会议中表示传统系统里的错误往往很“便宜”大不了就是程序运行效率下降或浪费一些服务器资源但当团队开始将任务交给 AI 模型后这些错误可能会变得“灾难性的昂贵”。毕竟传统程序通常严格按照预设逻辑运行而 AI Agent 则拥有更强的自主能力——如果没有完善的限制机制一个简单的错误就可能导致 Agent 不断执行任务并持续消耗大量 Token。最终一个原本几分钟就能完成的小任务就会变成一张价值百万美元的账单。不止 180 万美元还有两起 AI 超支事件而 180 万美元只是亚马逊发现的问题之一内部报告还披露了另外两起 AI 成本失控案例。其中一次在开发金融审计工具时项目额外产生约 54.1万美元的意外支出——有些讽刺的是这个项目本身是为了帮公司更好地进行财务管理。另一个项目则是利用 AI 优化亚马逊物流网络以缩短配送时间但最终产生约 13.4万美元 的额外费用。这个问题同样没有被及时发现而是经过超过两周时间才暴露出来。亚马逊内部高级工程师表示这些情况并非孤立事件而是企业大规模引入 AI 后普遍面临的新挑战。不过亚马逊方面也强调这些案例只涉及少数团队并不能代表整个公司的 AI 使用情况“和任何新技术一样我们正在不断实验、学习并改进 AI 的使用方式包括探索如何提升成本效率。”亚马逊表示挑选少数团队在探索阶段出现的问题并将其描述为公司日常 AI 使用情况并不准确。毕竟作为全球最大的科技企业之一目前亚马逊拥有约 30 万名企业员工每季度营收超过 1800 亿美元这些额外 AI 支出比公司整体规模而言实属“九牛一毛”。实际上这也不是亚马逊第一次遇到 AI 工作流带来的问题。今年早些时候亚马逊云计算部门 AWS 就曾出现过由自家 AI 编程助手 Kiro 错误操作导致的问题当时 Kiro 获得了过高权限可执行类似高级工程师的操作在处理某个问题时它直接选择“删除并重建出现问题的环境”最终导致 AWS 遭遇了一次长达 13 小时的服务中断。虽然亚马逊对外把这件事归因为“人为错误”并强调 AI 只是“恰好参与其中”但后来还是进行了一些调整不再让 AI Agent 拥有与工程师相同级别的访问权限即限制AI 的操作范围。此外亚马逊还推出过一个内部排行榜用来展示员工使用 AI 开发工具的情况。原本这个排行榜希望鼓励员工多使用 AI提高工作效率后来却出现了一种被称为“tokenmaxxing”的现象——部分员工为了提高排名刻意增加 AI Token 消耗量。结果原本用于推广 AI 的机制反而推高了公司的 AI 成本最后亚马逊也关闭了这个排行榜。不仅要会用 AI还要会“管”其实亚马逊遇到的问题如今正在整个科技行业蔓延。这几年很多企业都在推动员工使用 AI希望通过更多 Token 消耗换取更高生产效率但越来越多声音也开始质疑大量使用 AI真的等于创造更多价值吗例如Uber CTO 就曾表示鼓励员工大量使用 AI并不能直接证明企业能够交付更成功的产品。与此同时随着 AI Agent 普及以及 OpenAI、Anthropic 等模型厂商调整收费方式不少企业发现 AI 成本正在快速上涨。一些公司甚至发现如果不进行严格控制原本规划一整年的 AI 预算可能几周内就被消耗殆尽。对于亚马逊、微软等拥有巨大现金流的科技巨头来说这些成本暂时还能承受。但对于大多数普通企业而言持续失控的 AI 支出显然无法长期维持。过去企业担心程序员写出 Bug未来企业可能还要担心 AI Agent 写出的“昂贵 Bug”——一旦缺少完善的控制机制AI 很可能会变成一个不断吞噬预算的“数字黑洞”。或许在 AI 时代比“会不会用 AI”更重要的问题是“能不能管好 AI”。参考链接https://www.ft.com/content/77baac40-d803-4084-94f3-a133653072cf?syn-25a6b1a61