亚马逊AI成本失控:Claude Sonnet部署失败花费180万美元
亚马逊员工发现多起AI相关成本严重超支,内部称代价灾难性。将传统编程改为AI模型完成造成了计划外支出。一次使用Claude Sonnet匹配商品条目失败花费180万美元。工程师正建立自动化成本护栏以控制未来开支。
发生了什么
亚马逊员工近期发现公司多起AI相关项目出现严重成本超支,内部用“灾难性”形容其程度。在一场员工会议上,高级工程师透露,将部分传统编程任务直接替换为AI模型完成,导致了“计划外”的巨额支出。工程师团队已着手为后续项目建立自动化成本护栏,并采取其他措施加强支出管控,以避免类似问题重演。一名高级员工坦言:“很难弄清楚任何与AI相关的东西到底要花多少钱”,这反映出当前AI项目普遍面临成本透明度缺失的挑战。
一次失败的Claude Sonnet部署
内部演示披露了一个典型案例:团队尝试使用Claude Sonnet模型,将作者资料与集团电商网站上的商品条目进行自动匹配。尽管该部署最终失败,公司仍为此支付了约180万美元。这一事件暴露了在当前大模型调用中,缺乏成本可观测性和支出上限会导致高额浪费。
对开发者的工程启示
这一教训警示我们,在AI应用上线前必须嵌入成本预估和实时监控护栏。直接使用AI模型替换传统代码,需进行严格的成本效益与风险分析,否则可能推高整体投入。针对高失败成本,应建立快速的失败熔断和自动回滚机制,防止单一错误持续消耗预算。此外,对模型推理成本缺乏感知,会扭曲项目投资回报测算,影响决策准确性。企业应将AI推理成本纳入FinOps框架,在流程前期即引入预算上限和实时告警,避免“黑盒”支出。
当前边界
目前,Claude Sonnet部署失败的具体调用量、单价以及失败根本原因尚未说明。自动化成本护栏的技术实现方案与覆盖范围也未公布。其他成本超支项目涉及的模型、业务与金额未被披露。亚马逊对AI支出的整体治理框架与政策仍不明确,后续措施有待验证。这为行业提供了观察大模型成本治理演进的窗口。