Kinney Drugs 下线 AI 助手 Burt 处方处理错误

连锁药房 Kinney Drugs 近期紧急下线了 AI 助手 Burt。根据已确认信息，该系统在处理处方药时出现语音混乱和药剂数量错误，并收到数以百计的客户投诉。药房随后退回“按 1 续药、按 2 咨询”的按键音频电话系统。

官方强调 Burt 符合隐私标准，但没有披露具体依据、认证或审计证据；技术供应商、所用模型、训练数据和部署架构也未说明。因此目前只能确认下线动作及其触发原因，无法判断隐私合规声明的具体含义。

事件暴露了 LLM 输出非确定性与医疗刚性流程之间的冲突。药品名称、剂量、数量等关键字段如果直接由模型生成，一旦出现偏差会直接影响患者安全。工程上应给这些字段增加规则校验或人工确认步骤，不能把处方结果完全交给对话模型。

对语音助手来说，低容错行业需要明确的人工接管和回退机制。用户在处方流程中因语音错误无法继续时，应能快速转接人工或回到可靠的按键流程，而不是被困在自动化对话里。相关评论认为，部分企业引入 LLM 更像是用沟通损耗构筑“数字墙”，抑制用户寻找人工服务，这并不等同于体验提升。

更稳妥的做法是把 AI 限制在受控、可审计的专用流程中，并持续监控错误日志和投诉。药房这类领域若缺乏领域专家深度介入，AI 实现可能只是在脆弱业务逻辑外增加一层不确定伪装。此次回退也说明，在没有闭环校验前，通用对话能力并不等于可用的业务能力。

目前尚不清楚下线是临时回退还是永久停用，也不清楚受影响的门店范围、用户数量以及后续修复或替代方案。官方未披露这些信息，因此还不能评估事件的完整影响。