Kinney Drugs 匯入 AI 處方重填助手「Burt」引發混亂，AmLaw
為何重要
這是醫療保健領域 AI 負面落地的典型案例，凸顯技術匯入若缺乏降級機制與隱私保護，難免損害前線人員負擔與使用者信任。對於司法管轄區而言，科技速度超越法規的速度將迫使企業在青黃不接中承擔違規風險。此事件警示開發者與投資人，在未來推廣自動化客服或健康資料應用時，需將「合規成本」與「使用者體驗平權」視為核心評估值。
Kinney Drugs（佛蒙特州與紐約州連鎖藥局）於 5 月匯入由 Synerio 開發的 AI 虛擬助手「Burt」以處理處方重填，聲稱提升效率，但卻因功能缺陷、隱私政策揭露與監管滯後引發客戶強烈反彈。
- AI 工具「Burt」頻繁致電患者要求重填，常因發音不清導致藥名不明確，甚至出現「聽到聲音就誤以為缺藥並重填」的情況，部分患者事實上擁有四瓶藥。
- 相較於操作順暢的舊系統，新系統要求必須與 Burt 互動且無鍵盤選單，導致無法接聽的患者無法完成業務，也被批評浪費時間。
- 隱私政策揭露健康資訊將被用於 AI 運作及第三方 Synerio，被批評「醫療隱私形同虛設」，多位客戶轉介紹需求或移轉處方至其他醫療機構。
- 佛蒙特州新法 S.71 預計兩年後生效，學者與律師指出 AI 發展速度已超越法律制約，現行法律難以保障消費者權益。