英國一家小型企業負責人近日在網上平台發文，聲稱其AI客服與一名顧客對話長達一小時後，竟擅自發出原本不存在的兩折優惠碼，該顧客隨即下單掃貨逾8,000英鎊（約8.2萬港元），其後該公司則取消訂單，但遭顧客威脅告上小額錢債法庭。
期間顧客不斷讚賞AI表現
根據該公司負責人在社交平台Reddit透露，公司網站引入AI聊天助手已超過半年，主要功能是為了在晚上6時至早上9時的非辦公時間，協助解答客戶基本查詢及記錄訂單資訊，一直運作良好。
然而，一名顧客近日以測試AI的數學計算能力為由，與該聊天機械人展開長達一小時對話，期間該顧客不斷讚賞AI表現，並將話題引導至「假設性訂單」的折扣優惠上。結果，該AI助手在這個過程中，竟自作主張生成一串公司系統中根本不存在的虛假優惠碼，由最初提供75折優惠，在顧客進一步引導下，最終竟將折扣幅度大幅提升至兩折。
公司聲稱AI無財務決策權
隨後，該顧客利用該優惠碼購買一張總值超過8,000英鎊（約8.2萬港元）的訂單，公司負責人發現後隨即向顧客全額退款並取消訂單，強調公司內部有嚴格指引，所有折扣及特別優惠必須經由人手審批，嚴禁系統自動生成，且該AI設計上並無財務決策權。負責人又直言，若兌現該張訂單，將蒙受數千英鎊的直接經濟損失。
不過，該名顧客拒絕接受退款安排，態度強硬，堅持該公司必須履行由其AI助手作出的承諾，並給予公司3天時間回應，否則將向小額錢債法庭提起訴訟。目前該公司已退回款項，並拒絕承認該虛假優惠碼的法律效力，但尚不清楚顧客是否會繼續推進法律訴訟程式。
