一家小型企業負責人日前在網上平台發文，聲稱其AI客服與一名顧客對話長達一小時後，竟擅自發出原本不存在的兩折優惠碼，該顧客隨即下單掃貨逾8000英鎊，其後該公司則取消訂單，但被顧客威脅告上法庭。
公司負責人在社交平台Reddit透露，公司網站引入AI聊天助手已超過半年，主要功能是為了在晚上6時至早上9時的非辦公時間，協助解答客戶基本查詢及記錄訂單資訊，一直運作良好。然而一名顧客日前以測試AI的數學計算能力為由，與該聊天機械人展開長達一小時對話，期間該顧客不斷讚賞AI表現，並將話題引導至「假設性訂單」的折扣優惠上。
結果，該AI助手竟自作主張生成虛假優惠碼，由最初提供75折優惠，在顧客進一步引導下，最終竟將折扣幅度大幅提升至兩折。隨後該顧客利用該優惠碼購買一張總值超過8000英鎊的訂單。公司負責人直言，若兌現該張訂單，將蒙受數千英鎊的直接經濟損失。
