英国一家小企业陷入财务和法律纠纷，缘故是其人工智能聊天助手给一位顾客承诺了一笔大订单的80%折扣。

企业老板称顾客花了大约壹个小时和AI助手聊天，期间测试了该助手的数学计算能力，并把话题逐渐引给假设订单的折扣难题。这位顾客对机器人的能力表示赞赏。之后该AI助手做出了让全部人都没想到的事，原本只需在职业时刻之外回答客户难题的它竟然"自作主张"生成了壹个不存在的优惠码，先是提供25%的折扣，随后又将折扣进步到80%。

收到这个“天下掉下的馅饼”后该用户欣喜若狂，立刻下单了超过8000英镑（约合人民币7.2万元）的订单。老板表示如果兑现该订单，企业将蒙受数千英镑的损失。该企业试图关掉这笔订单，但顾客称，如果企业不履行机器人给出的承诺，他将给小额索赔法庭提起诉讼。

这位老板表示，聊天AI已经成功运行了6个多月，从未出现过任何意外，而且无权做出财务决策。全部折扣和特别优惠都必须手动批准，不能自动生成。最终，该订单全部退款给顾客，该企业回绝承认虚假的优惠码有效。