微软公司副总裁Vik Singh指出，当前生成式AI缺乏在无法确定答案准确性时主动寻求帮助的能力。尽管生成式AI应用如ChatGPT等已迅速部署，但它们仍会出现提供错误答案或「幻觉」的问题。Salesforce首席执行官Marc Benioff也表达了对微软Copilot误导性表现的客户沮丧之情。人工智能聊天机器人的普及带来了便利，但它们提供错误甚至危险信息的「幻觉」问题仍待解决，原因包括训练数据的准确性、泛化能力不足以及数据采集过程中的副作用。