毫无疑问，ChatGPT、BingChat 和 Google Bard 等生成式 AI 模型带来了巨大的效率。但与此同时，对准确性、网络安全和隐私的担忧也正在出现。
首先，生成式人工智能模型，尤其是像ChatGPT这样的程序，编造不存在的事实和重复谎言的问题已经众所周知。这些也被称为“幻觉”。但更令人担忧的是，没有人理解这些谎言为何或如何发生。
谷歌首席执行官桑达尔皮查伊 (Sundar Pichai) 在哥伦比亚
播公司 (CBS) 采访 瑞典 WhatsApp 号码数据 节目《60 分钟》中表示，“有一种现象被业内人士称为‘黑匣子’。这不是一个完全理解的问题。“没有人知道为什么生成式人工智能会这样撒谎。” OpenAI 为 ChatGPT 和各种生成模型奠定了基础，但没有透露模型训练方法的细节，进一步加剧了混乱。
尽管生成式人工智能反复撒谎，但公司正在将生成式人工智能模型融入到几乎所有任务中。没有人知道是什么原因导致了这种现象，而且似乎也没有任何立即解决该问题的方法。这不可能是一个非常严重的问题。
考虑一项平凡的任务 例如总结一份长文档 如果您不
能相信此摘要的准 EK 线索 确性，那么它有什么用呢？这项工作本身值得吗？这同样适用于使用生成式人工智能进行编码。搭载ChatGPT设计系统的电动汽车真的可以放心乘坐吗？如果你有“幻觉”认为拥挤的道路是空的，会发生什么？如果这种情况发生在飞机导航系统、智能除颤器、药品或早餐麦片的制造过程中怎么办。
