不断有消息透露，ChatGPT 和 AI 聊天机器人带来的风险与其带来的好处一样多。世界开始担心未来，同时考虑人工智能聊天机器人带来的风险。

近日，英国国家网络安全中心（NCSC）就人工智能对国家安全构成的威胁发出警告。不久之后，美国国家安全局（NSA）网络安全负责人罗布·乔伊斯（Rob Joyce）也发出了类似的警告。许多国家都严重关注人工智能将带来的挑战和威胁。NCSC 指出，鉴于查询已存档，与 AI 聊天机器人交互的内容可以成为 ChatGPT 等 AI 聊天机器人基础的大规模语言模型 (LLM) 的一部分。这些查询不仅可以揭示用户的兴趣，还可以揭示用户所属的组织。Joyce 认为，像 ChatGPT 这样的聊天机器人可以提高网络犯罪分子的犯罪能力，特别是因为它们可以改进网络钓鱼中使用的冗长和尴尬的短语，使其看起来更加真实和可信。

 

盖蒂图片银行 通过查询泄露机密

无独有偶，就在三星电子半 新加坡 WhatsApp 号码数据 导体部门批准使用ChatGPT的20天后，就发生了信息泄露事件，三星警告称，机密信息可能会通过使用ChatGPT而暴露给不特定数量的人。工程师利用ChatGPT▲检查源代码错误，▲优化用于识别缺陷设备的代码，▲根据录音笔录创建会议纪要，在这个过程中，公司敏感信息实际上被交给了第三方，给公司造成了损失. 失控了。目前，三星正在考虑开发自己的AI服务，以从根本上防止ChatGPT机密信息的泄露。

CODE42 的 CISO Jadie Hanson 在评论三星事件时表

示：“虽然这是一项很有前 EK 线索 途的技术，但 ChatGPT 的爆炸性使用引发了人们对潜在风险的担忧。“当公司向 ChatGPT 提供数据时，这种风险会变得更大。” “ChatGPT 和人工智能工具非常强大和有用，但员工需要知道哪些数据适合和不适合进入 ChatGPT，安全团队需要对公司发送到 ChatGPT 的数据有足够的可见性。“随着强大的新技术的发展，我们必须了解随之而来的风险，以保护我们的业务，”他补充道。