ChatGPT 粉丝需要采取“防御心态”，因为诈骗者已经开始使用多种方法来诱骗 bot 的用户下载恶意软件或共享敏感信息。
Unit 42（Palo Alto Networks 的威胁情报部门）的研究人员本周发布了一份报告，发现在 2022 年 11 月至 2023 年 4 月期间，与 ChatGPT 相关的域名增加了 910%。
在同一时期，研究人员从 DNS 安全日志中发现相关抢注域名增长了 17,818%，并且每天检测到“多达”118 个与 ChatGPT 相关的恶意 URL。
研究人员断言，这些激增表明诈骗者想要将 ChatGPT 用户引诱到看似相关的网站和旨在造成伤害的虚假聊天机器人。
“随着 OpenAI 于 2023 年 3 月 1 日发布其用于 ChatGPT 的官方 API，我们看到越来越多的可疑产品使用它，”Unit 42 研究人员 Peng Peng、Zhanhao Chen 和 Lucas Hu 在报告中写道。
“在进行我们的研究时，我们观察到多个试图冒充 OpenAI 官方网站的网络钓鱼 URL。通常，诈骗者会创建一个与 ChatGPT 官方网站外观非常相似的虚假网站，然后诱骗用户下载恶意软件或共享敏感信息。”
“此外，诈骗者可能会使用与 ChatGPT 相关的社会工程进行身份盗用或金融欺诈，”帕洛阿尔托的研究人员写道。“尽管 OpenAI 为用户提供了免费版的 ChatGPT，但诈骗者将受害者引向欺诈网站，声称他们需要为这些服务付费。”
提到的一个网站旨在诱使受害者提供信用卡详细信息和电子邮件地址等机密信息。另一个使用 OpenAI 的标志和 Elon Musk 的名字和形象来引诱受害者参与加密货币欺诈计划。
该报告还详细说明了不法分子注册和使用域名中带有“openai”和“chatgpt”的抢注域名的多个实例，其中包括 openai.us 和 chatgpt.jobs。
截至本月早些时候，这些域没有任何恶意内容，但鉴于它们不受 OpenAI 或真正的域管理公司的控制，它们很可能在未来被滥用。
自去年 11 月以来，此类抢注域名注册的增长一直稳定，但在OpenAI 的主要投资者微软于 2 月 7 日宣布了一个版本的Bing搜索引擎与 ChatGPT。
此后不久，注册了 300 多个与 ChatGPT 相关的域。在 OpenAI 发布 ChatGPT API 和 GPT-4 的那几天，DNS 安全日志中的 ChatGPT 抢注域名数量急剧上升。
使用 ChatGPT 进行网络钓鱼
- 前 Pharma Bro 接下来做什么？如果它是 Shkreli，它就是一个 AI 博士机器人
- 网络犯罪分子越过地理围栏，要求窃取 ChatGPT Plus 帐户
- 美国网络负责人警告人工智能将帮助骗子，中国更快地发展更恶劣的网络攻击
- 欧洲刑警组织警告 ChatGPT 已经在帮助人们犯罪
还有越来越多的山寨 AI 聊天机器人，其中一些拥有自己的大型语言模型，另一些则声称通过 OpenAI 的公共 API 提供 ChatGPT 服务。研究人员警告说，这些聊天机器人可能存在安全风险，尤其是在 ChatGPT不可用的国家。
“在 ChatGPT API 发布之前，有几个开源项目允许用户通过各种自动化工具连接到 ChatGPT，”他们写道，并指出在这些国家，“使用这些自动化工具或 API 创建的网站可以吸引相当多的用户来自这些地区。”
大多数山寨机器人都没有 ChatGPT 强大，因为它们基于 2022 年 6 月发布的 GPT-3。ChatGPT 基于 GPT-3.5 和 GPT-4。此外，山寨服务是威胁组织通过收集和窃取用户提供给他们的信息从 ChatGPT-curious 赚钱的另一种方式。
在一个案例中，研究人员从山寨聊天机器人下载了一个“AI ChatGPT”扩展，发现它在调用 Facebook Graph API 的后台添加了高度混淆的 JavaScript，窃取了受害者的帐户详细信息。它还可能获得对 Facebook 帐户的更多访问权限。
防病毒软件供应商 Guardio 在最近的一份报告中概述了一种类似的恶意浏览器扩展方案，其中 Chrome 扩展程序劫持 Facebook 帐户并安装后门程序，其中包括为不法分子提供超级管理员权限的后门程序。
与网络安全的许多方面一样，最好的防御是用户自己。研究人员写道，他们需要警惕与 ChatGPT 相关的可疑电子邮件或链接，并通过 OpenAI 的网站访问 ChatGPT，而不是使用山寨聊天机器人。®
