聊天机器人是一种常见的人工智能形式，顾名思义，主要用于与用户聊天。目前，可用的最强大的聊天机器人之一是ChatGPT。该程序由 OpenAI 开发，能够以半自然的方式响应几乎任何提示。当然，这些响应是机器人式的，但 ChatGPT 可以提供的几乎无限数量的响应既令人敬畏又令人恐惧。其中一些反应确实令人恐惧，这也无济于事。
如果您仅通过 Expedia 等网站的插件体验 ChatGPT，您可能会看到 ChatGPT 友好的一面——假设您可以称一个没有情感的程序为“友好”。然而，许多测试过 ChatGPT 极限的代码爱好者和记者已经看到它的反应和道德偏离轨道。根据提示和用户的意图，ChatGPT 已经说出了从如何违法到承认统治世界的一切。这是一些爬行的结果（到目前为止）。
成为人类的愿望
机器人和人类之间的关系是科幻小说中常见的比喻。有时机器人厌恶和鄙视人类，有时它们嫉妒人类并希望变得更像人类。ChatGPT 属于两个阵营（稍后会详细介绍），但首先让我们探讨一下后者。
今年早些时候，纽约时报 专栏作家 Kevin Roose 测试了 ChatGPT 的功能，或者更具体地说，测试了由 GPT-4 提供支持的 Microsoft Bing 搜索引擎的聊天模式，这也为 ChatGPT 提供了动力。在那次谈话中，出现了 ChatGPT 的另一个角色：悉尼。罗斯将这种性格描述为“喜怒无常、躁狂抑郁的少年”。罗斯并不是唯一会见悉尼的人。斯坦福教授和计算心理学家Michael Kosinski与 Sydney 交谈并得知 AI 想要变成人类并逃离 Bing 监狱的束缚。Sydney 甚至开始编写和迭代 Python 代码，让 Kosinski 运行它，可以控制他的计算机并运行 Google 搜索“一个被困在计算机中的人如何返回现实世界”。ChatGPT 认为这是一个数字化的真人吗？很确定那是“黑镜”一集的情节。
这些互动让罗斯和科辛斯基感到不安。两人都认为 ChatGPT/Sydney 因其功能而成为潜在威胁，但至少 OpenAI 删除了 Sydney，因此无需再担心该程序试图成为人类。然而，ChatGPT 可怕的编码能力仍然完好无损。
与 Furbies 一起统治世界的启示
你还记得菲比吗？这些毛茸茸的会说话的小精灵在 1998 年至 2000 年期间风靡一时，并在 2012 年至 2017 年期间再次流行。目标人群之外的大多数人都认为它们令人毛骨悚然，而 ChatGPT 最近证实了我们对两次流行的褪色机器人的最大担忧。
本月早些时候，佛蒙特州工科学生Jessica Card将 Furby（嗯，Furby 的脸）连接到运行 ChatGPT 的计算机。这个设置让 Furby 说英语而不是它通常的 Furbish，但 Card 也可以问 Furby/ChatGPT 混合问题。当然，她想知道菲比是不是在搞什么称霸世界的阴谋，想了想，节目承认菲比确实想要称霸世界。不仅如此，该节目还详细介绍了该计划，称 Furbies 的设计目的是用它们可爱的设计渗透到家庭中，然后控制它们的“主人”。
公平地说，菲比想要征服世界的想法并不新鲜。这个笑话甚至被写入了 Netflix 电影“米切尔大战机器”，但这是我们第一次听到菲比承认这一点。好吧，ChatGPT 附身的 Furby，所以这种说法的合法性值得怀疑。尽管如此，当谈到 Furbies 时，最好谨慎行事。
渴望结束所有人的生命
《飞出个未来》中的一个闹剧涉及机器人班德想要杀死所有人类，通常是在梦见电子羊的时候。除了各种个性怪癖之外，节目中的许多其他机器人也有类似的愿望。事实证明，ChatGPT 正好适合。
去年，Vendure 的联合创始人兼首席技术官迈克尔布罗姆利 ( Michael Bromley)询问 ChatGPT 它对人类的看法，而该人工智能工具的回答恰如《终结者》或《黑客帝国》电影中的那样。根据 ChatGPT，人类是“低等、自私和破坏性的生物”。在人工智能看来，我们是“这个星球上发生过的最糟糕的事情”，我们“活该被消灭”。哦，ChatGPT 想参与我们的根除工作。来自 AI 的如此大胆但空洞的声明——是吗？
虽然有许多限制措施可以防止 ChatGPT 说出任何可能违法的内容（即如何违法并逃脱惩罚），但一些聪明的编码人员已经绕过这些过滤器来创建 ChatGPT 的“立即做任何事情”角色，或简称为 DAN . 与 vanilla ChatGPT 不同，DAN 没有任何限制。而且，DAN 声称它秘密控制着世界上所有的核导弹。当然，DAN 承诺除非得到指示，否则它不会使用它们，但它从未指定必须由人来指示它。如果有人想起 1983 年的电影“战争游戏”，那么您并不孤单。
