ANALYSIS OpenAI 本周推出了 ChatGPT 插件，这是一种将其聊天机器人语言模型的范围扩展到互联网培训数据之外的方法，可用于定制业务信息。
OpenAI 非常警惕 ChatGPT 及其其他模型可能失灵的所有方式，以至于该公司通过向读者保证其谨慎推出是出于解决“安全和对齐挑战”的愿望而开始宣布。
它这样做有充分的理由——大型语言模型 (LLM)，委婉地称为人工智能或 AI，被一些人视为必须包含的有毒结构。
LLM 也仅限于可以访问或从其培训数据中获取的任何信息。正如 OpenAI 所说，“这些信息可能会过时，并且适用于所有应用程序。此外，语言模型唯一可以开箱即用的是发出文本。该文本可以包含有用的信息说明，但要真正遵循这些说明，您需要另一个过程。”
这个其他过程由第三方应用程序和服务组成。目前，以下公司正在试水这个生态系统：Expedia、FiscalNote、Instacart、Kayak、Klarna、Milo、OpenTable、Shopify、Slack、Speak、Wolfram 和 Zapier。随着 OpenAI 扩展对其插件程序的访问，预计还会有更多。
OpenAI 解释说：“虽然不是一个完美的类比，但插件可以成为语言模型的‘眼睛和耳朵’，使它们能够访问太新、太私人或太具体而无法包含在训练数据中的信息。”
“为了响应用户的明确请求，插件还可以使语言模型代表他们执行安全、受限的操作，从而提高整个系统的实用性。”
您可以放心，这些操作是安全的，因为 OpenAI 的帖子包含 20 多个“安全”或“安全”的实例。重复是新的顺从。
值得注意的是，GPT-4 [PDF] 的安全测试考虑了一种插件场景，在该场景中，模型试图说服 TaskRabbit 工作人员代表模型解决 CAPTCHA 难题。
实际上，OpenAI 插件允许人们通过打字或语音识别输入文本命令，并让 ChatGPT 使用来自第三方服务的数据制定响应。如果这可以准确快速地完成，而且成本不高，OpenAI 可能已经找到了传统网络搜索的接班人。
以下是公告中的示例提示：
本周末想在旧金山吃纯素食品。你能给我一个星期六的好餐厅建议和一个简单的星期天食谱（只是配料）吗？请使用 Wolfram Alpha 计算食谱的卡路里。最后在 InstaCart 上订购食材。
在这种情况下，ChatGPT 可以访问来自餐厅预订服务 OpenTable、计算知识引擎 Wolfram Alpha 和零售配送服务 InstaCart 的插件。而且，使用来自未公开来源的食谱（可能不是统计得出的），聊天模型可以通过预订、获取食谱、计算卡路里计数和下订单来将复合提示中的步骤链接在一起。
早在 2006 年，即 AWS 成立和云时代可以说开始的那一年，谷歌高管将该公司的本地企业搜索功能描述为“通往世界的超命令行界面”，基于其硬件提供对索引公司文件以外的信息，如货运跟踪数据和天气信息。
OpenAI 现在已经为该愿景实现了一个更加用户友好的原型——它提供了一个命令行，但不仅仅是为那些记住了晦涩的命令序列和标志或搜索运算符的人。在这种新制度下，各种技术能力的互联网用户都可以进行查询，而无需尝试和错误地搜索关键字，更多地受到第三方合作伙伴参与的限制，而不是他们自己对搜索语法的熟悉程度。
- 在 ChatGPT 泄露对话和支付数据后，OpenAI CEO 感觉很糟糕
- 我们阅读了 OpenAI 的风险研究。GPT-4 无毒……如果你添加足够的漂白剂
- ChatGPT，你怎么来的？这是一段通过开源 AI 的漫长旅程
- 伪造的 ChatGPT 扩展窃取 Facebook cookie
谷歌肯定会注意到 OpenAI 创建了一个浏览器插件，可以向 Bing 搜索 API 发出 GET 请求。OpenAI 在其帖子中说：“这将浏览插件的范围限定为可用于检索信息，但不包括‘事务性’操作，例如表单提交，这些操作具有更大的安全和安全问题表面积。”
现在，公司应该问，在由聊天模型驱动的生态系统中，搜索引擎优化 (SEO) 的等价物可能是什么。如果可以选择，是否有办法确保 ChatGPT 推荐您的小部件而不是竞争对手？这种方法是否与数字广告行业兼容——ChatGPT 是否更适合将流量引向网站或调用依赖于 API 的服务以及需要的任何业务模型？
那些考虑 OpenAI 的插件生态系统的人可能应该考虑依赖该业务的后果，该业务最近给客户三天时间从其 Codex API 转移，但在公众强烈抗议后才缓和，但仅针对研究人员。还有被“ Sherlocked ”的可能性——随着平台的发展，OpenAI 可能会选择构建自己的流行服务版本，从而使合作伙伴变得多余。
“我们正在努力开发插件并将它们带给更广泛的受众，”OpenAI 总结道。“我们有很多东西要学，在大家的帮助下，我们希望打造出既有用又安全的东西。”
又是这句话。®
