来源 ：AI 前线
整理 ： 褚杏娟、核子可乐
“Python 终于没有存在的意义了 ！ 撒花”
当地时间 3 月 23 日 ，OpenAI 宣布正式上线了以安全为核心的 ChatGPT 插件系统。OpenAI 插件将 ChatGPT 连接到第三方应用程序 ， 之后 ChatGPT 便能够与开发人员定义的 API 进行交互 ， 从而增强 ChatGPT 的功能并允许其执行范围广泛的操作 ， 主要包括 ：
-
检索实时信息 ， 例如体育比赛成绩、股票价格、最新消息等。
-
检索知识库信息 ， 例如公司文件、个人笔记等。
-
代表用户执行操作 ， 例如订机票、订餐等。
目前 ， 插件系统还处于 alpha 测试期 ， 首批参与插件创建的厂商包括 Expedia、FiscalNote、Instacart、KAYAK、Klarna、Milo、OpenTable、Shopify、Slack、Speak、Wolfram 和 Zapier。
其他使用插件的开发者可以申请进入候补名单 （https://openai.com/waitlist/plugins）。OpenAI 表示 ， 在了解更多情况后将逐步开放访问范围。
另外 ，OpenAI 还自己托管了两款插件 ， 其一为网络浏览器 ， 其二是代码解释器。OpenAI 开源了一款知识库检索插件的代码 ， 任何开发者都可以借此托管用于增强 ChatGPT 的信息。
OpenAI 表示 ， 现在的语言模型虽然在各类任务中都能有所表现 ， 但结果还不尽人意。而模型提升自我的唯一途径就是其训练数据。但一个问题是 ， 数据内容可能已经过时 ， 而且模型往往“以偏概全”、“生搬硬套”。此外 ， 语言模型唯一能够开箱即用的输出模式就是文本 ， 虽然文本中包含实用说明 ， 但要将其化为操作还需要经历额外的过程。
OpenAI 将插件比喻成语言模型的“眼睛和耳朵”， 能帮助模型访问因为较新、较私人或较具体而不宜包含在训练数据内的信息。为了响应用户的明确要求 ， 插件还能帮助语言模型切实执行安全、受控的操作 ， 从而提高整个系统的实用性。
有网友表示 ，“OpenAl 设计的插件系统是我这辈子见过的最疯狂的系统。 如果你要给它写插件 ， 你并不是去写这个插件的程序 ， 而是写一个关于插件的描述 ， 只需用自然语言描述 ， 然后 GPT 来帮你生成这个插件。”
还 有网友 直接将 OpenAI 与苹果对比 ， 并称 ，OpenAI 为计算的下一个时代奠定了基础 ：
-
Apple 之后是 OpenAI
-
iPhone 之后是 GPT-4
-
iOS 之后是 ChatGPT
-
App Store 之后是 Plugins
ChatGPT 插件使用示例
插件的表现如何
我们先看下 OpenAI 自己托管的两个插件表现如何。
浏览插件
一套知道该何时及如何浏览互联网的实验性模型。
以往 ，ChatGPT 会礼貌地指出 ， 其训练数据中不具备充足的信息 ， 因此无法回答某些特定问题。但现在可以给出答案和相关链接了。
在 OpenAI 展示的示例中 ，ChatGPT 会检索关于最新一届奥斯卡颁奖典礼的信息 ， 再用其最擅长的“写诗”能力加以改编。
以下是 ChatGPT 的回答 ， 它给出了一系列的搜索结果 ， 用户直接点击就可查看相关的信息来源。
除了为最终用户提供显著的实用性助益之外 ，OpenAI 认为 ， 这种对语言和聊天模型全面可解释性的研究 ， 也将在可扩展性和对齐能力方面带来令人兴奋的前景。
代码解释器
一套可使用 Python 处理上传和下载的实验性 ChatGPT 模型。
OpenAI 为模型开发了一个可在沙盒、防火墙执行环境中工作的 Python 解释器 ， 外加一些临时磁盘空间。解释器插件运行的代码会在一个持久会话中进行评估 ， 且该会话在聊天期间始终有效 （ 具有上限超时 ）， 后续调用可以相互构建。此外 ， 还支持将文件上传至当前对话工作区 ， 并下载工作结果。
比如 ， 当问到 ： 一块砖的重量是这块砖自身 30% 的重量与 5 个 GPU 的重量之和 ， 已知每吨重量包含了 100 块砖和 200 个 GPU， 那么一块砖的重量是多少?
ChatGPT 给出的答案是 ： 一块砖的重量是 7.8125 千克。
执行逻辑计算的代码解释器插件
从早期用户研究来看 ，OpenAI 确定了代码解释器的几种重要用途 ：
-
解决定量和定性类数学问题
-
进行数据分析和可视化
-
将文件转换为不同格式
OpenAI 表示 ， 希望这套模型能够运用自己的编程技能 ， 为计算机中的基础功能提供更自然的使用界面。刚刚上手的初级程序员可以在它的帮助下大大提高工作效率 ， 同时也希望能让更多受众接触并掌握编程技能。
对于该插件有网友评论称 ：“Python 终于没有存在的意义了 ！ 撒花”
第三方插件
一套知道该何时及如何使用插件的实验性模型。
ChatGPT 中的第三方插件
第三方插件由 manifest 文件做描述 ， 其中包含对插件功能的机器可读描述和调用方法 ， 同时提供面向用户的说明文档。
待办事项管理插件的 manifest 文件示例
插件的创建步骤如下 ：
-
用户使用希望语言模型调用的端点来构建 API（ 可以是新的 API、现有 API 或专为大语言模型设计的现有 API 打包器 ）。
-
为自己的 API 创建 OpenAPI 记录规范 ， 同时创建一个指向 OpenAPI 规范并包含插件特定元数据的 manifest 文件。
在 chat.openai.com 上开始对话时 ， 用户可以指定想要启用的第三方插件。关于已启用插件的文档 ， 将作为对话上下文的一部分被提交给语言模型 ， 让模型能够根据需求调用适当的插件 API 以实现用户意图。目前的插件主要考虑对后端 API 的调用 ，OpenAI 也在探索如何让 API 调用客户端 API。
开源检索插件
开源检索插件让 ChatGPT 能够访问个人或组织信息源 （ 经过许可 ）。它允许用户通过提问或用自然语言表达需求 ， 从数据源处获取关联性最强的文档片段 ， 包括文件、笔记、电子邮件或公共文档。
作为开源加自托管方案 ， 开发人员可以部署自己的插件版本并在 ChatGPT 上注册。检索插件利用 OpenAI 嵌入 ， 允许开发人员选择矢量数据库 （Milvus、Pinecone、Qdrant、Redis、Weaviate 或 Zilliz） 来索引和搜索文档。信息源可使用 webhooks 与数据库保持同步。
要体验这项功能 ， 可以访问检索插件代码仓库 ：
https://github.com/openai/chatgpt-retrieval-plugin
真安全还是说说而已 ？
安全成为此次发布被多次提及的关键词。
对于浏览插件 ， 由于 ChatGPT 使用 Bing 搜索 API 从 Web 检索内容 ， 因此 OpenAI 也继承了微软在这项工作中的基本原则 ：1） 保证信息来源可靠且真实 ；2） 通过“安全模式”防止检索有问题的内容。这款插件在独立服务中运行 ， 能够保证 ChatGPT 的浏览活动与基础设施内的其余部分相互分离。
为了尊重内容创作者并遵守网络规范 ，OpenAI 浏览器插件使用的用户代理令牌为 ChatGPT-User， 并通过配置强调重新所访问网站的 robots.txt 文件。这偶尔会引发“click failed”问题 ， 表明该插件正遵守目标网站的指示、避免执行抓取操作。此用户代理仅用于代表 ChatGPT 用户执行直接操作 ， 不会以任何自动方式主动抓取网络内容。OpenAI 还发布了 IP 出口范围 ， 并采取限速措施以避免向目标网站发出过多流量。
OpenAI 的浏览插件会显示访问过的网站 ， 并在 ChatGPT 的回复中引用其来源。由此实现的透明度层可帮助用户验证模型响应的准确性 ， 并回馈内容创作者。
对于代码解释器 ，OpenAI 表示之所以要将模型接入代码解释器 ， 主要是想对执行过程做适当的沙盒处理 ， 以确保 AI 生成的代码不会在现实场景中产生意外的副作用。OpenAI 称在安全环境中执行代码 ， 并通过严格的网络控制来防止外部互联网访问到执行代码。此外 ， 还对每个会话设置了资源限制。
而检索插件允许 ChatGPT 搜索内容矢量数据库 ， 并将最终结果添加至 ChatGPT 会话当中。这意味着它不会产生任何外部影响 ， 主要风险只涉及数据授权和隐私。开发人员应确保只将有权使用的内容添加至检索插件 ， 进而在用户的 ChatGPT 会话中共享。
不过 ， 网友对于 OpenAPI 的“安全宣传”似乎不太买单。
网友“mk_stjames”表示 ，“我对此有一些奇怪的感觉。从‘傻瓜 ， 当然它没有以任何方式连接到互联网 ！’到现在都没有一年的时间 ， 变成‘好的 …… 所以我们连接到互联网 ……’”
首先是您的 API 调用 ， 然后是您的 chatgpt-jailbreak-turns-into-a-bank-DDOS-attack， 然后是“今天它以某种方式执行了 Python 脚本的数十万线程 ， 该脚本在上午 8 点 31 分在纽约证交所导致自 1987 年以来最大的单日跌幅……”
您可以继续讨论个人责任 ， 所有 … 用户仍然是用户 ， 对吧。但这开始感觉像是给一群黑猩猩上了膛的手枪。
OpenAI 一直在谈论“安全”， 但“安全”的全部意思是“好吧 ， 我们不允许任何人允许它拿胖子或残疾人开玩笑 ， 所以我们很好 ， 对吧 ？！”
当然 ， 也有网友表示 ： 为什么要对安全发牢骚呢 ？ 随它去吧 ！“如果你访问他们的 API， 这基本上就是他们在做的事情 ， 因为是否使用他们的审核端点取决于你。”不过这位网友也表示 ：“他们的‘人工智能安全’只是嘴上说说。在前几天 ， 他们有一个 bug， 你可以看到其他用户的聊天历史 ！”
参考链接 ：
https://openai.com/blog/chatgpt-plugins
https://news.ycombinator.com/item?id=35277677
未来智能实验室的主要工作包括 ： 建立 AI 智能系统智商评测体系 ， 开展世界人工智能智商评测 ； 开展互联网 （ 城市 ） 大脑研究计划 ， 构建互联网 （ 城市 ） 大脑技术和企业图谱 ， 为提升企业 ， 行业与城市的智能水平服务。每日推荐范围未来科技发展趋势的学习型文章。目前线上平台已收藏上千篇精华前沿科技文章和报告。
如果您对实验室的研究感兴趣 ， 欢迎加入未来智能实验室线上平台。 扫描以下二维码或点击本文左下角“阅读原文”
原文链接：https://blog.csdn.net/cf2SudS8x8F0v/article/details/129760904
