在聊ChatGPT之前，你需要知道这9件事

智东西（公众号：zhidxcom）
作者 | 吴菲凝
编辑 | 李水青

智东西 3 月 16 日报道，昨日，彭博社梳理了 9 个有关 AI 聊天机器人的关键问题，包括生成式 AI 的概念、ChatGPT 如何工作、谁能从中获利、市场竞争格局、局限性以及道德风险等。

据彭博社称，自去年 11 月 ChatGPT 推出以来，它对几乎任何类型的问题都给出了通俗易懂的答案，引起了全球轰动。微软、谷歌和百度等科技巨头都在大力押注生成式 AI，认为它有可能颠覆利润丰厚的搜索市场，但目前生成式 AI 产品广泛使用的同时也暴露出了不少缺陷和潜在隐患。

一、什么是生成式 AI？如同小儿学语

生成式 AI，又称作生成模型，是一种用深度学习算法生成新数据的 AI 技术。生成式 AI 使用神经网络，它们仿照人脑结构并通过大量数据学习来完成指令任务。在前期训练期间，他们被输入大量的信息，并被指配一项任务，比如“为一部小说写一段简介”，再利用学习来的数据完成任务。

随着不断的数据学习，系统能够判断用户输入的词句是否有意义，并不断改进自己的信息库。这个过程就像是小孩子在父母的指导下学习说话一样，从简单基础的词汇慢慢学到一些完整的句子，再到自如流畅地表达交流。

生成式 AI 和传统计算机系统的不同之处在于，它给出的结果往往是不确定的，每次的反应都可能不同，但也会随着系统进步而变得更快、更聪明。

二、ChatGPT 是如何工作的？基于大语言模型

ChatGPT 是基于 OpenAI 公司的大型语言模型 GPT-3.5 开发出的一款聊天机器人。

GPT 是 OpenAI 开发的一系列自然语言模型，在无监督学习过程中进行预训练，能像人类一样理解、创造文本。OpenAI 于 2018 年发布了 GPT-1，又陆续推出了 GPT-2、GPT-3、GPT-NEO、GPT-3.5、GPT4 等版本。

最新版本的 GPT- 4 建立在其前身 GPT-3.5 的基础上，从演示视频来看，GPT- 4 在许多专业测试中的表现水平超过绝大多数人类。它从整个网络中摄取文本，包括维基百科、新闻网站、书籍和博客，以努力使其答案具有相关性和充分的信息。ChatGPT 在该程序之上增加了一个对话界面。

ChatGPT 与以往的聊天机器人最大的不同之处就在于，它能像真人一样与用户对答交流，所给出的答案逻辑清晰、条理分明。在一些需要进一步思考的问题上，它甚至能给出自己的见解，比真人回答的完整度更高。

除了能回答问题以外，ChatGPT 还能自动写文章、总结提炼观点、生成代码等。

三、谁是 OpenAI 的幕后推手？微软接棒马斯克

OpenAI 于 2015 年由美国创业孵化器 Y Combinator 总裁萨姆·阿尔特曼（Sam Altman）和全球在线支付平台 PayPal 联合创始人彼得·泰尔（Peter Thiel）等人创办，旨在开发“有益于全人类的 AGI”。早期的投资者还包括 LinkedIn 联合创始人里德·霍夫曼（Reid Hoffman）和特斯拉 CEO 埃隆·马斯克（Elon Musk），马斯克在 2018 年时退出。微软于 2019 年时为 OpenAI 投资 10 亿美元。

四、公众对 ChatGPT 的反应如何？两个月用户破亿

自 ChatGPT 在去年 11 月 30 日开放注册后，5 天内便拥有了超 100 万用户，上线两月后全球用户破亿，注册请求数日峰值达到数亿级别。各大社交媒体上对这一产品的讨论热度也一直居高不下。一些用户分享了 ChatGPT 对于一些晦涩难懂的问题给出的答案，其他人则惊叹于它丰富的知识库。

用户的热烈讨论也提升了 OpenAI 其他产品的热度，包括文本生成图像工具 Dall-E，它能根据用户的文字描述直接生成一张符合需求的图片。

五、谁会从生成式 AI 当中获利？小企业暂难盈利

谷歌、微软这样的科技巨头早已探知到了生成式 AI 的潜力。今年 1 月，微软深化了与 OpenAI 的合作关系，并以提升微软 Azure 云计算网络的计算能力为交换条件，完成了一项价值 100 亿美元的长期投资。又在 2 月时将类 ChatGPT 产品集成到自己的搜索引擎 Bing 当中。谷歌则推出自己的对话式 AI 助手 Bard 作为回应。百度也于今日正式开放了自己的新一代大语言模型、生成式 AI 产品文心一言。

由于聊天机器人中没有可插入广告的结果页，盈利对于小型企业来讲依旧是个难题。从中获利的更多是提供和开发生成式 AI 产品的大型科技公司。

六、竞争局面如何？巨头的游戏

在 ChatGPT 发布后，OpenAI 根据用户的反馈意见对 GPT-3.5 进行了迭代调整，修改了模型在准确性、安全性和发布不当言论等方面的问题。OpenAI 称，在公司内部的对抗性真实性评估中，GPT- 4 的得分比 GPT- 3 要高出 40%，根据政策响应敏感请求的频率提高了 29%。

早在 2 月时，谷歌的聊天机器人 Bard 公开演示中犯了一个事实性错误，引发了大众对谷歌可能会在搜索领域失去优势地位的担忧，导致谷歌开局不利、股价走低。

Meta 目前则正急于从公司各处的团队中组建一个生成性 AI 产品组。

国内生成式 AI 领域同样是热潮涌动，百度今日正式发布文心一言大模型。此前，由清华大学知识工程实验室转化而来的智谱 AI 推出了基座模型 ChatGLM，复旦大学自然语言处理实验室也推出对话式 AI 模型 MOSS，各家竞相研发生成式 AI 产品。

七、有哪些行业可以从中受益？创意行业获帮手

就目前而言，Chat-GPT 等 AIGC 工具并不会完全取代某个工种，它更多承担的是“工具”的作用。它所具备的搜索、阅读、写作等功能是所有工作中的基础性事务，它更像是一种辅助性工具，帮人类搜索基本信息、提升阅读速度，更好地理解文本内容，从而提升工作效率。

而那些繁琐的、重复的、劳动密集型的工作将会被这些工具所代替。创作型的职业则有了更大的提升空间。

八、生成式 AI 的局限性是什么？虚假信息泛滥等

随着 ChatGPT 的爆火，它原本的不足之处和可能带来的隐患也在用户使用过程中逐渐显露，诸如虚假信息、学术造假、隐私保护等潜在危机都引起了人们的高度警惕。

生成式 AI 的数据都来源于二手信息，导致它拼凑出的答案可能听上去非常权威又有说服力，但隐藏着许多的事实性、常识性错误，细看之下就像是在“一本正经地胡说八道”，它给出的回答中可能会包含很多部分正确、不完整、有偏见的内容，专业领域的答案也经不起行业专家的细致推敲。若是某一领域的门外汉听信了其中提供的信息，可能会造成误导。

回答的准确度和完整性取决于训练中的数据多少，目前局限性也掣肘了 ChatGPT 的发展。由于回答中包含的不准确性，计算机编程网站 StackOverflow 禁止了 ChatGPT 的接入和访问

九、生成式 AI 是否存在道德风险？风险与考验并存

随着生成式 AI 变得越来越复杂，欺骗和进行恶作剧的可能性也逐渐加大。微软曾推出过一款名为“Tay”的 AI 机器人，但很快用户就发现它会发一些有关种族主义和性别歧视等攻击性内容，短短一天之内就被紧急撤下。

OpenAI 也曾训练 ChatGPT 去拒绝那些明显不当的请求，来限制它发表仇恨言论或是错误信息。OpenAI 首席执行官鼓励用户对那些令人不适的言论点击“不喜欢”按钮，用户多次反馈后它就能自动改善系统。

此外，类 ChatGPT 产品在学业中的使用也是一把双刃剑。它一方面帮助学生们搜集、筛选、整理了繁杂信息，但另一方面也可能造成学术造假、论文抄袭等问题。大学老师们也担心学生太过依赖 ChatGPT 来完成作业而丧失了自己的思考能力，将其视为洪水猛兽。

立法者们也被潮水般涌入的投诉信所淹没，但他们同样无法判断这些信件是真的在表达不满，或是由聊天机器人编纂出来的。

结语：生成式 AI 重构人类？警惕科技迷思！

不可否认的是，ChatGPT 等生成式 AI 产品的出现为每一个行业都带了颠覆性的改变，把劳动力从重复、低级的工作中解放出来，对人类的创造力、思考力提出了更高的要求。但我们必须认清这一现实：生成式 AI 是工具而非代替品。

人类的智慧与经验无法被 AI 取代。我们更要警惕生成式 AI 便利背后的风险和隐患，引导科技向好向善发展