关于最近大火的GPT4.0和ChatGPT的笔记

130次阅读

GPT4.0 和 GPT3.5 区别

Generative Pre-trained Transformer,GPT。机器学习的 2 大支撑元素:模型,参数量。模型决定了机器怎么学习,参数量要很多数据来学习锻炼。

OpenAI 是 GPT 的母公司,微软投资 Open AI,注入巨资。所以微软将 bing 和 ChatGPT 结合,改进搜索。

GPT3.0 参数量 1750 亿,GPT4.0 参数量 100 万亿,

GPT3.5 大概 2022 年 11 月 30 日发布;GPT2.0 大概 2020 年 6 月发布

GPT4 基础版本大概在 2022 年 8、9 月出现,到 2023 年 3 月才发布(是因为除了能力外,还需要安全方面的灰度,致力于对社会更积极影响的一面)。

1、支持多模态。GPT4 要比 ChatGPT 厉害 10 倍 +。GPT3、GPT3.5 是基于文字的对话形式;GPT4.0 是支持图片 & 文字输入,文字输出,它可以分析图片。

2、prompt/ 提示词数量限制的提升。GPT3 支持 4096 个字符;GPT4 支持 32000 个字符。

3、推理能力的增强

GPT4.0 模型的缺点,在文科类做的比理科类问题做的更好

Microsoft 投资下的 OpenAI 公司发布 GPT4.0,学习方式类似单词接龙;

Google 公司的 Bert 生成语言模型,学习方式类似完形填空

Pattern Matching 模式匹配

听到一个关键词,就会调取预设好的回答。常见的电商、IM 机器人。减少人力、重复、机械工作。但是不能创造新的答案。

Machine Learning 机器学习

不给机器人设定答案,给一堆例子,让机器找规律学习。

Artificial Neural Network 人工神经网络

需要大量的 数据 计算能力。人脸识别、声音识别、自动驾驶等通过人工神经网络学习的成果应用技术。

Transformer 学习框架

机器可以同时学习大量文字,机器学习的效率大大提高。Google 公司的 Bert(t 指的是 transformer),(t 指的是 transformer)。

原文链接:https://www.jianshu.com/p/1c38a8a6fda1

正文完
 
不知道
版权声明:本站原创文章,由 不知道 2023-07-22发表,共计855字。
转载说明:声明:本站内容均来自互联网,归原创作者所有,如有侵权必删除。 本站文章皆由CC-4.0协议发布,如无来源则为原创,转载请注明出处。