GPT4.0 和 GPT3.5 区别
Generative Pre-trained Transformer,GPT。机器学习的 2 大支撑元素:模型,参数量。模型决定了机器怎么学习,参数量要很多数据来学习锻炼。
OpenAI 是 GPT 的母公司,微软投资 Open AI,注入巨资。所以微软将 bing 和 ChatGPT 结合,改进搜索。
GPT3.0 参数量 1750 亿,GPT4.0 参数量 100 万亿,
GPT3.5 大概 2022 年 11 月 30 日发布;GPT2.0 大概 2020 年 6 月发布
GPT4 基础版本大概在 2022 年 8、9 月出现,到 2023 年 3 月才发布(是因为除了能力外,还需要安全方面的灰度,致力于对社会更积极影响的一面)。
1、支持多模态。GPT4 要比 ChatGPT 厉害 10 倍 +。GPT3、GPT3.5 是基于文字的对话形式;GPT4.0 是支持图片 & 文字输入,文字输出,它可以分析图片。
2、prompt/ 提示词数量限制的提升。GPT3 支持 4096 个字符;GPT4 支持 32000 个字符。
3、推理能力的增强
GPT4.0 模型的缺点,在文科类做的比理科类问题做的更好
Microsoft 投资下的 OpenAI 公司发布 GPT4.0,学习方式类似单词接龙;
Google 公司的 Bert 生成语言模型,学习方式类似完形填空
Pattern Matching 模式匹配
听到一个关键词,就会调取预设好的回答。常见的电商、IM 机器人。减少人力、重复、机械工作。但是不能创造新的答案。
Machine Learning 机器学习
不给机器人设定答案,给一堆例子,让机器找规律学习。
Artificial Neural Network 人工神经网络
需要大量的 数据 和计算能力。人脸识别、声音识别、自动驾驶等通过人工神经网络学习的成果应用技术。
Transformer 学习框架
机器可以同时学习大量文字,机器学习的效率大大提高。Google 公司的 Bert(t 指的是 transformer),(t 指的是 transformer)。
原文链接:https://www.jianshu.com/p/1c38a8a6fda1