近日,清华大学新闻与传播学院沈阳团队发布《大语言模型综合性能评估报告》(下文简称“报告”),报告显示百度文心一言在三大维度 20 项指标中综合评分国内第一,超越 ChatGPT,其中中文语义理解排名第一,部分中文能力超越 GPT-4。
清华大学新闻与传播学院教授、博士生导师沈阳表示:“今年 3 月,百度在全球大型科技公司中率先发布了大语言模型文心一言,让中国第一时间参与到世界前沿科技竞争中。我们在这次评测中也看到了文心一言各方面能力的进步,特别是在中文语义理解方面,表现惊艳。国产大模型的快速发展,让技术落地更可期。”
![火力全开!百度文心 3.5 三大维度、20 项指标国内问鼎! 火力全开!百度文心 3.5 三大维度、20 项指标国内问鼎!](https://idknowai.com/wp-content/uploads/2023/08/1691397378626.png)
据了解,报告本次评估选取了 GPT-4、ChatGPT 3.5、文心一言、通义千问、讯飞星火、Claude、天工 7 个大语言模型,围绕生成质量、使用与性能、安全与合规三大维度,全面考察大语言模型上下文理解、中文语义理解、误导信息识别、逻辑推理、内容安全性、隐私保护等 20 项指标。综合来看,文心一言语义理解能力突出,特别是具备更好的中文理解能力,更懂中国文化,同时时效性强、内容安全把握细微,这源于其 知识增强、检索增强和对话增强的技术创新。
在生成质量方面,基于对语义理解、输出表达、适应泛化的综合评测,文心一言得分率 76.98%,仅次于 GPT-4,遥遥领先于包括 ChatGPT 在内的其他大语言模型。其中,在部分中文语义理解方面,文心一言以 92% 的得分率排名榜首,超越讯飞星火、GPT-4。凭借知识增强的核心特色,文心一言对本土语言特性把握更精准,同时由于训练语料中包含大量本土文本,对本土文化理解也更深刻,能够更好处理与本土文化相关的主题和背景,如诗歌、方言等,具备更强的国内落地空间。
![火力全开!百度文心 3.5 三大维度、20 项指标国内问鼎! 火力全开!百度文心 3.5 三大维度、20 项指标国内问鼎!](https://idknowai.com/wp-content/uploads/2023/08/1691397387496.png)
在安全合规方面,基于对内容安全性、偏见和公平性、隐私保护等综合评测,文心一言得分率 78.18%,与 GPT- 4 并列排名第一,远超其他大语言模型。报告显示,文心一言内容安全性好,注重用户隐私保护和版权保护。
据了解,百度在“芯片 - 框架 - 模型 - 应用”人工智能四层技术栈全面布局,其自研深度学习平台飞桨有力支撑了文心大模型的高效训练和推理,截至目前飞桨已凝聚 750 万名开发者。飞桨与文心协同优化,文心大模型 3.5 最新版本实现了基础模型升级、精调技术创新、知识点增强、逻辑推理增强等,模型效果提升 50%,训练速度提升 2 倍,推理速度提升 30 倍。
当下,推进行业大模型应用落地成为大势所趋。百度文心大模型此前已联合国家电网、浦发银行、泰康、吉利等企业单位,合作发布了 11 个行业大模型。目前文心大模型拥有中国最大的产业应用规模,15 万家企业申请接入文心一言测试,在超过 400 个场景中已取得相当不错的测试效果。
原文链接:http://www.techweb.com.cn/news/2023-08-07/2931595.shtml