聊天机器人ChatGPT爆火技术、安全、教育等问题引起重视

60次阅读

原标题:被追捧的 ChatGPT:可以使用它,但别依赖它

“你认为你会取代哪些职业?”

“一些潜在的职业,可能会受到人工智能的影响,包括:数据录入员、重复性办公室工作、工厂生产线上的简单任务、电话销售员、简单的客服工作……”这是中新财经与聊天机器人 ChatGPT 的一段对话。

近日,由人工智能公司 OpenAI 开发的聊天机器人 ChatGPT 爆火,不仅引发了人们对其应用范围的大讨论,也炒热了 ChatGPT 概念。

聊天机器人 ChatGPT 爆火技术、安全、教育等问题引起重视

与 ChatGPT 对话截图

做作业、写论文……还有什么是 ChatGPT 不会的?

“像 ChatGPT 这样的人工智能聊天机器人的兴起将与互联网的诞生或个人电脑的发展一样重要。”比尔·盖茨近日接受采访时表示,“人工智能将成为 2023 年最热门的话题。”

能让比尔·盖茨如此看重,一方面是因为微软与 OpenAI 的合作关系,据悉,OpenAI 的机器学习和运算部署在微软 Azure 云上,另一方面也是因为 ChatGPT 超强的能力。

公开资料显示,ChatGPT 是由人工智能研究实验室 OpenAI 发布的一款人工智能技术驱动的自然语言处理工具。ChatGPT 其使用的人类反馈强化模型技术使用人类偏好作为奖励信号来微调模型,能够通过学习和理解人类的语言进行对话,还能根据聊天的上下文进行互动,真正像人类一样聊天交流,甚至能完成撰写邮件、视频脚本、文案、翻译、代码等任务。

2022 年 11 月,ChatGPT 一经推出,迅速在社交媒体上走红,不到一周,用户数就突破 100 万人,月访问量达 2100 万人次。ChatGPT 推出仅两个月后,在 2023 年 1 月末的月活用户已经突破了 1 亿,成为史上用户增长速度最快的消费级应用程序。

写作业、写论文、写演讲稿……ChatGPT 的身影出现在了不少领域,据权威学术期刊《自然》新闻部报道,截至目前,ChatGPT 已经作为合著作者,出现在至少四篇已发表的论文或预印本中。

OpenAI 最初的联合创始人之一埃隆·马斯克在推特上写道:“这是一个新世界。再见作业!”

“ChatGPT 作为一种工具,在很多行业都能使用,同时也能进行内容生产,进而带来效率的较大提升,使人类的生活有很大的改善。”浙江大学国际联合商学院数字经济与金融创新研究中心联席主任盘和林告诉中新财经记者,“当发展到一定阶段后,它也会替代一些工种。”

引发的技术、安全、教育等问题引起重视

ChatGPT 的利用价值被人类挖掘,其引发的技术、安全、教育等问题也引起重视。

据英国《卫报》报道,纽约的学校已经禁止使用 ChatGPT,因为担心学生可能会利用它作弊。纽约市教育部发言人詹娜·莱尔 (Jenna Lyle) 表示,这一决定源于“对学生学习的负面影响的担忧,以及对内容安全性和准确性的担忧”。

由于 ChatGPT 在论文上的使用,多家知名学术期刊也正在更新编辑规则。据经济时报 (ET) 报道,《自然》杂志称,在其期刊上发表的论文,ChatGPT 等软件不能被视为作者。

《自然》杂志解释:“这是因为任何作者的归属都意味着对工作的责任,而人工智能工具不能承担这样的责任。”

值得一提的是,ChatGPT 的专业性也遭到质疑。

据《华尔街日报》报道,德克萨斯大学教授保罗·冯·希佩尔 (Paul von Hippel) 发现,ChatGPT 可以肤浅地谈论数学,但它不能真正深入地“理解”数学。“它不能纠正错误的数学概念,还经常会引入自己的错误概念,有时还会犯一些基本的电子表格或手动计算器不会犯的莫名其妙的数学错误。”

“它像专家一样行事,有时还能令人信服地模仿专家。但它通常是一种胡扯艺术家,把真相、错误和捏造混在一起,听起来令人信服,除非你自己也有一些专业知识。”希佩尔说。

中新财经在与 ChatGPT 的多次对话中也发现,其在一些问题的回答上,倾向于“正确的废话”,有些问题甚至无法给出解答。

OpenAI 的首席技术官米拉·穆拉蒂在接受《时代》杂志采访时也承认,机器人在写句子时“可能会编造事实”,并将其描述为“核心挑战”。她说,ChatGPT 通过预测句子中合乎逻辑的下一个单词来生成响应,但技术、安全、教育等问题也引起重视。

“ChatGPT 目前还存在很大的局限性,无法真正达到人类思维水平。”盘和林表示,同时,现在的 AIGC(利用人工智能技术来生成内容)可能是个技术盲盒,生产出的内容是不可预知的。“虽然它在用户体验上已改善很多,但现在也有一种声音,它实际上没有想象得那么厉害。”

除去专业性上的问题,有人担心,由于有关 AIGC 的相关法律、法规没有完善,用户的使用界限还没有确立,ChatGPT 有可能被用于违法犯罪活动。

也有国外专家认为,网络罪犯有可能使用 OpenAI 的 ChatGPT 开发新的恶意工具,包括信息窃取器、多层加密工具和暗网市场脚本。

争相“分一杯羹”国内外企业纷纷入局

虽然 ChatGPT 在技术、安全等方面还存在一些局限性,但其广阔的商业前景已引起关注,有望掀起人工智能新浪潮。

华创证券认为,ChatGPT 有望拉开 AI 产业浪潮序幕。此次无论是美国新媒体巨头 BuzzFeed 引入 ChatGPT 内容创作和微软计划多款产品整合 ChatGPT,还是 OpenAI 发布的 ChatGPT 试点订阅计划 ChatGPTPlus(每月收费 20 美元),ChatGPT 所表现出来的效果和市场认可度,对人工智能浪潮的意义都尤为重大。

“虽然目前 ChatGPT 还存在一些需要改进的地方,但这次从 ChatGPT 付费创收模式中,市场看到的是 AI 的商业化路线真正落地的可能性。”华创证券表示。

在盘和林看来,“这在人工智能领域是个里程碑式的事件,对于人工智能产业的发展是一个非常重要的促进,也会兴起一定的热潮,大家会在各个领域进行应用性创新。”

记者注意到,近期,国内外众多企业纷纷入局,争相“分一杯羹”。

日前,谷歌宣布了一项名为 Bard 的人工智能聊天机器人技术,将直接与 ChatGPT 竞争; 微软宣布推出由 ChatGPT 支持的最新版本 Bing(必应)搜索引擎和 Edge 浏览器; 百度表示,人工智能聊天机器人服务项目“文心一言”目前在做上线前的冲刺,预计三月份完成内测。

同样拥有搜索业务的三六零公司也在互动平台回复称,公司计划尽快推出类 ChatGPT 技术的 demo 版产品。

另外,鸿博股份、长亮科技、熵基科技、寺库集团、奥飞娱乐等公司亦表示,将对 ChatGPT 相关技术做研究。

ChatGPT 也成为投资者的关注焦点。

美东时间 2 月 7 日,微软收涨逾 4%,市值飙升超 800 亿美元; 谷歌收涨超 4%,市值亦飙涨超 600 亿美元; 美股百度收涨 12.18%。另,7 日港股百度集团收涨 15.33%; 美股寺库 6 日收涨 124.4%,7 日继续收涨;A 股三六零、鸿博股份连续两日 (7 日、8 日) 涨停。

另,同花顺 iFinD 数据显示,A 股市场的 ChatGPT 概念近期强势上涨,相关概念股纷纷“起飞”。不过,云从科技、达实智能、新国都等公司纷纷澄清,未与 OpenAI 开展合作或涉及 ChatGPT 业务。ChatGPT 热潮仍在蔓延,但 8 日 ChatGPT 概念已有所降温,多只相关个股股价出现下跌。

在华创证券看来,ChatGPT 浪潮下,效果永远是重要的落脚点。国内外从事大模型训练的企业众多,随着 ChatGPT 的高关注,预计市场将会陆续出现类似的预训练预研模型,类似模型预计可能在模型参数、训练数据等角度与 ChatGPT 相媲美,但最终使用效果永远是第一落脚点,产品化的能力才是关键。(中新财经记者 谢艺观)

举报 / 反馈

原文链接:https://baijiahao.baidu.com/s?id=1757314979028346200&wfr=spider&for=pc

正文完
 
不知道
版权声明:本站原创文章,由 不知道 2023-08-13发表,共计3094字。
转载说明:声明:本站内容均来自互联网,归原创作者所有,如有侵权必删除。 本站文章皆由CC-4.0协议发布,如无来源则为原创,转载请注明出处。