什么是ChatGPT以及如何使用它?

2023-02-07 投手app

这就是 ChatGPT,以及为什么它可能是自现代搜索引擎以来最重要的工具

OpenAI 引入了一种名为 ChatGPT 的长格式问答 AI,它可以对话式回答复杂的问题。

这是一项**性的技术,因为它经过训练可以了解人类提出问题时的意思。

许多用户对它提供人类质量响应的能力感到敬畏,激发了一种感觉,即它最终可能有能力**人类与计算机的交互方式并改变信息的检索方式。

什么是聊天 GPT?

ChatGPT是OpenAI基于GPT-3.5开发的大型语言模型聊天机器人。它具有以会话对话形式进行交互并提供令人惊讶的人性化响应的非凡能力。

大型语言模型执行预测一系列单词中的下一个单词的任务。

Reinforcement Learning with Human Feedback (RLHF) 是一个额外的训练层,它使用人类反馈来帮助 ChatGPT 学习遵循指示并生**类满意的响应的能力。

谁建立了 ChatGPT?

ChatGPT 由总部位于旧金山的人工智能公司 OpenAI 创建。OpenAI Inc. 是营利性 OpenAI LP 的非营利性母公司。

OpenAI 以其著名的 DALL·E 而闻名,这是一种深度学习模型,可根据称为提示的文本指令生成图像。

首席执行官是 Sam Altman,他之前是 Y Combinator 的总裁。

微软是10 亿美元的合作伙伴和投资者。他们共同开发了Azure AI 平台。

大型语言模型

ChatGPT 是一种大型语言模型 (LLM)。大型语言模型 (LLM) 使用大量数据进行训练,以准确预测句子中接下来出现的单词。

人们发现,增加数据量可以提高语言模型做更多事情的能力。

根据斯坦福大学的说法:

“GPT-3 有 1750 亿个参数,并接受了 570 GB 文本的训练。相比之下,其前身 GPT-2 的参数量为 15 亿个,小了 100 多倍。

这种规模的增加极大地改变了模型的行为——GPT-3 能够执行它没有明确接受过训练的任务,比如将句子从英语翻译成法语,几乎没有训练示例。

这种行为在 GPT-2 中几乎不存在。此外,对于某些任务,GPT-3 优于经过明确训练以解决这些任务的模型,尽管在其他任务中它不尽如人意。”

LLM 预测一个句子中一系列单词中的下一个单词和下一个句子——有点像自动完成,但在一个令人费解的范围内。

这种能力使他们能够编写段落和整页内容。

但法学硕士的局限性在于他们并不总是能准确理解人类的需求。

这就是 ChatGPT 通过上述人类反馈强化学习 (RLHF) 培训改进现有技术的地方。

ChatGPT 是如何训练的?

GPT-3.5 接受了来自互联网的大量代码和信息数据的训练,包括 Reddit 讨论等来源,以帮助 ChatGPT 学习对话并获得人性化的回应方式。

ChatGPT 还使用人类反馈(一种称为人类反馈强化学习的技术)进行训练,以便 AI 了解人类在提出问题时的期望。以这种方式训练 LLM 是**性的,因为它不仅仅是训练 LLM 预测下一个单词。

2022 年 3 月的一篇题为“训练语言模型以遵循人类反馈的指令”的研究** 解释了为什么这是一种突破性的方法:

“这项工作的动机是我们的目标是通过训练大型语言模型去做一组给定的人类希望他们做的事情来增加大型语言模型的积极影响。

默认情况下,语言模型会优化下一个单词预测目标,这只是我们希望这些模型执行的*作的代理。

我们的结果表明,我们的技术有望使语言模型更有用、更真实、更无害。

使语言模型更大并不能从本质上使它们更好地遵循用户的意图。

例如,大型语言模型可能会生成不真实的、有毒的或对用户没有帮助的输出。

换句话说,这些模型与他们的用户不一致。”

构建 ChatGPT 的工程师聘请了承包商(称为贴标机)对 GPT-3 和新的 InstructGPT(ChatGPT 的“兄弟模型”)这两个**的输出进行评级。

根据评级,研究人员得出以下结论:

“与 GPT-3 的输出相比,标记者更喜欢 InstructGPT 输出。

InstructGPT 模型在真实性方面比 GPT-3 有所改进。

InstructGPT 显示毒性比 GPT-3 略有改善,但没有偏差。”

该研究**得出结论,InstructGPT 的结果是积极的。不过,它也指出还有改进的余地。

“总的来说,我们的结果表明,使用人类偏好微调大型语言模型可以显着改善它们在广泛任务中的行为,尽管要提高它们的安全性和可靠性还有很多工作要做。”

ChatGPT 与简单的聊天机器人的不同之处在于,它经过专门训练,可以理解问题中的人类意图,并提供有用、真实且无害的答案。

由于该培训,ChatGPT 可能会挑战某些问题并丢弃问题中没有意义的部分。

另一篇与 ChatGPT 相关的研究**展示了他们如何训练人工智能来预测人类的偏好。

研究人员注意到,用于评估自然语言处理 AI 输出的指标导致机器在指标上得分很高,但与人类的预期不符。

以下是研究人员如何解释这个问题:

“许多机器学习应用程序优化简单的指标,这些指标只是设计者意图的粗略代表。这可能会导致问题,例如 YouTube 推荐宣传点击诱饵。”

因此,他们设计的解决方案是创建一个人工智能,该人工智能可以输出针对人类偏好进行优化的答案。

为此,他们使用人类对不同答案进行比较的数据集对 AI 进行了训练,以便机器能够更好地预测人类认为令人满意的答案。

该**分享了培训是通过总结 Reddit 帖子完成的,并在总结新闻时进行了测试。

2022 年 2 月的研究**名为Learning to Summarize from Human Feedback。

研究人员写道:

“在这项工作中,我们表明可以通过训练模型来优化人类偏好来显着提高摘要质量。

我们收集了一个大型、高质量的人类比较摘要数据集,训练一个模型来预测人类偏好的摘要,并将该模型用作奖励函数,以使用强化学习微调摘要策略。”

ChatGPT 的局限性是什么?

毒性反应的局限性

ChatGPT 经过专门编程,不会提供有毒或有害的响应。所以它会避免回答这类问题。

答案的质量取决于方向的质量

ChatGPT 的一个重要**是输出质量取决于输入质量。换句话说,专家指导(提示)会产生更好的答案。

答案并不总是正确的

另一个**是,因为它经过训练可以提供人类感觉正确的答案,所以这些答案可能会欺骗人类输出是正确的。

许多用户发现 ChatGPT 可以提供不正确的答案,包括一些非常不正确的答案。

编码问答网站 Stack Overflow 的版主可能发现了人类认为正确的答案的意外后果。

Stack Overflow 充斥着从 ChatGPT 生成的用户回复,这些回复看起来是正确的,但很多都是错误的答案。

数以千计的答案让志愿者主持人团队不堪重负,促使管理员对发布由 ChatGPT 生成的答案的任何用户颁布禁令。

ChatGPT 的大量回答导致了一篇题为:临时政策:ChatGPT 被禁止的帖子:

“这是一项临时政策,旨在减缓使用 ChatGPT 创建的答案和其他内容的涌入。

……主要问题是,虽然 ChatGPT 产生的答案有很高的错误率,但它们通常“看起来”“可能”不错……”

Stack Overflow 版主使用看似正确的错误 ChatGPT 答案的经历是 ChatGPT 的制造商 OpenAI 在其新技术公告中意识到并警告的事情。

OpenAI 解释了 ChatGPT 的局限性

OpenAI 公告提出了这个警告:

“ChatGPT 有时会写出看似合理但不正确或荒谬的答案。

解决此问题具有挑战性,因为:

(1) 在 RL 训练期间,目前没有真实来源;

(2) 训练模型更加谨慎导致它拒绝可以正确回答的问题;和

(3) 监督训练会误导模型,因为理想的答案取决于模型知道什么,而不是人类演示者知道什么。”

ChatGPT 可以****吗?

ChatGPT 目前在“研究预览”期间****。

该聊天机器人目前已**供用户试用并提供有关响应的反馈,以便 AI 能够更好地回答问题并从错误中吸取教训。

官方公告称,OpenAI 渴望收到有关错误的反馈:

“虽然我们努力让模型拒绝不适当的请求,但它有时会响应有害指令或表现出有偏见的行为。

我们正在使用 Moderation API 来警告或阻止某些类型的不安全内容,但我们预计它目前会有一些漏报和漏报。

我们渴望收集用户反馈,以帮助我们正在进行的改进该**的工作。”

目前有一场比赛,奖金为 500 美元的 ChatGPT 积分,以鼓励公众对回复进行评分。

“鼓励用户通过 UI 提供有关有问题的模型输出的反馈,以及来自外部内容过滤器(也是界面的一部分)的误报/否定。

我们对有关在现实世界、非对抗性条件下可能发生的有害输出的反馈,以及帮助我们发现和理解新风险和可能的缓解措施的反馈特别感兴趣。

您可以选择参加 ChatGPT 反馈竞赛3,有机会赢取高达 500 美元的 API 积分。

可以通过 ChatGPT 界面中链接的反馈表提交参赛作品。”

目前正在进行的比赛将于 2022 年 12 月 31 日太平洋标准时间晚上 11:59 结束。

语言模型会取代谷歌搜索吗?

谷歌本身已经创建了一个名为LaMDA的 AI 聊天机器人。谷歌聊天机器人的性能非常接近人类对话,以至于一位谷歌工程师声称LaMDA 具有感知能力。

鉴于这些大型语言模型如何能够回答如此多的问题,像 OpenAI、谷歌或微软这样的公司有一天会用 AI 聊天机器人取代传统搜索,这是否牵强附会?

Twitter 上的一些人已经宣布 ChatGPT 将成为下一个谷歌。

问答聊天机器人有朝一日可能会取代谷歌的场景让那些以搜索营销专业人士为生的人感到恐惧。

它引发了在线搜索营销社区的讨论,例如流行的 Facebook SEOSignals Lab,有人问搜索是否可能从搜索引擎转向聊天机器人。

测试过 ChatGPT 后,我不得不承认,担心搜索被聊天机器人取代并非没有根据。

该技术还有很长的路要走,但可以设想混合搜索和聊天机器人的未来搜索。

但目前 ChatGPT 的实施似乎是一种工具,在某些时候需要购买积分才能使用。

如何使用 ChatGPT?

ChatGPT 可以以特定作者的风格编写代码、诗歌、歌曲,甚至短篇小说。

遵循以下方向的专业知识将 ChatGPT 从信息源提升为可以用来完成任务的工具。

这使得它对于撰写几乎任何主题的文章都很有用。

ChatGPT 可以作为生成文章甚至整部小说大纲的工具。

它几乎可以回答任何可以用书面文本回答的任务。

遵循以下方向的专业知识将 ChatGPT 从信息源提升为可以用来完成任务的工具。

这使得它对于撰写几乎任何主题的文章都很有用。

ChatGPT 可以作为生成文章甚至整部小说大纲的工具。

它几乎可以回答任何可以用书面文本回答的任务。


相关股票: 机器人 太平洋
相关概念: 机器人 人工智能

崛起的中科系,被改变的我国芯片产业格局

当前,以芯片为代表的信创产业逐步成为国家科技竞争力的重要标志。在国产CPU产业强势崛起的过程中,你首先想到的会是哪几企业?答案有很多,但“中科系”的提及率绝对很高。作为国家战略科技力量,“中科系”旗下

芯片战场丨芯片领域三箭齐发 英特尔跑步突围

21世纪经济报道记者倪雨晴 圣何塞报道在硅谷源泉之一的圣何塞,英特尔CEO帕特·基辛格(Pat Gelsinger)正在带领英特尔加速奔跑。当地时间9月19日,2023英特尔on技术创新大会于美国加利

OPPO重启芯片业务?国产芯片或需告别“单打独斗”

财联社9月19日讯(记者 唐植潇)近日有消息称,OPPO将会重启芯片业务,并且“有部分员工已经回流,加入到了车载业务之中”。记者就此事向OPPO方面进行核实,对方表示“不予置评”。特百惠(我国)数字与

600亿颗芯片!我国巨头正式宣布,美媒:**也没料到制裁这么快

我国芯片市场与美国依赖我国的集成电路市场一直以来都是一个巨大的市场,拥有庞大的需求和巨大的增长潜力。我国的电子消费市场一直在迅速增长,包括智能手机、电视、电脑和各种智能设备等,这些设备都需要高性能的芯

最新手机芯片天梯图:A17、华为麒麟9000S,排在什么位置?

近日,最火的两颗芯片分别是苹果的3nm芯片A17 Pro,虽然很多人吐槽它较上一代提升不明显,但论性能,可以碾压任何安卓芯片,甚至是领先2代的。另外一款芯片,则是华为麒麟9000S,当然,这颗芯片工艺

韩国芯片连续13个月暴跌,尹锡悦指责我国不采购,外媒:自食其果

据韩国媒体称,韩国的半导体出口额已经连续暴跌13个月了,比去年同比下降了28%左右。韩国政府急的焦头烂额。尹锡悦政府竟直接甩锅我国,话里话外都是指责,他认为韩国半导体卖不出竟是我国的原因,我国应该帮助

我国突破芯片瓶颈将影响全球秩序?美国很担心,指出我国关键弱点

我国在芯片半导体领域一直深受美国的**,通过贸易制裁的方式阻止高端芯片进入我国市场。这样的举措一度造成我国芯片领域发展断档,不过随着我国科技企业近几年的突破,目前我国已经在芯片制造方面取得了重大的成果

没有他,我国芯片发展至少要**十年?

前几天,华为一声不响的上线了mate60系列,带着麒麟芯片9000s强势回归,吸引了全世界的目光。而华为麒麟芯片**背后,我们不该忘记这位老人—张汝京。我国半导体之父,为回**造芯片,被开除**户籍,

陈清泰:未来汽车颠覆传统,50%以上的零部件体系面临重构

【有车以后 资讯】“未来汽车对传统汽车的颠覆性,使传统零部件体系的50%以上都面临重构。”12月16日,在全球智能汽车产业峰会(GIV2022)上,我国电动汽车百人会理事长陈清泰指出,智能汽车的价值链

「姿势」一辆汽车由多少个零件组成?保证你说不清...

投稿点这里汽车有多少个零件?其实这个问题并没有一个十分确切的标准答案...据估计,一般轿车约由1万多个不可拆解的**零部件组装而成。结构极其复杂的特制汽车,如F1赛车等,其**零部件的数量可达到2万个

全球最大的10家汽车零部件供应商 都是世界500强 无我国企业

【卡车之家 原创】美国《财富》**每年发布的世界500强排行榜,是以营业收入数据对全球企业作出排名的榜单。2017年“世界500强”榜单中,汽车制造商和零部件厂商共占据33席(除去大型工程车辆企业),

汽车零部件企业哪家强?除了博世**还有这些名字你一定耳熟能详

文:懂车帝原创 李德喆[懂车帝原创 行业]9月18日,由《我国汽车报》主办,罗兰贝格协办的2019汽车零部件“双百强”企业发布会在江苏南京举行。在两份榜单中,博世、**、电装位列2019全球汽车零部件

汽车零部件行业现状及产业链

行业现状(Reference:产业运行 | 2021年汽车工业经济运行情况)中汽协预测:2022年我国汽车销量达到2700万辆,新能源销量超过550万辆(Reference:乘用车市场信息联席会)以乘

全球十大汽车零部件供应商,核心技术都被他们垄断,自主遗憾缺席

提到电影,我们会想到张艺谋、冯小刚,而很少会想到幕后的制作人;提起流行乐,我们会想到周杰伦、萧敬腾,而很少会想到背后的作词人。台前台后,一幕之别,知名度往往相差甚远。车界又何尝不是如此,知名车企我们都

高清汽车各零部件构造图,看完你就是汽车专家!

2023世界移动通信大会即将举行,大批中企强势回归!

来源:环球时报 【环球时报记者 倪浩 陶震 环球时报驻德国特约记者 青木】经过3年疫情后,全球最具影响力的通信展今年有望再现往日盛况。2月27日至3月2日,由全球移动通信**协会(GSMA)主办的20

太空新赛道:6G时代的卫星通信,究竟是什么?

近日华为、苹果争相推出手机卫星通信功能,成为一大亮点,不少手机厂商也将目光投到卫星通信。放眼未来,手机直连卫星的卫星通信服务将是大势所趋,也是6G时代的重要标志。华为以“北斗三号”为依托,率先把“卫星

光纤#光纤通信

国内企业在光通信产品的参数测试过程中,通常使用国外的先进测试设备。然而,这些测试仪器之间往往是孤立存在的,需要手动调试仪器并通过旋钮、按钮和人眼观察波形或数据。这不仅*作繁琐易出错,而且测试效率低下。

龙头20cm涨停,7天股价翻倍!一文看懂卫星通信前世今生及产业链

卫星通信概念股华力创通今日再度强势拉升,截至发稿,该股股价20cm涨停,7个交易日累计涨幅近113%,现报23.52元续刷阶段新高,总市值155.9亿元。消息上,有媒体从供应链获悉,Mate 60 P

工信部:目前我国尚不具备实现网络层面的移动通信号码归属地变更的条件

针对网友提出的“电话号码归属地更改”建议,工信部近日给出了官方回复。此前,有网友在人民网留言板向工信部留言称,“现在电话都是实名制,电话号绑定的***及一些主流的软件较多,更换号码后造成一系列问题

AD
更多相关文章