天下乌鸦一般黑 发表于 2023-11-21 12:32:24

总提chatgpt,哪位大佬讲讲这玩意啥原理?

原来AI这个词火爆的时候,还能理解。
现在又搞chatgpt。。。不懂了。大佬们能尝试给我们不懂的讲讲不~
这东西啥原理?

sonna 发表于 2023-11-21 12:51:05

从电工角度看技术原理就这个:【火爆全网!GPT-1/2/3原理详解+源码解读!这可能是你在B站见过最详细的讲解!比刷剧爽多了!-GPT算法、GPT、GPT-2、GPT-3】 https://www.bilibili.com/video/BV1Z14y1N7QN/?share_source=copy_web&vd_source=6e7b24c7f854a19df2bc72f626f3efcd

akey3000 发表于 2023-11-21 12:51:13

ChatGPT(恰匹题)(全名:Chat Generative Pre-trained Transformer),是OpenAI 研发的聊天机器人程序 ,于2022年11月30日发布 。ChatGPT是人工智能技术驱动的自然语言处理工具,它能够通过理解和学习人类的语言来进行对话,还能根据聊天的上下文进行互动,真正像人类一样来聊天交流,甚至能完成撰写邮件、视频脚本、文案、翻译、代码,写论文 等任务。

yplin27 发表于 2023-11-21 13:04:22

可以认为是通用人工智能技术爆发的奇点,以前都是专用模型,由程序员根据特定需求训练,配置,预处理数据,运行;而ChatGPT具有极大脑容量以及惊人的学习速度,可以把人类历史上所有文字,图片,音频,视频都学习完,你要他干什么直接说就可以

rclong 发表于 2023-11-21 13:04:52

一句话概括就是,根据前面的序列生成下一个字
这个序列可以是用户输入的,也可以是自己已经输出的内容
有点类似输入法的联想功能

但如何从词库中计算出该生成哪个字(或者说哪个字出现的概率最大),中间权重计算过程非常复杂,GPT开发者要平衡训练成本和模型效果

zyqcome 发表于 2023-11-21 14:57:24

百万个为什么

kingqxj 发表于 2023-11-21 15:59:23

管他啥原理。用就完了。

albert_w 发表于 2023-11-21 16:42:11

深度学习的东西不讲原理, 里面一些工作细节的原理比较迷, 即使对于行业内的人

cargle 发表于 2023-11-21 23:20:27

GitHub 的copilot值得每个程序员拥有

pcwhy 发表于 2023-11-21 23:34:01

你得按这个路径来搞,不能跳,不然你越看越迷:RNN->GRU->Time Series Classification/Prediction->Seq2Seq->Attention->Self-Attention->Transformer->Encoder-Only Transformer (Bert, Vit)->Decoder-Only Transformer (GPT) ->Beam Searching。研究生的课都得三次才能讲完。

sonna 发表于 2023-11-22 00:49:43

pcwhy 发表于 2023-11-21 23:34
你得按这个路径来搞,不能跳,不然你越看越迷:RNN->GRU->Time Series Classification/Prediction->Seq2Seq ...
(引用自10楼)

学习人工智能(AI)和机器学习(ML)的模型,按照您给出的顺序(从RNN到Beam Searching),可以看成是一种从基础到进阶的路径,以下是按照这个顺序学习的潜在优缺点:

优点:

1. 基础到高级:这个顺序从最基本的循环神经网络(RNN)开始,逐步介绍更复杂的模型,有助于建立扎实的理解基础。
2. 递进学习:每个模型都是在前一个的基础上改进的,这有助于理解为什么需要新模型以及它们是怎样解决前一代模型问题的。
3. 重点领域:这个顺序覆盖了序列到序列模型和自注意力机制,这些都是当前NLP领域的重点研究方向。
4. 理解变革性模型:通过学习如Transformer和Bert,可以理解当前NLP领域的变革性模型和技术。
5. 有目的性的学习:最后学习Beam Searching这样的搜索策略有助于在实践中应用序列生成模型。

缺点:

1. 学习曲线陡峭:对于初学者来说,这个学习路径的难度逐渐增加,可能会导致一些学生在没有充分理解基础知识的情况下就迈向更难的概念。
2. 时间投资大:掌握这个列表上的所有技术需要巨大的时间和精力投资,可能会让学习者感到压力。
3. 可能的知识缺口:这个顺序专注于序列处理和NLP,可能会忽略其他类型的网络和ML的其他领域,如卷积神经网络(CNNs)和强化学习。
4. 实践不足:理论学习需要与实践相结合,单纯按照这个顺序学习可能导致实践经验不足。
5. 更新迭代速度:AI和ML是快速发展的领域,仅仅学习这些内容可能会错过最新的研究成果和趋势。

总的来说,这个学习路径对于想要深入了解序列处理和NLP的学习者是有价值的,但也需要结合实践、扩展知识范围,并持续更新学习内容以跟上领域的发展。

以上是AI回答,仅供参考{:lol:}

qwe2231695 发表于 2023-11-22 00:57:27

ai 对话机器人

armok. 发表于 2023-11-22 01:11:48

帖子移动通知:
原分论坛:☆阿莫百科
目标分论坛:机器人/AI
移动时间:0小时之后

pcwhy 发表于 2023-11-22 02:40:05

sonna 发表于 2023-11-22 00:49
学习人工智能(AI)和机器学习(ML)的模型,按照您给出的顺序(从RNN到Beam Searching),可以看成是一 ...
(引用自11楼)

我看第一句就知道你问AI了,AI只说对了一点,就是按照后一代模型解决前一代模型缺陷的思路来展开的。其它生成内容全都是正确但没有任何意义的。

ZHAOBAO511 发表于 2023-11-22 09:16:57

昨天看X音GPT开源了,说不定过段时间国内的XPT都出来了。{:lol:}

startwar0418 发表于 2023-11-22 11:32:16

GPT狗屁通,比以前狗屁不通的人工智障强了很多
页: [1]
查看完整版本: 总提chatgpt,哪位大佬讲讲这玩意啥原理?