chatGPT有时也错会得离谱。。

amwjz

问下一下药品的作用，这是常用的，网上随便可以杳出结果，但chatGPT就错得离谱。。


第一回答就错了，我指出


再问，又错了


再问另一种，这次聪明，干脆说不会了，但网上随便可以查出，腹可安也是一种肠胃炎的药

armok.

你问英文名字估计会准确些。

leafstamen

我觉得出现这样的情况是因为喂的数据里两种说法都有，按照哪种说法他都能检索出大量的“合理”的内容，你给了提示后他就会顺着你的意思说。

担心的是：
通过大量人的不断反馈可以改变他对一件事情的看法，比如如果有大量的人反复告诉他上床睡觉之前要先穿上鞋，一段时间后再问他上床睡觉的步骤是什么，很有可能会出现穿上鞋这个步骤。
如果习惯上只依赖类chatgpt的工具，并且此工具掌握在不靠谱的人的手中，改变大众的思想貌似更容易了。

armok.

估计这方面的训练不多。

鲜衣怒马

leafstamen 发表于 2023-2-10 10:57
我觉得出现这样的情况是因为喂的数据里两种说法都有，按照哪种说法他都能检索出大量的“合理”的内容，你给 ...
(引用自3楼)

简而言之：AI也可以被洗脑

bbglx

有没有人去问相同的问题看怎么回答

tang_qianfeng

感觉应该是原创

vtte

小劈柴，黄莲，一看就像中药名。 你问西药试试看。

ehengio

是黄连素，不是莲，换个试试看呢

gzhuli

leafstamen 发表于 2023-2-10 10:57
我觉得出现这样的情况是因为喂的数据里两种说法都有，按照哪种说法他都能检索出大量的“合理”的内容，你给 ...
(引用自3楼)

按目前的观察，ChatGPT不具备在线搜索和自学习功能，也就是说训练资料里面没有的知识它是不知道的，但它会给你瞎说，然后在你引导下可能会得出你想要的结果，但它不会将这个结果作为一个“新知识”记住，所以是不怕被带坏的。

前几年微软小冰试图集成在线搜索和自学习功能，结果很快就被网友带坏了，粗口骂人、种族歧视言论张嘴就来，估计你教它穿鞋睡觉会反被嘲笑一番。

cantonguy

所以AI其實就是資料庫搜索，對於通識，其實已經可以作爲好多人的老師了
但是有個致命的問題，資料是搜索的，沒辦法分辨對錯，因爲爲食的是人類灌輸的資料。。。想想爲什麽要封了大陸用戶就知道了

lb0857

还没有那么智能

guolun

看来把它定义为资料库，知识库应该没有问题。但它在人文方面比较弱。尤其是中文。估计英文的问题会好很多。

kinoko

玩了一下，确实是那样，每个类型的回答模板也固定。做医疗顾问，写代码什么想多了。

hmsfeng

现在就是开放大家去训练AI，积累更多素材。

Momo

鲜衣怒马 发表于 2023-2-10 11:24
简而言之：AI也可以被洗脑
(引用自5楼)

AI的本质基于统计学

colinzhao

Momo 发表于 2023-2-11 01:50
AI的本质基于统计学
(引用自16楼)

什么鬼，ai跟统计有什么直接关系？

colinzhao

我唠两句：1、AI可以被洗脑很不正常吗？人都可以被洗脑，基于深度神经网络的ai为什么不可以被洗脑？
2、我感觉大部分人对ai的认识是有严重偏差，AI模仿生物神经网络，当规模远远超过生物脑的规模之后，任何可能都会发生
3、应该以一种谨慎、谦虚、善意的态度对待AI，玩tensorflow两三年了，常常有细思极恐的感觉

dengkong

看到有人问它，它回答中文资料来自baidu

Himem