AI也有缺陷？人类2016年来首次战胜了最聪明的围棋机器人

armok.

打败AI，还得靠AI。
AI统治围棋棋盘的时代迎来了一丝变数。

据媒体报道，近日，美国围棋选手Kellin Pelrine击败了顶级AI围棋机器人。

Pelrine与这台AI对弈了15场，其中1局是在计算机辅助下进行的测试局，其余14局没有计算机辅助。最终，Pelrine取得14场全胜的辉煌战绩。

自2016年谷歌旗下的AI围棋机器人AlphaGo击败世界围棋冠军李世石以来，人类旗手一直在与AI的对决中处于下风。李世石在输给AlphaGo的三年后退役。他绝望地把AlphaGo称为“一个无法被打败的东西”，认为属于人类棋手的时代已经结束。

但据媒体报道，被Pelrine打败的AI围棋机器人，棋力与AlphaGo不相上下。围棋段位远低于李世石的Pelrine究竟找到了什么样的致胜法宝？

靠AI打败AI
实际上，Pelrine之所以能打败AI，靠的也是AI。

Pelrine背后是美国公司FAR AI。这家公司开发了一个发掘bug的围棋AI，然后让它和AI围棋机器人Kata Go下了一百多万盘棋，专门寻找可以让人类棋手利用的盲点。结果真的找到了AI的盲点：AI棋手分不清“声东击西”。

简单来说，FAR AI的策略就是不断利用角落的动作分散AI的注意力，同时，慢慢将中央棋子串成一个大圈来包围AI棋手。

Pelrine表示，对人类来说，FAR AI的策略很容易就会被发现；然而，哪怕是到包围圈即将完成的时候，AI棋手也没有注意到自己的弱点。

由于AI围棋机器人的底层架构均来自谷歌旗下的AI研究机构DeepMind，所以FAR AI的团队猜测，这处bug可能是通用的。

此前，Pelrine已经利用这个bug击败了顶级AI围棋机器人Leela Zero。

AI系统的缺陷
加州大学伯克利分校计算机科学教授Stuart Russell表示，这些最先进的AI围棋机器人被发现存在弱点，表明支撑当今最先进AI的深度学习系统存在根本缺陷。

这样的缺陷是当今大多数广泛使用的人工智能系统所共有的，包括OpenAI创建的ChatGPT聊天机器人。

Stuart Russell指出，AI只能“理解”它们过去遇到的特定情况，而无法像人类一样进行“概括”：

“这再次表明，我们过于草率地认为AI具有超人的智力水平。”

研究人员对媒体表示，AI围棋机器人之所以会输，可能因为“声东击西”这一策略很少被使用，意味着AI系统没有在足够多的类似棋局中训练过，无法做出防备。

FAR AI的CEO Adam Gleave表示，如果像AI棋手那样遭遇大量对抗性攻击，人工智能系统的缺陷很容易就会暴露，但即便如此，市场对AI应用的热情不减：

“我们看到非常大的AI系统几乎没有经过验证就被大规模部署。”

jasonzhu8888

这种策略棋局未来需要判断的分叉树又广又深，剪枝太难了。可以说是超大深度对AI的深度学习产生克制效果了

hzpyl

让AI，看看我们的36计，

dellric

hzpyl 发表于 2023-2-21 07:40
让AI，看看我们的36计，
(引用自3楼)

那年AI觉醒，干掉了99.99%的人类
人类的最后火种在最后一刻看到了古人留给他们的最后希望：

三十七计： 拔掉电源线