堪比吞金兽！训练ChatGPT费电又费水

armok.

ChatGPT就像是现在吊在人类面前的大饼，让所有人都在狂热追逐人工智能。

然而，当市场热烈讨论人工智能技术革命将为世界带来更多生产力的同时，有人警告，要“养”ChatGPT实在是太费资源了。

专家指出，正如加密货币刚出来的时候那样，所有人都只在讨论新技术带来的利润，而忽略了其背后消耗的巨大能量。而人工智能是比加密货币所需计算量还要大的技术，而生成式人工智能需要经过大量的训练才能获得“智能”，并将不断改进，这一过程代表着巨大的资源消耗。

现实是，人类对于更大的模型和更大的训练集永远贪婪，这意味着，人工智能处理能力的提升，将永远伴随着资源的大量消耗。

太费电了

加拿大数字基础设施公司QScale的联合创始人Martin Bouchard表示，基于生成式AI的每一次查询都将需要普通搜索引擎四到五倍的计算能力，能源消耗也自然大幅增加。

据其估计，OpenAI在2023年1月的用电量可能相当于17.5万个丹麦家庭一年的用电量。Bouchard补充，这还只是基于目前模型使用情况的预测 ，如果其应用面更广，接下来AI的消耗规模可能就达到数百万人的等效用电量。

另据AI专家、牛津大学互联网研究所教授Sandra Wachter称，统计数据表明，全球范围内，信息和通信技术对气候变化的影响远大于航空业。

光是AI所需的能源，在2012年至2018年间就大概增加了30万倍。

Wachter还补充道，ChatGPT每训练一次，就可能花费了可供126个丹麦家庭使用一年的能源。

而这也从另一方面反映出AI可能不那么美妙的地方：一旦ChatGPT被大规模商业化，并在经济生活中占据关键地位之后，如果OpenAI的计算中心不幸收到停电通知……

也很费水

能源消耗甚巨，AI对水的需求也同样巨大。正如人类需要进食喝水以维持正常的活动，人工智能一方面需要能源来进行计算，另一方面需要水来冷却数据中心，确保运行安全。

据科罗拉多河滨大学和德克萨斯大学的一篇预印本论文指出，仅ChatGPT上一代的模型——GPT-3的训练就消耗了近70万升的水，这足以生产370辆宝马汽车 。

研究称，普通用户与ChatGPT的对话同时，淡水被不停地消耗。

换算一下，ChatGPT每与用户交流25-50个问题，其就需要“喝”下500毫升的水

。而鉴于ChatGPT的受欢迎程度，该人工智能的存在很可能对当地供水造成巨大的麻烦。

研究还指出，OpenAI需要为其超级计算机中1万张显卡和超过28.5万个处理器内核提供冷却设备，这一过程足够生产320辆特斯拉汽车的电池。

更“娇贵”的是，这些用于冷却设备的水还不能是普通的水，其必须是干净的淡水源，以避免带来腐蚀和细菌滋生的问题。

专家们忧心忡忡，警告现有数据还只是建立在GPT-3模型上的估算，而拥有更多训练数据的GPT-4预计将消耗更多的能源和水。

ChatGPT越来越像是一个让人爱恨交加的“小妖精”，满口胡话的同时还需要重金养护。从这个角度看，人工智能想要真正在现实世界落地，企业们在技术革新的同时，还需要考虑如何降低这一人类难以承受的AI成本。

PowerAnts

蒸发塔是最经济的散热方式，不过确实费水

gzhuli

微软前几年不是测试将数据中心装在货柜沉到海底了么？

autolog

感觉以前的分布式挖矿也可以拿来训练

guolun

那么，人工智能的门槛挺高的。不是谁都有能力发展的。
但估计随着技术的不断进步，这些大型的设备会逐步小型化，就如当年的房子那么大的计算机，现在被缩小成了树莓派。

gzhuli

guolun 发表于 2023-4-15 18:01
那么，人工智能的门槛挺高的。不是谁都有能力发展的。
但估计随着技术的不断进步，这些大型的设备会逐步小 ...
(引用自5楼)

然而到时候会有更先进的房子大的电脑。

liao-ljj

挖矿的赚了钱，卡出不去...就搞chatGPT.....转身高新技术，区块链不玩了.....

guolun

gzhuli 发表于 2023-4-15 18:06
然而到时候会有更先进的房子大的电脑。
(引用自6楼)

恐怕那时候的房子大的电脑，已经是天网的千万节点的一个，可能是机器人把守的重地，人类不能接近。

Franso

gzhuli 发表于 2023-4-14 22:51
微软前几年不是测试将数据中心装在货柜沉到海底了么？
(引用自3楼)

数据中心装在货柜沉到海底算不算噱头？
万一漏水，损失是不是太大

ssaiwo

咱就说，不行他们去北极搞科研去吧

keshipt

我想知道 文言一心 需要消耗多少水和电