AGI应当具有“电路可塑性”,类似生物大脑的神经可塑性,才能比现在的LLM廉价、节能

写科幻小说时突然领悟:现有LLM可在软件层面更新权重参数;但计算机出厂后,硬件物理结构就固定不变;电子只能流动在预制的固定电路,大量能量浪费在存储器与运算器之间传输数据。 生物大脑节能高效,原因之一是神经细胞可以自行生长、消退,传输神经信号时同步调整突触连接强度、神经回路。 因此,AGI的门槛比我们...
AGI应当具有“电路可塑性”,类似生物大脑的神经可塑性,才能比现在的LLM廉价、节能
AGI应当具有“电路可塑性”,类似生物大脑的神经可塑性,才能比现在的LLM廉价、节能

写科幻小说时突然领悟:现有LLM可在软件层面更新权重参数;但计算机出厂后,硬件物理结构就固定不变;电子只能流动在预制的固定电路,大量能量浪费在存储器与运算器之间传输数据。

生物大脑节能高效,原因之一是神经细胞可以自行生长、消退,传输神经信号时同步调整突触连接强度、神经回路。

因此,AGI的门槛比我们想象的更高;未来排在智商第一梯队的LLM,必然消耗巨量电力和算力;普通人有能力本地部署的模型,始终打不过科技巨头养在GPU集群的吞电兽。

从专用人工智能到通用人工智能,硬件必须更新。假如计算机要实现电路可塑性,现有方案是忆阻器,电流经过就会改变电阻;未来也许有某种神奇的液态金属或者自组装半导体。

8 个帖子 - 5 位参与者

阅读完整话题

来源: linux.do查看原文