类脑计算:摩尔定律终点前,算力破局的真方向还是资本泡沫?
最近大模型圈吵得最凶的事儿,除了大模型降本,就是下一代算力在哪。GPU涨得比房价还疯,摩尔定律已经摸到物理极限,3nm之后再往下走,每一代性能提升挤牙膏,成本涨三倍。
所有人都在找破局点。类脑计算就是最近站在聚光灯下的那个。
冯诺依曼与类脑计算架构对比示意图
就这一点改进,同算力下的功耗直接能降到传统芯片的十分之一甚至百分之一。这个诱惑太大了。
不过话说回来,现在的类脑技术,离“复刻人脑”还差了至少一个数量级。人脑有860亿神经元,现在最先进的类脑芯片,神经元数量也就百亿级别,还是用数字技术模拟的,连接方式和人脑的稀疏动态连接根本没法比。它是解决功耗问题的新思路,不是什么开天辟地的人造大脑神话。
第二代天机芯类脑计算芯片实物图
但是好看的数据背后,落地的坎一个比一个大。
第一个坎就是生态。现在整个AI产业的工具链、模型、开发习惯,全都是给冯诺依曼架构做的。你一个新的类脑芯片出来,要把一个成熟的Transformer模型移植上去,得重新适配所有算子,重新训练调整,开发成本翻好几倍,没有哪个公司愿意没事折腾这个。除非你的性能优势大到没办法拒绝,现在显然还没到那个地步。
第二个坎是规模跟不上当前的AI热潮。现在大模型都是千亿万亿参数,现在大部分类脑芯片,最多也就支撑亿级参数的小模型,想要做大模型推理,还得多个芯片拼接,延迟和通讯开销又上去了,把功耗优势抵消了大半。
现在真正落地的项目,几乎全都是低功耗边缘场景:野外物联网监测节点、植入式医疗设备、智能家居的离线语音控制。这些地方对算力要求不高,对功耗要求到极致,刚好是类脑的舒适区。至于大家最关心的云端大模型训练加速,现在还停留在实验室概念阶段,离商用远得很。
未来三年:不会颠覆,但会成为刚需补位
很多人一提到新技术就问,会不会颠覆现有格局?会不会取代GPU?
我觉得不会,至少未来三五年不会。类脑计算的定位,从一开始就是补位,不是革命。
最可能的路线就是异构混合计算架构:CPU管通用调度,GPU管大算力密集训练,类脑芯片专门管低功耗的边缘推理,或者大模型里的稀疏激活部分,各自干擅长的活。
风险也不能不提。第一个是安全可靠性问题,类脑的脉冲计算是动态的,同样的输入两次跑出来的结果可能有细微差别,对于自动驾驶、医疗诊断这种容不得错的场景,怎么建立统一的测试验证标准?现在还没人能给出答案。第二个就是资本泡沫,现在只要沾类脑两个字,就能拿到融资,不少PPT芯片公司拿着概念圈钱,最后一地鸡毛的情况肯定会有。
那未来三五年,我们能看到什么?
我觉得三件事是大概率会发生:第一,边缘端类脑AI芯片出货量破千万级,在物联网、可穿戴设备上大规模应用,这个最多三年就能实现。第二,会有厂商推出支持百亿参数大模型推理的类脑加速卡,把云端推理的功耗降一半以上,五年内就能看到。第三,整个产业会慢慢建立起适配类脑架构的开发工具链,开发者移植成本降下来,才会有更多玩家进场。
说白了,摩尔定律慢下来之后,整个计算产业都在试各种方向,有人做光子计算,有人做量子计算,类脑是其中路线最清晰、离商业化最近的那个。
它不是拯救算力危机的银子弹,但绝对是未来计算版图里,不可缺少的一块。
别被“类脑”两个字骗了,它不是要造一颗人脑
很多人一听名字,就觉得科学家要复制人脑的结构,造出和人一样会思考的机器。说实话,想多了。 现在我们说的商用化阶段的类脑计算,核心其实只有一点:推翻冯诺依曼架构“存储计算分离”的老规矩,做存储计算一体化。 传统计算架构里,数据要先从内存搬到计算单元,算完再搬回去。跑大模型的时候,90%以上的功耗和时间,都浪费在来回搬数据的路上,真正用来计算的不到10%。这个就是冯诺依曼瓶颈,拖了整个行业几十年。 类脑怎么改?模仿人脑神经元的工作方式:只有当脉冲信号积累到一定阈值,神经元才会放电传递信号,大部分时候神经元都处于休眠状态,不耗电。同时,每一个神经元本身就兼具存储和计算的功能,不需要来回搬数据。
冯诺依曼与类脑计算架构对比示意图
就这一点改进,同算力下的功耗直接能降到传统芯片的十分之一甚至百分之一。这个诱惑太大了。
不过话说回来,现在的类脑技术,离“复刻人脑”还差了至少一个数量级。人脑有860亿神经元,现在最先进的类脑芯片,神经元数量也就百亿级别,还是用数字技术模拟的,连接方式和人脑的稀疏动态连接根本没法比。它是解决功耗问题的新思路,不是什么开天辟地的人造大脑神话。
一半资本热捧,一半落地难,产业现状比你想的骨感
这两年类脑计算的融资热度,肉眼可见的疯涨。国内去年公开的类脑方向融资,总额超过40亿,是五年前的十倍还多。国外IBM、英特尔早早布局,国内中科院、清华早有技术积累,创业公司也冒出来十好几家。 进展确实有。国内的天机芯已经能做到在毫米级芯片上集成数万个神经元,跑小型图像识别、自然语言模型毫无压力,功耗低到能靠纽扣电池跑半年。海外英特尔的Loihi 2,已经支持开发者做云端测试。
第二代天机芯类脑计算芯片实物图
但是好看的数据背后,落地的坎一个比一个大。
第一个坎就是生态。现在整个AI产业的工具链、模型、开发习惯,全都是给冯诺依曼架构做的。你一个新的类脑芯片出来,要把一个成熟的Transformer模型移植上去,得重新适配所有算子,重新训练调整,开发成本翻好几倍,没有哪个公司愿意没事折腾这个。除非你的性能优势大到没办法拒绝,现在显然还没到那个地步。
第二个坎是规模跟不上当前的AI热潮。现在大模型都是千亿万亿参数,现在大部分类脑芯片,最多也就支撑亿级参数的小模型,想要做大模型推理,还得多个芯片拼接,延迟和通讯开销又上去了,把功耗优势抵消了大半。
现在真正落地的项目,几乎全都是低功耗边缘场景:野外物联网监测节点、植入式医疗设备、智能家居的离线语音控制。这些地方对算力要求不高,对功耗要求到极致,刚好是类脑的舒适区。至于大家最关心的云端大模型训练加速,现在还停留在实验室概念阶段,离商用远得很。
未来三年:不会颠覆,但会成为刚需补位
未来三年:不会颠覆,但会成为刚需补位
很多人一提到新技术就问,会不会颠覆现有格局?会不会取代GPU?
我觉得不会,至少未来三五年不会。类脑计算的定位,从一开始就是补位,不是革命。
最可能的路线就是异构混合计算架构:CPU管通用调度,GPU管大算力密集训练,类脑芯片专门管低功耗的边缘推理,或者大模型里的稀疏激活部分,各自干擅长的活。
风险也不能不提。第一个是安全可靠性问题,类脑的脉冲计算是动态的,同样的输入两次跑出来的结果可能有细微差别,对于自动驾驶、医疗诊断这种容不得错的场景,怎么建立统一的测试验证标准?现在还没人能给出答案。第二个就是资本泡沫,现在只要沾类脑两个字,就能拿到融资,不少PPT芯片公司拿着概念圈钱,最后一地鸡毛的情况肯定会有。
那未来三五年,我们能看到什么?
我觉得三件事是大概率会发生:第一,边缘端类脑AI芯片出货量破千万级,在物联网、可穿戴设备上大规模应用,这个最多三年就能实现。第二,会有厂商推出支持百亿参数大模型推理的类脑加速卡,把云端推理的功耗降一半以上,五年内就能看到。第三,整个产业会慢慢建立起适配类脑架构的开发工具链,开发者移植成本降下来,才会有更多玩家进场。
说白了,摩尔定律慢下来之后,整个计算产业都在试各种方向,有人做光子计算,有人做量子计算,类脑是其中路线最清晰、离商业化最近的那个。
它不是拯救算力危机的银子弹,但绝对是未来计算版图里,不可缺少的一块。