脑子是个好东西,芯片能模仿一下吗
发表于1968年的《仿生人会梦到电子羊吗我曾经大胆设想过,机器人也会有人类的特征这些仿生人会思考,会睡觉,会做梦,开启了人们对冰冷的造物和生活的思考
现在,充满赛博朋克色彩的世界似乎不再遥远芯片的结构已经高度模仿生物大脑,开始有了五感,越来越有人类的特征它就是神经形态芯片,一种比现有CPU或GPU能耗高1000多倍的芯片
到目前为止,神经形态学计算仍处于研究阶段,但相继的工业化行动表明,这项技术将实现第一批吃螃蟹者。
从生物大脑到芯片
神经形态计算,也称仿神经计算,是指参照生物大脑的神经元结构和思维处理模式构建的架构它是跳出传统冯诺依曼架构的高级计算形式,按照这种架构设计的芯片就是神经形态学芯片
简单解释就是把人脑放进芯片里虽然乍一看这样一个词很晦涩,但其实同样借鉴人脑的人工智能技术早已走进千家万户可是,神经形态芯片是一种架构更接近人脑的设备
其中一个大脑芯片。
神经形态计算也是一种大脑芯片。
目前,学术界和工业界对类脑芯片的精确定义和范围划分尚未统一大致可以分为神经形态学芯片和深度学习处理器前者从结构层面接近生物大脑,重点是参照大脑神经元模型及其组织结构设计芯片结构,后者不是神经元组织结构,而是围绕成熟的认知计算算法设计芯片结构
简单解释一下两者的原理深度学习的专用处理器是降维处理,将多维问题转化为一维信息流神经形态学芯片是一个增维的过程,在多维的空间和时间中进行变换,以更接近人脑的思维模式,从而获得更好的能耗,计算能力和效率
深度学习处理器属于另一个子行业早在2012年,中国科学院计算技术研究所就开发了寒武纪,这是当时世界上第一个支持深度神经网络处理器架构的芯片目前玩家有Mythic,Graphcore,Gyrfalcon Technology,Groq,HAILO,Greenwaves,Google,Horizon,Cambrian等
两个方向不是独立的,也不是互相排斥的,而是交叉融合的对于已经非常擅长深度学习的,比如模拟人类视觉或者自然语言交互任务,会继续使用深度学习网络来处理,对于其他不适合深度学习的东西,比如嗅觉,机器人操控,多模态甚至模态间存储,将采用新架构的神经形态学芯片
研究和产业的界限逐渐模糊,但实际上很多论文,报告或文章中的类脑芯片指的都是神经形态学芯片本文将采用更准确的描述——神经形态学芯片
类脑计算中两种平台的特点
大脑的特征
大脑可以实现感知,运动,思维,智力等多种功能可是,由于其复杂性,对大脑的知识和理解仍然非常有限,这给神经形态芯片从认知原理,硬件实现,智能算法到两个大脑的融合等方面带来了挑战
根据目前的研究,在生物大脑中,神经元可以通过树突和突触来传递和调节信号,同时神经元之间可以以脉冲信号的形式进行交流其实单个神经元的结构和功能并不复杂,但是通过突触互联的大规模神经网络,可以实现各种复杂的学习和认知功能
此外,生物大脑与主流人造芯片结构有很大不同:
神经元和突触的信息处理结构不仅效率更高,而且可以实现大规模并行处理。
传统计算系统的冯诺依曼计算架构将计算和存储分开,而生物大脑将存储和处理集成在一起,没有单独的内存此外,生物大脑中没有动态随机存取存储器,哈希层次结构和共享内存
大脑的生物记忆不是一成不变的,既有频繁重复的长期记忆,也有迅速遗忘的短期记忆。两者的相互转化表现在突触上,即长/短时可塑性的转化,
计算机基本上都是数字信号处理方式,而生物大脑是混合信号脑内通信使用数字信号进行快速传输,神经元和突触使用更有效的模拟化学形式进行处理
传统电路结构与人脑结构
但不代表人工装置没有任何优势如果CMOS可以用来构建与生物大脑同样大小的器件,它们将呈现不同的优势领域神经形态学芯片的设计和制造必须结合生物大脑和人工装置各自的优势
大脑中相同大小CMOS器件的生物学比较
三种主流实现形式
早在1952年,就有研究将神经系统建模为等效电路直到20世纪80年代,VLSI的发明者之一,加州理工学院的Carver Mead以此为灵感,创造了Neuromorphic一词来描述模仿生物神经系统某些功能的设备和系统
包括Carmead在内的科学家花了40多年潜心研究这项技术最终目标是模拟人类感官和处理机制的分析系统,如触觉,视觉,听觉和思维现在,神经形态芯片产业已经发展到了雏形
一个理想的神经形态学芯片背后是多学科的碰撞,包括材料中对生物物质的追求,器件中神经元和突触的构建,电路中神经网络的连接,算法中大脑思维能力的实现不同的神经形态芯片涉及的材料,器件和工艺很多,它会自下而上地从材料,器件,电路,架构驱动算法和应用
源于自然计算科学的神经芯片所涉及的领域和机会都发生了变化。
到目前为止,神经形态学芯片的结构基本相同,包括神经元计算,突触权重存储和路由通信三个部分同时,采用脉冲神经网络模型
但根据材料,器件和电路的不同,又可分为以模拟电路为主的神经形态系统,全数字电路神经系统和基于新器件的数模混合神经形态系统三大流派。
两种基于CMOS的方法可以继续使用现有的制造技术构建人工神经元,并与人工突触连接,但要模拟单个神经元或突触的行为,一个电路模块需要由多个CMOS器件组成,因此功能模拟的集成密度,功耗和精度都会受到限制,新设备从底层设备的仿生角度在设备层面模拟神经元和突触,在功耗和学习性能上有明显优势,但仍处于探索阶段。
其中,数字CMOS是目前最容易产业化的形式一方面技术和制造成熟度高,另一方面,没有模拟电路的顾虑和限制
神经芯片,列表和硬壳技术的三种实现形式
如何衡量一个神经形态学芯片的好坏其竞争力从计算密度,能量效率,计算精度,学习能力四个指标进行评估
神经芯片,制表和外壳硬技术的四个关键指标及现状
解决行业燃眉之急
为什么要做神经形态学芯片其商业价值在于低功耗,少量训练数据的持续自学习理想情况下,在同样的人工智能任务中,神经形态芯片的能耗比传统CPU或GPU少1000倍以上
数字时代,电脑的运算速度越来越快,连下棋都能打败世界冠军因此,人们亲切地称计算机为计算机,但其能效和智能与生物大脑相差甚远
例如,AlphaZero是由谷歌的5000个专用机器学习处理器组成的巨无霸,但每个单元的功耗高达200W。再比如,IBM曾经在深蓝超级计算机平台上模拟了一只猫的大脑皮层模型,需要近15万个CPU和144TB主存,能耗高达1.4 MW
另一方面,人脑由大约850亿个神经元组成,由10万亿个突触连接,每秒可以进行1亿次运算可是如此庞大的系统处理日常任务的功耗只有20W同时,一个两岁的孩子在任何角度,距离和光照条件下,都可以毫无困难地从众多人群中认出他/她熟悉的人,他/她的智力远远优于任何现有的计算系统
所以把芯片做成大脑,模仿生物大脑结构,神经形态芯片确实具有能效比的特点其独特的事件触发操作机制,在没有动态信息产生时,不会触发操作行为同时也擅长分析复杂的时空序列虽然单个神经元的速率很低,但由于它类似于生物大脑的机制,可以进行大规模并行运算,其响应速度会比现有的解决方案快很多
此外,神经形态学芯片也符合绿色计算的概念电量计算成为继电力之后的又一经济指标能耗巨大的计算方法难以独领风骚,能量优化的方式是解决问题的最佳方案据估计,数据中心每年将消耗约200太瓦时的电力,相当于一些国家一年的全国用电量
如何走向大规模商业化。
神经形态芯片虽然哪里都好,但只是在特定领域发挥其特长,不会取代传统的计算平台传统的数字计算芯片,如CPU和GPU,擅长精确计算,而神经形态学芯片擅长非结构化数据,图像识别,有噪声和不确定数据集的分类,新的学习系统和推理系统
量子计算,可以颠覆特定领域的计算,其实也是同样的逻辑,它离不开现有的计算体系未来的先进计算系统必然要求传统的数字芯片,神经形态芯片和量子计算相互配合
目前神经形态芯片设计制造难度大,尚未形成大规模市场与此同时,业界一致的结论是,投资于神经形态芯片的钱远远落后于人工智能或量子技术
一个小小的芯片,包含了半导体制造技术,脑科学,计算神经科学,认知科学,统计物理等学科的知识制造这种芯片需要物理学家,化学家,工程师,计算机科学家,生物学家和神经科学家等关键角色的参与这么多角色做同样的事情,说同样的语言,无疑是具有挑战性的
但其颠覆性的价值,却引来了全球商业化的加速数据显示,神经形态芯片市场将从2021年的2274.3万美元增长到2026年的5.5亿美元,年复合增长率为89.1%此外,如果基础技术问题在未来几年内得到解决,那么到2035年,全球神经形态芯片市场将占整体人工智能市场的18%,达到220亿美元
那么,要推动大规模商业化,需要解决哪些问题呢。
一,设计问题:大脑在实时处理复杂信息的同时,只消耗非常少的能量如何更好地理解这种高效的工作机制,并将这些机制应用到芯片上,是非常困难的以商业化路径最近的数字CMOS模型为例多个全数字异步芯片的互联,芯片连接的有效性和及时性,软件层的互联计算,分布式计算,灵活分区,都是难以跨越的鸿沟
二,制造问题:利用硅基晶体管路线可以重复利用现有制造技术,而非硅基路线仍然需要解决底层工艺,制造良率,支持大规模生产等问题。即使解决了所有问题,做出了实验芯片,也要继续考虑产品化顺序的稳定供货问题,
第三,软件和生态问题:神经形态芯片与现有架构完全不同,而社区很多开发者在底层搭建自己的脉冲神经网络算法,通过底层库将软件烧入硬件进行实验,显然不是大规模的方案。大规模商业化,软件工具链很重要,
第四,缺乏杀手级应用:无论是机器人,自动驾驶还是工业大规模优化,其本身的逻辑应该是以应用驱动技术发展,并在此基础上不断构建生态系统目前普遍认为,神经形态技术将首先应用于消费电子,移动终端和工业物联网
神经形态学芯片播放器
在全球范围内,参与神经形态计算芯片开发的机构主要包括三种类型:以Intel,IBM,高通为代表的科技巨头,以斯坦福,清华为代表的高校/研究机构,以及初创企业。
国外发展状况
国外对神经形态芯片的研究很强,包括麻省理工学院,斯坦福大学,波士顿大学,曼彻斯特大学,海德堡大学等名校。科技巨头以英特尔,IBM,高通,三星为代表,初创企业有BrainChip,aiCTX,Numenta,General Vision,应用大脑研究,Brain Corporation等
从研究和实现来看,Intel和IBM的实验芯片最具代表性。
目前,我们已经知道神经形态学芯片的详细参数比较,并列出果壳的硬技术。
参考:IEEE
英特尔的Loihi是一款全数字神经形态学芯片2017年,英特尔开发了第一款Loihi2021年,英特尔在此基础上推出第二代Loihi2,采用英特尔4制程技术生产,单芯片神经元数量达到100万
目前,英特尔神经形态芯片在感知领域取得了长足的进步,包括手势识别,视觉推理和嗅觉感知,拥有多达3000次的学习数据此外,英特尔还开发了一个Pohoiki Springs数据中心机架系统,将768个Loihi芯片集成到五个标准服务器大小的机箱中
为了让神经形态芯片更有用,英特尔还推出了一个名为Lava的开源软件框架,这是一种不需要使用专门硬件就可以构建应用的软件它可以在传统和神经形态处理器的异构架构上无缝运行,并允许研究人员和应用程序开发人员在彼此的成果基础上进一步开发
英特尔并不急于将神经形态芯片商业化与维护特定应用的小公司不同,英特尔将其视为一项通用技术,并将着眼于十亿美元以上级别的所有商业机会
英特尔Loihi和Loihi2简介
TrueNorth是IBM潜心研发了近10年的实验芯片自2008年以来,美国DARPA计划开始资助这一项目2011年,IBM推出了第一代TrueNorth
到2014年,IBM第二代TrueNorth神经元的数量从256个增加到100万个,可编程突触的数量从262,144个增加到2.56亿个每秒可进行460亿次突触运算,总功耗70mW,整体体积仅为第一代类脑芯片的十五分之一
值得一提的是,IBM还在2019年推出了一款名为Blue Raven的神经形态超级计算机它拥有6400万个神经元和160亿个突触的处理能力,功耗仅为40W,相当于一个家用灯泡
国内发展形势
国内研究包括清华,浙大,复旦,中科院等顶尖高校和机构与此同时,灵犀科技,石狮科技,中科神经形态等初创公司近两年不断涌现其中,清华大学的天空运动和浙江大学的达尔文芯片最具代表性
神经形态芯片国内初创企业不完全统计,果壳制表和硬技术。
清华大学的神经形态学芯片是国内最具代表性的实验芯片2015年开发的第一代机芯采用了110nm技术,在当时只是小样2017年,二代田运动开始取得高级成绩它基于28纳米技术制成,由156个功能核心FCore组成,包含约40,000个神经元和1000万个突触相比第一代,密度提升20%,速度提升至少10倍,带宽提升至少100倍
为了让神经形态芯片更加实用,清华大学还自主开发了软件工具链,支持从深度学习框架到天体运动的自动映射和编译按照清华大学的规划,下一代机芯将会是14nm或者更先进的技术,功能会更强大
国内另一个代表是浙江大学和之江实验室联合研制的类脑计算机,其神经元数量与小鼠大脑神经元数量相当该计算机包含792个达尔文二代芯片,支持1.2亿个脉冲神经元和720亿个突触在如此庞大的规模下,典型的运行功耗只有350W~500W
事实上,中国在神经形态芯片领域的技术实力已经处于世界领先水平,全球玩家在该领域处于起跑线。
可以说这是一项值得布局的技术但是,它也是一块难啃的骨头,是材料,器件,工艺,架构,算法不可或缺的巨大赛道,是在黑暗中走向终点的领域同时,未来必然会遇到应用场景和投入产出比的问题
可是市场上就是这样谁敢挑战空白领域,谁就第一个获得分红
参考资料:
菲利普·K·蒂克机器人会梦到电羊吗双日,1968年
,陈,类脑计算中芯片和类脑智能机器人的现状与思考中国科学院学报,2016,31 :803—811
邓磊异构融合类脑计算平台的计算模型及关键技术研究清华大学,2017
邓亚斌,王志伟,赵,林莉,何珊,李,帅建伟,郭东辉神经网络和神经形态学器件及其电路述评
,杨,,蔡,,,,,用于神经形态计算的智能芯片和器件技术中国科学基金,2019,33 :656—662
斯特林P,拉夫林s神经设计原理麻省理工学院出版社,2015年
刘星,李兴禹神经形态计算芯片产业化发展前景分析新经济学刊,2021,:31—34
石民。《科学的智慧与美——数字形而上学与面对复杂性》,高等教育出版社,2010:103–105
Wu K J. Google的新AI是游戏高手,但是和人类的思维比起来如何史密森尼,2018,10
石,北京,人工一般智能的神经形态学计算人工智能,2020,4 :6—15
郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。
责任编辑:兰心雪