IBM开发新芯片为AI提速:消除片外内存,灵感来自大脑
澎湃新闻
2023-10-20 14:44:46
0

原标题:IBM开发新芯片为AI提速:消除片外内存,灵感来自大脑

·在传统冯·诺伊曼架构下,计算和存储分离。而北极点芯片使存储单元在物理上尽可能接近计算单元中的计算元件。北极点芯片由256个计算单元组成,每个计算单元都有内存,通过消除片外内存,将计算与片上内存交织在一起。这些计算单元以一种网络连接在一起,设计灵感来自于人类大脑。

北极点处理器芯片消除了频繁访问外部存储器的需要,在图像识别任务中比现有架构更快,能源消耗更少。

IBM研发的北极点(NorthPole)处理器芯片可避开访问外部存储器,提高计算能力,节约能源。

美国加利福尼亚州圣何塞的IBM研究人员开发了一种以大脑为灵感的计算机芯片,这款北极点处理器芯片消除了频繁访问外部存储器的需要,在图像识别任务中比现有架构更快,能源消耗更少。这表明计算和内存可以大规模集成。相关研究10月19日发表在《科学》杂志。

北极点芯片采用神经推理结构,由简单计算单元组成的多层阵列通过编程来识别数据中的模式。底层接收数据,例如图像中的像素;每一个连续的层检测日益复杂的模式,并将信息传递给下一层;顶层输出结果,例如可以表示图像含有猫、汽车或其他物体的可能性。

在传统冯·诺伊曼架构下,计算和存储分离。传统计算机芯片可以有效处理计算,但每次计算时仍然需要使用被称为RAM的外部存储器。因此不管处理器运行多快、性能多好,每次执行运算时都需要把数据从存储器搬到处理器中,数据处理完再搬回到存储器。在以数据为主的AI计算之下,冯·诺伊曼架构的“存储墙”和“功耗墙”挑战凸显。论文合著者、IBM计算机工程师达门德拉·莫达(Dharmendra Modha)表示,他曾估计在这种架构上模拟人类大脑可能需要12个核反应堆的能源输出。

而北极点芯片使存储单元在物理上尽可能接近计算单元中的计算元件。北极点芯片由256个计算单元组成,每个计算单元都有内存,通过消除片外内存,将计算与片上内存交织在一起。这些计算单元以一种网络连接在一起,这种网络的灵感来自于人类大脑皮层之间的白质连接。

在不使用最先进工艺的情况下,北极点芯片能耗是使用最先进技术的人工智能芯片的1/5。论文作者估计,如果北极点芯片设计采用最先进的制造工艺,其效率将是目前设计的25倍。论文提到,“在ResNet50基准图像分类网络上,相对于使用类似12纳米技术工艺的GPU, 北极点实现了每瓦FPS(每秒传输帧数)的能量度量高25倍,每个晶体管FPS的空间度量高5倍,延迟时间度量低22倍。”

不过,据《自然》杂志报道,即使是北极点芯片224兆内存对于大型语言模型来说也是不够的,比如聊天机器人ChatGPT这样的语言模型,即使在最精简的版本中也要占用几千兆的数据。而且该芯片只能运行预先编程的神经网络,这些神经网络需要在单独的机器上提前训练。但论文作者表示,北极点芯片架构可能在速度关键型应用中有用,比如自动驾驶汽车。

相关内容

热门资讯

社交平台X频繁宕机,马斯克称遭... 据香港IDC新天域互联了解,近日,社交媒体平台X遭遇了广泛的服务中断,数万名用户在全球范围内受到影响...
探访全国首个异构人形机器人训练... 全国首个异构人形机器人训练场位于上海张江的国家地方共建人形机器人创新中心,百余台异构人形机器人和类人...
重大来袭官方正版房卡代理,正规... 4R7fRf比如说iPhone 14Pro版的两款机型将采用全新的ID设计,即网友所说的“感叹号”打...
一分钟揭秘金花房卡软件联系微信... N5Sh从外观屏幕来看,这款OPPO Reno9手机采用了一块6.7英寸的全面屏设计,像素分辨率为2...
推荐一款金花房卡怎么购买,金花... N5R2Gp苹果已正式确实了秋季新品发布会的日期,将于9月13日正式举办该活动,可信度还是极高的。同...
带你了解牛牛房卡卖家联系方式,... qo苹果的秋季新品发布会已经定档于北京时间的9月13日。这次发布会上“官宣"的产品中,不仅有热度最高...
实测分享牛牛房卡最低价格,金花... D从核心配置来看,这款OPPO Reno9手机搭载了高通骁龙778G处理器,采用了更先进的6nm工艺...
带你了解金花房卡价格表,100... WtECbiS从外观屏幕来看,这款OPPO Reno9手机采用了一块6.7英寸的全面屏设计,像素分辨...
我来教你正规房卡链接在哪购买,... gcSD作为一名iPhone 13用户,我非常期待接下来要发布的iPhone 14 Max。说实话,...
重大发现正规房卡链接在哪购买,... fwtSyh此次华为旗舰新品发布会不仅有三款华为P60系列旗舰,而且还有华为折叠屏新机华为Mate ...
重大发现金花房卡批发,牛牛科技... VXr0KFZ在摄像头方面,这款realme GT3采用了后置三摄的设计,后置三摄布局在手机背部中间...
我来教你房卡充值平台,金花房卡... QGS9zwM现在离iPhone14发布还有一段时间,对于迫切想要入手iphone手机的用户,iPh...
一分钟揭秘房卡多少钱一张价格,... HD4从外观屏幕来看,这款OPPO Reno10新机采用了一块6.79英寸的三星AMOLED曲面屏设...
我来告诉你微信怎么开斗牛房间链... Q7ek8h不仅影像能力再度突破,还都适配了鸿蒙OS3.1,甚至原本单向的北斗卫星消息如今也升级为了...
我来告诉你金花房卡链接怎么买,... pAlosI除了全新的配色外,苹果也算是入乡随俗,趁着618活动期间促进一波销量,也为用户带来的折扣...
科技通报斗牛游戏在哪里找,天九... t而且有消息称iPhone14系列中的标准版和新增的Max版本都将搭载A15处理器,又或者是A15处...
一分钟揭秘大厅房卡如何购买,牛... b1K2sYl和iPhone13相比少了mini版本,毕竟小屏手机在市场的销量确实并不怎么好,为了适...
重大来袭牛来了房卡哪里买便宜,... b这款OPPO Reno10新机内置了一块5500mAh大容量电池,支持150w超级快充,有5500...
科技通报房卡充值平台,牛牛房卡... fBuV23m在手机市场中,realme GT Neo5是一款综合设计非常出彩并且关注度非常高的一款...
一分钟揭秘牛牛充值房卡,金花房... o不过新机还未确定发布时间,现在想要换手机的用户,可以看看这款OPPO Reno9手机,是一款才发布...