IBM开发新芯片为AI提速:消除片外内存,灵感来自大脑
澎湃新闻
2023-10-20 14:44:46
0

原标题:IBM开发新芯片为AI提速:消除片外内存,灵感来自大脑

·在传统冯·诺伊曼架构下,计算和存储分离。而北极点芯片使存储单元在物理上尽可能接近计算单元中的计算元件。北极点芯片由256个计算单元组成,每个计算单元都有内存,通过消除片外内存,将计算与片上内存交织在一起。这些计算单元以一种网络连接在一起,设计灵感来自于人类大脑。

北极点处理器芯片消除了频繁访问外部存储器的需要,在图像识别任务中比现有架构更快,能源消耗更少。

IBM研发的北极点(NorthPole)处理器芯片可避开访问外部存储器,提高计算能力,节约能源。

美国加利福尼亚州圣何塞的IBM研究人员开发了一种以大脑为灵感的计算机芯片,这款北极点处理器芯片消除了频繁访问外部存储器的需要,在图像识别任务中比现有架构更快,能源消耗更少。这表明计算和内存可以大规模集成。相关研究10月19日发表在《科学》杂志。

北极点芯片采用神经推理结构,由简单计算单元组成的多层阵列通过编程来识别数据中的模式。底层接收数据,例如图像中的像素;每一个连续的层检测日益复杂的模式,并将信息传递给下一层;顶层输出结果,例如可以表示图像含有猫、汽车或其他物体的可能性。

在传统冯·诺伊曼架构下,计算和存储分离。传统计算机芯片可以有效处理计算,但每次计算时仍然需要使用被称为RAM的外部存储器。因此不管处理器运行多快、性能多好,每次执行运算时都需要把数据从存储器搬到处理器中,数据处理完再搬回到存储器。在以数据为主的AI计算之下,冯·诺伊曼架构的“存储墙”和“功耗墙”挑战凸显。论文合著者、IBM计算机工程师达门德拉·莫达(Dharmendra Modha)表示,他曾估计在这种架构上模拟人类大脑可能需要12个核反应堆的能源输出。

而北极点芯片使存储单元在物理上尽可能接近计算单元中的计算元件。北极点芯片由256个计算单元组成,每个计算单元都有内存,通过消除片外内存,将计算与片上内存交织在一起。这些计算单元以一种网络连接在一起,这种网络的灵感来自于人类大脑皮层之间的白质连接。

在不使用最先进工艺的情况下,北极点芯片能耗是使用最先进技术的人工智能芯片的1/5。论文作者估计,如果北极点芯片设计采用最先进的制造工艺,其效率将是目前设计的25倍。论文提到,“在ResNet50基准图像分类网络上,相对于使用类似12纳米技术工艺的GPU, 北极点实现了每瓦FPS(每秒传输帧数)的能量度量高25倍,每个晶体管FPS的空间度量高5倍,延迟时间度量低22倍。”

不过,据《自然》杂志报道,即使是北极点芯片224兆内存对于大型语言模型来说也是不够的,比如聊天机器人ChatGPT这样的语言模型,即使在最精简的版本中也要占用几千兆的数据。而且该芯片只能运行预先编程的神经网络,这些神经网络需要在单独的机器上提前训练。但论文作者表示,北极点芯片架构可能在速度关键型应用中有用,比如自动驾驶汽车。

相关内容

热门资讯

西湖边市集已 Next lev... 全文约 859字 013月16日,杭州西湖边湖畔有艺市出现机器人实习生“小杨”,负责市集客服,吸引众...
中国首台太空采矿机器人问世,开... 我国航天领域迎来重大进展,首台太空采矿机器人问世。这一成就不仅展示了我国在太空探索及资源开采的决心和...
蛮王大厅房卡(西西大厅房卡链接... vy苹果手机目前发展的情况并不是特别好,一方面是有消息称iOS16可能不会带来特别多的改变,另一方面...
新道游大厅拼三张房卡微信群怎么... 新道游大厅拼三张房卡微信群怎么开牛牛房间(火神大厅牛牛房卡如何购买要素一(KK)大厅介绍/房卡微/4...
天龙大厅斗牛房卡充值正版大厅怎... 天龙大厅斗牛房卡充值正版大厅怎么买房卡(悠悠大厅金花房卡多少钱)加:微(474330444)炸 金 ...
乐酷大厅房卡微信新猴王大厅怎么... 乐酷大厅房卡微信新猴王大厅怎么买房卡(砖石大厅房卡哪里买的)加:微(474330444)炸 金 花链...
新道游大厅房卡正规房卡链接在哪... 新道游大厅房卡正规房卡链接在哪购买灵尊大厅牛牛房卡去哪里买加:微(474330444)炸 金 花链接...
我来教教大家卡卡大厅房卡(火神... 我来教教大家卡卡大厅房卡(火神大厅牛牛房卡如何购买加:微(474330444)炸 金 花链接房卡链接...
超稳无敌牛牛卖房卡多少钱一张(... 超稳无敌牛牛卖房卡多少钱一张(人海大厅房卡多少钱一张)(今日/知乎)无需打开直接搜索微信【47433...
我来告诉你正规房卡链接在哪购买... 4QRqbZ0r苹果手机如今基本已经成为了高端旗舰机型的代名词了,在全新的iPhone 14系列即将...
蜜瓜大厅拼三张房卡!道游房卡价... 蜜瓜大厅拼三张房卡!道游房卡价格房卡哪里买的加:微(474330444)炸 金 花链接房卡链接—房卡...
华为Pura新品悬念即将揭晓,... 3月17日消息,华为常务董事、终端BG董事长、智能汽车解决方案BU董事长余承东发布了一条新品预热视频...
玩家实测牛牛房卡哪家便宜,牛牛... RU0QV在摄像头方面,这款摩托罗拉X50mini采用了后置三摄设计,后置三摄集成在手机背部左上方的...
VR轻量化是伪命题?真正全功能... 轻如未来,视若真实”——这是当前VR设备厂商竞相喊出的口号。随着多款轻量化VR头显相继上市,市场似乎...
重大发现牛牛卖房卡多少钱一张,... r6b9N从此前信息来看,苹果目前主要是将 N5和N5P用于其现有的A14、M1系列和A15芯片,那...
隔壁恒星又发现4颗袖珍地球? 周一 · 知古通今| 周二 · 牧夫专栏 周三 · 视频天象 |周四 · 观测指南 周五 · 深空...
新鸿运房卡新大圣金花房卡购买渠... 10月19日消息,“双11”电商大促来临之际,咨询房/卡添加微信:474330444哔哩哔哩(以下简...
重大通报房卡批发价格表,天九房... HB最核心的处理器,其实真没必要多讲,iPhone13搭载A15芯片,尽管是“阉割版”,但依旧是行业...
玩家实测牛牛房卡最低价格,牛牛... GEWi此次华为旗舰新品发布会不仅有三款华为P60系列旗舰,而且还有华为折叠屏新机华为Mate X3...
「房卡科普」牛牛卖房卡多少钱一... 「房卡科普」牛牛卖房卡多少钱一张正大大厅房卡链接购买【要素一】(KK)微信链接各大厅/房卡介绍微/4...