官方网站-首页官方网站-首页

“存算一体”:大模型时代端边算力瓶颈的破局者?

形状
形状
形状
形状
形状
形状
形状
形状

【导语】随着信息时代数据量的爆炸性增长和人工智能技术的迅猛发展,传统冯·诺依曼架构在AI领域面临“功耗墙”和“内存墙”等严峻挑战。在此背景下,存算一体技术以其颠覆式的创新理念,试图打破这一僵局。本文将探讨存算一体技术如何突破冯·诺依曼架构的瓶颈,以及后摩智能等企业在该领域的探索与实践,特别是在大模型时代,存算一体技术如何重塑端边智能体验,引领算力革命的新篇章。

  近年来,随着信息时代的数据大爆炸以及人(rén)工(gōng)智(zhì)能(néng)浪(làng)潮(cháo)的(de)到(dào)来(lái),尤其是大模型技术的(de)广(guǎng)泛(fàn)应(yīng)用(yòng),其(qí)训(xun)练(liàn)和(hé)推(tuī)理(lǐ)所(suǒ)需(xū)处(chù)理(lǐ)的(de)数(shù)据(jù)量(liàng)呈(chéng)指(zhǐ)数(shù)级(jí)增(zēng)长(zhǎng)。而(ér)基(jī)于(yú)“存(cún)储(chǔ)-计(jì)算(suàn)分(fēn)离(lí)”原(yuán)理(lǐ)的(de)冯(féng)·诺(nuò)依(yī)曼(màn)架(jià)构(gòu)虽(suī)独(dú)具(jù)优(yōu)势(shì),但(dàn)在(zài)AI浪(làng)潮(cháo)中(zhōng)已(yǐ)显(xiǎn)疲(pí)态(tài),存(cún)在(zài)着(zhe)不(bù)容(róng)忽(hū)视(shì)的(de)局(jú)限(xiàn)。

  在(zài)传(chuán)统(tǒng)冯(féng)・诺(nuò)依(yī)曼(màn)架(jià)构(gòu)中(zhōng),数(shù)据(jù)需(xū)要(yào)在存储单元与计算单元间频繁搬运,导致大量的资源被浪费在数据搬运这一环节上。根据英特尔的研究表明,当半导体工艺达到7nm时,数据搬运功耗高达35pJ/bit,占总功耗的63.7%。数据传输造成的功耗损失越来越严重,限制了芯片发展的速度和效率,形成了“功耗墙”问题。

  此外,在冯·诺依曼架构中,存储器与处理器是两个完全分离的单元,处理器根据指令从存储器中读取数据、完成运算,并存回存储器。但随着人工智能、大数据等新兴技术的迅猛发展,计算任务对数据处理的速度和规模提出了前所未有的高要求。而当下的存储器的数据访问速度跟不上计算单元的数据处理速度,二者之间形成了巨大的性能差距(jù),“内(nèi)存(cún)墙(qiáng)”问(wèn)题(tí)日(rì)益(yì)凸(tū)显(xiǎn)。

  面(miàn)对(duì)大(dà)模(mó)型(xíng)推(tuī)理(lǐ)对(duì)算(suàn)力(lì)需(xū)求(qiú)的(de)持(chí)续(xù)拉(lā)动(dòng),如(rú)何(hé)攻(gōng)克(kè)“功(gōng)耗(hào)墙(qiáng)”“内(nèi)存(cún)墙(qiáng)”等(děng)难(nán)题(tí)已(yǐ)然(rán)成(chéng)为(wèi)了(le)工(gōng)业(yè)界(jiè)和(hé)学(xué)术界的焦点问题,一场旨在突破现有算力瓶颈的革命正蓄势待发。

  在此背景下,“存算一体”正试图用一场颠覆式创新打破这一僵局。近年来,在半导体工艺持续突破与AI算力需求爆发的双重推动下,存算一体技术迎来了新的发展机遇。

  从原理上来看,存算一体的核心是将存储功能与计算功能融(róng)合(hé)在(zài)同(tóng)一(yī)个(gè)芯(xīn)片(piàn)上(shàng),直(zhí)接(jiē)利(lì)用(yòng)存(cún)储(chǔ)单(dān)元(yuán)进(jìn)行(xíng)数(shù)据(jù)处(chù)理(lǐ)——通(tōng)过(guò)修(xiū)改(gǎi)“读(dú)”电(diàn)路的(de)存(cún)内(nèi)计(jì)算(suàn)架(jià)构(gòu),可(kě)以(yǐ)在(zài)“读(dú)”电(diàn)路中(zhōng)获(huò)取(qǔ)运(yùn)算(suàn)结(jié)果,并将结果直接“写”回存储器的目的地址,不再需要在计算单元和存储单元之间进行频繁的数据转移,消除了数据搬移带来的消耗,极(jí)大(dà)降(jiàng)低(dī)了(le)功(gōng)耗(hào),大(dà)幅(fú)提(tí)升(shēng)计(jì)算(suàn)效(xiào)率(lǜ)。

  正(zhèng)是(shì)基(jī)于(yú)这(zhè)样(yàng)的(de)特(tè)性(xìng),存(cún)算(suàn)一(yī)体(tǐ)有(yǒu)力(lì)地(de)突(tū)破(pò)冯(féng)·诺(nuò)依(yī)曼(màn)架(jià)构(gòu)所(suǒ)面(miàn)临(lín)的(de)瓶(píng)颈(jǐng)限(xiàn)制(zhì)。

  存(cún)算(suàn)一体属于非冯诺伊曼架构,在特定领域可以提供更大算力(1000TOPS以上)和更高能效(超过10-100TOPS/W),明显超越现有ASIC算力芯片。除了用于AI计算外,存算技术也可用于感存算一体芯片和类脑芯片,代表了未来主流的大数据计算芯片架构。

  近年来,大模型的蓬勃发展与广泛应用,其对强大算力和高存储带宽提出了迫切需求。而存算一体技术凭借其解决数据搬运难题、显著提升计算效率的优势,与大模型的发展需求完美契合。与此同时,大模型计算的应用场景正从云端逐步向端边侧拓展延伸,这一趋势为存算一体技术带来了更为广阔的发展空间。

  根据量子位智库数据,预计2025年存算一体市场规模将达125亿元,随着技术成熟度提高以及大规模商用落地,至2030年这一市场规模将达1136亿元。

  面对极具潜力且规模不断扩张的市场前景,存算一体芯片成为了科技领域备受瞩目的焦点。越来越多的企业正竞相投身存算一体芯片领域,并不断加快布局进程。国内诸如恒烁股份、亿铸科技等企业,均依托自身优势在不同技术路线上积极开展探索,力求在存算一体芯片市场中占据一席之地。

  而在这股热潮下,后摩智能作为国内存算一体AI芯片的先行者和落地者,具有显著的代表性,其探索历程与实践成果生动展现出了我国存算一体芯片技术的多元化发展图景。

  在大模型技术迅猛发展、应用场景持续拓展的大背景下,市场对于适配大模型的高性能芯片需求日益迫切。基于这一趋势洞察,后摩智能凭借在存算一体技术领域的前瞻性布局与深厚技术积累,于2023年年底果断调整研发方向,将重点转向基于大模型的应用需求,全力投入存算一体AI芯片的研发工作。

  经过不懈努力与技术攻关,后摩智能迎来了重要时刻。在WAIC 2025期间,后摩智能的后摩漫界®M50芯片正式对外亮相,并同步推出力擎™系列(liè)M.2卡(kǎ)、力(lì)谋(móu)®系(xì)列(liè)加(jiā)速(sù)卡(kǎ)及(jí)计(jì)算(suàn)盒(hé)子(zi)等(děng)硬(yìng)件(jiàn)组(zǔ)合(hé),形(xíng)成(chéng)覆(fù)盖(gài)移(yí)动(dòng)终(zhōng)端(duān)与(yǔ)边(biān)缘(yuán)场(chǎng)景(jǐng)的(de)完(wán)整(zhěng)产(chǎn)品(pǐn)矩(ju)阵(zhèn)。

  据(jù)了(le)解(jiě),后(hòu)摩(mó)漫(màn)界(jiè)M50定(dìng)位(wèi)到了端边大模型应用场景。M50芯片采用存算一体计算架构,实现了160TOPS@INT8、100TFLOPS@bFP16的物理算力,搭配最大48GB内存与153.6GB/s的超高带宽,而典型功耗仅10W,相当于手机快充的功率。这一性能指标意(yì)味(wèi)着(zhe),PC、智(zhì)能(néng)语(yǔ)音(yīn)设(shè)备(bèi)、机(jī)器(qì)人(rén)等(děng)智(zhì)能(néng)移(yí)动(dòng)终(zhōng)端(duān)无(wú)需(xū)依(yī)赖(lài)云(yún)端(duān),即(jí)可(kě)高(gāo)效(xiào)运(yùn)行(xíng)1.5B到(dào)70B参(cān)数(shù)的(de)本(běn)地(de)大(dà)模(mó)型(xíng),真(zhēn)正(zhèng)实(shí)现(xiàn)了(le)“高(gāo)算(suàn)力(lì)、低(dī)功(gōng)耗(hào)、即(jí)插(chā)即(jí)用”的愿景。

  后摩智能的M50芯片及其产品矩阵的发布,标志着端边智能新时代的正式开启。通过存算一体技术的深度融合,后摩智能成功解(jiě)决(jué)了(le)端(duān)边(biān)设(shè)备(bèi)在(zài)算(suàn)力(lì)、功(gōng)耗(hào)与(yǔ)带(dài)宽(kuān)方(fāng)面(miàn)的(de)痛(tòng)点(diǎn),为(wèi)消(xiāo)费(fèi)终(zhōng)端(duān)、智(zhì)能(néng)办(bàn)公(gōng)与(yǔ)智(zhì)能(néng)工(gōng)业(yè)等(děng)领(lǐng)域提(tí)供(gōng)了(le)高(gāo)效(xiào)、安(ān)全、低(dī)成(chéng)本(běn)的(de)AI解(jiě)决(jué)方(fāng)案。

  值得一提的是,8月27日,在深圳国际会展中心(宝安)举办的“IOTE 2025深圳・边缘计算产业生态大会”上,后摩智能产品市场负责人张伟超将发表“大模型时代的算力革命-‘存算一体’重塑端边智能体验”主题演讲,为我们带来更多后摩智能关于存算一体技术在端边算力提升路径、应用场景拓展以及与边缘计算生态深度融合等方面的结合与思考。

f692cc90be2e85801e0454889edf9c26.png

发表评论