“存算一体”芯片赛道引资本青睐:初创企业如何构筑技术产业化壁垒
随着国家积极推进半导体芯片产业自主可控,资本在这一领域的股权投资热情高涨。
数据显示,2023年半导体行业完成约650起投融资交易,融资规模约545.6亿元人民币。尽管今年以来半导体行业股权融资额度有所回落,但围绕AI算力芯片细分赛道的股权投资,创投机构依然“全力以赴”。
尤其是AI大模型兴起推动AI算力芯片需求旺盛,以冯•诺依曼架构为基本设计框架的传统芯片所面临的存储墙与功耗墙问题,日益受到业界关注。越来越多芯片研发初创企业开始聚焦研发存算一体或存内计算架构,满足5G、物联网、人工智能全面爆发时代对低功耗、小面积、大算力的芯片要求。
红点中国创始合伙人袁文达此前指出,随着现代电子设备正向智能化、轻量化、便携化快速发展,加之5G通信与物联网(IoT)技术的成熟,智能万物互联(AIoT)时代即将来临。资源受限的边缘终端设备的算力问题,正成为AIoT大规模产业化应用的核心关键。因此,在通往AIoT的道路上,需要解决的核心挑战是高能效、低成本、长待机的端侧智能芯片,存算一体在未来边缘计算AI场景会有巨大的市场空间。
多位长期关注存算一体芯片研发的创投机构人士向记者指出,在存算一体芯片的底层电路技术研发领域,中国与西方国家处于并驾齐驱的状况,甚至部分中国企业在某些特定细分领域还处于略微领先地位,但在生态部署与架构普及等方面,西方国家大型芯片企业仍具有较强先发优势。因此,中国企业若要迎头赶上,一方面需加快技术迭代与产品创新步伐,另一方面需尽快构建完善的应用生态。
北京苹芯科技有限公司CEO杨越接受本报记者专访时表示,为了尽快建立存算一体的应用生态,在研发推出存算一体神经网络处理单元的PIMCHIP-N300 NPU与多模态智慧感知决策芯片PIMCHIP-S300后,苹芯科技将一方面在技术层面,对“用户的编程接口”与“统一指令集”给出清晰定义,便于广大用户直接调用基于存算一体的运算库,另一方面正积极与众多高校科研机构、AI大模型研发龙头公司、可穿戴设备研发企业合作,加快存算一体的推广与应用。
“我们正积极发力构建应用生态,提供文档、工具链、示范代码等,协助他们针对不同行业AI大模型、数据处理、边缘计算等场景提供定制化的AI算力加速解决方案,令人工神经网络和深度学习模型的计算效率实现显著提升。”他向记者强调说。
存算一体“技术产品化”落地
随着AI大模型迅速兴起推动AI算力芯片需求持续旺盛,如何解决“存储墙”与“功耗墙”问题,备受市场关注。
所谓“存储墙”与“功耗墙”,主要是指传统芯片架构主要采用冯诺依曼架构,计算单元和存储单元在物理层面分离,且存储单元的带宽速度远远低于计算单元,不但限制芯片的整体性能,还给芯片内数据构成传输延迟和性能消耗,甚至这种消耗达到70%~90%。
存算一体芯片恰恰解决了上述痛点,所谓存算一体,其核心思想是在芯片设计环节,不再区分存储单元与计算单元,实现真正意义上的存算融合。由于存算一体方案无需频繁搬用数据,不但能耗显著降低,其简化的存算结构还更易于提升计算效率,更符合AI时代的芯片要求。
“在创建苹芯科技时,我们感受到未来人工智能算力将从云端向端侧下沉的新趋势。尤其是可穿戴设备、边缘端AI设备(智能门锁、摄像头等)的广泛普及,在电池与电量受限的情况下,它们同样需要完成计算力度较高的AI运算。这令计算能力更强、功耗更低、数据传输更低延迟、性能更强、面积更小的新型芯片具备广阔的发展前景。”杨越向记者透露。
记者获悉,当前存算一体的主流技术路线,主要分成三种,分别是Flash、静态随机存储器(SRAM)和阻变式存储器(RRAM)。苹芯科技对此选择SRAM。究其原因,一是SRAM对高端制程工艺有着比较友好的兼容性,产品可靠性更高。二是在下游供应链环节,公司更容易获得流片渠道、代工厂相关制程工艺的支持,令产品稳定性更有保障;三是未来推理算力的需求,占据整个AI算力市场需求的逾80%,基于SRAM技术路线针对AI计算涉及的大量神经网络模型进行特殊优化,还能有效解决各类AI大模型推理算力在更低能效、更高计算效率、支持自定义算子、混合精度计算等方面的要求。
过去三年多时间,苹芯科技累计完成五次流片的相关技术验证,致力于解决存算一体芯片在技术研发与生态应用等方面的诸多挑战,一是如何高效地将计算单元与存储单位高效地集成在同一个芯片同时,保持良好的散热效果与信号完整性;二是保证较高的芯片良率,三是在芯片面积缩小后,如何保证它具备较高的计算能效比,四是进一步促进软件算法与芯片的适配,以及平衡好芯片在存储与计算方面的性能,实现更高的算力加速效果。
他透露,苹芯科技的存算一体神经网络处理单元芯片已具备多模态的AI计算能力,具备语音、图像、视频的计算能力同时,还能支持类如压力、温度、IMU等更多模态信号的智能化处理,更智能地识别产品所处环境,广泛应用在可穿戴设备、无人机摄像头、安防领域、机器人领域、智能家居等低能耗、长待机的AI计算场景。
技术应用生态建设仍需“快马加鞭”
多位创投机构人士向记者指出,在实际应用过程,存算一体芯片能否根据不同AI大模型、可穿戴设备、边缘计算设备的技术参数需要进行配置,广大用户未必了解,需要存算一体公司不但需拥有自己的产品、软件与开发工具,还需构建足够完备的应用生态。
在研发存算一体芯片过程,苹芯科技先后完成数轮千万美元级别融资,投资方包括红点中国,春华创投、红杉中国、真格基金等多家创投机构。杨越也感受到创投机构的“严谨”。
“有些创投机构拿着测试工具到我们办公室,让我们在不做任何软件优化的情况下做芯片性能测试,直到他们发现我们芯片性能依然高于传统架构芯片,且能在短时间实现技术产品化与产品商业化,向我们表达投资意向。”他回忆说。
红杉中国副总裁公元表示,存算一体技术作为计算芯片新一代颠覆性的体系结构创新,代表未来AI计算发展的产业方向,具有广阔的市场空间。苹芯科技的核心竞争力是专业团队和强大的技术背景,红杉资本将持续助力苹芯科技开拓更加丰富的AI应用场景,早日实现芯片的商业化落地与量产。
杨越告诉记者,在完成数轮股权融资后,企业既得到充足的资金支持,积极推动技术验证与技术产品化,又通过创投股东的牵线搭桥,与更多AI大模型研发领域头部企业有了深入接触,令国产存算一体芯片拥有更多应用空间。
但是,如何让众多国内AI企业积极使用国产存算一体芯片作为AI大模型算力优化新工具,对初创企业又是新的挑战。苹芯科技的做法,一是通过产品架构优化,高度支持自定义算子,满足各种AI大模型的部署需求,并针对人声监听、眼动追踪、主动降噪、环境感知等应用场景提供配置方案和专门优化,二是会向广大企业用户提供高兼容性的开发工具链,让存算一体芯片产品能无缝集成在企业用户的现有软硬件,其中包括主流的AI框架等。
杨越认为,无论是在端侧,还是云端,未来不同行业不同场景AI大模型在训练与推理两个层面,都会出现专用的“存算一体”算力加速产品,逐步替代当前的某些通用性解决方案。尤其是智能耳机、智能眼镜、智能手表等可穿戴设备领域,它的替代步伐可能会更快。