突破边缘 AI 瓶颈!首个混合内存技术助力片上 AI 学习推理
一支由法国科学家组成的科研团队取得了一项重大技术突破,他们开发出了首个能够支持人工神经网络进行自适应本地训练和推理的混合存储器技术,成功突破了长期以来限制边缘 AI(edge - AI)高效学习的技术瓶颈。
在《自然-电子学》(Nature Electronics)上发表的一篇题为《一种同时用于训练和推理的铁电忆阻器存储器》(A Ferroelectric-Memristor Memory for Both Training and Inference)的论文中,该团队提出了一种全新的混合存储系统。该系统将两种此前不兼容的技术——铁电电容(ferroelectric capacitors)和忆阻器(memristors)——的最佳特性结合到单一的、与CMOS技术兼容的存储堆栈中。这项新颖的架构为边缘AI最棘手的一个挑战提供了一个期待已久的解决方案:如何在芯片上同时进行学习和推理,同时不消耗过多能源或超出硬件限制。
这项研究由 CEA - Leti 牵头,众多来自法国多个微电子研究中心的科学家参与其中。该项目有力地证明了在芯片上进行训练不仅是可行的,而且能够达到具有竞争力的准确性,从而避免了对离线更新(off - chip updates)和复杂外部系统的依赖。这一创新使得自动驾驶汽车、医疗传感器和工业监控器等边缘系统和设备能够依据实时数据进行学习,并即时调整模型,同时严格控制能耗和硬件磨损。
挑战:一个两难的权衡
边缘AI既需要推理(读取数据以做出决策),也需要学习(根据新数据更新模型)。但直到目前,存储技术只能很好地完成其中一项:忆阻器(电阻式随机存取存储器)擅长推理,因为它们可以存储模拟权重(analog weights),在读取操作时能效高,并支持存内计算(in-memory computing)。
铁电电容(FeCAPs)允许快速、低能耗的更新,但其读取操作是破坏性的,因此不适合推理。因此,硬件设计师面临着一个选择:要么偏向推理并将训练外包给云端,要么尝试在芯片上进行训练但要承担高成本和有限的耐久性。
该团队的核心思想是,虽然忆阻器的模拟精度(analog precision)足以满足推理需求,但它无法满足学习的需求,因为学习需要进行小而渐进的权重调整。“受量化神经网络(quantized neural networks)的启发,我们采取了一种混合方法:正向和反向传播(Forward and backward passes)使用存储在忆阻器中的低精度模拟权重,而更新则通过更高精度的FeCAPs实现。忆阻器会根据存储在FeCAPs中的最高有效位(most-significant bits)进行周期性重新编程,从而确保高效和准确的学习,”论文的第一作者Michele Martemucci说。
突破:一个存储器,两种特性
该团队设计了一个由掺硅氧化铪(silicon - doped hafnium oxide)和钛吸收层(titanium scavenging layer)组成的统一存储堆栈(unified memory stack)。这种双模设备(dual - mode device)可以根据其电学 “形成” 方式,既能作为 FeCAPs 运行,也能作为忆阻器运行。
相同的存储单元可以根据其状态,用于精确的数字权重存储(训练)和模拟权重表达(推理)。同时,一种无需正式数模转换器(DAC)的数模转换方法(digital - to - analog transfer method),可以将 FeCAPs 中隐藏的权重转换为忆阻器中的电导水平(conductance levels)。该硬件是使用标准的 130 纳米 CMOS 技术,在一个包含 18,432 个设备的阵列上制造和测试的,成功将这两种存储器及其外围电路集成到单一芯片上。
除了 CEA - Leti,研究团队还汇聚了来自格勒诺布尔阿尔卑斯大学(Université Grenoble Alpes)、CEA - List、法国国家科学研究中心(CNRS)、波尔多大学(University of Bordeaux)、波尔多国立高等理工学院(Bordeaux INP)、法国 IMS、巴黎 - 萨克雷大学(Université Paris - Saclay)和纳米科学与纳米技术中心(C2N)的科学家。
的真实性如本站文章和转稿涉及版权等问题,请作者及时联系本站,我们会尽快处理。
网址:https://www.icpdf.com/xinpin/2301.html

热门文章
- 瑞莎推出Cubie A5E开发板,采用全志ARM/RISC-V双架构处理器 2025-01-06
- 比利时氮化镓制造商BelGaN破产,中国买家积极竞购设备资产 2025-01-22
- AI 芯片风云:台积电能否超越英伟达成新霸主? 2025-07-11
- 总投资10亿元,京东方MLED珠海项目设备搬入仪式圆满举行 2024-12-20
- 攻克芯片制造难关:应对随机性变异性挑战 2025-07-22
- 英伟达震撼发布:249美元生成式AI超级电脑引发科技界热议 2024-12-18
- 突破光刻限制:更大光罩引领半导体制造新变革 2025-07-01
- 极海(Geehy)产品选型手册 2024-09-12
- 开关电源工作原理及故障现象的专业分析 2025-08-21
- ROHM创新突破:推出1kW级高功率红外激光二极管RLD8BQAB3 2024-09-27