Rambus GDDR7控制器IP：开发扩展的AI边缘计算基础架构

GPUs equipped with GDDR7 will be officially launched in May 2025, with the NVIDIA GPU RTX 5060 first released, and high-end models (such as RTX 5090) will be launched by the end of 2025. Against this background, Nidish Kamath, Director of Rambus Semiconductors product management product management accelerates ai reasoning ". Against the rear of the rapid development of AI technology, GPU GDDR的绩效记忆是高性能的，它是针对图形卡的绩效频率，而是针对图形数据的效果，并且每种图形记忆都与CPU的记忆兼容。由于有限的宽度有限钻头导致框架或滞后速率降低。在此基础上，GPU视频记忆正在慢慢移至GDDR。三星电子在1998年推出了第一个16 MB GDDR存储芯片，标志着GPU和CPU内存分离的开始。 GDDR具有较高的数据和带宽传输速率，在建立GPU的形成中起着至关重要的作用。自GDDR视频记忆诞生以来，总共有7个版本（GDDR到GDDR7）发展了，每一代都改善了带宽的增加和减少电力消耗。 ‌TAYDAY，GDDR7的起点为32 gt/s，比GDDR6最快的内存高60％，比快速GDDR6X内存高33％。在GTC 2024中，三星和SK Hynix提出的GDDR7内存解决方案表示GDDR7进入了商业实施阶段。这两家公司通过客户合作计划并澄清大众劳动计划直接将技术从实验室推广到终端市场。根据PLAN，配备了GDDR7的GPU于2025年5月正式推出，NVIDIA GPU RTX 5060首次发布，高端型号（例如RTX 5090）将于2025年底推出。同时，他还将Rambus的GDDR7内存控制器IP引入了“国际电子商务信息”。生成的AI设备需要更大的内存才能伴随AI下沉到侧面和终端。适应专用需求的轻量级和一般模型是行业在侧设备上实施AI的主要方式。简化的专用模型可以将参数量减少到较低级别，并确保更好的用户体验，这是一种经济的业务模型。目前，手机的记忆力支持AI开发？ Nidish Kamath表示，大语言模型（LLM）是驱动的，设备侧AI在AI PC和AI智能手机等设备上引起了计算端和端点应用程序的改编。Al网络。为了应对对带宽以及侧面设备的记忆的爆炸性需求，新一代的高频带和低存在率技术的记忆已成为一个主要解决方案。当前，在这些设备上大规模实施了诸如DDR5，GDDR7和LPDDR5/5X之类的高级记忆。但是，设备类型还限制了支持AI应用程序的内存选择范围。当前，LPDDR5被移动设备广泛使用。它的性能和带宽足以满足手机应用程序的需求，并且还可以低水平控制电力消耗。根据Yole Group的研究，生成AI的演变正在推动对移动设备的苛刻需求：较旧的模型受处理能力的限制，难以满足要求。当前，AI的基本功能仅需要约100MB的内存，但是配备LLM的Advansed操作的内存要求可以上升到7GB。 HBM领导了AI训练和GDDR适用于侧面推理，记忆需求的指数增长直接促进了不同记忆技术的对比。在云训练的一边，HBM（高带宽内存）完美地满足了由3D堆叠体系结构提供的超高带宽的大型参数频繁调用的需求；在边缘时，GDDR6/7通过更好的能源效率和模块化设计符合LLM评估的移动设备的实时要求和成本障碍。 Nidish Kamath进一步坚持认为，最新HBM3E的工作率为每引脚9.6 GB/s，单个内存的总带宽可能达到1.2 TB/s。 SINDDDR7将支持每引脚40 GB/s的数据速率，并且单个GDDR7存储器的带宽为160 GB/s。相反，在记忆带宽中，HBM3E和GDDR7之间存在显着差距。两者之间的性能差异很大程度上是由于两个内存str的差异插座。基于2.5D/3D体系结构的HBM集成到GPU芯片中，包括间置层，处理器和内存堆栈。该设计使HBM能够在低潜伏期和更好的能量中实现高带宽性能，从而可以处理高性能计算（HPC）活动，例如密集的AI培训或机器学习。但是，HBM的出色表现背后的复杂性不断提高，这继续推动其人工成本。由于主流边缘和最终设备的工作量很大，GDDR的内存和带宽的能力可以满足他们的需求，而无需投资大量资金以获得HBM的出色表现。此外，GDDR采用了传统的2D体系结构，并与GPU DIE分开，这比HBM使用的更复杂的2.5/3D体系结构更容易实现。较低的复杂性和易用性进一步降低了成本。通过采用PAM3的签名技术，GDDR7仍然保持良好的带宽性能，足以满足侧面和端设备的AI推理应用程序的需求，因此在设备设计人员和设备饰面上广泛流行。未来的记忆挑战：当然，考虑到PAI的P商业化的第一年，考虑相同的能源和性能，并且对内存的性能要求相对较低，但是随着未来更先进的AI的商业化，将来会有更高的记忆性能（例如带宽，延迟，延迟，效率等）。在这方面，Nidish Kamath表示，未来面临的主要挑战在于“如何在节能进一步的基础上提供更高的绩效”。内存为处理器提供了高速数据缓冲，互连技术在处理器和处理器内存之间建立了直接的渠道，两者共同解决了大规模数据处理效率的问题。 “随着处理器的加速，我们必须加快数据传输速度n同时，如果处理器之间的数据传输或实施率之间的数据传输。 “但是对于记忆技术，增加单个芯片的数据位数是一个挑战。尽管存储单元减少以适应更多的数据位，但需要控制的其他物理效应也会随后发生。因此，芯片错误包括芯片上的芯片误差校正技术。因此，与当前的插入式隔间相比，需要更广泛地使用。领域。信号。“我们知道当今行业面临的挑战，我们也知道该行业的许多领先人才正在努力解决这些问题。在高性能记忆领域的经验和积累30多年的经验和积累，Rambus专注于提供一个新的世界，使该行业始终与最先进的标准同步，并提供帮助，并有助于帮助您develop a new world of 'Ai 2.0'," he. "AI 2.0" requires higher performance memory systems. Compared to "AI 1.0", "AI 2.0" there are new requirements for memory systems. Specifically, the "traditional AI" focuses on data and predictions based on input models, and is limited to limited input/output modalities (such as text-to-wee page results). For example, the usual “AI 1.0” applications include Bettles in Boses,推荐机器和搜索平台在处理相对简单的任务（例如语音，文本和文本中的语音）方面表现良好，但它们无法处理LLM的复杂和多样化的内容创建，“ AI 2.0”时期就可以打开了无限的创意和创新的文本或更多的文字。高级表格，例如代码，视频，甚至3D模型。GPT-4，Palm2，Ernie 4.0，弯曲2，Gemiito在LLMS（例如1.5和Olympus）中可以看到，并扩展了更多的侧面和末端应用情况。从个人经验到特定的解决方案，再到整个计算架构（云，侧面，终端），“ AI 2.0”应用程序的快速开发通过了记忆和AI培训能力和推理工作流的大量带宽要求。例如，就AI训练而言，与GPT-4 CHAT 1.76万亿个参数相比，AI模型的相应量表正在迅速扩展-1750亿聊天GPT-3参数，其带宽和容量需求的持续增长。同时，许多AI应用程序正在从数据中心转移到边缘和终端，这些应用程序对现有内存系统的需求也更高。具有GDDR内存的GPU始终是推理引擎的首选。 RAMBUS GDDR7控制器提供了功能齐全的带宽保存通过NG PAM3信号传导实现解决方案，该信号促进了高级GDDR存储器在切割AI加速器，图形处理和高性能计算应用程序中的使用。为GDDR7行业提供绩效以改善内存带宽，GDDR7使用PAM3而不是签署NRZ（PAM2）。这种新的编码方案可以将“ 3位信息”发送到两个时钟周期，与GDDR6在同一时钟频率下相比，数据传输速率提高了50％，从而以每引脚40 Gbps的速度提高了通道性能。为了确保在如此高的工作速度下可靠的数据传输，GDDR7内存包括高级RAS（可靠性，存在和可维护性）机制。这将有助于缓解通过PAM3签名的高频率和性质所获得的信号完整性挑战。 Pininanidish Kamath知道：“ Rambus GDDR7控制器通过纳入数据完整性的其他功能，包括RAMBUS GDDR7内存控制器IP提供了导致GDDR7行业的性能，并且单个GDDR7内存可实现高达40 Gbps的传输速率和可用的带宽160 GB/s。 PAM3和NRZ信号格式；验证路径等；全面的记忆测试支持；e用付款内容的rambus gddr7内存的内存转移：控制器（源代码），测试工作台（源代码），完整的文档。同时，该公司还提供专门的技术支持，维护和更新，自定义，SOC集成和其他服务的GDDR7内存控制。他解释说：“当需要在产品设计和开发ng客户期间发生技术支持的问题时，我们可以快速帮助客户识别问题并提供解决方案，从而缩短客户的营销时间。我们还提供了全面的记忆内存支持和对PHY集成的第三方支持，以帮助客户实现完整的GDDR7内存子的生产。移动设备上生成AI的大规模手势。一条多PAM技术路线，旨在将GDDR7输送率提高到48 GT/s，以支持TermiNAL扩展为150亿+参数模型。消费电动和成本。