博通今天揭开了新芯片的面纱,该芯片将集成旨在帮助改善网络的片上人工智能神经网络。
新型 Trident 5-X12 交换芯片具有名为 NetGNT(网络通用神经网络流量分析器)的集成神经网络引擎。据博通称,这标志着业界首款包含片上神经网络的交换芯片,为更智能、更高效的网络打开了大门。
这款新芯片是博通 Trident 芯片的演变,十多年来博通一直在网络连接和安全方面进行迭代。Trident 5-X12 提供 16.0 Tbps带宽,是上一代 Trident 4-X9 的两倍。新款 Trident 还比其前代产品更加节能,每个 400G 端口的功耗减少了 25%。
该芯片支持 800G 端口,可直接连接 Broadcom 的 Tomahawk 5主干交换机。这使得 1RU(机架单元)架顶式 (ToR) 交换机具有多达 48 个 200G 下游端口和 8 个 800G 上游端口。
Broadcom 核心交换集团 PLM 负责人 Robin Grindley 告诉 SDxCentral,这款新芯片是新 Trident 5 系列的第一个成员。新芯片的目标部署是在云和企业部署的机架网络设备顶部。
NetGNT 的 AI 加速智能
Trident 5-X12 的核心是 NetGNT 神经网络引擎。NetGNT 与标准数据包处理管道并行运行,实时分析流量模式。
例如,NetGNT 旨在检测即将发生的网络拥塞并在性能下降之前调用拥塞控制机制。这种硬件加速智能可提高效率,而不影响吞吐量或延迟。
NetGNT 支持的流量分析不同于 Broadcom 之前启用的传统分析类型。
“在较高的层面上,神经网络擅长寻找跨时间和数据包的模式,”格林德利说。“传统的数据包处理会在每个数据包的基础上寻找固定的标准。”
NetGNT 技术不是静态的,可以训练和更新。Grindely 表示,网络数据包跟踪需要收集,通常由组织中的 NOC(网络运营中心)收集。数据包跟踪用于受监督的训练。他补充说,一旦推理权重可用,NetGNT 就会加载,并且可以随时加载新的权重。
软件可编程优化是 Trident 5 的关键
Broadcom 将 Trident 5-X12 设计为可使用其 NPL 语言进行完全软件编程。这样做的目的是允许客户通过简单的软件升级来定制具有新特性、协议和功能的芯片。
该芯片还具有扩展的遥测功能。芯片生成的深度流量统计和见解可以帮助微调 NetGNT 和算法,以优化网络性能。虽然 Trident 5 和 NetGNT 是新技术,但博通表示,它已将 Trident 5-X12 定位为轻松与现有交换机集成Broadcom 的软件以及支持基于开源的Enterprise SONiC 网络操作系统。
Broadcom 推出业界首款带片上神经网络的交换机
Broadcom Inc.今天宣布推出一款名为Trident 5-X12 的软件可编程芯片,该芯片集成了一个名为 NetGNT(Networking General-purpose Neural-network Traffic-analyzer)的新型片上神经网络推理引擎。值得一提的是,这是全球首款相关芯片。
NetGNT 并行工作以增强标准数据包处理管道。标准管道是单数据包/单路径,这意味着它在通过芯片端口和缓冲区采用特定路径时查看一个数据包。相比之下,NetGNT 是一个机器学习推理引擎,可以经过训练来寻找跨越整个芯片的不同类型的流量模式。
例如,NetGNT 可以查找 AI/ML 工作负载中常见的称为“incast”的流量模式,其中许多数据包流几乎同时汇聚到同一端口并进行缓冲,从而导致拥塞。NetGNT 可以在这种模式开始时实时识别它,并调用拥塞控制技术来避免网络性能下降。由于 NetGNT 在硬件中以全线速运行,因此不会对吞吐量或延迟产生影响。
“我们不断挑战极限,向市场推出 NetGNT 等全新技术。我们还仔细倾听客户的意见,他们明确表示一种尺寸并不适合所有情况。他们依靠我们提供针对不同应用定制的广泛芯片组合。”Broadcom 高级副总裁兼核心交换事业部总经理 Ram Velaga 说道。“Trident 5-X12 是市场上最节能的 ToR(架顶式),同时还添加了我们的客户对 Broadcom 等创新者所期望的尖端新功能。”
Trident 5-X12 可通过软件编程、现场升级,并提供 16.0 太比特/秒的带宽,是市场领先的 Trident 4-X9 的两倍。它还增加了对 800G 端口的支持,允许直接连接到 Broadcom 领先的 Tomahawk 5,该 5 用作最新计算和 AI/ML 数据中心的主干/结构。该芯片具有独特的定位,可实现支持 48x200G 下行链路端口和 8x800G 上行链路端口的 1RU 数据中心 ToR。
Trident 5-X12 的其他主要优势包括:
每个 400G 端口的功耗比当前市场领先的 Trident 4-X9 低 25%
使用 Broadcom 业界领先的 100G-PAM4 SerDes 添加对 800G 端口的支持,从而实现高达 4m DAC 和线性光学
支持过渡到使用 400G NIC 的下一代 CPU 和 GPU 服务器
添加 NetGNT 以启用新功能并提高网络效率和性能
添加增强的遥测功能,可以更深入地实时了解网络运营,然后可用于训练 NetGNT
增加转发/策略规模以支持不断扩大的网络规模
保持传统 API 与当前 Broadcom 交换机芯片的兼容性
使用 NPL(网络编程语言)完全可编程,允许现场升级以添加新的遥测、安全和流量工程等功能
NPL 与当前的 Trident 4 系列兼容,该系列已被大量客户用来开发自己的定制开关应用
支持企业级SONiC 和 SAI 促进快速、无缝地集成到数据中心运营框架中
原文链接:
https://finance.yahoo.com/news/broadcom-introduces-industry-first-switch-140000547.html