如何利用RISC-V SoC同时处理5G与AI工作负载？

硅谷初创公司EdgeQ最近吸引了业界关注，该公司计划开发RISC-V SoC，来探索5G和AI处理工作负载之间的数学相似性。他们的首要目标市场将是电信基础设施，AI将被用于5G网络，比如检测可能会出现恶意攻击的异常行为。随后将进军客户端应用市场，比如工业机器人、汽车和无人机，其主要应用是AI加速，同时SoC还支持5G网络连接。

EdgeQ的这款SoC目前仍在研发中，它将是一种多核RISC-V设计，其定制的指令集扩展可以提高计算效率。同一芯片将服务于所有市场，但可以改变固件以便针对不同的应用进行优化，无论是网络基础设施还是客户端设备都适用。

EdgeQ利用5G和AI之间的相似性来设计可以同时加速两者的芯片

这款芯片将兼具5G和AI功能，特别适合空间受限的终端设备，因为这类设备的功耗要求特别严格。EdgeQ芯片将提供“两位数的TOPS”算力，并结合最先进的5G功能，例如URLLC（超可靠低延迟通信），这要求数据能够在1毫秒内发送到RAN（无线接入网络）。

EdgeQ利用5G和AI之间的相似性来设计可以同时加速两者的芯片。单个芯片可以同时实现这两种功能，这意味着在设计中所需要的芯片将减少，芯片间的通信更少，功耗也就更低。

无线通信依赖于FFT（快速傅立叶变换）之类的数学运算，这种运算涉及大型的复数矩阵乘积。而AI推理依赖点积，基本上也是大型矩阵与和的乘积（其中矩阵中的元素是实数）。

“如果能够构建一个可以执行复数运算的有效乘法器，那就会落实到实数，即它的AI部分，” EdgeQ创始人兼CEO Vinay Ravuri在接受EE Times采访时表示，“通过这种方法，我们可以在更细微的级别实现复用。”

这款SoC的内核将通过对RISC-V指令集的定制扩展来加速这两种工作负载。定制指令意味着将每个数学运算的功耗减少到一个周期内使用的功率。再加上本地存储，就可以得到一个非常高效的硬件加速器。

“这是我们的IP，如何有效地实现它，如何使加速器忙起来，以及如何降低相关功耗，” Ravuri说。“机器学习加速本质上是免费的，因为不需要专门为它在芯片中设置额外的区域，仍然是同一个乘法器。”

多路复用工作负载

EdgeQ如何能够做到用一颗芯片完成两种工作？同一硬件如何同时处理5G和AI工作负载？Ravuri指出，真实世界中的5G应用并不需要一直进行传输。而是可以将工作负载有效地多路复用，在5G传输之间的某些处理器周期可以用来执行AI任务，就像虚拟机的运行方式一样。

多路复用无需更改固件，客户可以灵活地自行运行这两种工作负载。该芯片还配备了5G和AI的现成库，以及完善的调度程序。

“客户可以根据自己的需求来安排调度程序，这完全取决于自己的需要，”Ravuri说。“你可以设置为10% 5G和90% AI，反之亦然；或50/50也可以。而且，它可以动态完成，这意味着不必一定要选择哪项设置。您可以选择几微秒的细粒度水平，也可以基于需求来定。”

调度程序具有服务质量（QoS）模式，可以将其设置为在特定情况下保持可预测的性能。例如，调度程序可以设置参数为每秒不低于100个AI推理，或对5G URLLC数据包进行优先排序，即必须迅速处理URLLC数据包。调度程序会动态分配资源，也许立即发送URLLC数据包，然后根据用户设置的其它优先级返回正常操作。

“这是作为客户可以做的创新，作为OEM，我们并不想控制所有事情，”Ravuri说。“如果您不想做任何改变，我们可以为您提供开箱即用、方便又灵活的产品；但是作为客户，您也可以不用它，而换成自己的算法。”

基站

EdgeQ的第一个目标应用是电信基础设施，即“介于智能手机和RAN之间的所有设备”，例如无线单元（RU）、分布式单元（DU）和gNodeB基站。

根据Ravuri的说法，上述领域的芯片选择有限。运营商可以从设备制造商那里购买产品，但其生态系统完全封闭，选择受限。或者也可以采用OpenRAN，在这个生态系统中各个构建模块之间的协议和接口是开放的，可以为运营商提供更多选择和更多创新机会。但是，这种方式需要更多的投资，才能使OpenRAN设计具有较好的成本效益。

EdgeQ希望其基于RISC-V的基站芯片组能够填补这一空白，他们使用了许多RISC-V开源工具。

“OEM几乎可以用我们的芯片制造任何产品，”Ravuri说。“我们可为客户提供两全其美的服务，让客户可以构建任何所需的系统。它与OpenRAN完全兼容……您可以做任意编程，修改物理层，并添加自己的差异化功能，这也是客户常要求的特性之一。但他们也不想花费两到三年的时间来强化整个系统。”

另一个潜在优势是降低库存。

“与其投资三个不同的芯片组，不如投资一个小芯片，”Ravuri说。“有时候，公司只有一个主板，软件变化使之成为一个SKU。无论从软件角度、硬件角度，甚至从产品化、产品上市的时间上来看，不必用不同的芯片组替换或重建硬件，因此可以极大地节省成本。”

EdgeQ还声称，可将总拥有成本（TCO）降低一半，这在很大程度上归功于节能。根据Ravuri的说法，基站TCO的一半都来自电力系统（包括制冷、UPS电源和电费）。因此，任何可以节省能源的措施都会极大地影响TCO。采用集成度更高的解决方案，以及通过提高能效来降低基带处理所产生的功耗，都将产生巨大影响。

EdgeQ的商业策略是采用一种芯片即服务的模式，通过固件激活或升级功能，从而使5G能够与WiFi进行市场竞争。

EdgeQ有望在今年晚些时候提供SoC样品。

（参考原文：Startup Exploits Synergy Between 5G and AI）

责编：Amy Guan

本文为《电子工程专辑》2021年3月刊杂志文章，版权所有，禁止转载。点击申请免费杂志订阅