Google的Parthia先生在演讲中概述了计算向人工智能的转变、整体协同设计以及未来的机遇。他强调了在硬件和软件之间进行整体协同设计以有效扩展人工智能系统的必要性。
他表示，我们正处于计算机行业一代人只有一次的拐点。在过去的25年里，谷歌一直在考虑为数十亿用户提供全球规模的计算。长期以来，人工智能一直在为谷歌的产品提供动力，而且在人工智能搜索等领域的应用也在不断增加。它正在改变消费者和企业与技术的互动方式。
企业对AI的采用量巨大，公司正在转向生产用例。常见主题包括使用AI综合大量数据、用户交互界面和生成内容。谷歌专注于引入能够为用户执行特定目标行动的智能代理（员工代理、客户代理等）。
他认为，我们正在进入一个新的科学时代，从经验到理论，再到计算，现在到人工智能。
这与硬件和基础设施有什么关系？随着计算需求的增长，模型变得越来越大，越来越强大，每年增长10倍，每2-3个月模型大小翻一番。
在计算需求增长的同时，CPU性能趋势、内存成本下降趋势和功耗效率趋势趋于停滞。我们需要思考硬件之外的创新。
跨堆栈跨学科系统创新：整体协同设计有三种范式——从芯片到系统、系统到平台、平台到生态系统。
芯片到系统：设计人员需要关注芯片如何参与广泛的系统设计。这包括设计液体冷却、网络和可持续能源。他强调，在数据中心使用光电路交换可以降低30%的成本和40%的功耗。
来源：Google
共同设计硬件和软件：需要同时考虑计算、网络和存储。关注性能优化的硬件、开放软件和灵活的消费模型（动态工作负载调度器、工作负载优化基础设施等）。他强调，由于机器学习工作负载是批量同步的，因此功率差异会出现很大的峰值，这可能非常具有破坏性。HW-SW协同设计可以帮助平滑培训工作量，从而减少功耗和散热波动。
来源：Google
从平台到生态系统：谷歌正在考虑提供完全统一的技术堆栈的模式。
整体协同设计的额外机会：企业需要从绩效转向可持续性，这可以通过模型优化、高效基础设施和减排来帮助实现。
考虑到机器学习系统的规模和机器学习训练工作的规模，可靠性问题可能会影响整个系统。整体系统创新将是实现这场AI革命的关键。
内容来源：AI Hardware Summit 2024
高端微信群介绍 | |
创业投资群 | AI、IOT、芯片创始人、投资人、分析师、券商 |
闪存群 | 覆盖5000多位全球华人闪存、存储芯片精英 |
云计算群 | 全闪存、软件定义存储SDS、超融合等公有云和私有云讨论 |
AI芯片群 | 讨论AI芯片和GPU、FPGA、CPU异构计算 |
5G群 | 物联网、5G芯片讨论 |
第三代半导体群 | 氮化镓、碳化硅等化合物半导体讨论 |
存储芯片群 | DRAM、NAND、3D XPoint等各类存储介质和主控讨论 |
汽车电子群 | MCU、电源、传感器等汽车电子讨论 |
光电器件群 | 光通信、激光器、ToF、AR、VCSEL等光电器件讨论 |
渠道群 | 存储和芯片产品报价、行情、渠道、供应链 |
< 长按识别二维码添加好友 >
加入上述群聊
带你走进万物存储、万物智能、
万物互联信息革命新时代
