在不到两分钟的时间里，Meta 公司首席执行官马克-扎克伯格（Mark Zuckerberg）阐述了该公司的人工智能计划，其中包括一项利用相当于 60 万个 Nvidia GPU（图形处理器）构建人工智能系统的计划。
"扎克伯格在 Twitter 上发布的一段视频中说："我将把 Meta 的人工智能研究工作更紧密地结合在一起，以支持我们的长期目标，即构建通用智能，负责任地将其开源，并使其在日常生活中对每个人都可用和有用。
扎克伯格宣布的是 Meta 人工智能计划的最新路线图，该计划围绕即将推出的 Llama3 展开，目前正在对 Llama3 进行训练。它将接替去年的 Llama2 模型权重和标记化器，这两个产品在 Huggingface 上的总下载量不到 200 万次，取得了巨大成功。开源开发者还发布了数千个 Llama2 分支。
Llama3 将与谷歌最近发布的 Gemini 模型、OpenAI 的 GPT-4 和即将发布的 GPT-5 模型展开竞争。OpenAI 首席执行官山姆-阿尔特曼（Sam Altman）尚未谈及 GPT-5，但他暗示，通过支持更多数据源，GPT-5 将更容易处理文本、语音和图像。
"我们正在建设一个绝对庞大的基础设施，以便在今年年底前提供支持。扎克伯格说："我们将拥有大约35万台Nvidia H100，如果算上其他GPU，大约有60万台相当于H100的计算设备。
扎克伯格说，"这意味着 Meta 的 GPU 总数量将超过约 70 个国家的人口数量。Meta 还将使用 AMD 的 MI300X GPU。事实上，Meta 以创纪录的速度部署了配备 MI300X GPU 的服务器。
"MI300X利用了 OCP 模块、标准和平台，这帮助我们在创纪录的时间内采用了它。事实上，MI300X 是 Meta 历史上部署速度最快的解决方案之一，"Meta 工程高级总监 Ajit Mathews 去年在 AMD 的一次活动中上台时说。
Nvidia 将于明年开始出货 H200 GPU，以取代其 H100 GPU。有迹象表明，随着 H200 出货量的增加，Nvidia 将扩大 H100 GPU 的出货量，因为 H100 GPU 的需求量一直很大。
各家公司都在等待多个季度才能收到 Nvidia GPU，而 Meta 的 350,000 个 GPU 是一个巨大的订单。但 Nvidia 正在缓慢地完成发货，优先考虑大客户，但也会满足从比特币转型为人工智能数据中心公司的小订单。
Meta 也在重建数据中心，专注于 GPU 计算。Meta 正在建设拥有数千个加速器的超大型集群。内核网络呈网状组织，加速器之间的带宽为每秒 1 太字节。该公司在全球拥有 21 个数据中心，最近在伊利诺伊州德卡尔布开设的数据中心使用可再生能源。
但要实现扎克伯格的终极目标，还需要更多的 GPU：建立人工通用智能，也就是人脑的数字化版本。
扎克伯格说："很显然，下一代服务需要构建全面的通用智能，构建最佳的人工智能助手，为作为企业的创造者提供人工智能，以及更多，这需要在人工智能的各个领域取得进步，从推理、规划到编码，再到记忆和其他认知能力。"
扎克伯格解释了元宇宙战略是如何与其人工智能计划联系在一起的。来自人类的感官输入--图像、声音、语音--都将被输入到多模态人工智能中，并在眼镜和耳机等元宇宙设备上输出。现在，人工智能模型是以聊天机器人、文本到图像生成器等形式分离出来的，但最终，这些模型都将合并，以符合人类处理信息方式的方式呈现信息。
"扎克伯格说："人们还将需要新的人工智能设备，这就把人工智能和元宇宙结合在了一起，因为随着时间的推移，我认为我们很多人都会在一天中频繁地与人工智能对话。
雷朋的 Meta 智能眼镜就是一个例子，它采用了高通公司的芯片。Moor Insights and Strategy 公司分析师安谢尔-萨格（Anshel Sag）在上个月发布的一篇产品评论中说，Meta "现在在日常功能方面扛起了智能眼镜的大旗"。
"这款眼镜是让人工智能看你所看，听你所听的理想外形。因此，它可以随时提供帮助，"扎克伯格说。
扎克伯格暗示说，Llama3 很可能是 Meta 的第一个多模态模型，支持多媒体和语音输入。Llama 2 完全是一个聊天机器人，它提供了一个提示，用户可以在这里提问和编写故事。
Meta 在 Llama 3 的发行方面具有优势。Llama 2 由谷歌、AWS 和微软提供云服务。Meta 从来没有发布过自己的 Llama2 聊天机器人托管服务，用户可以通过 HuggingChat 等服务或将其下载到个人电脑上使用。
"扎克伯格说："这项技术如此重要，机会如此之多，我们应该开源，并以负责任的方式尽可能广泛地提供这项技术，让每个人都能从中受益。
扎克伯格也正在成为开源人工智能的代言人，他间接抨击了 OpenAI 和谷歌在人工智能方面的闭源做法。OpenAI和谷歌利用公共研究和开源开发者来建立自己的人工智能战略，但却为了在人工智能上套现而闭源。
OpenAI 和谷歌的Transformer模型只能通过它们的网站获取（微软除外，它的人工智能战略是建立在 OpenAI 的 GPT 模型之上的）。
Meta "拥有像 Pytorch 这样的通用软件平台，每个人都在使用。首席人工智能科学家 Yann LeCun 上周在达沃斯世界经济论坛的一次讨论中说："这让整个领域都在加速发展，因为你有很多人在研究它。
Meta 公司在其人工智能技术中将安全和责任放在首位，Llama2 已经采用了这些技术。该公司已经处理过许多政治争议，可能希望避免任何公众或政治反弹。Llama2 采用监督学习技术来权衡结果，这与新型变压器模型改用无监督模型有所不同。
扎克伯格没有就公司何时发布 Llama 3 发表评论。但公司去年发布了 Llama 1 和 Llama 2，发布时间相隔 10 个月。
原文链接：https://www.hpcwire.com/2024/01/25/metas-zuckerberg-puts-its-ai-future-in-the-hands-of-600000-gpus/
高端微信群介绍 | |
创业投资群 | AI、IOT、芯片创始人、投资人、分析师、券商 |
闪存群 | 覆盖5000多位全球华人闪存、存储芯片精英 |
云计算群 | 全闪存、软件定义存储SDS、超融合等公有云和私有云讨论 |
AI芯片群 | 讨论AI芯片和GPU、FPGA、CPU异构计算 |
5G群 | 物联网、5G芯片讨论 |
第三代半导体群 | 氮化镓、碳化硅等化合物半导体讨论 |
存储芯片群 | DRAM、NAND、3D XPoint等各类存储介质和主控讨论 |
汽车电子群 | MCU、电源、传感器等汽车电子讨论 |
光电器件群 | 光通信、激光器、ToF、AR、VCSEL等光电器件讨论 |
渠道群 | 存储和芯片产品报价、行情、渠道、供应链 |
< 长按识别二维码添加好友 >
加入上述群聊
带你走进万物存储、万物智能、
万物互联信息革命新时代
