3月2日,人工智能芯片初创公司Groq收购了另一家初创公司Definitive intelligence Inc.,收购金额未透露。
两家公司宣布了这笔交易。
这笔交易将帮助Groq提高其云平台GroqCloud的能力。
今年1月其推出新型人工智能芯片 LPU(Language Processing Unit)芯片。该产品近日在一些公开测评、客户测试中,延时(Latency)、吞吐量(Throughput)等指标大受好评,据称AI推理速度远超英伟达GPU。Groq官网提供了两个开源模型的演示:在Mixtral8x7B-32k的生成速度接近500 token/s,在Llama 2 70B-4k接近300 token/s。
Groq公司成立于2016年,总部位于美国加州圣塔克拉拉山景城。其创始团队中有很多人都参与过谷歌TPU项目。其中,Groq创始人兼CEO乔纳森·罗斯(Jonathan Ross)曾设计并制作出了第一代谷歌TPU芯片的核心元件,TPU 20%的研发项目都由他完成。随着 Sora 的火爆,多模态大模型对 AI 算力的消耗更高,英伟达的 GPU 芯片一卡难求,算力短缺成为很多 AI 公司面临的头等难题。
飙叔感谢您花时间关注与分享,感谢在我的人生道路中多了这么多志同道合的朋友,一起关注国产光刻机、国产芯片、国产半导体艰难突破之路;一起分享华为海思、华为鸿蒙及华为手机等华为产业为代表的中国ICT产业崛起的点点滴滴;从此生活变得不再孤单,不再无聊! | 勾搭飙叔,请扫码 |