10万块英伟达GPU！马斯克计划年底训练出“世界最强AI”

马斯克称将在今年年底训练出全球最强AI。

当地时间7月22日，特斯拉CEO埃隆·马斯克在旗下社交平台X上表示，xAI团队、X团队、英伟达及其他支持公司已经于当地时间凌晨4时20分开始在“孟菲斯超级集群（Memphis Supercluster）”上进行训练。

他介绍，“孟菲斯超级集群”由10万个液冷H100 GPU组成，在单个RDMA结构（即远程直接数据存储结构，可解决网络传输中服务器端数据处理的延迟）上运行，是“世界上最强大的人工智能训练集群”。

马斯克还补充说，目标是在今年12月前训练出“按每项指标衡量都是世界上最强大的人工智能”。

此前，马斯克就曾透露，将用该集群训练xAI旗下第三代大语言模型Grok-3。

今年5月份，马斯克透露，旗下人工智能企业xAI计划打造一台超级计算机，名为“算力的超级工厂”，预计规模是市场上最强大竞争对手的四倍。该计算机将采用英伟达H100 GPU。

一年前，xAI宣布正式成立，并表示公司的宗旨是“了解宇宙的真实本质”。xAI在官网表示，“我们是一家独立于X Corp的公司，但将与X、特斯拉和其他公司密切合作，以实现使命。”

2023年11月，xAI发布第一款大模型Grok-1。

本月，马斯克宣布Grok-2将于8月推出，将带来更先进的AI功能。同时他还透露，Grok-3将使用10万块英伟达H100芯片进行训练，预计将于年底发布，相信它会“非常特别”。

今年5月份，xAI宣布获得60亿美元B轮融资，主要投资者包括安德森·霍洛维茨基金（Andreessen Horowitz）、红杉资本（Sequoia Capital）等。xAI的投前估值为180亿美元，本轮融资后的投后估值将达到240亿美元。

在AI潮流下，算力已经成为科技巨头们的必争之地。Meta公司在今年1月透露，公司计划到今年年底部署35万块英伟达H100 GPU，将Meta的算力扩展到相当于60万块英伟达H100 GPU的水平；微软和OpenAI在计划构建一台名为“星际之门”的新超级计算机，其成本可能高达1000亿美元，并计划在2030年完全开发完成。