10万块英伟达GPU!马斯克计划年底训练出“世界最强AI”

科技新闻 2024-07-24124网络

马斯克称将在今年年底训练出全球最强AI。

当地时间7月22日,特斯拉CEO埃隆·马斯克在旗下社交平台X上表示,xAI团队、X团队、英伟达及其他支持公司已经于当地时间凌晨4时20分开始在“孟菲斯超级集群(Memphis Supercluster)”上进行训练。

他介绍,“孟菲斯超级集群”由10万个液冷H100 GPU组成,在单个RDMA结构(即远程直接数据存储结构,可解决网络传输中服务器端数据处理的延迟)上运行,是“世界上最强大的人工智能训练集群”。

马斯克还补充说,目标是在今年12月前训练出“按每项指标衡量都是世界上最强大的人工智能”。

此前,马斯克就曾透露,将用该集群训练xAI旗下第三代大语言模型Grok-3。

今年5月份,马斯克透露,旗下人工智能企业xAI计划打造一台超级计算机,名为“算力的超级工厂”,预计规模是市场上最强大竞争对手的四倍。该计算机将采用英伟达H100 GPU。

一年前,xAI宣布正式成立,并表示公司的宗旨是“了解宇宙的真实本质”。xAI在官网表示,“我们是一家独立于X Corp的公司,但将与X、特斯拉和其他公司密切合作,以实现使命。”

2023年11月,xAI发布第一款大模型Grok-1。

本月,马斯克宣布Grok-2将于8月推出,将带来更先进的AI功能。同时他还透露,Grok-3将使用10万块英伟达H100芯片进行训练,预计将于年底发布,相信它会“非常特别”。

今年5月份,xAI宣布获得60亿美元B轮融资,主要投资者包括安德森·霍洛维茨基金(Andreessen Horowitz)、红杉资本(Sequoia Capital)等。xAI的投前估值为180亿美元,本轮融资后的投后估值将达到240亿美元。

在AI潮流下,算力已经成为科技巨头们的必争之地。Meta公司在今年1月透露,公司计划到今年年底部署35万块英伟达H100 GPU,将Meta的算力扩展到相当于60万块英伟达H100 GPU的水平;微软和OpenAI在计划构建一台名为“星际之门”的新超级计算机,其成本可能高达1000亿美元,并计划在2030年完全开发完成。

莺歌燕舞新闻网 版权所有 Power by DedeCms 

联系QQ