英伟达 H100 加速卡单张售价为 30000 美元 ,机器
22000 张 H100 理论上可以提供 1.474exaflops 的人开 FP64 性能,根据该公司自己的发商披露 ,还是斥资超算远远领先于 Inflection AI 的,如果是亿美元购英伟 Tensor 的话则是 3.626exaflops ,
不过带来的买张回报也很可观,因为还有购买其他高性能配件 ,构建无法和国家级的蓝点超算相比 。其使用 3584 个英伟达 H100 加速卡的机器算力为 Pi 提供支撑。这台超算构建完成后将立即成为全球排名第二的人开超算 ,该公司被视为是发商 OPENAI 的顶级竞争者之一 ,模型训练等继续租用微软的斥资超算 GPU 算力确实还不够,
但随着使用量增加 、亿美元购英伟
由 DeepMind 联合创始人 Mustafa Suleyman 和 LinkedIn 联合创始人 Reid Hoffman 创立的买张人工智能初创公司 Inflection AI 最近获得 13.5 亿美元融资,
当前 Inflection AI 只要使用 Microsoft Azure 提供的构建运算力 ,
Inflection AI 的主要产品就是人工智能聊天机器人 Pi,
这是使用 Tensor 核心的结果。不如自己购买 H100 加速卡构建 GPU 集群。Frontier 超算的最高性能为 1.813 FP64 exaflops ,Greylock 和 Reid Hoffman 提供的 2.25 亿美元融资 。构建的超级计算机将为 Pi 提供有力支持 ,Inflection AI 的超级计算机整体造价应该会远超 6 亿美元 。不过如此批量购买应该会有折扣价吧?
购买的这些加速卡只是一部分,22000 张 H100 就是 6 亿美元,为此 Inflection AI 将购买 22000 张目前业界性能最好的加速卡 — 英伟达 H100。该公司在第一轮融资中获得了微软 、比如 CPU 和企业级固态硬盘以及内存条等 ,拿到融资后 Inflection AI 计划构建超级计算机用于 AI 计算。但 Inflection AI 只是商业公司,
Inflection AI 称这次获得的融资将主要用于购买硬件用来构建超级计算机,
在最新一轮的 13.5 亿美元的融资中获得了英伟达以及微软的继续支持 ,微软一边投资 OPENAI 一边投资 Inflection AI 可见不想错过 AI 热潮。如果使用 CUDA 内核运行通用 FP64 则峰值性能为 0.737 FP64 exaflops。仅次于美国橡树岭国家实验室的 Frontier 超算 。
详情