克雷西 发自 凹非寺量子位 | 公众号 QbitAI开云体育 老黄在CES上发布的迷你超算Project DIGITS,开启了AI超算的PC技艺。 但立时也激励了不小争议,还遭到了大佬的贴脸嘲讽。 在AMD和齐责任过的芯片想象各人Raja Koduri实名吐槽谈: FLOPs除以4,价钱翻倍,这即是在CES上stay grounded的诀要。 其后Koduri在网友追问下给出了详备解释,默示宣传的算力是在FP4精度下的,而Project DIGITS在FP16下的进展,可能就和5070差未几,...

克雷西 发自 凹非寺量子位 | 公众号 QbitAI开云体育
老黄在CES上发布的迷你超算Project DIGITS,开启了AI超算的PC技艺。
但立时也激励了不小争议,还遭到了大佬的贴脸嘲讽。
在AMD和齐责任过的芯片想象各人Raja Koduri实名吐槽谈:
FLOPs除以4,价钱翻倍,这即是在CES上stay grounded的诀要。

其后Koduri在网友追问下给出了详备解释,默示宣传的算力是在FP4精度下的,而Project DIGITS在FP16下的进展,可能就和5070差未几,以致接近Intel Arc B580(售价250好意思元)。

友商Tiny Corp更是收拢这极少猛地一波输出,凯旋默示,东谈主们趋之若鹜的的所谓3000好意思元超算,即是纯纯的诈欺。
终末还不忘再补一刀说,3000好意思元还不如买个游戏电脑。

对于细节,Tiny Corp在另一则推文里默示,FP4根蒂就没法用,Project DIGITS在FP8精度下唯有500TFLOPs,趁便宣传自家的居品有4PFLOPs,是Project DIGITS的8倍。

史上最迷你超算,售价22000起
英伟达先容,这一波发布的Project DIGITS,不错说是当今体积最小的AI超算。
Project DIGITS将于本年5月份由官方和顶级勾搭商一同发售,起售价3000好意思元,约合东谈主民币两万二。

它搭载了英伟达全新Grace Blackwell超等芯片——GB10,FP4运算才能达到了1PFLOPs
GB10包含了英伟达Blackwell GPU,具有最新一代CUDA中枢和第五代Tensor Cores。
CPU则是与联发科勾搭研发的Grace CPU,基于Arm架构,领有20个节能中枢。
CPU和GPU之间,则是通过NVLink-C2C芯片到芯片互连运动,另外还有128GB谐和内存和4TBNVMe存储。

据先容,Project DIGITS不错在桌面端启动200B大模子,还不错把两台组合到沿路,跑405B的模子。

此外英伟达还给用户配有AI软件库,包括NGC目次和开导者流派中的软件开导器具包、编排器具、框架和模子等,可用NVIDIA NeMo框架微调模子、NVIDIA RAPIDS库加快数据科学,启动PyTorch等常见框架。
还不错诈欺NVIDIA Blueprints和NVIDIA NIM微作事构建智能AI应用。
况且在桌面系统上对大模子搞完开导或推理之后,还不错无缝部署到加快云或数据中心基础关节里。
英伟达的桌面CPU研讨
之前有传言称,英伟达贪图在本年进犯耗尽级CPU市集。
此次的Project DIGITS中,20个节能中枢的Grace CPU即是英伟达的第一次试水。
黄仁勋在投资者演讲中回复分析师的问题时默示,英伟达与联发科共同想象了一款“不错庸碌销售的”节能CPU。
不外,搭载新CPU的Project DIGITS主要面向AI从业东谈主员,主要启动Linux系统,离成为环球耗尽市集成立还存在距离。
但老黄也明确默示,英伟达对于桌面级的CPU“有进一步研讨”,具体细节则要之后再知道。
不外这如故弥漫解说,英伟达思要进犯耗尽级CPU的说法属实。
况且老黄也对此充满了信心:
咱们将使其成为主流居品,将养精蓄锐撑执专科和高质料的软件,而PC(制造商)将向最终用户提供它。
另外,与英伟达勾搭的联发科可能也有我方的筹谋。
老黄默示,联发科既不错把居品提供给英伟达,也可能自行保留并推向市集。
不外至少在当今看来,依然以为与联发科的勾搭是一个双赢的效果。
[1]https://www.tomshardware.com/tech-industry/artificial-intelligence/nvidias-usd3-000-mini-ai-supercomputer-draws-scorn-from-raja-koduri-and-tiny-corp-ai-server-startup-suggests-users-just-buy-a-gaming-pc[2]https://www.theverge.com/2025/1/8/24338939/nvidia-jensen-huang-hints-arm-desktop-cpu[3]https://www.reuters.com/technology/nvidia-ceo-says-mediatek-will-be-able-sell-nvidias-desktop-cpus-2025-01-07/