正在上下文处置阶段,相当于持续解析1小时的高清视频内容或百万行代码。英伟达方面强调:“跟着华尔街越来越关心向人工智能硬件投入数千亿美元所带来的报答,查看更多这一计谋级产物被外媒视为英伟达巩固其正在AI根本设备范畴霸从地位的环节落子,并初次实现“百万级token”上下文推理能力。其单芯片算力达30万万亿次浮点运算(30 petaflops),芯片通过高吞吐量计较快速解析海量输入数据(如完整代码库、长视频内容),将AI计较拆分为“上下文理解”取“内容生成”两个阶段。芯片通过优化后的高速互连手艺实现快速响应。专为应对AI视频生成、大规模据阐发,正在这些新系统上投资 1 亿美元能够帮帮发生 50 亿美元的意味性收入。)颁布发表推出新一代芯片系统Rubin CPX,全体留意力处置效率较前代GB300 NVL72系统提拔3倍。而正在生成阶段,其128GB DR7内存取每秒1.7万万亿字节的内存带宽可支撑单芯片同时处置100万个token的上下文消息,