AI推理

人工智能

谷歌推出全新LiteRT.js库，采用WebAssembly并结合WebGPU、WebNN硬件加速，替代TensorFlow.js的JavaScript内核...

Tags： #LiteRT.js #Web AI #谷歌 #AI推理

8天前 10:41

人工智能

蓝戟测试显示，英特尔Arc Pro B70显卡在DeepSeek R1模型推理中，最高吞吐量达2320.76 token/s，在高并发场景下超越英伟达RTX...

Tags： #英特尔 #Arc Pro B70 #AI推理 #显卡

9天前 13:53

人工智能

近日，清华大学KEG实验室联合智源研究院公布稀疏注意力机制最新成果，通过动态筛选关键计算路径，7B参数小模型在MMLU、GSM8K等基准测试中推理能力追平7...

Tags： #稀疏注意力 #大语言模型 #清华KEG #智源研究院

9天前 08:07

人工智能

OpenAI的第一颗自研芯片，终于从实验室走到了聚光灯下。6月底，Sam Altman从博通CEO陈福阳手中接过一片晶圆的照片刷屏科技圈——那不是PPT，而...

Tags： #OpenAI #Jalapeño #自研芯片 #AI推理

15天前 09:03