法证先锋2

200 亿美元收购成果落地:英伟达 Groq 3 LPX 机架全面量产,今年上线_我的网站

顺丰

A |     “前期调整效果不错,后续还要持续关注立竹密度。

B |      8 月 25 日消息,英伟达当地时间周一宣布,Groq 3 LPX 机架已进入全面量产阶段,这标志着该公司史上最大规模收购所获得的技术正式实现商业化。

C | ”8月17日,在保定市竞秀公园,“市民园长”聂庆娟向公园工作人员讲解竹林管护要点。

8月21日,在保定市竞秀公园,“市民园长”聂庆娟(右一)指导公园工作人员进行植物养护。

D | 受访者供图聂庆娟是农业大学副教授,长期与竞秀公园合作开展教学实践、科研工作,对竞秀公园十分熟悉,今年被选聘为竞秀公园的“市民园长”。英伟达高级总监迪翁 · 哈里斯(Dion Harris)告诉记者,Groq 机架将与 Vera 中央处理器和 Rubin 图形处理器一起部署在新型云服务商 Nebius 的平台,并将于今年晚些时候上线。英伟达正在加速生产 Groq 芯片并向客户提供该产品,这凸显出低延迟推理的重要性日益提升。

E | 低延迟推理对于让人工智能智能体能够快速响应、避免用户遭遇长时间等待至关重要,尤其是在编程场景中。

F | 英伟达表示,云计算公司可以针对这类 Token 收取更高的费用。哈里斯表示:“对于那些提供 Token 服务的人来说,这让他们能够为那些真正要求对延迟高度敏感的服务协议的用户和客户,提供高级服务等级。她除了日常给公园植物养护支招,还在公园内开设园艺小课堂,为市民普及植物种养知识。“目前,像聂庆娟这样热心公园管理的‘市民园长’,全市有878人。”保定市园林绿化中心公园广场科副科长陈燕说,引入社会力量、发动市民深度参与城市公园共建、共管、共享,是保定提升公园管理水平的一种创新做法。“市民在逛公园时有意见不知道怎么提,我们想第一时间了解市民真实诉求,双方缺少直接沟通的载体。”去年 12 月,英伟达以 200 亿美元(注:现汇率约合 1,347.74 亿元人民币)收购了芯片初创公司 Groq 的相关资产,这是该公司有史以来规模最大的一笔收购。”陈燕说,为此,该市提出“市民园长”的想法,把公园管理变成大家的事。Groq 的架构在芯片裸片本身集成了 500MB 高速 SRAM,以减少与内存相关的瓶颈。Groq 芯片由三星制造,而英伟达的 GPU 则由台积电生产。通过市民自愿报名、公园集中选聘的方式,一批热心公益、各有所长的市民走上“市民园长”岗位。平日里,他们帮忙维护环境、劝导不文明行为,帮助公园管理方对市民提出的问题进行整改,让市民反映的问题件件有回音、事事能落实。英伟达将 256 颗独立的 Groq 3 芯片封装到其 LPX 机架中。英伟达表示,根据 Artificial Analysis 的一项基准测试,其 Groq 3 LPX 机架能够达到每秒 3,400 个 Token 的处理速度。

G | “受聘人员的专业背景与能力特长各有不同,‘市民园长’可大致分为专业技术型、管理服务型、社会影响力型。

H | 这是一个竞争激烈的领域。”陈燕说,受聘的“市民园长”既有园林专业的教授,也有经验丰富的社区工作者,各公园根据管护实际灵活选聘,保障每座公园至少配备1名“市民园长”。今年早些时候,AMD 宣布,将把其机架级系统与 Cerebras 的芯片进行整合。在保定市动物园,专业技术型“市民园长”参与动物园志编纂工作,帮助动物园梳理发展脉络;在滨河公园,管理服务型“市民园长”每日巡园,遇到折损植物、乱扔垃圾等行为及时劝导;社会影响力型“市民园长”将植物科普知识带进校园,组织开展文明游园宣讲活动,受到群众好评。Cerebras 最近上市,并将低延迟推理作为重点。“市民园长”制度正在保定全市推广。截至目前,该市“市民园长”累计协调解决各类公园疑难问题500余个。(日报见习记者 李靖恬)。OpenAI 新近宣布的“Ultrafast”模式目前承诺可达到每秒 750 个 Token,并由 Cerebras 提供支持。低延迟芯片并不会取代 GPU,后者仍然是 AI 芯片领域的主力。

I | GPU 既可以执行训练,也可以执行推理,同时具备足够的灵活性,能够适应新技术和新模型。Groq 这类低延迟芯片主要专注于模型服务过程中的一个环节,即所谓的“解码”(decode)阶段。哈里斯表示:“这并不是要取代 GPU,而是要针对工作负载的不同部分,使用价格合适、处理能力合适的处理器。

J | ”目前,英伟达正在逐步增加 Vera Rubin 系统的出货量,该系统已于今年早些时候开始生产。在 3 月份发布 Vera Rubin 和 Groq 3 LPX 时,英伟达首席执行官黄仁勋预计,到 2027 年,当前一代 Blackwell 芯片与全新 Vera Rubin 系统的累计销售额将达到 1 万亿美元(现汇率约合 6.74 万亿元人民币)。黄仁勋当时表示,他计划将数据中心中用于编程应用的空间的四分之一分配给 Groq 芯片。黄仁勋说:“我的数据中心其余部分将全部采用 Vera Rubin。”英伟达计划于当地时间周三公布财报。

Current article:http://www.yuejinhuapennuochoudengying.cyou/list_j82r65s/5pf4j6.html

Published on:14:51:15