当前位置: 首页> 私募资讯> 焦点要闻> 英伟达推出AI模型推理微服务NVIDIA NIM

英伟达推出AI模型推理微服务NVIDIA NIM

摘要:【英伟达推出AI模型推理微服务NVIDIA NIM】英伟达在Computex(台湾国际电脑展)上宣布推出 一项AI模型推理服务NVIDIA NIM。全球2800万英伟达开发者可以通过NIM将AI模型部署在云、数据中心或工作站上,轻松地构建copilots、ChatGPT聊天机器人等生成式AI应用,所需时间从数周缩短至几分钟。


K图 NVDA_0

6月2日消息,英伟达在Computex(台湾国际电脑展)上宣布推出一项AI模型推理服务NVIDIA NIM。全球2800万英伟达开发者可以通过NIM将AI模型部署在云、数据中心或工作站上,轻松地构建copilots、ChatGPT聊天机器人等生成式 AI 应用,所需时间从数周缩短至几分钟。(注:生成式AI应用程序经常使用多个具有不同能力的模型来生成文本、图像、视频、语音等,NIM极大地提高了开发人员的效率

延伸阅读

黄仁勋称计算成本降低让AI得以出现 明年英伟达将推出Blackwell Ultra芯片

5月30日宴请中国台湾供应链厂商负责人后,英伟达CEO黄仁勋6月2日晚间登上台湾大学综合体育馆的演讲台,身着经典的黑色皮衣,在2个小时的演讲中分享了英伟达如何推动AI演进并谈及AI如何变革工业。

据台湾当地媒体报道,当天台北下着雨,鸿海集团董事长刘扬伟、广达电脑董事长林百里、华硕董事长施崇棠等科技领域领军人物冒雨前往现场,场外人潮众多。

黄仁勋现场谈及英伟达的新进展,他展示了最新的Blackwell芯片,并表示,英伟达将在2025年推出Blackwell Ultra AI芯片,下一代AI平台命名为Rubin。

黄仁勋还回顾了英伟达如何通过GPU并行运算推动计算成本下降,并促使AI演进。

黄仁勋表示,计算机行业在中央处理器(CPU)上运行的引擎,其性能扩展速度已大大降低,但我们所需的计算量仍指数级增长。如果需处理的数据继续指数级增长,但性能没有如此增长,我们将经历计算膨胀。

“有一种更好的办法可以减轻CPU负担,用加速专用处理器把工作做得很好。计算机图形学可以做到并行运算,通过结合GPU(图形处理器)和CPU可以加速运算。我们可以让速度加快100倍。”黄仁勋表示,数据中心就如此做了,10亿美元的数据中心中有5亿美元是GPU,它一下子变成了AI工厂。通过加速运算,还可以节省成本和能源。

黄仁勋表示,每一次加快应用程序的速度,计算成本就会下降,速度上升100倍,就可以节省96%、97%、98%的成本。在过去十年间,一种特定算法的边际计算成本降低了100万倍。“现在我们得以用互联网上所有数据来训练大语言模型。人工智能出现成为可能,是因为我们相信随着计算变得越来越便宜,将会有人找到很好的用途。”

黄仁勋回顾了英伟达如何推动大语言模型诞生。他表示,英伟达在2012年后改变了GPU的架构,采用Tensor Core(张量计算单元),10年前,英伟达发明了NVLink(一种总线及其通信协议)。英伟达把所有新技术集成在一台计算机上。

“当时没人理解这件事,我也不认为会有人来买,当时我们在GTC大会上宣布了这件事,旧金山的一家小公司OpenAI看到了,他们便要我给他们送去一台。”黄仁勋表示,2016年,英伟达向OpenAI交付了第一台DGX超级计算机,随后继续扩展超级计算机的能力,以便训练大量数据。于是,2022年11月,基于成千上万的英伟达GPU的训练,OpenAI推出了ChatGPT,并在5天内收获了上百万名用户。

“一开始的超级计算机演变成了数据中心,我们得以用生成式AI,为几乎所有东西生成tokens(文本单位)。19世纪90年代,特斯拉发明了交流发电机,而我们发明了‘人工智能电机’。这两样东西都有巨大的市场机会,可以深入各行业,这就是为什么会引发新的工业革命。”黄仁勋表示,预计模型将越来越大,我们将需要越来越大的GPU。

此外,黄仁勋现场展示了英伟达Earth-2数字孪生地球平台,该平台用于天气观测,融合了人工智能、物理模拟和观测数据,基于英伟达CorrDiff生成式AI模型技术,能从今天的数据预测对未来世界的影响。黄仁勋表示,Earth-2将支持超本地预测,能模拟建筑物周围的气流。

黄仁勋此次台湾行备受瞩目。黄仁勋5月26日抵达台湾,此行是为了参加COMPUTEX台北电脑展。5月29日,黄仁勋与林百里、台积电创始人张忠谋出现在台北夜市上。

5月30日晚间,黄仁勋则在台北宴请供应链厂商,刘扬伟、林百里、施崇棠、纬颖董事长洪丽甯、英业达董事长叶力诚、纬创总经理林建勋等科技企业负责人出席,受邀参加晚宴的对象几乎囊括英伟达在台湾的所有供应链伙伴。设晚宴的餐厅是一家传统台湾菜餐厅,有当地媒体报道称,晚宴设了7桌,每桌消费约4653元新台币,而现场的科技大佬身价超千亿美元。

英伟达近日也成为美股科技股中的明星。英伟达股价在2025财年第一财季财报公布后波动上涨,该季度英伟达营收同比增长262%至260亿美元,净利润同比增长620%至148.8亿美元。5月28日,英伟达股价突破1000美元,5月29日收1148.25美元/股。经过两日回跌,5月31日英伟达收1096.33美元/股,市值达2.7万亿美元,与苹果市值的距离为0.25万亿美元。今年年内,英伟达股价已翻倍。

随着年内英伟达股价上涨,黄仁勋的身价水涨船高。5月29日,福布斯实时富豪榜显示,黄仁勋净财富达1006美元,首次突破1000亿美元,彭博全球亿万富翁实时排行榜显示黄仁勋净资产达1000亿美元,排名第15。6月2日,彭博全球亿万富翁实时排行榜中,黄仁勋净资产回跌至96.3亿美元,排行第16。

(文章来源:界面新闻)

网友评论

×

  • 1.若本人/本机构拟认购/申购私募类资管产品、信托计划,则本人/本机构承诺符合以下条件之一:
  • (1)具有2年以上投资经历,且满足金融净资产不低于300万元,或家庭金融资产不低于500万元:或近3年本人年均收入不低于40万元;
  • (2)最近1年末净资产不低于1000万元的法人单位;
  • (3)金融管理部门视为合格投资者的其他情形。
  • 2.若本人/本机构拟认购/申购私募基金,则本人/本机构承诺符合以下条件之一:
  • (1)金融资产不低于300万元或者最近三年个人年均收入不低于50万元的个人;
  • (2)净资产不低于1000万元的单位。
  • 本人/本机构确认是为自己购买私募产品,不会以非法拆分转让为目的购买私募产品,且资金来源合法合规,不会使用贷款、发行债券等筹集的非自有资金进行投资。
特定对象认证

确 认

×

风险测评
温馨提示:本问卷旨在协助您选择符合您风险识别和承受能力的产品或服务,问卷结果并不能取代您的投资判断,也不会降低产品或服务的固有风险。
    下一题