当前位置: 首页> 投研观点> 计算机行业专题报告:豆包引领,国内AI推理算力需求几何?

计算机行业专题报告:豆包引领,国内AI推理算力需求几何?

2024-12-16 15:37 财通证券 杨烨,罗云扬 查看PDF原文

(以下内容从财通证券《计算机行业专题报告:豆包引领,国内AI推理算力需求几何?》研报附件原文摘录)  核心观点

  字节即将重磅发布,All for AI。2024年12月18-19日,字节火山引擎将于上海举行冬季原动力大会,大会主题围绕AI展开。根据官网信息,大会中将有豆包系列大模型全面升级,以及事关AI+企业服务、AI+产业转型等AI赋能实体经济案例与话题分享。豆包大模型家族涵盖全模态能力,DAU稳坐国内AI应用第一。视频生成模型仍处于测试阶段,我们认为随着Open AI Sora正式商用,字节豆包视频类大模型有望在近期大会中发布并开启商用。

  推理算力需求露出“冰山一角”,AI原生应用、视频生成应用、AI改造传统应用,带来国内推理需求从百万卡向千万卡迈进。基于Open AI的论文,推理算力需求与模型参数量、处理token数、活跃用户量的乘积大约成正比关系。当前国内大模型APP推理算力需求或在数十万颗GPU(以H20计算)级别。而在实际产业中,真正海量的活跃用户仍暂时在传统应用中,这部分用户量庞大,推理算力需求更为广阔。根据我们的测算,在假设未来20%短视频由AI生成的前提下,仅考虑短视频且清晰度较低的情况,芯片需求为百万颗级别,未来AI生成高清长视频渗透率提升,将带来推理算力需求的飞跃。总体国内推理需求正在从百万卡向千万卡迈进。

  投资建议:建议关注与字节跳动有合作关系的英伟达(NVDA.O)、润泽科技浪潮信息、中科曙光、欧陆通、高澜股份、法本信息、南凌科技、华胜天成等以及随着字节大模型、生态发展带动下可能在AI软硬件环节受到带动的核心厂商,如海光信息、寒武纪、英维克、协创数据、博通(AVGO.O)、迈威尔科技(MRVL.O)等。

  风险提示:技术迭代不及预期的风险;商业化落地不及预期的风险;政策支持不及预期风险;全球宏观经济风险。

提示:本文属于研究报告栏目,仅为机构或分析人士对市场的个人观点和看法,并非正式的新闻报道,本网不保证其真实性和客观性,一切有关该股的有效信息,以沪深交易所的公告为准,敬请投资者注意风险。

网友评论

×

  • 1.若本人/本机构拟认购/申购私募类资管产品、信托计划,则本人/本机构承诺符合以下条件之一:
  • (1)具有2年以上投资经历,且满足金融净资产不低于300万元,或家庭金融资产不低于500万元:或近3年本人年均收入不低于40万元;
  • (2)最近1年末净资产不低于1000万元的法人单位;
  • (3)金融管理部门视为合格投资者的其他情形。
  • 2.若本人/本机构拟认购/申购私募基金,则本人/本机构承诺符合以下条件之一:
  • (1)金融资产不低于300万元或者最近三年个人年均收入不低于50万元的个人;
  • (2)净资产不低于1000万元的单位。
  • 本人/本机构确认是为自己购买私募产品,不会以非法拆分转让为目的购买私募产品,且资金来源合法合规,不会使用贷款、发行债券等筹集的非自有资金进行投资。
特定对象认证

确 认

×

风险测评
温馨提示:本问卷旨在协助您选择符合您风险识别和承受能力的产品或服务,问卷结果并不能取代您的投资判断,也不会降低产品或服务的固有风险。
    下一题