计算机行业专题报告:豆包引领,国内AI推理算力需求几何?
(以下内容从财通证券《计算机行业专题报告:豆包引领,国内AI推理算力需求几何?》研报附件原文摘录) 核心观点
字节即将重磅发布,All for AI。2024年12月18-19日,字节火山引擎将于上海举行冬季原动力大会,大会主题围绕AI展开。根据官网信息,大会中将有豆包系列大模型全面升级,以及事关AI+企业服务、AI+产业转型等AI赋能实体经济案例与话题分享。豆包大模型家族涵盖全模态能力,DAU稳坐国内AI应用第一。视频生成模型仍处于测试阶段,我们认为随着Open AI Sora正式商用,字节豆包视频类大模型有望在近期大会中发布并开启商用。
推理算力需求露出“冰山一角”,AI原生应用、视频生成应用、AI改造传统应用,带来国内推理需求从百万卡向千万卡迈进。基于Open AI的论文,推理算力需求与模型参数量、处理token数、活跃用户量的乘积大约成正比关系。当前国内大模型APP推理算力需求或在数十万颗GPU(以H20计算)级别。而在实际产业中,真正海量的活跃用户仍暂时在传统应用中,这部分用户量庞大,推理算力需求更为广阔。根据我们的测算,在假设未来20%短视频由AI生成的前提下,仅考虑短视频且清晰度较低的情况,芯片需求为百万颗级别,未来AI生成高清长视频渗透率提升,将带来推理算力需求的飞跃。总体国内推理需求正在从百万卡向千万卡迈进。
投资建议:建议关注与字节跳动有合作关系的英伟达(NVDA.O)、润泽科技浪潮信息、中科曙光、欧陆通、高澜股份、法本信息、南凌科技、华胜天成等以及随着字节大模型、生态发展带动下可能在AI软硬件环节受到带动的核心厂商,如海光信息、寒武纪、英维克、协创数据、博通(AVGO.O)、迈威尔科技(MRVL.O)等。
风险提示:技术迭代不及预期的风险;商业化落地不及预期的风险;政策支持不及预期风险;全球宏观经济风险。
提示:本文属于研究报告栏目,仅为机构或分析人士对市场的个人观点和看法,并非正式的新闻报道,本网不保证其真实性和客观性,一切有关该股的有效信息,以沪深交易所的公告为准,敬请投资者注意风险。×
确 认
×
网友评论