2024大模型场景下智算平台的设计与优化实践 (27页 PPT).pptx

实践,智算平,构建,模型,规模,计算机与AI
文档页数:27
文档大小:1.85MB
文档格式:pptx
文档分类:计算机与AI
上传会员:
上传日期:
最后更新:

模型场景下智算平 台的设计与优化实践

肖松

2024.06.14

引言

不同时期对智算平台的需求

我资源比较少,几十卡的规模,如何提升卡的利用率?

我想跑大模型,需要多少资源?网络如何构建?多长时间能跑完?

国产卡怎么用?能否与NV卡一起使用?

01 大模型时代,智算平台新特点

02 智算平台需解决的问题

03 大模型场景技术实践

04 对于智算平台发展的未来思考

01大模型时代,智算平台新特点小模型vs.大模型

大模型时代,智算平台新特点

小模型vs.大模型

*数据来源:非官方数据,为业界推测

资源链接请先登录(扫码可直接登录、免注册)
①本文档内容版权归属内容提供方。如果您对本资料有版权申诉,请及时联系我方进行处理(联系方式详见页脚)。
②由于网络或浏览器兼容性等问题导致下载失败,请加客服微信处理(详见下载弹窗提示),感谢理解。
③本资料由其他用户上传,本站不保证质量、数量等令人满意,若存在资料虚假不完整,请及时联系客服投诉处理。
④本站仅收取资料上传人设置的下载费中的一部分分成,用以平摊存储及运营成本。本站仅为用户提供资料分享平台,且会员之间资料免费共享(平台无费用分成),不提供其他经营性业务。
投稿会员:匿名用户
我的头像

您必须才能评论!

手机扫码、免注册、直接登录

 注意:QQ登录支持手机端浏览器一键登录及扫码登录
微信仅支持手机扫码一键登录

账号密码登录(仅适用于原老用户)