(原标题:“周易”NPU部署教学丨极术公开课)
课程简介
随着AI大模型加速向边缘侧和端侧渗透,NPU(神经网络处理器)因其更简洁的控制流及更高的能效比,成为处理AI工作负载的关键算力资源。安谋科技自研“周易”NPU面向大模型场景进行了架构、内存墙等多方面改进,能够显著提高AI应用开发的生产效率。本期极术公开课,安谋科技的两位技术专家将分别围绕Yolov4轻量级模型、MicroLlama模型进行深入分享,并详细介绍这两款模型如何在“周易”NPU平台上进行部署以及在SiRider S1芯擎开发板上运行。
直播时间:9月5日(星期四)
20:00 - 21:00
扫描屏幕右侧二维码
内容大纲
“周易”NPU及其软件工具链解读
Yolov4轻量级模型部署及定量调整介绍
在SiRider S1芯擎开发板上运行Yolov4展示
主流大语言模型及端侧部署的特点分析
从PyTorch到“周易”NPU的模型部署详解
讲师介绍
强克家,安谋科技NPU算法工程师
强克家先生现任安谋科技NPU产品算法工程师,自2022年加入安谋科技以来,他在Stable Diffusion、Llama等大模型的量化调优工作中积累了丰富的经验。强克家先生拥有加州大学计算机科学技术专业学士学位,以及卡内基梅隆大学计算机工程硕士学位。
周生伟,安谋科技NPU算法工程师
周生伟先生现任安谋科技NPU产品算法工程师。自2019年加入安谋科技以来,他先后负责深度学习单算子量化算法调优、AI模型量化部署,以及大模型预研等工作,拥有丰富的AI智能算法和模型优化等相关经验。周生伟先生拥有东北大学计算机科学与技术专业学士学位及计算机软件与理论硕士学位。
站长:乡村生活网;联系电话:023-72261733 ;微信/手机:18996816733;邮箱:2386489682@qq.com;
办公地址:涪陵区松翠路23号附12;