欧洲杯体育刘强要点庄重异构硬件引入关联使命-开云(中国)Kaiyun·官方网站

　　2024年12月5日至6日，备受业界关爱的“群众C++及系统软件手艺大会”在上海获胜举行。这次大会络续接收“群众内行、超卓聪惠”的理念，邀请到群众C++和系统级软件手艺领域的巨匠、内行、学者，集聚一堂，围绕当今C++的最好实际、架构与遐想、大模子驱动的软件设备、AI算力与优化、系统级软件偏抓他编程说话，深度磋议了系统级软件手艺领域的最好工程实际和前沿要道。

　　当作数字天下的蹙迫基石，系统级软件和底层手艺的考虑与翻新一直是群众手艺领域关爱的中枢。在本次大会中，刘强当作该领域的资深内行，凭借其在异构硬件接入与性能优化方面的了得效果，受邀在大会上发表了题为“NPU性能优化、评估和实际”的主题演讲。

　　刘强领有跨越15年的大数据和软硬件协同教授，曾处事于亚马逊、Marvell等多家海外科技企业。他主导的方法触及存储、策动加快器和性能评估等多个领域，领有多项手艺专利。在腾讯任职时间，刘强要点庄重异构硬件引入关联使命，通过息争硬件轮廓层，将不同厂商的NPU开动时接口进行轮廓化，使表层业务与算法对硬件永别“无感知”，权臣裁减了硬件上线周期并责怪了设备资本。这一手艺效果不仅提高了腾讯的算力效力，还为行业探索异构策动落地提供了标准。

　　在大会的演讲中，刘先生当先先容了现时NPU厂商的发展近况。他指出，跟着深度学习和AI手艺的快速发展，NPU当作专用算力芯片，正在成为各大互联网企业提高AI性能的要害用具。然而，由于各厂商的硬件架构和遐想念念路互异，何如齐备硬件轮廓和性能优化，也曾是企业濒临的蹙迫挑战。针对这一瞥业痛点，刘强从实际动身，详备禀报了他偏抓团队在NPU性能评估中的要道论和处罚有策划。

　　他共享了通过深度学习框架(如Pytorch和TensorFlow)内的采样用具，结伙厂商提供的算子仿真数据，构建基于时辰线的扩张旅途分析要道。这一模子梗概准确瞻望NPU在委果考查环境中的端到端性能，弥补了传统要道在评估早期性能时的不及。此外，刘强还先容了硬件轮廓的齐备旅途，展示了基于编译器手艺屏蔽硬件永别的探索效果，这一翻新权臣责怪了NPU适配的手艺难度。

　　整场演讲中，刘强不仅共享了手艺要道，还结伙多个实质案例展示了其效果落地的具体效果。他提到，通过对NPU策动和存储资源的高效护士，腾讯在多个业务场景中获胜提高了AI考查和推理效力，权臣裁减了上线周期。在说念到改日手艺趋势时，刘强强调，跟着更多异构策动硬件的出现，行业需要在尺度化和生态诞生上加大插足，这么材干更好地开释新兴手艺的后劲。

　　刘强示意：“手艺的价值在于处罚实质问题，为业务和社会创造更大价值。很欢笑能通过这个平台与同业疏导，也但愿咱们的教授能为更多企业提供匡助。”他还强调欧洲杯体育，改日腾讯将络续加大对系统级软件和AI算力优化的插足，探索更多场景化愚弄的可能性。田军