三年两代AI推理芯片,燧原科技拥有的底气是什么?

网友投稿 464 2023-11-01


文︱郭紫文

三年两代AI推理芯片,燧原科技拥有的底气是什么?

图︱燧原科技

海量数据爆发,大数据与云计算进入发展快车道,对计算能力的需求持续提升,人工智能(AI)芯片已经成为加速产业智能化转型的硬科技。近年来,AI市场呈现爆发式增长态势,AI场景广泛落地。另一方面,AI云端市场中训练芯片和推理芯片的占比正在发生迁移,推理芯片比例逐渐提升。从IDC数据可以看出,预计到2025年,推理芯片已经占比达60.8%。“面对人工智能海量的云端推理应用,燧原科技正不断拓展和完善产品线。”燧原科技创始人兼COO张亚林表示,该公司的AI业务已经从传统单一的机器视觉、声音文字处理、决策推理等算法,转变成多场景多应用的落地,不断满足用户广泛的推理业务和市场需求。

图源:IDC

针对以上趋势,燧原科技发布了其第二代云端人工智能推理加速卡云燧i20及人工智能推理芯片邃思2.5。“随着该产品的推出,燧原科技完善了第二代训练与推理产品线,成为国内第一家拥有完整第二代训练推理产品线的企业。”张亚林表示,未来,燧原科技将会继续推动产品创新和迭代。

基于邃思DTU2.5,云燧i20以其高性能、高能效、模型覆盖面广、易部署、易运维等特点,广泛应用于计算机视觉、语音识别、自然语言处理、搜索与推荐等推理场景。与前代产品相比,云燧i20的浮点算力提升了1.8倍,整型算力提升了3倍,在存储带宽和精度等方面也有巨大的提升。与次旗舰GPU相比,云燧i20浮点算力和INT8算力提升了两倍,内存带宽增加了2.6倍。在基准测试benchmark中,云燧i20模型跨越了从图像分类识别、NLP到目标检测、图像分割,再到图像超分,整体性能提升了2.5至3.5倍。

据张亚林介绍,邃思2.5是专门为云端推理芯片和应用场景设计的架构。为了满足云端推理场景的应用落地需求,以及性价比和能效比的苛刻要求,燧原科技综合设计了算力、带宽和存储,同时对性能、功耗和成本因素进行了极致的平衡。此外,随着推理场景增多,客户对不同方向、不同类型的场景泛化性要求越来越高。燧原科技进一步打造更加泛化易用的推理软件栈,并推出增强的训推一体化系统,满足客户日益增长的需求。

邃思DTU2.5具备高性价比、高能效比、高精度等优势,全面支持从FP32、TF32、FP16、BF16到INT8的计算精度。单精度FP32峰值算力达到32 TFLOPS,单精度张量TF32峰值算力达到128 TFLOPS,整型INT8峰值算力达到256 TOPS。

图:云燧i20 vs 云燧i10

“燧原科技始终遵循‘做大芯片,拼硬科技’的使命和初心”,成立三年以来,已经完成了两代AI训练和推理产品的迭代。燧原科技拥有超级智能算力集群系统等核心产品库,包括灵活的拓扑结构、完整的部署运维、高速分布式通信和一体化训推,协助客户部署高能效、大算力、强互联、分布式的系统。在软件方面,燧原科技拥有全栈自主软件驭算TopsRider,能够广泛适配所有框架和算法,灵活扩展编译系统,高性能泛化计算库,以及高效应用工具链,为客户开发迁移、运维更多场景和应用提供可能性。

版权声明:本文内容由网络用户投稿,版权归原作者所有,本站不拥有其著作权,亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容,请联系我们jiasou666@gmail.com 处理,核实后本网站将在24小时内删除侵权内容。

上一篇:合肥合锻智能制造新公司成立,全面加速在机器视觉检测领域的发展
下一篇:人工智能在未来制造业将起到什么作用
相关文章

 发表评论

暂时没有评论,来抢沙发吧~