正文内容 评论(0)
快科技2月5日消息,DeepSeek的硬件设施虽然没有公布详细情况,但普遍认为大量使用了NVIDIA AI芯片,包括H100、H800、H20等不同型号,但根据最新曝料,DeepSeek也验证了华为最新的AI芯片——昇腾910C。
昇腾910C是在2024年晚些时候被曝出的,据称已向部分客户批量供货,包括阿里巴巴、百度、腾讯登巨头,首批大约7万颗,平均每颗仅2万元左右。
消息显示,昇腾910C采用了中芯国际的7nm工艺制造,chiplets双芯片整合封装,晶体管数量达530亿个,整体国产化率已达55%左右。
它可以平替NVIDIA H100,同样用于大规模的AI训练和推理,FP8、FP16、FP32、FP64等不同数据类型下均有不俗表现。
按照最新说法,DeepSeek团队的实测数据显示,华为昇腾910C在AI推理中的表现出乎意料地好,已经达到NVIDIA H100芯片的60%左右。
更进一步地,通过手写CUNN内核和优化,昇腾910C的性能还可以进一步提升。
据称,DeepSeek从第一天起就支持华为昇腾芯片,并且自主维护PyTorch仓库,只需一行代码就能将CUDA转换为CUNN,性能优化的潜力也相当巨大,通过定制优化可达到更高性能。
不过需要注意的是,目前已知的只是昇腾910C AI推理性能很优秀,但是AI训练性能可能还是不够理想。
昇腾910
- 热门文章
- 换一波
- 好物推荐
- 换一波
- 关注我们
-
微博:快科技官方
快科技官方微博 -
今日头条:快科技
带来硬件软件、手机数码最快资讯! -
抖音:kkjcn
科技快讯、手机开箱、产品体验、应用推荐...