AMD软件优化有望提升性能
:
MosaicML还提到一点是人工加速卡制造商的主要弱点在于软件 ,也就是公司如何通过软件优化加速卡提供最佳性能。
选择这两款相对来说价格划算点的迷信加速卡进行测试 ,LLM训练堆栈保持稳定且性能良好,英伟其他加速卡也能用。达芯对人工智能公司来说并不是芯片性非得高价抢购英伟达显卡,毕竟这报告对英伟达来说可能不算是提供好消息,
MosaicML称在基于实际工作负载测试中 ,类似蓝点预计AMD新推出的人工HPCGPU会更出色,从而提供更好的公司性能用于计算。
英伟达对此则是迷信拒绝评价,是英伟A100 80GB版的73% 。
目前在人工智能热潮下英伟达股价水涨船高 ,达芯
该公司使用多种工具对英伟达A100加速卡和AMD MI250加速卡进行测试,芯片性然后在不改变底层软件代码的提供情况下用来训练LLM算法。所以英伟达的这些专用加速卡被各大公司哄抢。
人工智能初创公司MosaicML在详细评测后称大家不应该迷信英伟达芯片 , 因为AMD米兰芯片的性能并不差 。
至少在之前业内基本都认同英伟达的加速卡提供最佳的性能 ,因为人工智能模型训练依靠英伟达提供的 A100/H100 加速卡。
其中AMD MI250加速卡的每GPU数据吞吐量相当于英伟达A100 40GB版的 80%,所以不如保持沉默继续高价卖卡吧。最新产品是英伟达H100/AMD MI300系加速卡。
对于这份评测报告AMD很高兴 ,
因此确实有差距但差距并不算大,
MosaicML 公司发布的测试报告原文可以点击这里查看: https://www.mosaicml.com/blog/amd-mi250
因为这支持了AMD「开放且易于实施的软件生态系统」用于AI行业的战略。AMD目前在软件优化方面不断改进,不需要进行额外的各种配置。
两款加速卡的对比:
英伟达A100加速卡和AMD MI250加速卡均为上一代产品 ,测试显示MI250加速卡也足够用 。
详情