AMD:已将DeepSeek模型集成到GPU 针对Al推理进行优化

内容摘要快科技2月5日消息,AMD宣布已将新的DeepSeek-V3模型集成到Instinct MI300X GPU上,该模型旨在与SGLang一起实现最佳性能。AMD表示,DeepSeek V3是目前最强的开源LLM,甚至超过了GPT-4o。AM

快科技2月5日消息,AMD宣布已将新的DeepSeek-V3模型集成到Instinct MI300X GPU上,该模型旨在与SGLang一起实现最佳性能。

AMD表示,DeepSeek V3是目前最强的开源LLM,甚至超过了GPT-4o。

AMD还透露,SGLang和DeepSeek团队通力合作,使DeepSeek V3 FP8从首发当天就能在英伟达和AMD GPU上运行。

AMD:已将DeepSeek模型集成到GPU 针对Al推理进行优化

此外,AMD还感谢了美团搜索与推荐算法平台团队以及DataCrunch提供GPU资源。

DeepSeek-R1大模型自发布以来,短短几天内便登顶中美两区苹果应用市场免费榜榜单,包括亚马逊、微软在内的科技巨头宣布接入DeepSeek模型。

曾经扬言要起诉DeepSeek的OpenAI也改变口风。OpenAI首席执行官奥尔特曼在东京表示,OpenAI没有起诉DeepSeek的计划, 公司将继续打造出色的产品,并以模型能力引领世界,我认为这会很棒 。奥尔特曼同时赞扬DeepSeek 无疑是一个令人印象深刻的模型 ,并对有了一个新的竞争者表示高兴。

AMD:已将DeepSeek模型集成到GPU 针对Al推理进行优化

 
举报 收藏 打赏
24小时热闻
今日推荐
浙ICP备19001410号-1