Random Image

京东云全面适配最新版DeepSeek模型,推理速度提升50%

更新时间: 浏览次数: 258

  近日,DeepSeek发布了模型更新——DeepSeek-V3-0324,此次升级不仅延续了DeepSeek系列“低成本、高性能”的基因,更凭借MLA(多头潜在注意力)和MTP(多Token预测)两大创新技术,将推理速度显著提升。京东云DeepSeek一体机第一时间完成适配,相比开源版本性能大幅提升50%。

  单机支持超千并发:单机支持1000+并发请求,总吞吐突破7200 Token/s,可同时服务超大规模企业级AI应用。

  极致数据吞吐保障:500并发时仍保持11.03 Token/s,平衡性能与用户体验。

Random Image 京东云全面适配最新版DeepSeek模型,推理速度提升50%的相关文章
广州海珠:“我和我的祖国”沉浸式主题活动举行
中国8月份全社会用电量同比增长8.9%
秋风起,蟹脚痒,“沪牌”大闸蟹出口忙
田沁鑫作品音乐话剧《受到召唤·敦煌》主创集结开启排练
第一视点丨牢记总书记嘱托 义乌:小商品 大市场 不断再造新辉煌
中新健康丨北京市疾控中心发布国庆假期健康提示