亚洲国产日韩不卡综合,内射在线Chinese,日韩综合一卡二卡三卡死四卡 ,国产精品久久午夜夜伦鲁鲁

给大家科普一下伟德bv国际体育

发布时间:2025-02-04 17:23

  国泰君安主要观点如下:

  DeepSeek通过多处工程创新,实现降低训练成本、降低推理成本、提高模型效果等进展

  1)降低训练成本:DeepSeek使用较宽的MOE架构,且提出共享专家机制,每次训练只激活需要的专家(按需调用),而非激活全部专家,从而大大降低训练成本。此外,使用fp8低精度训练、双管道训练、多Token预测等方法进一步降低训练成本。

  2)降低推理成本:DeepSeek提出多头潜在注意力(MLA),在不牺牲模型质量的前提下,大幅减少KV缓存的大小。此外,低精度存储和通信、推理阶段动态专家选择等方法进一步降低推理成本。

  3)提高模型效果:不同于传统的SFT,DeepSeek使用强化学习做post-training,大幅提升模型推理能力。此外,DeepSeek针对中文做了大量风格对齐,大幅提升模型可用性。

  DeepSeek触发模型降本,长期看,打开AI应用产业上升通道,算力需求不降反增

  蒸汽机效率提升并没有导致煤炭少用,DeepSeek虽然触发模型大幅降本,但长期看将打开AI应用产业上升通道,算力需求不降反增,因算力需求具备多样性:1)模型向更高智能维度跃迁,训练需要更多算力。2)AI应用的推理需要广泛算力,更多人会去训练和推理自己的模型。3)转向对等异构计算的新主流计算形态需要更多GPU。4)目前模型仅仅停留在对话,未来从对话到任务、到多模态还需要更多算力加持。

  根据AI产品榜,DeepSeek应用(APP,非网页)成为增速最快的AI产品,上线20天即达成DAU 2000万,反映出模型能力提升对于用户的巨大吸引力,带来潜在的巨大推理算力需求。

  DeepSeek并没有真正绕过CUDA架构

  DeepSeek没有使用CUDA的API,而是直接使用PTX,从而对计算过程进行更细粒度的控制。PTX仍然是英伟达GPU架构中的技术,是CUDA编程模型中的中间表示,用于连接CUDA高级语言代码和GPU底层硬件指令。编写PTX代码的做法,首先非常复杂且难以维护,对技术人员要求极高,其次移植性较差,较难移植到不同型号的GPU。

  DeepSeek基于PTX进行优化代表他们有优化其他GPU的能力,但既不意味着完全脱离了CUDA生态,也不意味着其他团队有能力直接使用PTX,因此英伟达的CUDA护城河仍在。

  风险提示:地缘政治风险;大模型迭代进展不及预期;监管风险;商业化进度不及预期。

责任编辑《伟德bv国际体育》:史丽君

  C919成功步入商业飞行阶段,预示着我国几代人“航空梦 ⛸”拼图得以全部成形。伟德bv国际体育

  玻璃方面,玻璃主力合约2309震荡运行,收于1488元/吨,上涨15元/吨 ➥,涨幅1.02%。现货方面,当前全国均价2154元/吨,环比下跌67元/吨。供应方面,据隆众资讯,本 ♎周浮法玻璃产量113.77万吨 ➥,环比增加0.22% ⛴,企业开工 ⛳率伟德bv国际体育79.93%,环比增加0.77%,产能利用率80.17%, ⛷环比增加0.2%。库存方面,全国浮法玻璃样本企业总库存5217.1万重箱,环比增加8.4% ✋,累库明显 ⛶。整体来看 ⚽,近期浮法 ♐玻璃现货价格松动,产销走弱,开工率环比微增,部分玻璃产线有复 ☺产计划,库存累积。近期海外煤价回落,国内煤价承压,玻璃成本同 ⏱步松动。

  本报记者 重野秀一 【编辑:王敏刚 】

  

返回顶部