Analysoor价格ZERO

DeepSeek 最近接连推出并开源了 DeepSeek V3 和 DeepSeek R1 ，在海内外引起了不小的反响。其依靠出色的模型质量和极低的训练成本，引起了广泛的关注，并间接带动了英伟达市值的暴跌。 其中 DeepSeek V3 可以说是目前最强大的开源基础模型，并达到了与领先的闭源模型（包括 GPT-4 和 Claude-3.5-Sonnet)相当的性能。其在知识、数学、代码等领域的表现尤为优秀： 在 MMLU、MMLU-Pro 和 GPQA 等教育基准测试中，DeepSeek-V3 的表现优于所有其他开源模型 在所有非长链推理的开源和闭源模型中，DeepSeek-V3 在数学相关基准测试中取得了最先进的性能 在代码相关任务中，DeepSeek-V3 在 LiveCodeBench 等代码竞赛基准测试中成为表现最佳的模型 值得注意的是，DeepSeek V3的训练成本约为558万美元，远低于OpenAI GPT-4的训练成本。这一突破性成果证明了通过优化算法架构、训练框架和流水线设计，可以在保证模型性能的前提下，大幅降低训练成本。 而 DeepSeek R1 则进一步指明了一个摆脱有监督微调依赖，纯粹依靠强化学习，实现 AI 推理能力优化并自我成长的探索发展方向。在多个基准测试中，DeepSeek R1展现出卓越的推理能力，尤其在数学、代码和自然语言推理等任务上，与OpenAI的o1模型相媲美。 在LLM大模型普遍陷入算力和数据内卷当前局势下，DeepSeek 从算法和训练框架层面实现了创新突破并开源，无疑是人工智能领域的又一个重要转折点。 🌟【模型浅析】 常规大语言模型（LLM）的训练过程通常有三个阶段：预训练（Pretraining）、有监督微调（Supervised Fine-Tuning, SFT）、以及强化学习反馈优化（Reinforcement Learning Feedback, RLF，常见的是 Human-based），每个阶段都有不同的目标和方法。 而 DeepSeek 不仅是在每个阶段内部实现了大量优化，还颠覆了整个训练流程，为大模型发展指出了一些新的路线。 🌟【DeepSeek V3】 DeepSeek V3 基于 14.8T 数据进行预训练，涉及 6710 亿参数，其中激活参数 370 亿，模型性能与 GPT 4o- 0513 不相上下。 但由于其算法架构和训练框架等方面的设计，与 GPT 相比，及大幅度削减了训练成本。完整训练消耗 278.8w 个GPU小时，仅消耗约 557.6w 美元。 与 DeepSeek V2 一样，DeepSeek V3 在预训练阶段，依旧专注于 MoE（混合专家系统） + MLA（多维长程注意力） 架构： 🔸DeepSeekMoE 是一种混合专家（MoE）模型架构，旨在通过激活部分专家来提高训练效率。与传统 MoE 模型不同，DeepSeekMoE 使用更细粒度的专家，并将部分专家隔离为共享专家。 通过动态路由机制，模型能够根据输入的特征选择合适的专家进行处理，从而提高了模型的表达能力和训练效率。 🔸MLA 通过低秩近似方法，将注意力键（Key）和值（Value）进行压缩，减少了推理过程中的内存占用和计算量，从而提高了推理效率。 这种方法有效降低了模型的内存需求，使其在推理时更加高效。 除此之外，在 DeepSeek V3 中还新增了两项核心技术： 🔸无辅助损失的负载均衡策略 传统 MoE 系统需要额外训练"平衡器"来防止某些专家模块过载（类似交通调度员），但这会影响模型性能。而为了避免传统负载均衡策略对模型性能的负面影响，DeepSeek V3 设计了无辅助损失的负载均衡策略。 该策略通过动态调整专家的偏置项，确保每个专家的负载均衡，避免了辅助损失对模型性能的干扰。这种方法有效地提升了模型的训练效果和性能，就像给高速公路装上自动分流系统，既保证车流畅通又不增设收费站。 🔸多 Token 预测训练 传统模型像逐字填空，每次只预测下一个词。DeepSeek V3 设计了多 Token 预测训练的方式，即在训练过程中同时预测多个未来的 Token。这种方法能够提高模型在评估基准上的整体性能，增强了模型的预测能力和泛化能力。 为提升训练效率，DeepSeek 还设计了下述框架和流程： 🔸FP8 混合精度训练 为了实现更高效的模型训练，DeepSeek V3 引入了 FP8 混合精度训练框架，并首次在超大规模模型训练上验证了其可行性。 FP8 是一种使用 8 位浮点数表示的数值格式，相比传统的 32 位浮点数，精度有所降低，但占用空间更小，计算速度更快。能够显著提升了训练速度并减少了 GPU 内存的使用。 🔸DualPipe 流水线算法 DualPipe 算法是一种高效的流水线并行策略，旨在减少训练过程中的通信延迟和内存占用。通过算法、框架和硬件的协同设计，克服了跨节点 MoE 训练中的通信瓶颈，实现了近乎完全的计算-通信重叠。显著提高了训练效率并降低了训练成本，使得能够在不增加额外开销的情况下进一步扩大模型规模。 而基于预训练出来的基础模型，通过有监督微调（SFT）和强化学习（RL）使其与人类偏好对齐。并基于 DeepSeek-R1 系列模型对 DeepSeek V3 模型进行蒸馏提炼以进一步增强了推理能力。在蒸馏部分，DeepSeek 引入了一种创新的方法，能够将推理能力从长链思维 (CoT) 模型（特别是来自 DeepSeek R1 系列模型之一）提炼到标准大语言模型中（特别是 DeepSeek-V3）。 🌟【DeepSeek R1 Zero 和 强化学习策略】 DeepSeek-R1 是一种先进的推理模型，指明了不依赖SFT数据仅通过纯强化学习来让 LLM 自主发展推理能力的可行性。 DeepSeek R1 Zero 的目标是探索不依赖SFT数据仅通过纯强化学习来让 LLM 自主发展推理能力的可行性。 它利用了准确率奖励和格式奖励来鼓励模型进行有效的推理，并且避免了过程奖励（PRM）或结果奖励（ORM）。这不仅减少了训练数据的依赖，还开辟了不依赖SFT的推理训练的新路径。 这种纯 RL 训练方式让 R1 自己学会了 Longer-chain reasoning（长链推理）和 Reflection（反思），这是一种“自我进化”能力，被认为是大语言模型学会自我反思、可以自我纠错的 “aha moment（顿悟）”。 其下是 DeepSeek 在推理过程中产生 ”顿悟“ 的实例： 🌟【DeepSeek R1 和小模型蒸馏】 尽管 DeepSeek R1 Zero 在推理能力上表现出了不俗的性能，但是在语言表达和结果可读性上存在较大的不稳定性。 为了解决这部分问题，并进一步优化性能，DeepSeek-R1 使用了冷启动 + 多阶段训练的方式： 🔸阶段1⃣：使用少量高质量的 CoT 数据进行冷启动，预热模型。 🔸阶段2⃣：进行面向推理的强化学习，提升模型在推理任务上的性能。 🔸阶段3⃣：使用拒绝采样和监督微调，进一步提升模型的综合能力。 🔸阶段4⃣：再次进行强化学习，对推理数据和一般数据采用不同的奖励规则，使模型在所有场景下都表现良好 其中第一阶段使用冷启动数据的主要目的是为了解决 DeepSeek-R1-Zero 在训练早期出现的训练不稳定问题。 相比于直接在基础模型上进行 RL，使用少量的 SFT 数据进行冷启动，可以让模型更快地进入稳定训练阶段： 🔸可读性：冷启动数据使用更易于理解的格式，输出内容更适合人类阅读，避免了 DeepSeek-R1-Zero 输出的语言混合、格式混乱等问题。 🔸潜在性能：通过精心设计冷启动数据的模式，可以引导模型产生更好的推理能力。 🔸稳定训练：使用 SFT 数据作为起始点，可以避免 RL 训练早期阶段的不稳定问题。 另外，R1 在强化学习中加入了组相对策略优化算法（Group Relative Policy Optimization，GRPO），从效果上来说，它能够优化策略、提高样本效率和增强算法稳定性等。 而采用第三阶段产生的样本数据，可以对其他 LLM 小模型进行进行蒸馏，使其具备更强的逻辑推理能力，掌握更高阶的推理策略。下面是蒸馏出来的 6 个小模型以及相应的性能对比。 基于 DeepSeek R1 蒸馏出的小模型，都具备不错的性能。其中，Distill-Qwen-7B 模型在 AIME 2024 上达 55.5%，超越 32B 规模的 QwQ-Preview。而 Qwen-32B 和 Llama-70B 模型在除了 CodeForeces 以外的任务上都超过 o1-mini 。 未来DeepSeek还会发展到什么程度？叔拭目以待。

$JUNK token adopts a narrative of being sent to zero, contrasting with other tokens. It emphasizes a unique identity in the crypto space, with mentions of its initial name and icon, and the developer's involvement. 🚀🚀JUNK 24h内上涨+16.7K%，现价$0.0013, 用GMGN更快发现，更快买卖！#JUNK #GMGN

吴说获悉，跨链基础设施 SYNTHR 宣布已完成 5 轮融资共筹集 1000 万美元，Kronos、NGC Ventures、Morningstar Ventures 等参投，此外，项目还获得了来自 Oasis Network、Sui、Sei 等 11 项资助支持。SYNTHR 是 Layer Zero…

吴说项目周精选：Linea 计划明年一季度推出代币；Movement 即将推出主网；链上交易工具 DEXX 被盗超千万美元；XION 在多个平台开启盘前交易；以太坊 Layer 2 网络 ZERO Network 已推出。

Zerion 宣布其 Layer 2 网络 ZERO Network 正式推出。该网络允许 Zerion Wallet 用户在交易、铸造、交换和跨链桥接时享受零 gas 费体验。ZERO Network 通过账户抽象技术，结合智能账户和付款人机制，为用户提供免费的交易服务。此外，Zerion 还宣布从天使投资人处获得一笔未公开金额的资金。（The Block）