torch.norm
- PyTorch 教程:第五篇 —— Build Neural Networks 教程
-
PyTorch神经网络模型构建详解：第五篇——BuildNeuralNetworks教程导语...
- 全量微调已过时?QLoRA+Bfloat16颠覆式创新
-
本文较长，建议点赞收藏，以免遗失。更多AI大模型应用开发学习视频及资料，尽在...
- 如何基于deepseek蒸馏自己的模型（蒸馏 模型）
-
基于DeepSeek模型进行知识蒸馏，将大模型的知识迁移到小模型，可以按以下步骤进行：一、准备工作获取教师模型...
- 推理速度提升5倍!Transformer优化:KV缓存+混合精度+量化实战
-
本文较长，建议点赞收藏，以免遗失。更多AI大模型应用开发学习视频及资料，尽在...
- 批归一化原理及Pytorch实现【Batch Normalization】
-
推荐：用NSDT设计器快速搭建可编程3D场景。批归一化是完整CNN架构中的另一个重要元素，其作用如下：...
- PyTorch 模型的保存与加载:第八篇 —— Save and Load the Model 教程
-
PyTorch模型的保存与加载全流程详解：第八篇——SaveandLoadtheModel教程导语...
- 英伟达再破世界纪录，每秒1000 token，刚刚，全球最快Llama 4诞生
-
英伟达，亲手打破了自己的天花板！刚刚，Blackwell单用户每秒突破了1000个token，在Llama4Maverick模型上，再次创下了AI推理的世界纪录。在官博中，团队放出了不少绝密武器。你以为，AI推理的速度已经够快了？不，英伟达还能再次颠覆你的想象——就在刚刚，他们用Blackwel...
- 企业级Transformer优化:混合精度×梯度裁剪×权重初始化最佳实践
-
一、自注意力机制：Transformer的核心突破核心思想：让每个位置都能关注序列中所有位置的信息1.1Query-Key-Value抽象模型...
- 神经网络调试:梯度可视化（神经网络 梯度）
-
在本文中，我们将了解是什么导致神经网络表现不佳，以及我们可以通过可视化梯度和与模型训练相关的其他参数来调试此问题的方法。我们还将讨论梯度消失和梯度爆炸的问题以及克服这些问题的方法。...