标签: #deep-learning

한국어English日本語中文

← 全部文章

• PyTorch 2.13 的 torchcomms — 冲着替换 c10d 而来的新分布式通信后端

  在 2026 年 7 月 8 日发布的 PyTorch 2.13 的众多亮点里，最具结构性的变化是 torchcomms — PyTorch Distributed 的新通信后端开始被整合进内核的 CI 与 DeviceMesh 路径。torchcomms 是 Meta 于 2025 年 10 月发布的实验性通信 API，官方路线图是清掉基于全局状态的 c10d ProcessGroup 的技术债(以 NCCL 为中心的设计、lazy

  2026-07-17 · 15 分钟阅读 #pytorch#distributed-training#nccl#deep-learning

• 多模态 AI 的训练方法 — 把多种感觉揉进一个模型

  梳理让多模态 AI 在同一个模型里处理图像、文本、音频、视频的训练原理。依次讲解模态对齐与对比学习、融合方式、共享嵌入空间、预训练与微调、数据与评估，以及幻觉之类的局限，并配代码展示训练流水线。

  2026-06-26 · 28 分钟阅读 #ai-papers#multimodal#clip#vision-language#contrastive-learning

• Torch-Titan 完全指南：PyTorch 大规模分布式训练全解析

  一份掌握 PyTorch Titan(torchtitan)大规模 LLM 分布式训练的完全指南。涵盖 FSDP2、流水线并行、张量并行、4D 并行、Flash Attention 与混合精度，并配有实战示例。

  2026-03-17 · 27 分钟阅读 #torch-titan#distributed-training#pytorch#fsdp#deep-learning

• 自监督学习（Self-Supervised Learning）完全指南：SimCLR、MAE、DINO、CLIP

  全面掌握自监督学习的实战指南。从对比学习（SimCLR、MoCo）、掩码自编码器（MAE、BEiT）到 DINO、CLIP，通过实战代码学习如何在没有标签的情况下训练出强大的表示。

  2026-03-17 · 37 分钟阅读 #self-supervised-learning#contrastive-learning#simclr#mae#dino

• 深度学习时间序列分析完全指南：LSTM、Transformer、PatchTST、TimesFM

  用深度学习完全掌握时间序列数据的指南。从时间序列预处理、ARIMA、LSTM，到 Temporal Fusion Transformer、PatchTST、Mamba、TimesFM 等最新基础模型，通过实战示例学习。

  2026-03-17 · 28 分钟阅读 #time-series#lstm#transformer#forecasting#deep-learning

• PyTorch 高级技巧完全指南：torch.compile、Custom Ops、内存优化

  全面掌握 PyTorch 高级技巧的实战指南。涵盖 torch.compile、自定义算子、内存优化、Gradient Checkpointing、torch.vmap、functorch、PyTorch Profiler，配有实战示例讲解。

  2026-03-17 · 21 分钟阅读 #pytorch#advanced#torch-compile#memory-optimization#custom-operators

• 深度学习推荐系统完全指南：从协同过滤到基于 LLM 的推荐

  从推荐系统基础到最新深度学习技术的完全精通指南。通过实战代码,掌握协同过滤、Matrix Factorization、NCF、Two-Tower 模型、序列推荐、基于 GNN 的推荐,直至 LLM 推荐。

  2026-03-17 · 30 分钟阅读 #recommendation-system#collaborative-filtering#deep-learning#two-tower#llm

• 自然语言处理(NLP)完全指南：从零到精通 - 从文本处理到LLM

  一份从 NLP 基础到最新 LLM 的完全指南。通过实战代码逐步学习文本预处理、Word2Vec、RNN/LSTM、Attention、Transformer、BERT、GPT。

  2026-03-17 · 46 分钟阅读 #nlp#natural-language-processing#transformer#bert#gpt

• Mamba 与状态空间模型(SSM)完全指南：超越 Transformer

  Mamba 与状态空间模型(SSM)的完全理解指南。深入剖析解决 Transformer 二次复杂度问题的 S4、H3、Mamba 1/2 架构的公式与代码，并涵盖 MambaFormer、Jamba 等混合模型。

  2026-03-17 · 27 分钟阅读 #mamba#state-space-model#ssm#deep-learning#sequence-modeling

• 元学习与少样本学习完全指南：MAML、Prototypical Networks、In-Context Learning

  全面掌握元学习与少样本学习的指南。从"学习如何学习"的理念出发，涵盖 MAML、Prototypical Networks、Matching Networks、Reptile，直到 LLM 的 In-Context Learning，配合实战代码讲解。

  2026-03-17 · 33 分钟阅读 #meta-learning#few-shot-learning#maml#prototypical-networks#in-context-learning

• 知识蒸馏（Knowledge Distillation）完全指南：模型轻量化与压缩技术

  全面掌握知识蒸馏与模型压缩技术的指南。通过实战 PyTorch 代码，学习 Teacher-Student 训练、中间层蒸馏、基于关系的蒸馏、结构化剪枝、权重共享，直至神经网络架构搜索（NAS）。

  2026-03-17 · 29 分钟阅读 #knowledge-distillation#model-compression#pruning#deep-learning#ai

• CNN 架构完全指南：从 LeNet 到 EfficientNet、Vision Transformer

  CNN 架构的历史与演进完全指南。通过结构分析和 PyTorch 实现，完整掌握从 LeNet、AlexNet、VGG、ResNet、DenseNet、EfficientNet 到 Vision Transformer 的全部主要模型。

  2026-03-17 · 30 分钟阅读 #cnn#computer-vision#deep-learning#resnet#vgg

• 对抗性机器学习(Adversarial ML)指南：攻击与防御技术完全精通

  彻底掌握对抗性机器学习的指南。通过实战代码学习 FGSM、PGD、C&W 攻击、数据投毒、模型窃取、后门攻击，以及对应的防御技术(对抗训练、认证防御)。

  2026-03-17 · 32 分钟阅读 #adversarial-ml#ai-security#deep-learning#robustness#ai

• PyTorch 完全征服指南：从入门到精通 — 从张量到分布式训练

  PyTorch 从基础到高级技巧的完全征服指南。通过实战示例循序渐进地学习张量运算、自动微分、CNN/RNN/Transformer 实现，直至分布式训练。

  2026-03-17 · 33 分钟阅读 #pytorch#deep-learning#ai#python#neural-network

• 深度学习模型量化完全指南：精通 INT8、INT4、GPTQ、AWQ、GGUF

  一份让你彻底掌握深度学习模型量化的指南。通过实战示例，完整理解从 FP32 到 INT8、INT4 的量化原理，以及 GPTQ、AWQ、GGUF、bitsandbytes、AutoGPTQ、llama.cpp 的用法。

  2026-03-17 · 35 分钟阅读 #quantization#model-compression#gptq#awq#gguf

• 多模态 AI 完全指南：掌握 CLIP、LLaVA、GPT-4V 与 Gemini Vision

  从多模态 AI 的基础到最新的视觉-语言模型，一份助你彻底掌握的完整指南。通过实战代码学习 CLIP、BLIP-2、LLaVA、InstructBLIP、GPT-4V、Gemini Vision、Claude Vision 的用法，并覆盖多模态 RAG。

  2026-03-17 · 36 分钟阅读 #multimodal#vision-language#clip#llava#gpt-4v

• 图神经网络(GNN)完全指南：从 GCN、GAT、GraphSAGE 到分子设计

  图神经网络(GNN)从基础到前沿研究的完全指南。涵盖图论、GCN、GraphSAGE、GAT、Graph Transformer、分子设计、社交网络分析，并使用 PyTorch Geometric 完成实战实现。

  2026-03-17 · 29 分钟阅读 #gnn#graph-neural-network#gcn#gat#pytorch-geometric

• 生成式AI完全指南：精通 GAN、VAE 与扩散模型

  彻底掌握生成式AI核心架构的指南。通过数学公式与 PyTorch 代码，完整理解 VAE(变分自编码器)、GAN(生成对抗网络)、DDPM(扩散模型)直至 Stable Diffusion。

  2026-03-17 · 30 分钟阅读 #generative-ai#gan#vae#diffusion-model#stable-diffusion

• 深度学习训练方法完全指南：从优化到分布式训练

  一份系统讲解深度学习模型高效训练全部技巧的完整指南。通过实战代码学习梯度下降法、优化器、学习率调度、正则化、批归一化、迁移学习、微调，直至分布式训练。

  2026-03-17 · 38 分钟阅读 #deep-learning#training#optimization#regularization#distributed-training

• 深度学习调试完全指南：从训练失败诊断到性能优化

  系统性诊断和解决深度学习模型训练失败的完全指南。涵盖 Loss NaN、梯度消失/爆炸、过拟合、收敛缓慢、显存不足等所有常见问题的原因与解决方案，并配有实战代码。

  2026-03-17 · 30 分钟阅读 #deep-learning#debugging#pytorch#training#optimization