文章目录

• 1 大模型的分类
• • 1.1 按任务类型分类
  • • 1.1.1 生成式模型
    • 1.1.2 判别式模型
    • 1.1.3 混合模型
  • 1.2 按数据模态分类
  • • 1.2.1 单模态模型
    • 1.2.2 多模态模型
  • 1.3 按训练方法分类
  • • 1.3.1 预训练模型
    • 1.3.2 从零训练模型
    • 1.3.3 迁移学习模型
  • 1.4 按应用领域分类
  • • 1.4.1 自然语言处理模型
    • 1.4.2 计算机视觉模型
    • 1.4.3 语音处理模型
  • 1.5 按模型架构分类
  • • 1.5.1 transformer架构
    • 1.5.2 卷积神经网络
    • 1.5.3 循环神经网络和长短期记忆网络
• 2 大模型的训练数据预处理
• • 2.1 确定任务目标
  • 2.2 数据收集
  • 2.3 数据清洗
  • 2.4 数据标注
  • 2.5 数据增强
  • 2.6 数据分割
  • 2.7 数据处理与转换
  • 2.8 数据存储与管理
  • 2.9 数据隐私与合规性
  • 2.10 数据加载和预处理
• 3 预训练和微调
• • 3.1 预训练
  • • 3.1.1 无监督训练
    • 3.1.2 有监督训练
  • 3.2 微调
  • 3.3 区别
• 4 参考附录