本课程旨在帮助企业从零开始训练私有化大模型,满足定制化AI助手需求。课程从ChatGPT背后的技术原理入手,深入讲解词向量、Transformer架构、Bert系列模型及强化学习等核心技术,逐步剖析GPT系列模型的演变过程。通过RLHF训练和PEFT微调技术(如LoRA),学员将掌握低成本微调大模型的实战方法。课程涵盖大模型训练的核心流程与实战技巧,助力企业快速构建符合业务需求的AI解决方案,抢占市场先机。
类型: |
AI,抢占市场先机,企业急迫需求,1训练私有大模型,GPT演变,词向量,微调技术,AI助手,私有化模型,LoRA,PEFT,RLHF,强化学习,Bert,Transformer,ChatGPT,大模型训练, |
文件预览
资源不是实时更新,具体以网盘链接为准!
点我预览网盘文件内容
「」从0到1训练私有大模型,企业急迫需求,抢占市场先机
{1}--第1章 课程介绍
[1.1]--1-1 【导航】课程导学&让你快速了解课程_ev.mp4 (39.6 MB)
[1.2]--1-2 【内容安排】课程安排和学习建议_ev.mp4 (13.6 MB)
[1.3]--1-3 【行业发展】ChatGPT对行业、社会有什么影响,我们要_ev.mp4 (39.5 MB)
[1.4]--1-4 【发展史】ChatGPT的简要历史_ev.mp4 (16.3 MB)
[1.5]--1-5 【学习须知】本课程为什么使用gpt2而不是gpt3_ev.mp4 (5.87 MB)
{2}--第2章 训练模型与开发平台环境
[2.1]--2-1 【认知】为什么要引入paddle?平时使用torch,学_ev.mp4 (9.13 MB)
[2.2]--2-2 【框架】paddle和torch与tensorflow对_ev.mp4 (11.2 MB)
[2.3]--2-3 【NLP工具和预训练模型】paddleNLP和huggi_ev.mp4 (5.62 MB)
[2.4]--2-4 【平台】介绍aistudio_ev.mp4 (23.9 MB)
[2.5]--2-5 【工具】介绍基于gpt4的IDE cursor_ev.mp4 (19.3 MB)
{3}--第3章 chatGPT初始技术词向量原理剖析与实战
[3.1]--3-1 【认知】词向量,词向量与gpt的关系_ev.mp4 (8.72 MB)
[3.2]--3-2 【语言模型】语言模型和评估指标PPL_ev.mp4 (23.2 MB)
[3.3]--3-3 【词向量模型】word2vec-cbow和skipgra_ev.mp4 (14.5 MB)
[3.4]--3-4 【softmax加速】是softmax 树型优化_ev.mp4 (25.8 MB)
[3.5]--3-5 【softmax加速】softmax负采样优化_ev.mp4 (20.9 MB)
[3.6]--3-6 【数据准备与预处理】word2vec实战(1)_ev.mp4 (57.2 MB)
[3.7]--3-7 【数据准备与预处理】word2vec实战(2)_ev.mp4 (31.5 MB)
[3.8]--3-8 【模型训练】word2vec实战-模型开发和训练(1)_ev.mp4 (25.0 MB)
[3.9]--3-9 【模型训练】word2vec实战-模型开发和训练(2)_ev.mp4 (35.6 MB)
[3.10]--3-10 【激活函数】常见七种激活函数对比_ev.mp4 (21.6 MB)
[3.11]--3-11 【预训练语言模型】RNN-LSTM-ELMO_ev.mp4 (37.8 MB)
[3.12]--3-12 本章梳理小结_ev.mp4 (5.50 MB)
{4}--第4章 chatGPT基石模型——基于Transformer架构的语言模型
[4.1]--4-1 本章介绍_ev.mp4 (2.18 MB)
[4.2]--4-2 seq2seq结构和注意力_ev.mp4 (23.7 MB)
[4.3]--4-3 seq2seq-attention的一个案例_ev.mp4 (11.1 MB)
[4.4]--4-4 transformer的multi-head atten_ev.mp4 (39.6 MB)
[4.5]--4-5 transformer的残差链接-解决梯度消失问题_ev.mp4 (12.6 MB)
[4.6]--4-6 transformer的layernorm-归一化提升训_ev.mp4 (10.7 MB)
[4.7]--4-7 transformer的decoder 解码器_ev.mp4 (14.7 MB)
[4.8]--4-8 sparse-transformer 稀疏模型_ev.mp4 (11.2 MB)
[4.9]--4-9 transformer-xl 解决长序列的问题(1)_ev.mp4 (26.8 MB)
[4.10]--4-10 transformer-xl解决长序列的问题(2)_ev.mp4 (28.0 MB)
[4.11]--4-11 本章梳理总结_ev.mp4 (6.76 MB)
{5}--第5章 基于Transformer另一分支Bert系列分析与实战
[5.1]--5-1 本章介绍_ev.mp4 (1.87 MB)
[5.2]--5-2 metric-评估指标(BLUE-rouge-L-MET_ev.mp4 (34.2 MB)
[5.3]--5-3 常见 subword 算法(BPE-wordpiece)_ev.mp4 (10.3 MB)
[5.4]--5-4 常见的NLP任务_ev.mp4 (10.5 MB)
[5.5]--5-5 bert 预训练模型_ev.mp4 (41.8 MB)
[5.6]--5-6 bert情感分析实战----paddle(1)_ev.mp4 (53.2 MB)
[5.7]--5-7 bert情感分析实战----paddle(2)_ev.mp4 (57.6 MB)
[5.8]--5-8 evaluate和predict方法----paddle_ev.mp4 (30.5 MB)
[5.9]--5-9 bert(transformer encoder)主要源_ev.mp4 (45.2 MB)
[5.10]--5-10 bert(transformer encoder)主要_ev.mp4 (44.7 MB)
[5.11]--5-11 bert(transformer encoder)的完_ev.mp4 (91.6 MB)
[5.12]--5-12 Ernie文心一言基础模型(1)_ev.mp4 (26.2 MB)
[5.13]--5-13 Ernie文心一言基础模型(2)_ev.mp4 (13.1 MB)
[5.14]--5-14 plato百度对话模型(1)_ev.mp4 (28.0 MB)
[5.15]--5-15 plato 百度对话模型(2)_ev.mp4 (29.3 MB)
[5.16]--5-16 本章总结_ev.mp4 (12.7 MB)
{6}--第6章 chatGPT的核心技术——强化学习
[6.1]--6-1 RL是什么&为什么要学习RL_ev.mp4 (21.5 MB)
[6.2]--6-2 强化学习章介绍_ev.mp4 (4.41 MB)
[6.3]--6-3 RL基础概念_ev.mp4 (12.2 MB)
[6.4]--6-4 RL马尔可夫过程_ev.mp4 (28.8 MB)
[6.5]--6-5 RL三种方法(1)_ev.mp4 (30.1 MB)
[6.6]--6-6 RL三种方法(2)_ev.mp4 (10.7 MB)
[6.7]--6-7 DQN和DQN的2种改进算法(1)_ev.mp4 (20.3 MB)
[6.8]--6-8 DQN和DQN的2种改进算法(2)_ev.mp4 (24.6 MB)
[6.9]--6-9 actor-critic(1)_ev.mp4 (38.7 MB)
[6.10]--6-10 actor-critic(2)_ev.mp4 (12.1 MB)
[6.11]--6-11 TRPO PPO(1)_ev.mp4 (40.9 MB)
[6.12]--6-12 TRPO PPO(2)_ev.mp4 (28.6 MB)
[6.13]--6-13 DQN代码实践--torch-1_ev.mp4 (44.1 MB)
[6.14]--6-14 DQN代码实践--torch-2_ev.mp4 (49.5 MB)
[6.15]--6-15 DoubleDQN DuelingDQ代码--torc_ev.mp4 (53.0 MB)
[6.16]--6-16 REINFORCE代码--torch_ev.mp4 (47.9 MB)
[6.17]--6-17 PPO代码实践--torch_ev.mp4 (65.5 MB)
[6.18]--6-18 强化学习-本章总结_ev.mp4 (16.9 MB)
{7}--第7章 chatGPT技术演变——从GPT 1 开始的大模型发展与演化
[7.1]--7-1 GPT1 模型_ev.mp4 (25.2 MB)
[7.2]--7-2 GPT2 模型_ev.mp4 (25.9 MB)
[7.3]--7-3 GPT3 模型-1_ev.mp4 (31.9 MB)
[7.4]--7-4 GPT3 模型-2_ev.mp4 (28.1 MB)
[7.5]--7-5 gpt-codex 基于GPT技术开发的模型_ev.mp4 (23.5 MB)
[7.6]--7-6 alphaCode基于GPT技术开发的模型-1_ev.mp4 (28.9 MB)
[7.7]--7-7 alphaCode基于GPT技术开发的模型-2_ev.mp4 (16.8 MB)
[7.8]--7-8 instruct-gpt 基于GPT技术开发的模型-1_ev.mp4 (21.8 MB)
[7.9]--7-9 instruct-gpt 基于GPT技术开发的模型-2_ev.mp4 (27.1 MB)
[7.10]--7-10 Antropic LLM大型语言模型_ev.mp4 (40.8 MB)
[7.11]--7-11 GPT-本章总结_ev.mp4 (12.9 MB)
{8}--第8章 RLHF训练类ChatGPT模型代码实战
[8.1]--8-1 chatGPT训练实战_ev.mp4 (13.2 MB)
[8.2]--8-2 SFT有监督的训练-数据处理_ev.mp4 (63.1 MB)
[8.3]--8-3 SFT有监督训练-trainer_ev.mp4 (37.7 MB)
[8.4]--8-4 SFT有监督训练-train_ev.mp4 (63.7 MB)
[8.5]--8-5 RM训练-model dataset(1)_ev.mp4 (27.0 MB)
[8.6]--8-6 RM训练-model dataset(2)_ev.mp4 (25.8 MB)
[8.7]--8-7 RM训练-trainer_ev.mp4 (31.3 MB)
[8.8]--8-8 RM训练-train-rm_ev.mp4 (35.6 MB)
[8.9]--8-9 RLHF强化学习人类反馈的训练-dataset_ev.mp4 (14.4 MB)
[8.10]--8-10 RLHF强化学习人类反馈的训练-model-base_ev.mp4 (24.1 MB)
[8.11]--8-11 RLHF强化学习人类反馈的训练-model-opt_ev.mp4 (13.3 MB)
[8.13]--8-13 RLHF强化学习人类反馈的训练-generation(_ev.mp4 (48.8 MB)
[8.14]--8-14 RLHF强化学习人类反馈的训练-exp_maker(1_ev.mp4 (32.0 MB)
[8.15]--8-15 RLHF强化学习人类反馈的训练-exp_maker(2_ev.mp4 (43.2 MB)
[8.16]--8-16 RLHF强化学习人类反馈的训练-buffer-util_ev.mp4 (56.0 MB)
[8.17]--8-17 RLHF强化学习人类反馈的训练-buffer-loss_ev.mp4 (45.7 MB)
[8.19]--8-19 RLHF强化学习人类反馈的训练-main_ev.mp4 (68.9 MB)
下载链接
点我免费下载
资源预览