微调模型

-- FLOPs

微调模型

学习进度0%0/2 模块完成

节点介绍

GPT-1 采用两阶段训练：首先在大型无标注文本语料库（如 BooksCorpus）上进行生成式语言模型预训练，然后针对具体任务进行监督式微调。微调时，模型通过任务特定的输入变换，将结构化输入（如句子对、问答三元组）转换为单一令牌序列，从而最小化架构改动。

模块列表

选择一个模块开始学习

0模块

0题目

笔记