理论上搞点专攻写文的模型并不难实现，只能说和编程相比太不挣钱了

标注数据和网络大数据对应不同的训练阶段，两者不矛盾，基座模型只是个语言续写模型，不用标注，后续加入各种技能确实是靠指标注数据来指令对齐 ▍@eccarrot：另外语言肯定也是有影响的，国模首先训练集中文占比就不一样，关系到训练效率，只是现在大家都卷任务去了，也没太多人长期多语言混用，对语言的差异没什么直观感受

理论上搞点专攻写文的模型并不难实现，只能说和编程相比太不挣钱了

标注数据和网络大数据对应不同的训练阶段，两者不矛盾，基座模型只是个语言续写模型，不用标注，后续加入各种技能确实是靠指标注数据来指令对齐 ▍@eccarrot：另外语言肯定也是有影响的，国模首先训练集中文占比就不一样，关系到训练效率，只是现在大家都卷任务去了，也没太多人长期多语言混用，对语言的差异没什么直观感受

标注数据和网络大数据对应不同的训练阶段，两者不矛盾，基座模型只是个语言续写模型，不用标注，后续加入各种技能确实是靠指标注数据来指令对齐 ▍@eccarrot：另外语言肯定也是有影响的，国模首先训练集中文占比就不一样，关系到训练效率，只是现在大家都卷任务去了，也没太多人长期多语言混用，对语言的差异没什么直观感受

理论上搞点专攻写文的模型并不难实现，只能说和编程相比太不挣钱了