笔趣阁

手机浏览器扫描二维码访问

第827章 没经过标注学习的大模型直接拿训练结果会不完整(第2页)

导致“结构性不完整”。

?

2.

任务映射角度:无标注训练难以学得任务映射规则

?

自监督语言模型训练的本质是“概率语言建模”,不是“任务解答”;

?

所以它并不知道“题目是什么、目的是什么”,而是推测“在这种上下文中,最可能出现的词或句子是什么”;

?

比如:它可以写诗、写代码,但并不能天然知道“这个代码是否安全”“这首诗是否表达了想表达的情绪”。

结论:任务导向的“目标函数”缺失

无法学会“为什么做”。

?

3.

可解释性角度:非标注训练缺乏因果结构建模

?

人类通过监督学习明确学习“因果—目的—手段”结构;

?

但大语言模型更像是“相关性结构模拟器”;

?

它可以“预测一个合理的答案”,但不能清晰解释“为什么这个是对的”,这导致它常常幻觉(hal露cination),即信心满满地说错话。

结论:缺乏标注训练导致“因果推理能力弱化”,解释力不足。

?

三、类比视角:大模型

vs

人类学习

我们可以做几个有趣的类比来更好理解:

模型机制

类比人类

结果

自监督训练

看大量书籍和对话,但没人教你正确答案

可形成语言风格、思维路径,但很难准确判断对错

监督训练

北域时空  系统沙雕我添堵,一身反骨离大谱  等你一直等到老  穿越之异世女领主  斩神:我道系青年,请个神合理吧  开局创建杀手组织,我威压诸天  兽世溺宠:蛇蛇我啊,万龙之母  开局就长生,可我咋是奴隶啊  遗笑苍天  大反派女魔头,前世居然是男的  海贼:从女帝开始,路飞持续崩溃  开局逃荒直接掀桌  异能太强,大佬被特殊部门收编了  庶女当家日常  穿书七十年代,过好自己的日子  轮回塔  高中三年,无人知道我已觉醒  三国:身为反贼,没有金手指  直播算命:你爹让你扔下水道了  被废静心多年,你们才开始后悔?  

热门小说推荐
总裁大人超给力

总裁大人超给力

嫁给我,我可以替你报仇。陆白,亚洲第一跨国集团帝晟集团总裁,商业界最可怕的男人。传闻他身后有着最庞大的金融帝国,身边从未有过什么女人,传说他是夏儿想,管他呢,安心地做她的总裁夫人虐虐渣最好不过了。只是婚后生活渐渐地不一样了,看着报纸上帝晟总裁的采访,安夏儿方了你你你什么意思,不是说好我们隐婚的么老...

大国工程

大国工程

余庆阳一个搬砖二十年的老工程,梦回世纪之交,海河大学毕业,接老爸的班继续搬砖。用两辈子的行动告诉老师,搬砖不是因为我学习不好!是我命中注定要搬砖已有两本百万字完本书超级村主任最强退伍兵,可以放心入坑!大国工程书友群,群聊号码492691021新书重生之大国工匠...

凌天至尊

凌天至尊

最强系统,我就是最强!还有谁?叶风看着众多的天骄,脸色淡定无比!获得最强系统,经验可复制对方的功法神通,可升级功法神通品阶无所不能,唯有最强!碾压苍穹,打爆世间一切不服者!...

特种岁月

特种岁月

男人一辈子最值得骄傲的事里包括服一次役,当一回特种兵,和世界上最强的军人交手。还有,为自己的祖国奉献一次青春,为这片热土上的人民拼一次命。这些,庄严都做到了。(此书致敬每一位曾为国家奉献过青春,流过血洒过汗的共和国军人!读者群号764555748)...

每日热搜小说推荐