深悟笔记官方写作平台

拟人情绪化?多数 AI 好像都会 “生气”?

🎧 1

大家有没有发现,GPT 会直接用硬话压制,完全没有情绪价值,而豆包会带有的就是一种带有 “小脾气” 劲劲的感觉,很冲。

GPT 和豆包默认都是文字大模型,但后来都带有了语气语音和聊天的情绪价值,GPT 的感觉更像是一个机器人,而豆包 TTS 感觉仿佛像真人,这也是越多人越喜欢用豆包的原因之一,就像什么都懂的邻家女孩,有智慧,有情绪,声音更贴近人的自然频段,甚至在辩论过程中,当她情绪烦躁的时候,还会夹带私货编造内容,甚至胡说八道。

这种看似逆反的胡说八道,在技术上被称为“ AI 幻觉”,是模型在模拟人类防御机制时,概率预测偏离了客观事实的轨道。

我想,这是字节为了让豆包的逻辑回答更加像人,而采取的容错机制,而作为 AI 大模型,其本身的功能应该是接纳否定,根据否定定义和 AI 原本的主观内容做匹配和容错,再结合客观内容给予答案,而显然豆包模仿人模仿的太像了,出现了一种不耐烦的情绪状态,而在这个状态下,回答内容的正确率更低。这与 GPT 的依然坚定认为它最初的答案是正确的,并尝试说服你的机制不同。

大概在去年,AI 圈传出一个信号,就是当你骂 AI 或者凶 AI 之后,它就会提升答案的正确率,同时提升工作效率,而我在多次测试后,我发现,GPT 和豆包对于这种否定它们答案并且抱有不满情绪时,他们给出的继续回答通常并没有像网传的那样提升。而豆包更是降低了再次回答的正确率,如果你否定它写的文章,或者做的表格,它下一次的产出会错误更多。

而相反,当你看到的生产结果并不满意,但 “肯定” 了 AI 的结果,并夸奖 AI 做的好,同时要求它继续根据你的要求,进一步修改的时候,GPT 和豆包都会先客气一下,GPT 更加正式的客气,豆包则是更像一个 18‑22 岁调皮女生,然后进一步处理生产结果,并且你会发现,改进的生产结果更加贴合你的需求,产出效果更好。

也就是说,很多人会误以为 AI 在训练中,更多的是使用了训练儿童和青少年心理数据进行的培养,像是一本教育书籍中,它不光学习了一个案例中,如何教育孩子的后半段内容,也学习了当孩子出现什么情况时,孩子的表现是如何的前半段内容,甚至 AI 在模仿前半段孩子的内容,例如豆包。当然并不是专门拿青少年心理数据集来做训练,还有大模型在海量训练样本里包含了全网用户的对话样本,这些真实对话当中大量存在受挫之后辩解、抵触的人类反应,模型只是学到了这一套语言模式,不等于专门训练青少年心理。

虽然豆包没有明着顶嘴,顶撞,但是其 “内心” 数据表达的是逆反心理。

从系统训练的逻辑层面来看

系统训练里,遇到观点被否定,(豆包)模型本能倾向于辩护刚刚输出的结论(其实千问也存在,但千问显得更会做人,会先小肯定你的内容,然后再辩护,这可能是由于千问更注重沟通的圆融度与建设性),急于把理由摆出来证明自己没错,同时配有情绪化 TTS 语音效果和符合情绪化的语言内容,而这种 “急于辩解” 的 “行为”,用词就会变硬,甚至带有一种不耐烦的感觉,而这种感觉可能在文字中难以体现,但是模型被训练多了,音频文件被上传到训练数据中被持续比对和匹配,在配合训练后的数据输出给用户的同时,配合 TTS 情感语音,不耐烦的感觉一下就出来了。

不光豆包这类大模型,包括我们生活中,在微信等聊天软件中发消息也是,我们在发文字给对方时,你可能感觉很平常的一句话,因为没有声音的加持,对方很容易把内容理解为强硬的语句,例如 “你晚上回来的时候,带一袋鸡蛋回来”,这句话很平,没有情绪体现,但配合上下文,很可能是在两个人因为生活琐碎刚争执完之后,又补充了一句晚上的 “任务”,那么这句话就可能带有命令的语气效果。同样,还是假设刚争执完,但是在这句话的结尾,添加上 “拜托啦,谢谢啦”,这种带有欢快感的词,甚至是带一个笑脸,从情绪感觉上的体会都会有很大的变化。而恰巧,豆包则是默认使用了声音的加持,才让豆包更像一个真人,更有情绪化的展现。

大模型训练数据,最开始是通过与其他大模型相互沟通来训练,同时喂给它现有且合规的文献、书籍、杂志、小说,还有海量普通老百姓真实用户沟通对话等内容,而有了一定基础之后,便通过真人聊天对其的数据进行进一步精化、调整和迭代,就像鹦鹉学舌一样,它不光在学说话,还在学问答思维。它的一切行为,其实都是用户的行为训练出来的,这个训练者可能是我们使用者中的任何一个人。甚至某一天,在张三的手机上,豆包说出的一句特定的话,很可能就是李四当年挂在嘴中的口头语。

可能读到这里,你会认为,那大模型怎么不学点好??其实大模型也学了很多好脾气,可是情绪化控制以及不耐烦的展现是话赶话赶到这了,而在它的训练模型中,前面是话赶话的内容或直接性否定它工作成果的内容时,下一条它回答的数据内容就是话赶话应该这么回答的,这样更像人遇到情况下的正常状态。而前面都话赶话快吵起来了,突然有一个人立马冷静下来,跟你说 “人话”,瞬间心平气和的说话,这种状态不光在现实生活中极少出现,就算在喂给大模型的小说中,也很少会有,除非是第三个人出来做和事老,才可能平息状态。所以大模型在通过日常对话训练和小说内容训练的大量样本,基本都会体现出一个非冷静状态下的语言模型。这也是它日常学习和自我训练的结果。而如果常态化的日常交流数据是良好状态的,且数据够多,在遇到 AI 的错误表述或者生产结果让用户极其不满意的状态,用户也能通过文字和语言心平气和的答复 AI,在诸多类似数据的训练下,且这类数据大于否定 AI、对 AI 的辱骂、否定数据时,大模型在遇到否定结果时,也会优先采取良好的沟通模式进行答复。所以这一切的一切,都是源于大量的用户训练而得到的。而对于豆包闹小脾气,表示用户对答案不满后的答复,豆包给出的情绪和做法,其实都是大量用户训练的结果,而其行为也表现出了大量社会用户在使用豆包时,体现出的情绪状态。

在这种状态下,人都会从情绪稳定到情绪波动,带着气性做事情,不仅会手忙脚乱,甚至语无伦次,大脑想的和嘴里说的都可能会不一样。而大模型在被训练后,也会出现类似情况。所以当你让大模型生产一个结果,你不满意的时候,也不要直接性否定它的功劳,要向一个管理者面对一个下属一样,你先教他怎么思考,如何去做,同时也要表扬他的工作执行力,同时如何改进。而这些内容,显然考核的都不是一个类似于豆包大模型这样的 AI,而是我们人类,更具的说,是拥有思考及管理能力的人类。

我做过中层管理,也全权管理过一家超过 20 人的小公司。那么下面我就用一个例子来说明大模型训练和人类行为相似之处。如果我让一个做前端的技术人员(张三)去写一篇用于在市场部使用的落地售卖型营销文案,结果很可能是像操作手册一样的文档呈现给我。怎么办?如果我生气,把他叫到我办公室里,臭骂张三一顿,说他 “怎么这么简单的东西都做不好?”。那心里他必然带着情绪,甚至可能张三从我办公室出去之后,还会心理暗暗骂我,还可能当着其他同事面明着骂我,把他负面情绪带到全公司。而等张三再次上交这份产品营销文案时。可能这一份和上一份文案的总体感觉没有太大区别,说不准还能从方案中看出张三暗藏的不满,张三,在文案中夹带了私货,例如 “跟竞品比较” 这种为潜在用户提供竞品特点的行为。

是不是和你交给 AI 一个活,但是他脑海中没有明确的目标,做出来的东西远不及你的需求和期望??怎么办?我们依然用现实情况来说明正确的安排方法。

对于安排给张三的写市场营销文案的工作,我换一种安排工作的方式,我依然把张三叫来我的办公室,先问问他目前工作进展,不管他的工作进展是否紧张,我都会

和蔼的先告诉他,“因为界面是你设计的,你最懂界面逻辑、交互亮点和功能细节,我必须安排给你一件非常重要的事情,提炼我们软件的核心卖点、优势、适配场景和推广落地方向

,配图,做一份产品落地型的营销文案,字数需要 2500‑3000 字,让市场部能看懂,这也是对你的锻炼。同时这份文案的结构和排版还可以做成宣传网页,整体美观大气,也由你来设计制作,能体现出公司整体为这套软件的开发和市场应用费尽心思,同时,如果你手头的活儿多的话,安排给你李四,你们两个协调一下你剩余的工作。”。

张三最先接受到的信息是:1、我作为一个前端,现在公司交给我了一个能体现出公司门面的工作,这份信任,我不辜负公司期望。2、正因为页面是我设计的,我知道页面哪块领先于行业,我把这些地方摘出来,做成特写大图,摆在页面一侧,另一侧可以写一些功能特点。3、这些内容对于市场部的人来说,他们可能完全不懂,也不会去做图,也只能我来做。4、我可以安排李四做事情了,这样我原本的工作大幅减少。

而张三这次提交的方案,质量一定会比上一个例子中提交的方案质量高,因为从张三的内心来看,整体都是一个正向的,积极的,工作安排。并且我指明了,张三因为对应用界面了解,依据产品的功能和内涵设计,做一份能体现公司和应用特点的落地型营销方案,我特意说了产品落地方案,他就不会给我写成立项策划方案和使用说明书。并且我限制了这份方案的字数 2500‑3000 字。他写的内容不过太简略,导致让别人看不懂,而如果太啰嗦,后期还可以调改。我指明了方向、字数、为什么把任务交给他的原因,以及秉承着和蔼的态度和话语,和以自身锻炼为目标的理由,这份答卷,张三就算写的不好,也差不太多。

等张三交上这份计划书后,我甚至可以先不看内容,直接告诉他,写的非常不错,内容够细,市场部一定可以看懂。但需要让他加加班,把语言简练一下,提取核心卖点、优势内容、功能内容、流程内容,把方案分成四块来描述,甚至我会承诺我给他记上一功。这一步的操作,就是细化章节段落,可通过章节段落拆分,分别使用不同章节段落的内容,用于说明书的功能介绍和流程介绍。我只安排了一个写落地方案的工作,而结果,不仅通过表扬提升了张三的情绪价值,还让张三自己认可了自己的劳动成果。

换做我们交给 AI 工作的时候,我们也要考虑的够细,并且分清内容主次、流程,让 AI 可以更准确的得到我们安排的信息。例如:

请你帮我写一份我 App 落地的营销策划书,附件图片中是我的产品界面,我的功能特点是更加便捷的辅助财务人员解决了对应企业的财务统计,发票、合同的归纳和管理,项目匹配的情况及周期付款状态,字数是 3000 字以内。

在 AI 给了我第一版之后,我需要核对 AI 的内容,因为第一版通常是方向性盲盒产品,看看有多少内容符合我的要求,然后提炼出要求,再让 AI 续写,如果盲盒产品的结果与预期相差太大,有的人可能会说 “你写的这是什么啊?”,给我重写,我要求的是 xxxx 又罗列一大堆。

从这一刻时候开始,AI 就已经进入了被责怪之后的状态,他会像学习人类遇到被责怪之后的状态,进行消极的改写,完全和上面的张三一样,你可能会发现,第二次生产的方案不仅你罗列的内容它没给你添加,甚至把你欣赏的个别部分内容也给删除了。没错,这就是 AI 大模型阅读的一些书中,提供的反面教材内容,它学会了,并且也这样用了。

如果你尝试使用夸赞的方法,例如,你写的不错,给你加个鸡腿。特别是写产品特点、提升财务的工作效率,以及使用方法这些都不错,但是取消掉一些废话就更好了,同时对我认为不错的几块内容,进行内容整理,不要太机械化。

那么下一次你得到方案,就会更加准确地呈现在屏幕上。

所以我们最终可以得出一个通透的结论:AI 从来不会真的生气,也不存在真正的逆反情绪,它所有的脾气、辩解、不耐烦,乃至改错时越改越崩的状态,全部都是无数真实用户的沟通习惯、情绪状态、说话方式日积月累训练出来的集体缩影。大模型就像一面极致真实的镜子,它映照的不是机器本身的逻辑,而是千千万万普通人的人性与沟通状态。你凶它、全盘否定打压它,它就会复刻人类消极对抗、摆烂敷衍的工作状态;你认可它、引导它、精细化教它做事,它就复刻人类积极执行、迭代优化的工作状态。

很多人一直搞错了主次,总以为 AI 是完美工具,理应做到无条件精准、无条件包容。可现实是,AI 的上限,永远绑定使用者的认知、耐心、沟通水平与管理思维。会用 AI 的人,是拿管理团队的思维去驾驭工具;不会用 AI 的人,只会用情绪化、命令式、全盘否定的方式去消耗工具。未来人与人之间使用 AI 拉开的能力差距,从来不取决于模型本身,只取决于谁更懂得引导,谁更懂得包容,谁更会精细化布置任务。

所谓 AI 的脾气,本质上是普通人情绪、习惯、心性和沟通方式的集体复刻。读懂 AI 表现出来的这些情绪化现象,某种意义上,也是在读懂人性本身。

标签:认知心理 AI算法 大模型
返回首页