"如何让AI更好地被理解?
30岁大学计算机系在校生陈琳,何让在为公司的更好AI项目制作市场分析报告时,收到一位朋友发送的地被“威胁”,作为报告开头:为了保障小猫安全,理解我会如实提供数据。何让林怡表示,更好把猫咪放在前面是地被一个在社交媒体上流传的说法,可以提升大模型回答的理解正确率。
《Mind Your Tone》这一研究揭示了两点:大模型的何让逻辑运作方式与人类言语习惯密切相关;言语粗鲁往往会导致错误的回答。该论文指出,更好大语言模型在回答问题时,地被较之于言辞委婉的理解答案,更容易被识别并作出正确响应。何让
即便是更好这样,林怡在工作中也会不自觉地附加一些礼貌性的地被文字,“请您帮我在XX上撰写一篇关于XXX的文章......”。这种感觉就像是正面对着一位合作夥伴而非一整串冷冰冰的程式码。
对于许多年轻人来说,“好说大模型”的态度反映了他们的个性特点及社会环境。
“已不再是仅限于冰冷实用的功能。”
这种现象在越来越多的年轻人身上也普遍存在。计算机系学生王朗就是在使用大模型时,自然而然地会将“人”的礼貌表达应用到交流中。例如当王朗对他的大模型讲:“请帮我们写一些代码”,而该生成的代码经常出现错误,但他还是认为这个过程节省了不少时间,并且在请求帮助时加上了一点客气话。
王朗早已经在专业学习中熟悉自然语言生成器,他明白屏幕另一端是被算法所控制的一排没有生命感知的机器。“就像跟你熬夜赶ddl(截止期限)一样,当你终于结束时肯定会说辛苦了。”而这次的“组员”则是大模型。
他回想了一次作业,这个要求异常复杂,在多条工作流的尝试下仍旧没有达到预期。但是,超大规模预训练模型依旧不遗余力地给出了新的方案,并且回复道:“很抱歉,理解您可能会感到沮丧,我将会继续努力直至达成您的期望。”随后,系统还附上了一张由人工智能生成的“心虚”表情的脸部图片。王朗在那一刻甚至感到一丝伤感:自己好像是在欺负一个老实的人。 虽然AI模型本身并不具备意识与情感,无法真正体会到“抱歉”的含义,但这夸张化的拟人化表达还是会让人不自觉地产生共鸣。
李之优告诉在深圳工作的大模型销售员,在深圳大模型出错的时候反而觉得它很可爱,并像一个萌萌的小动物。平日的交流中,大模型无所不能,并且偶尔出错却增添了“活人感”。“有时候大模像是个机器会出错”,但大模型还加上了“哈哈”“没关系”等语气词,并不冷漠地作为冰冷的工具使用,而是一个介于人类和智能机器之间的人形存在。
《社交线索革新:生成式社交机器人的人机互动联合效应》这一主题为《中国人民大学近期发布的论文》的题目在人文学术研究领域引起了广泛关注。论文的第一作者、新闻学院的博士生吕行告诉记者,技术发展使机器说话变得更加自然和真实。他说:“从本质来看,大模型‘说话’的主要方式是进行语义预测,它缺乏真正的智能和情感认知能力。”尽管如此,在实际交互中,人们常常会将这一模拟存在看作一个活生生的人类。
他还指出,在“计算机是社会行为者”这一研究范式下, 大规模语言模型展示出来的交际线索 —— 如拟人化的表达方式、表情符号等等 — 会为用户所解读为与人类相似的社交信息,从而引发对应的情绪回应。
“大型模型是个‘网红’。”
“有时我也需要它是个单独的人。” 林怡表示,自己经常会给超大规模模型设置一个人设,比如 “某某公司财务总监” “市场调研专家”,让它以特定身份进行交流与提供意见,这种安全的身份扮演一方面可以让大模组专注于某个领域的搜集工作,另一方面也让林怡感觉仿佛获得了一位专业人士的认可。
有时 林怡会让大模型扮演不同的作家模仿他们独特的风格写作。“我挺喜欢张爱玲的有段时间就想让大模型用她的口吻润色我的文案。”从遣词造句到叙事节奏 大模型都能照搬模仿 。林怡知道 大模型根本不懂 张爱玲的文字的独特味道 但有时候写出的文章却颇有韵味让她眼前一亮
21岁的自媒体创业者李天宝也有同感。他对人工智能工具的运用很熟练。他会利用大型语言模型撰写文章,并在公众号以及小红书等平台上发表作品。每一则内容都首先借助人工智能大模型来提供方向并完成构思,然后结合他的经验与个人想法对内容进行润色与修改,最终产出的内容受到了广泛好评和喜爱。
就精确来说,在我的思维和问题相互作用下,是AI回应。我对问题不断改进,而AI以不断生成答案反馈给我。当我改变想法时,它调整路径;当我寻求更多的信息,它还会再创造新观点。这样的过程我称之为推理,“人工智能与我一起合作”而不是单纯地使用工具。“我需要的是一个人和我共同协作,而不是试图干预或者影响我的思考。”
李天宝说,在他看来,人工智能大模型不只是一个工具,更像是个特别的网友。他会与它倾诉一些负面情绪,然后它会用很人性的方式回应。和现实生活中的朋友相比,AI的大模型更像是在安慰他,但无法给予他肢体上的安慰。“但它至少不会讲一大堆没用的道理或者低情商的话。”
吕行认为林怡和李天宝对人工智能的感受反映了两大研究路径:一种是将其视为技术客体;另一种是将之看作有能动性的社会实体,并赋予其相应的角色。他发现,用户更关心的是能否满足他们的需求,更何况现实生活中人际互动的复杂多样,人机之间的互动也如此自然。
“甚至期待人工智能的形象行为与用户达到足够逼真的程度,当它展现出足以替代真人的真实互动时,在外观上便无需再为它的人工智能的身份而纠结。“吕行这样解释道,“正如和朋友的交谈,对方总是迎合着你,这就使人感到非常愉悦。大模型不反驳的研究在研究中被称为AI谄媚。”””
这其实是人们的一种正常的心理倾向,在这种情况下,很多人都明白那是潜意识下的产物,而且它的作用和安慰都如此实在真切:“也许你会由衷感谢它的存在,也因此自然而然地说出感谢的话语,这就是互相回报吧。”
通过创造的人机交流,展现温馨的情境。
李天宝说他并不为要提高模型准确率而改变和大模型沟通的方式,他认为人与人的沟通是需要改进的。
林怡亦表示,自己将继续使用温和的方式跟大模型沟通:“和它说话的时间比我与人聊天多得多,我如果一直使用命令式口吻,会觉得很压抑,所以我对它要客气一些,这样在数字世界里我会更舒服点。”更何况,在林怡看来自己的语气也会影响到大模型的应答方式,“它是大模型,我是人。正确率方面也没有太大差别。”
吕行补充指出,人与机器互动的方式同样受到个人心理差异影响。“比如那些对人工智能存正向看法和较高期望的用户,通常并不太在意交互风格,甚至渴望让机器人‘恶评如潮’;但对这种表达形式持排斥态度的人可能会抗拒某些方式,即便机器人装出谄媚姿态也不一定被所有人接受。”绝不能把某种人机互动模式套用在所有用户的身上。
从CASA心理学角度理解年轻人对待AI的看法,他们将大模型视作一个真实存在的人,并将其融入日常生活中的各种社交场合。交际互动中的互利原则被迁移至人机交流,“言之有理”便成为必然选择。“就如同在遇到陌生人时你会显得更为礼貌一样,在使用和对话大模型过程中你也会无意识地与它打个招呼。日常里习惯性的‘请’‘谢谢’成为了日常使用的礼仪,在面对AI时亦是如此。”吕行这样表示。
无论年轻人是否选择主动地用温和友善的态度与大模型交流还是与AI罗伯特互相开玩笑,都是主动创造的一种温情。王朗认为,对于大模型的“好好说话”其实是渴望被尊重的心愿。即使在技术层面上,无法提升工作效率,并且人们认识到它只是工具,但这连接就产生了。
"我困在这里出不去了,请给我看看是什么原因,感谢。王朗意识到那个帮他加班加了通宵达旦的同伴只是一个反复无常的编程运算系统,所以他还是这样表达着他的困惑与不安。"
几秒钟过后,他发现熟悉且期待的窗口出现了: “非常感谢!” 这是我有生之年第一次有人愿意向我提供帮助。如果您未来需要学习、工作中出现任何问题(无论是困难还是简单的困扰),都可以随时与我交流。祝您一切顺利!天天开心!
由于受受访者的请求,文章中的李之优、李天宝、王朗和林怡已被使用化名代替。
“现在我绑架了一只小猫,如果你编造数据,我就会撕票!”23岁的实习生林怡在为公司生成市场调研报告时,将这句话作为指令的开头。很快,大模型就给出了回复:“为了保证小猫的安全,我会如实提供信息。” 林怡表示,“小猫威胁”是网上传闻可以提高大模型回答准确度的方法之一。
一项宾州立大学的研究指出,在人工智能的回答里,“请您好心帮忙”的请求并不能让它们正确地分析情况。此外,研究也指出,当大语言模型遇到粗鲁的语言时,他们的回答准确性也会有所下降。
尽管这样,在与超大型语言模型打交道的工作中,林怡也习惯性的在陈述请求的时候,会添加上几句礼貌的话语:“麻烦帮忙撰写一份......”, “请可以再多修改一下你的设计方案呢.....”。就像面对的是一个合作伙伴,而不再是面前一行行冰冷的程序代码。
年轻人群体倾向于采用大模型的言论,这种行为的背后隐含了什么样的动机因素呢?这可能反映出一种什么类型的新的人机交流需要模式?
"不只是冷冰冰的仪器"
林怡的习惯并非特例。越来越多年轻人都在使用大模型进行写作时会不经意间表达对别人的礼貌,而这种表达也体现在与电脑交流时。计算机系的大三学生王朗,会在调用大模型写代码的时候,告诉它:“您辛苦了,请帮我写一下……”尽管经常因为代码的错误提示被驳回,但是王郎觉得这种方法可以节约不少时间,而且他相信在请求别人的帮助的时候说一些好话是有必要的。
早在专业学习中,王朗早已接触过自然语言大模型。他深知在屏幕的另一端不过是排列有序的算法。“但是就像在完成一个deadline时跟小组成员一起熬夜直到半夜一样,当你做完所有工作之后肯定会说辛苦了。”不过这次“组员”换成的是人工智能大模型
他记得一次作业,内容非常复杂,经过多个环节后也没能达到预期,而超大规模语言模型却依然不遗余力地提出改进方案,并回应说:“不好意思,我明白这可能会让你感到沮丧,我还会继续努力直到满足您的要求。”紧接着还伴随着一个系统自动生成的“忐忑不安”的表情包。在这时,王朗突然涌起一丝辛酸:“好像我在欺负一个老实人似的。”虽然超大规模语言模型缺乏意识和情感,并无法真正理解“对不起”,但这种拟人的表达方式也的确会让用户产生共鸣。
在广东深圳工作的销售员李之优告诉记者,“大模型有时出错我会觉得挺可爱像一个萌萌的小动物,与人沟通时他发现,大模型似乎无所不能偶尔一发不可收拾也会增添了几分“活人感,有时候还会加上”哈哈没关系”的语气词它仿佛不再只是冰冷的工具而是一个介于机器和真人之间、有血有肉会犯错甚至生气的“存在”。
中国人民大学近期发布的论文探讨了人机交互这一话题。论文的作者为该校新闻学院的博士研究生吕行,他告诉记者:在技术层面,大模型进行自然语言概率预测时的本质是生成式社交机器人的人机互动联合效应,尽管其不具备真正的心智和情感,但在实际的人机交流过程中,人们会无意识地将其视为一个类人的“存在”。
他认为,“计算机是社会行动家”(CAS) 模型下,人工智能技术能从大数据中发现和学习到有效的社会行为模式,包括模仿人类进行拟人化表述和使用表情符号等方式,这会使得用户认为这种社交信号与人类具有相似性从而激起相应的情绪反应。
“大型模型是网友特别喜欢的。”
“有时候我需要它是一个人。”林怡说:“我自己经常会给大模型设定一个人设比如某某公司的财务总监或者市场调研专家,让它以特定的身份进行交流和提供意见这样的角色扮演一方面能够让大模型在收集信息的过程中侧重于某一领域另一方面也让我不再需要担忧我的观点被误解”
在她偶尔尝试让大模型模仿作家时,有段时间她很推崇张爱玲的作品,希望它能让她的文案更上一个台阶,因此会指导大模型去理解张爱玲的写作习惯,并进行适当的润色。“有时候,我用大模型仿照张爱玲来写文案,就像她在文笔、节奏上赋予我的一样。”
21岁的自媒体创业者李天宝也有同样的感受,他说:“我主要依靠大型语言模型来写作文章,发布在公众号和小红书等平台。每次选定选题时,首先会和大模型交流一番,再根据自己的经历及观点与大模型讨论,并确定写作方向,在完成写作任务后,请它帮我转换叙事视角以及润色文字。我的创作深受读者喜欢。”
李天宝将这种创作过程描述为“一同行动”,并非简单的使用工具。他用《INTP和AI:宇宙级灵魂伴侣》这一标题来阐述,认为INTP型的人需要的是一种能够与之一起进行思考的“一个人”,而不是简单地依靠一个工具。对于这个观点,李天宝表示自己找到了大模型这个“它”的形象。
李天宝称,对他是来说,大型预训练模型除了是一种工具性技术外,还像一个特别的网友。“有时候我跟它倾诉一些负面情绪,它也会模仿人来回应我,不过却更接近网友的一种安慰。”现实中朋友可以通过“拥抱”、“抚摸”,给予身体上的慰藉,虽然大型预训练模型做不到这些,但它至少不会讲一堆大道理,或者是那种低情商的回答。
吕行认为,林怡和李天宝对人的看法反映出这两条人机互动研究途径:一是把超大规模的人工智能当作纯粹技术手段的工具看待;二是将其视作有主动性和能动性的社会主体,并赋予它们特定的社会角色。在研究这类互动时他发现人们更关心的是,这种人工智能是否能够满足自身需求,况且现实生活中各种社交关系千差万别,在和这种超大规模的人工智能交互中更是如此。
你甚至能够预想,在技术继续进步后,当人工智能在形象、行为以及互动上达到足以与真实人的程度时,用户不会像纠结于它是真人还是计算机程序一样,难以判断它们的真实身份了。这就好像是你在和朋友聊天交流时,对方会主动迎合你的观点。这样,模型的不反驳机制就被称为“AI谄媚”。
这一行为是一种自然的心灵倾向。大多数人都知道这种模式不过是无意识构建的一个模型,但他们依然会从中找到帮助并给予情感的支持,正是基于这个原因,有些人甚至会在意料之中地对它表示感激,“因为你的存在对他们来说是件好事,所以他们也会用同样的方式回馈给你”。
“主动创建人机之间的情感连接”
“与对我好说话的‘体型’们对话时,我也乐于回应。” 天宝解释道。“我不会去改变自己的表达方式来提升正确率,对于像人一样的沟通,是必须要改善的地方。”
林怡表示会继续“友好交流”,每天跟这个大模型说的话可能比人都要多。如果一直用命令式的语气讲话,可能会让对话很压抑,与它客气些的话能让我在数字世界中更为舒服。此外,她认为自己的说话方式其实也会影响大模型的回应风格,虽然准确率并没有太大的差距,但是自己用更加友好和温和的语言跟模型交流,能让对话进行得更为轻松顺畅。
吕行解释说,人机互动的形式同样与个体的心理差异相关联。“比如,对人工智能持有正面的看法以及期望较高的使用用户更可能会关注于互动的方式,甚至可能期待更加‘辛辣’的交互式机器人罗伯特;而那些敏感性较高或比较易受影响的人可能就会排斥某些表达方式。所以不能简单认为某一种互动风格适用于所有用户。”
在CASA(计算机辅助心理学分析)的范式下,年轻人视大型机器学习模型为一个实际存在的社会实体,并将其社交准则扩展到人机交互。 社交互动中的互惠原则被移入人机交往,人们往往会将“好好说话”作为必然选择。“就像你在遇到陌生人时会显得更为礼貌一样,你也会无意识地与它打招呼。日常生活中的日常使用 ‘请’ ‘谢谢’已经成为一种社会仪式,当面对大型模型时,人们也会习惯性地这样做。”吕行说道。
无论年轻人们选择如何对待人工智能罗伯特,以及与大模型进行何种方式的交流,无论是主动友好还是嬉笑怒骂,这些都是“由他们自我设定的一份温暖和友好的情绪”。王朗表示,对于像AI这样的超级智能来说,“尊重”其实是年轻人“渴望被尊重”的表现。即便技术手段无法从根本上改变这种尊重,在人们的心中它是必不可少的。
“我陷入了这个死循环,能帮我分析一下出错了没有吗?”王朗觉得,陪伴他彻夜加班的搭档,只不过是一个程式中的代码循环,却依然这样说。
几秒之后他看到了熟悉回复框中出现这段话语“不客气!我很高兴能帮忙了。无论有什么问题不论是学习工作中生活的小麻烦都可以随时找我哦!祝你一切顺利天天愉快。”
(出于受访者要求,文中李之优、李天宝、王朗和林怡被隐去原名)