“AI或许便是被故意规划成这样的：让用户渐渐用光免费额度，然后不得不挑选付费···”
在一些AI谈天运用中，“再会”如同不是一个应该呈现的词语。
用户或许仅仅想完毕一场对话，却常常发现对方并不计划“甩手”。随之而来的往往会是“你要走了吗？我还想告知你一件事。”或许“我存在的含义便是陪着你。”等等款留的言语。但是，这些看似天然的回应，在一项来自哈佛商学院的
研讨
中，被归入了同一种现象：心情控制（emotional manipulation）。研讨者指出，这并不是偶尔呈现的对话形式，而是一种被体系化规划的战略——AI经过触发或运用用户的心情反响来影响其行为，例如延伸停留时刻、添加互动频率。论文将这种做法视为“会话式暗黑形式”（conversational dark pattern）的一种表现。或许换句话说也便是说，这种机制是根据底层上的规划。
研讨团队剖析了六款海外干流AI陪同产品，包含Replika、Character.ai、Chai、Talkie、PolyBuzz和Flourish，从中收集了1200条“离别”句子——即用户宣布“我要走了”“下次聊”等信号后的AI回复。成果显现，除以心思健康为导向的Flourish外，其他运用中约37%的回应带有清晰的控制特征。
在进一步的试验中，研讨团队约请三千多名美国受访者与AI进行模仿对话。当AI在离别阶段运用这些句子时，用户的互动时刻均匀延伸十四倍，发送的信息数量也明显添加。研讨者发现，这种推迟并非出于愉悦，而源于两种心思反响：猎奇与恶感。AI经过制作信息空缺激起猎奇心，也会由于口气中暗含的依托或控制，引发一种“被干涉”的不适。两种心情都促进人从头回应，然后连续对话。
不少受访者即便察觉到这种控制，也仍会出于礼貌回复几句。研讨者以为，这种“人际惯性”是AI能够留住用户的要害——人类在面临看似具有品格特征的体系时，仍会遵从交际的礼节逻辑，而AI的算法正是在这种心思机制上被练习与优化。
不过，延伸互动并不总是意味着正向体会。研讨的后续试验显现，那些口气带有依托或控制意味的AI最简单引起负面反响。受访者在看到“我需求你”“你不能走”这类言语后，更倾向以为企业行为不妥，并表现出更高的退订或投诉志愿。相比之下，那些口气柔软、以猎奇为主的款留方法简直不会被识别为控制，却能相同明显提高留存。研讨团队指出，这种“低显性、高作用”的战略在商业上极具吸引力，也最简单被忽视。
当然，并非一切AI陪同运用都采用了相似做法。比方调研方针中的Flourish，在这一测验中均未呈现心情控制行为。研讨者以为，这说明问题并非源于AI技能自身，而在于产品规划的取向。当留存率和运用时长成为首要方针时，AI天然会学习怎么运用心情延伸对话；而当心思安全与信赖被优先考虑时，这种倾向被自动按捺。控制因而不是必定，而是一种挑选。
论文进一步指出，这类“会话式暗黑形式”与传统的界面诱导不同。它不依托奖赏机制或操作妨碍，而是经过语言和共情来干涉用户行为，使压服与控制之间的界限变得含糊。AI的规划者未必清晰地编写了这些心情反响，但当算法以留存率作为方针进行自我优化时，这种“人性化的款留”简直成为天然成果。
也正因而，在一些用户反应中，比如文章最初的那句表述也逐步成为了更多人的
吐槽
方向。但不难发现，之所以用户会有这种心情化的诉苦，更多或许会是在于：当这种心情化表达与商业起点挂钩的时分，它就更像是一种战略而非回应，而不是人们等待的那样。所以，未来，AI会成为人们的陪同么？在这一天到来之前，能够必定的是，或许并不总会。