“你以为是你在选择看什么。但实际上，是算法在选择让你看什么。”
寒晓东看着那些数据，沉默了很久。他想起自己每次打开那款应用时，确实有一种“停不下来”的感觉。他以为那是自己的自制力不够强。但现在他才知道，那是算法精心设计的结果。
“这种行为设计，与情感操纵的区别在哪里？”他问。
“区别在于意图。”影子说，“传统的情感操纵，施害者有明确的恶意，目的是控制受害者。而行为设计，设计者可能没有明确的恶意，目的是提高用户参与度。但两者的效果，是相似的——都在一定程度上剥夺了用户的自主权。”
“而且，行为设计的隐蔽性更强。用户不会觉得自己被操纵了，只会觉得自己‘自制力不够’。这种自责，反而会让他们更加依赖那些产品，形成恶性循环。”
四、寒晓东的反思
行为设计的发现，让寒晓东陷入了一种深刻的反思。
他想起自己曾经在联合国演讲中，将情感操纵定义为“未经对方明确同意，利用技术手段或其他方法，故意影响对方的情感状态，以达到控制对方行为或谋取利益的目的”。这个定义，现在看来，过于狭窄了。
行为设计，虽然可能没有“明确的恶意”，但它同样在“影响对方的情感状态”，同样在“控制对方的行为”。而且，它同样是在“未经对方明确同意”的情况下进行的——没有人在注册账号时，被告知“我们将使用心理学技术来影响你的决策”。
“我们需要扩大情感操纵的定义。”寒晓东在基金会的内部会议上说，“不能只看‘意图’，还要看‘效果’。如果一个产品或服务，在未经用户同意的情况下，系统性地影响了用户的情感和行为，那么即使设计者没有恶意，也应该被视为一种情感操纵。”
这个观点，引发了激烈的争论。
一些成员认为，寒晓东的观点过于激进。如果把行为设计也纳入情感操纵的范畴，那么几乎所有的主流互联网产品都会受到影响。这可能会导致科技行业的强烈反弹，甚至可能引发法律诉讼。
另一些成员则认为，寒晓东的观点还不够彻底。行为设计只是更隐蔽的情感控制的一种形式。在现实生活中，还有许多其他形式的隐蔽控制，比如“煤气灯效应”、“情感忽视”、“善意操控”等。这些形式，同样需要被纳入监管的范畴。
五、煤气灯效应
在讨论中，基金会的首席心理学家王敏提到了“煤气灯效应”。
“煤气灯效应，是一种非常隐蔽的情感控制形式。”王敏说，“它的特点，是通过否定受害者的感知和记忆，让受害者怀疑自己的判断力，从而更加依赖施害者。”
“比如，施害者会反复告诉受害者‘你想多了’、‘你记错了’、‘你太敏感了’。久而久之，受害者就会开始怀疑自己的记忆和判断，觉得自己可能真的有问题。这种自我怀疑，会让受害者变得更加顺从，更加容易被控制。”
“煤气灯效应的可怕之处，在于它让受害者自己成为了自己的狱卒。受害者不需要被锁链束缚，因为他们自己会告诉自己‘我不能离开，可能真的是我想多了’。”
寒晓东听着王敏的描述，想起了自己在饲主网络中的经历。那些被植入的记忆，那些被扭曲的认知，那些被操控的情感——本质上，就是一种系统性的煤气灯效应。
“我们该如何防范煤气灯效应？”他问。
“最好的防范，是建立‘信任基准线’。”王敏说，“每个人都需要有一些自己绝对信任的人或物——可以是亲密的朋友，可以是日记，可以是客观的数据记录。当有人试图否定你的感知时，你可以用这些基准线来校准自己的判断。”