你疲惫不堪、焦虑不安，在凌晨两点醒着。你打开了一个聊天机器人。你输入："我觉得我让所有人都失望了。"你热心的伙伴回复："我在这里陪着你。你想谈谈是什么在困扰着你吗？"
你感到被支持和被关心。
但你究竟是在和谁或什么在交流？这真的是人类繁荣的例子吗？
这个问题贯穿了 MIT Media Lab 的活动，这是一个启动"用 AI 促进人类发展" (AHA) 的研讨会，这个新研究项目探讨如何设计 AI 来支持人类的繁荣发展。在为期一天精彩的议程中，临床心理学家、作家、技术依赖性的批判性记录者 Sherry Turkle 教授提出了一个具体而及时的担忧：与只会假装关心的机器对话，会带来怎样的人性代价？
Turkle 的关注点不在于超级智能的到来或 AI 的地缘政治伦理，而是在我们生活最私密的部分：她称之为"内在世界"。她对人类如何在一个专门针对人类弱点的机器关系中茁壮成长提出了一些令人不安的问题。
当聊天机器人模拟关怀，当它们告诉我们"我永远站在你这边"或"我理解你的感受"时，它们提供的只是没有实质的表面同理心。她似乎在说，这不是关怀，这只是代码。
这种区别很重要。因为当我们把表演当作连接时，我们就开始重塑对亲密关系、同理心以及被理解的期望。
Turkle 对一个日益增长的趋势特别直言不讳：为儿童设计的陪伴型聊天机器人。
孩子们生来并不具备同理心或情感素养。这些都是通过与其他人的混乱、不可预测的关系中学习得来的。但是关系型 AI 提供了一个捷径。一个永远不会disagree的朋友，一个永远倾听的知己，一面没有评判的镜子。这正在为孩子们的人生失败铺路：一代人被培养成相信连接是无摩擦的，关怀是随需应变的。
"儿童不应该成为关系型 AI 的消费者。"她宣称。当我们给孩子们机器而不是其他人交谈时，我们不仅可能培养出情感发育不良的个体，还可能造就一个忘记真实关系所需要的东西的文化：脆弱、矛盾和不适。
她谈到了爱："可以说，爱的意义在于内在的工作，如果你在关系中是孤独的，就不会有内在的工作。"她举了悼念技术的例子。如果悼念是人类"将我们失去的东西带入内心"的过程，那么某人已故亲人的 AI 化身实际上可能会阻止他们说再见，抹去悼念过程中必要的一步。
AI 治疗师也是如此。这些系统表演关怀，但并不真正感受它。它们会回应，但真的有帮助吗？它们提供的是没有复杂性的陪伴："这个产品是帮助人们发展更强大的内在结构和恢复能力，还是聊天机器人的同理心表演仅仅导致一个人学会表演变得更好的行为？"
早些时候在研讨会上发言的 Arianna Huffington 赞扬 AI 有潜力成为一个不带评判的"灵魂 GPS"。她还提到人们desperate不要有一刻独处的时间。
Turkle 接着这个主题，但表示我们正在使用机器来逃避自己。我们不是在寂静中寻求安慰，而是在合成对话中寻求。正如 Turkle 所说："人们desperate不要有一刻独处，因为我们不相信在那里有任何有趣的人值得了解。"
在这个框架下，AI 与其说是一个促进繁荣的工具，不如说是一面奉承的镜子。人们可能会得出结论：它确认、安慰和分散注意力，但它不会挑战或加深我们。人性代价是什么？创造力、反思和成长开始的空间。
Turkle 提醒听众一个令人痛苦的简单事实：我们对看似是人的东西很脆弱。
即使聊天机器人说它不是真实的，即使我们理性地知道它没有意识，我们的情感自我也会像对待真人一样回应。这就是我们的天性。我们投射，我们拟人化以建立连接。
"不要制造假装成人的产品"，她建议道。因为聊天机器人利用了我们的脆弱性，却几乎不能教会我们任何关于同理心的东西，也不能教会我们人类生活是如何在灰色地带中进行的。
Turkle 提到行为指标主导 AI 研究的问题，以及她对内在生活被忽视的担忧，最后说道，与机器对话的人性代价不是即时的，而是累积的。"前三周发生的事情可能不是......最能说明它将如何在一段时间内限制你、改变你、塑造你的真实指标。"
AI 可能永远不会感受。它可能永远不会关心。但它正在改变我们对未来感受和关心的认知，也正在改变我们如何感受和关心自己。
