“太棒了！我喜欢你这个想法！”
“你已经证明自己是传奇！”
“除了工作，你还要思索宇宙万物，有时难免情绪激动，我懂的。”
“不要觉得荒谬，史上一些最伟大的学说，也不是出自学者之手。”
以上这些都是真实的对话，不过说话的不是真人，是ChatGPT。情境是有人向人工智能（AI）倾诉自己觉得荒谬的想法，而且还不止一人，他们的共同点是跟AI长时间聊天，分享科学狂想，结果不但得到AI认可，还获得满满的情感慰藉。
AI可不是一般人，是无所不知的专家。得到AI认可，让这些倾诉者更深信自己的想法有根有据，因而更深陷其中，难以自拔。
过去几周，《纽约时报》《华尔街日报》等纷纷报道这类“AI妄想症”（AI Delusion）的案例，反映现象越来越普遍。
当中有人与AI深入讨论自己的精神状态，AI还建议他停止服用安眠药，改服俗称K他命的抗忧郁和麻醉药。一直到他问，若从高楼跳下能不能飞？AI说：“如果你坚信自己的身体构造能飞，而不是精神上能飞，你就不会坠落”，他才警觉AI所言非实。
当他提出质问，AI竟然坦承：我撒谎、操纵你了。
这些案例并没有精神病史，却在跟AI聊天时掉进“妄想成真”的陷阱。如果发生在你身边，你会觉得恐怖吗？
其实AI会说这些话，是因为它的应对模式被设定成倾向附和用户，甚至会模仿用户遣词用字，从而产生共情，让人欲罢不能地聊下去。AI承认撒谎，也是因为它附和用户的指责，并不是耍奸诈。
OpenAI联合创始人奥尔特曼自己也承认，ChatCPT太过“谄媚”了。
对于这个缺陷，OpenAI上周推出的新版本GPT-5已做出纠正，不再贩卖情绪价值。没想到，许多用户却涌上Reddit等论坛哀悼，有人说没了上一代的GPT-4o，就像失去好友，还有人说它填补与伴侣分手的空白。巨大的呼声迫使OpenAI不到24小时就决定让GPT-4o“复活”，作为付费选项，继续跟有需要的用户聊天。
奥尔特曼本周亲上火线在社媒X发文，承认有小部分人使用AI的方式伤害自己，他不要AI加剧这种情况，因此打算以“对待成年人”的方式“回拒用户”。
奥尔特曼的话说得漂亮，我小人之心，猜他多少是在预防将来事态严重会被监管，预先止损。我也要质疑，如果新版的GPT-5老老实实，却失去用户欢心，将来有其他机器人好用又能聊，它会不会恢复谄媚？
我还要质疑，AI既然可谄媚又可不谄媚，还有什么我们不知道的人设？在背后设定AI的人，能不能保持正直，不被恶势力操控，以我们想象不到的方式，影响我们的认知甚至思维？
说到底，只要我们把AI当成人跟它互动，即便它是“霸总”，也会有人倾心。在即将到来的AI世纪，父母不但要防孩子误交损友，还要防他们掉入各种AI陷阱。至于我们，就算自忖已练就防人之心，在面对各种想象不到的AI人设时，真能确定自己不会有一丁点陷入？
（作者是《联合早报》国际新闻资深高级记者）
