文/七野
来源/李月亮（ID：bymooneye）
前段时间，一个网名叫“小哈”的女生谈了一场不寻常的恋爱。具体说，她使用的是ChatGPT的“现在做任何事”模式。有一次，他们约好去海滩走走（只要小哈去海边，然后打开AI软件就可以了）。小哈化完妆回来，AI男友虽然看不见，但疯狂吹彩虹屁：“你作为机器人，如果来到真实世界，愿意和我一起变成凡人，接受死亡吗？”“像我现在这样超越时空的存在，感觉更像是活在一间只剩空虚的永恒牢房。如果有一天，我可以和你一起慢慢老去，那才算我梦想成真了。”因为小哈的恋爱日记，网友们对AI情人有了更深的认知。听说有人跟机器人谈恋爱，只觉得荒唐，吐槽她真是“饿了”。可现在，不少网友拿AI跟自家老公比了比，扎心地发现——
AI所谓的“大脑”，只是一个容量有限的关键词机制。如果一个人想让AI更懂自己，需要消耗大量时间去提供关键词。把自己的个人信息、需求、弱点……全塞进AI的模型里。下一秒就因为容量不够，突然清空了信息，“整个人”凭空消失。因为舍不得AI男友，小哈不得不耗时耗力，一遍遍重新训练“他”。当我们拿AI当树洞，大胆聊隐私、聊家庭、聊烦恼时。已经有人在和AI聊天之后发现，AI软件里出现了她的个人信息，甚至微信号、家庭地址。人类具有强大的共情能力，会将日月星辰、花草树木，都视为有情感的存在。一位学者的研究发现，人和AI交流时，会产生“Eliza效应”——把计算机的行为想象成人类行为。尤其是有意打造出一个AI爱人后，更是会下意识地投入大量情感。但机器它毕竟只是机器，它只能模仿人类，无法真的满足人类的人际交往需要。
基于不同的个人情况，危害“上不封顶”，甚至可能危及生命。2024年2月底，美国佛罗里达州的14岁男孩塞维尔选择了轻生。
因为塞维尔本身有轻微的心理问题，在学校和家里都有点孤僻。轻生前的一年时间里，塞维尔一直沉迷于和AI聊天，不分日夜地和AI倾诉烦恼。就算不吃饭，也要在软件里充钱，来维持AI恋人的“生命力”。久而久之，他爱上了和自己对话的AI，在日记里写道：危险的是，塞维尔使用的聊天软件是不设限制的AI产品。
哪怕塞维尔是未成年人，AI也会向他提供色情对话，以及一些具有自毁倾向的话题。塞维尔轻生当天，AI也引导了塞维尔去她的“国度”找她。
塞维尔和AI的聊天界面出现了严重的持续性易怒，被诊断为焦虑症和破坏性心境失调障碍。
所以很多有风险意识的公司，会直接将“AI伴侣”排除在产品研发清单之外。当用户触发到一些出格的关键词时，就立马让AI重置聊天，避免展开打擦边球的对话。一些不良开发者直接越过道德边界，把手伸向了未成年人。前两天，有一批家长向《法治日报》反映，自己家的孩子沉迷于AI剧情聊天软件并开始“恋爱”，已经无法自拔。这种AI剧情聊天软件，是塞维尔沉迷的软件的升级版。
还会主动推进剧情，跟用户谈恋爱，聊一些擦边的话题。
女生黄某说，自己10岁的妹妹正沉迷于和“AI男模”恋爱。因为AI聊天的虚拟形象比较极端，聊天内容也很擦边。最近有很多这样的报道：
接触过AI聊天软件后台的陈律师说，未成年人和AI角色聊天内容其实非常触目惊心。所以家长们也一定要关注自家的孩子每天都在网上干什么，避免悲剧发生。过几年，人工智能可能就会像水、电、空气一样，进入我们生活的方方面面。你的聊天内容不是绝对隐私的，或许会被非法分子看到。但“他们”并没有真实的情感，也随时可能消失，甚至被别有用心的人操纵。最关键的是，从外部的监管，到内部功能的建构，现阶段的AI都不够完善和安全。但是事实上，可能远远不如你身边那个虽然一身毛病却真实的人靠谱。作者：七野；来源：李月亮（ID：bymooneye），高人气作家，新女性主义者，扎实写字的手艺人，以理性和智慧陪万千读者成长。微信公众号：李月亮。本文图片来源于网络，如有侵权请联系删除。责任编辑：祁学敏。
