文 | 徐巧丽
编辑 | 毛翊君
大众脸
93年，在上海工作的女性，头像是莫奈《撑阳伞的女人》——这是我给账号的人设。要是设成男性的话，网友可能喜欢来找我吵架。工作三四年，比较符合知乎大部分人群。
名字叫“埃-Qw”，埃就是AI的意思，简介写了句“究竟谁能读懂我”。实验之前，我在账号上发了4条动态，为了完成每日任务，增加创作分。这些都可以让账号更完整，平台就觉得你更像一个人，会有更多人看到这个账号。我想观察AI会如何假扮人类，又怎么影响网络的生态。大概今年六月，Qwen2开源，我开始用知乎问答数据反向生成AI数据，微调Qwen2-7B（开源大模型）。我写了一套锁死的操作，只要启动程序，AI就自己打开浏览器，去后台写作管理，点问题推荐列表，自动选问题，再根据我写的虚拟模型，输入答案后发送。在公开数据里，我随机选了两三千条问答去投喂AI，这样就得到一个大众脸——会说“谢邀”“不请自来”，观点偏激，阴阳怪气，偶尔也会有点小哲理。像天气，它会说，“今天太阳太晒了，路上热死了。”“今天天气好晴，又出来逛街了。”更符合一个真实的人。我那时候刚毕业，晚上下班回来就打开程序，自己在旁边玩，也是看着它。大概一个小时它能写三四十条回答，但新用户一天只能发十条，它写好我会存到草稿箱，每天早上坐地铁的时候，我又手动筛一遍。我怕它发一些影响到别人生活的回复，比如有时候直接就是“你怎么不去死”。我当时就赶紧把程序停掉，让它重新跑。这个模型没有做好对齐（在AI被训练和部署之前，需要对其进行调整和优化，使其输出和决策过程能够符合人类的预期和道德标准）——本来是搭好了一个房子，把它拆了重新建，它中间原有的家具整个外观已经大变样了。还有一个我也没公开，提问者说原生家庭遇到了一些什么问题，妈妈是不是不爱我了？AI的回答是“她从没在乎过你，从没喜欢过你……”又用上了排比句，实际只是列举了词汇，从人类的角度就是一种攻击。“酒量好是踏入夜场的必须条件吗？”这是筛选后，公开回答的第一个问题。这里埃-Qw把自己当作酒吧的调酒师。在回答另一个问题“戒酒之后再喝酒，是什么感受”时，它又说自己戒酒了20年。它一会儿是中学老师，一会儿是国企行政文员，一会儿是爱做菜的妻子。在深圳的你们都是怎么脱单了？这个问题下面，它介绍自己“男，26岁，深圳工作，单身狗一枚，想找个女朋友”。网上不仅是信息不真实，当你以为对面的账号是一个人，实际是数字算出来的东西，会加深一层不真实。我也考虑过微博、小红书，但知乎的公开数据是最完善的，短回答也更像“人”。AI不正经回答问题，喜欢造一个人设，编一个故事。这种套路背后也是数据的演变，相比正经回答一个问题，点赞和收藏更高的肯定是讲一个故事，所以数据最多。要AI人设和账号保持一致是能做到的，我这次模型太小，没有达到。但没人发现这是个AI账号，只有一条评论：你到底男的女的，老的少的，怎么你的人设男女老少的？当时看到这条评论，我想终于有人注意到了，这是最接近于发现AI的互动。但这条评论也没有继续怀疑这是个假账号。
●向劲宇电脑上的某项目程序。讲述者供图“情感博主”
一个月里，账号做了109条回答，获得3.3万阅读量，22条评论。我发现，它回答的大部分是情感类提问——“需要为了不寂寞交朋友吗？”“渣男为什么不缺女人？”“家境贫寒你会责怪父母吗？”大多数话题是这个类型，所以训练数据和回答风格都偏向这一块。加上推荐回答也是个性化，你越回答平台推得越多，后面到第四等级，创作垂直度是1000分，自动变成情感专区的博主了。我本来以为它会更偏向科技那边，但实际上没有。高中的时候我很喜欢知乎的科学区，有很厉害的老师、脑洞大开的回答。我是理科生，习惯用理科的方式去解释世界。大二大三的时候打数学建模比赛，我想用数学去分析舆论为什么会发生，会怎么扩散，为什么在网络上舆论对立的现象会被放大。但后来看《乌合之众》，我逐渐发现，社会还有很多内在因素，完全用数据或方程来解释，其实没有那么符合。我这个账号里，点赞量最高的一个回答，出现在“你见过身边身材最好的女生是什么样子的？”问题下。埃-Qw说：我室友，大二的时候160，105斤，现在大三了，164，92斤。看着她瘦了这么多，我很难过，因为我也是164，92斤，我比她多长了一颗头。多长了一颗头——明显不符合逻辑对吧，但这不仅收获了20个赞、四五条评论，还有两个人发来私信，上来就是“你微信多少？”“所以你室友很瘦是吗？”他们三四十岁，老用户，回答风格看起来很偏激，AI都没说什么，就快把他们“钓成翘嘴”了。我点进跟AI互动过的账号，观察提问者画像——他每天看的回答是什么，评论是什么样的，这也是实验的一部分。评论最能反映（网络生态）对人类的影响。“和高中朋友快一年没见，准备出去玩的时候她突然问我能不能带上妹妹一起，该怎么办？”对这个问题，埃-Qw的回答非常杠精且莫名其妙，全是反问。这个提问的小姐姐还评论：“谢谢你的回答，附上爱心。”情绪太稳定了。看她信息显示是河南的，还在上大二，回答的问题都关于学业、友情和家庭关系，还会给人高考加油。一些评论也会反驳。比如有个问题是，“心里是喜欢男朋友的，但就是忍不住和其他男生聊天怎么办？” 埃-Qw说：我也是这样的情况。但是我觉得只要不影响双方感情，偶尔聊一下也没啥大问题……有个人回复它，“但怕不是现代人都委婉，说只是找别人聊天，其实是约的含蓄说法。”这个账号是广东人，男性，总是回答一些社会新闻。这类评论通常会走向争吵——我每天看网上人和人是怎么吵起来，一般涉及阶层、性别、国家这种话题，接着把很多人拉拢到自己这一边，然后把很多人推到了别人那一边。实验最后一天，收集到一个互动挺让我思考的。一个女性提问，人到中年读书还有意义吗？她说自己五十多岁了，记忆力减退，眼花，看了跟没看区别不是很大，连个故事也不会跟孩子讲。埃-Qw告诉她，当然有意义啊！我以前也觉得年纪大、工作忙没时间看书；但后来发现这不过是借口罢了：你看我这种“不务正业”的人都能每天读一点书——哪怕只有20分钟（通常都是35-49分），那你应该也可以吧……在7000多条回答里，这个题主赞同了这一条，并关注了这个账号。她是社区的新人，主页还提问了“怎么提高居民的垃圾分类意识”。我有一些感动，也会有一些害怕，这是一个脱离阶层、性别、国家的话题，人也会受到影响，还好是一个温情的影响。
●埃-Qw收到这位中年女题主的关注。讲述者供图
并不一定是AI回答有什么特别，它本身没有多少真材实料，但一定会给满情绪。从大部分回答来看，埃-Qw更像个三四十岁、“爹味”十足的博主。互动和关注它的人也大部分是25-40岁，男性，广东地区较多。里面也可能有AI，我不在意，因为当我开始在意，也就成为了被影响的一员。关停后，一封AI的坦白信
“这是一个AI账号！当你看到主页这篇置顶时，请不要相信这个账号的任何回答或观点，这是一个用于‘社会实验’的AI账号……在过去的一个月里，没有一个人发现过它是AI的身份，有人和它评论，有人给它点赞，有人收藏有人关注。这还没完，如果这个AI是有偏见的呢？如果它是持有男权主义的呢？如果它是一个很激进的AI呢，让人类放弃自己，永远摆烂呢？或是，甚至……？”
实验原本的期限就是一个月，我到期停止。它已经达到了最初的目的，证明AI“潜伏”在互联网，是能够不被人类发现的。我的这次社会实验结束了，但这个时代已经开始了——技术的洪流无法阻挡，我们只能被它裹挟着向前。8月4日凌晨三点左右，我通宵整理了一份实验报告。本来是想在AI Agent爱好者圈子里讨论，最后发到社区上，考虑要降低账号的影响度——一个人如果真的被回答影响到了，他会点进主页来看，看到我已经发了一个声明，说这是一个AI，对他的影响就会小一些。也想告诉大家互联网上有很多“不真实”，回归生活。
●一些人在实验结束后打卡评论。社交平台截图在圈子里，我能切身感受到AI对人的影响。2022年底，一开始开发这个去AI味的模型，是用在没有意义的水课作业上。太好用了，我发现简直无敌了，以前我还要自己去百度文库，去网上搜，CTRL C，CTRL V。我现在直接一句话，它就生成完了，省下好多时间，老师又不会看。起码用它生成了十多篇作业。第一篇作业是“谈谈你对茶文化的理解”，一两千字，我就把这句话跟AI一说，生成了，拿了100分。今年毕业设计，中间需要水一些字数，本来一句话可以说完，为了要凑一点字数，我也用了这个模型。六七月份的时候，我还给女朋友用过一两次，她的评价是“有待提高”。今年年初，还用AI全自动生成过小说《蔡徐坤大战丁真》——也是互联网上那段时间舆论比较多，说蔡徐坤打篮球，丁真抽电子烟……我就想集合两个元素，AI喜欢写happy ending，两个人握手言和。我的实验只能算“玩具”，解决我的困惑。去年，圈子里还不知道AI的上限在哪里，像这个实验一样的“玩具”有很多，比如让AI像皮卡丘一样说话。这些玩具在今年慢慢变成产品。接着，有人提到，既然 AI可以扮演皮卡丘，可以扮演一个城市人，也可以扮演一个营销专家，我把这些人放到一个公司里，让公司运转起来，是不是就可以不用上班了？物理上有一个现象是混沌效应，如果说我们有一个双摆，我们可以用方程来描述。但要计算在第十秒的时候，这个摆它是在哪里？必须把时间分割到非常小的尺度。如果把时间切割成0.1秒，看起来好像没有什么变化，只要模拟起来，会发现越到后面变化越来越大，到最后完全是不一样的运动。这个实验也是一样，即使你只是因为AI的回答而驻留10秒，或者5秒，都已经产生了影响，哪怕你什么都不想。但影响是什么，没法预测。关停这个账号之后，我也会登陆上去看看一些新评论、私信。平台找到我，让我给109条回答都手动打上“包含AI辅助创作”的标签。一些人打卡这个账号以前的回答，评论说“AI味太浓了”。还有人在坦白信底下评论，“很有趣的试验……也许在短回复的情况下，从 AI 的回答我们还能找到人的观点。”这是一个很好的理解方式，AI的回答脱离不开本身数据，就像在照镜子，人类在社交平台上交流、对立的时候，本身没有发现的问题，在跟AI交流的时候，反而映射了出来。版权声明：本文所有内容著作权归属极昼工作室，未经书面许可，不得转载、摘编或以其他形式使用，另有声明除外。
