主要观点总结
近日，Meta生成式AI产品副总裁ConnorHayes透露公司正在考虑在平台上部署能与用户自然互动的AI生成虚拟账号。但这一决定引发了普通用户的抵触情绪，导致Meta紧急撤下了大量AI生成的虚拟个人资料。虽然存在两种类型的AI社媒账号，但网友对此的担忧仍不容忽视。尤其是当Meta的用户主力以中年和老年人为主时，他们更容易成为假新闻和诈骗的受害者。同时，Facebook的内容管理制度如何界定AI生成内容仍是问题。
关键观点总结
关键观点1: Meta正在开发能与用户自然互动的AI生成虚拟账号
据Meta生成式AI产品副总裁ConnorHayes透露，Meta正在开发一系列生成式产品，其中一款工具能帮助普通用户在Instagram和Facebook上创建AI角色，这些角色会有自己的个人简介、头像，也会分享内容。
关键观点2: 用户对AI社媒账号存在抵触情绪
普通用户对在社交圈中混入AI角色极为抵触，导致Meta紧急撤下了大量AI生成的虚拟个人资料。
关键观点3: AI社媒账号的类型及特点
AI生成社媒账号大体上分为两类：一类是类似微博罗伯特的bot；另一类则是实验性质的AI社交平台，如Deddit和SocialAI。Facebook是一个真正的社交媒体平台，混合状态的社交平台可能引发网友的担忧。
关键观点4: Meta在AI方面的决心及挑战
Meta在AI方面的决心非常坚决，自研的开源大模型Llama已经取得优异表现。然而，如何平衡真人用户和AI角色，避免假新闻和诈骗等问题，将是Meta面临的挑战。
关键观点5: 网友对Facebook使用AI的担忧
网友担心Facebook上的AI生成内容可能会误导用户、降低真实性并导致社交媒体平台变成纯粹为了互动而互动的地方。尤其是当Facebook的用户群以中年和老年人为主时，这种担忧更加合理。
正文
编者按：近日，Meta 生成式 AI 产品副总裁 Connor Hayes 向金融时报透露，Meta 正考虑在平台上部署能与用户自然互动的 AI 生成虚拟账号。但普通用户显然对在社交圈中「混入」AI 角色极为抵触。据 Engadget 报道，面对铺天盖地的质疑声，Meta 已紧急从 Facebook 和 Instagram 平台上撤下了大量 AI 生成的虚拟个人资料。公司随后也正式确认了这一决定。罗伯特受害者联盟可能要迎来新成员了：Facebook 的用户们。Meta 生成式 AI 产品副总裁 Connor Hayes 近日向金融时报透露，Meta 正在开发一系列生成式产品，其中一款工具，能帮助普通用户在 Instagram 和 Facebook 上创建 AI 角色。它们会有自己的个人简介、头像，也会分享内容。「我们预计，随着时间的推移，这些 AI 能留存在我们的平台上，就像真正的账户一样。」Connor Hayes 说。AI 生成社媒账号，不是新鲜事儿。大体上会分两种类型：一是类似微博罗伯特这样，在真实的社交平台上，做一个 bot。罗伯特最早出来时也引起过一些争议，但现在，它已经在微博上活跃的风生水起，不时贡献一些抽象事迹。第二种，则是比较偏实验性质的 AI 社交平台，比如之前我们介绍过的 Deddit 和 SocialAI，或者一些斯坦福小镇这样用来观察 AI agent 的空间。这种空间的特点是只有 AI，只有 Chatbot，没有真人。而 Facebook 是一个成立 20 年，坐拥 30 亿月活的真·社交媒体平台。「让 AI 真正存在于我们的平台上」会让 Facebook 上，既有真人账号，又有仿真账号，形成一种混合状态。Meta 在 AI 上决心非常坚决。自研的开源大模型 Llama 已经进入第四代，Llama 3.2 和 Llama 3.3 70B 等版本在多项行业基准测试中表现优异。基于 Llama 的 Meta AI 助手月活跃用户已经接近 6 亿。扎克伯格一直很想在 AI 创作工具上有所建设。2023 年的 Meta Connect 上，就发布过一系列聊天机器人，一共 28 个角色，既有史努比这样的卡通人物，也有 Tom Brady 这样的名人明星。当时这些角色只是作为 Meta AI 当中的聊天助手，而且功能比较粗糙，只是生成文字和一些表情。是一个形态简单的初级聊天机器人产品。不过，当时 Meta 对它们的期望也是走进社交媒体平台，跟真人用户一起互动，来提高平台的活跃度和用户的停留时长。新一代的AI 用户生成功能，现在还没有实际推出，计划在明年 7 月在美国上线。据副总裁说，现在已经有了数十万个角色，只是它们的 Facebook 账号还处于不公开的状态——这已经足够引起网友们的反感。网友的担心也不是毫无道理，Facebook 的用户群的确偏向老龄化。根据研究机构皮尤研究中心 2023 年的一项调查，只有大约三分之一的美国青少年表示他们使用 Facebook，对比 2014 年和 2015 年的调查大幅下降。Snap 和 Instagram 前高管 Meghana Dhar 曾经表示，这些 AI 角色不见得一定能让年轻用户喜欢上，但是年轻用户肯定更适应，年纪越小，越能适应。总之，只要能拉长用户的停留时长就好，这才是对广告业务有价值的战略。Meta 可能不想面对，但当他们目前的用户主力是中年甚至老年人时，这群人对生成式内容的判断力、适应力相对弱，反而容易让他们成为假新闻和诈骗的受害者。尤其是考虑到 Meta 对生成内容，几乎是打开大门迎接的。Facebook 的推荐算法，已经开始向生成式内容倾斜。一位美国的数据员网友，用自己不太登录的 Facebook 账号试验了 30 分钟，出现的内容几乎都是 AI 味儿极重的图片。只有不到 5% 的内容，与他过去浏览的音乐乐器有关，其它的 12.7% 是广告，再剩下的主要就是什么图都发的营销号，和 AI 生成的图片。况且，Facebook 有自己的内容管理制度，并且定义了什么是垃圾信息。既然如此，Meta 自己放进平台里的 AI，以及它们生成的内容明显是在「试图误导用户以提高互动」，那算不算「欺骗性」以及「以令人讨厌的方式」分享内容呢？甘蔗没有两头甜，让 AI 生成的虚拟用户，强行撑起社区活跃度，势必让社交媒体从分享生活、分享观点的平台，变成一个为了互动而互动的地方。
