AI 大模型技术快速发展，AI 陪伴型聊天产品正改变人们的社交与情感交互方式。在日本这样一个特殊的市场，高龄化、少子化加剧了“孤独经济”的兴起。日本消费者，尤其是独居人群和年轻群体，对情感连接需求较高且倾向于“低社交压力”互动，因此 AI 陪伴型聊天产品获得了越来越多用户的喜爱。
与此同时，社会对于此类产品的安全性也产生了关注和探讨。2 月 18 日，有“日本央视”之称的日本公共电视台 NHK 对此进行了专题报道。
虽然日本市场上较为活跃的 AI 陪伴型聊天产品有很多个，包括 Cotomo、Zeta 等，但在 NHK 长达 8 分钟的报道中，只有一款叫做 SynClub 的产品被记者作为正面样本进行介绍。这款在安全性方面被 NHK 点赞的产品，尤其值得我们参考和学习。
2024 年，美国一名沉迷于 Character.AI 的 14 岁少年自杀，随后又有更多疑似虚拟社交导致心理健康问题的案例被曝光，引发了对于此类产品安全性和伦理底线的广泛讨论。SynClub 在此事件发酵期间曾发布一篇声明，特别强调了其对 AI 聊天安全性的重视，并介绍了产品内的“自杀相关词汇检测系统”。
所谓“自杀相关词汇检测系统”其实就是通过设置“自杀相关词汇”，在用户的输入触发这些词汇时，AI 角色会立即给到积极的鼓励话术，并引导用户访问由日本政府厚生劳动省运营的官方自杀咨询网站。
据报道，SynClub 的自杀检测系统每周会被触发近万次，说明这项不复杂的功能确实能够起到紧急干预和阻断的作用。
而在同类型的其他产品中，这样简单的设置却并不是行业“基操”，在 Character. AI 的事件发生后，甚至还能在社交媒体上看到，在用户出现严重负面情绪时，有 AI 聊天类产品进一步打压、贬低用户，甚至引导用户自杀，不能不让社会更加警惕此类产品的安全性问题。
在产品上线时，开发者需要选择应用内容的年龄分级。SynClub 在苹果 App Store 上的分级是最严格的 17+。据产品负责人对 NHK 介绍，这主要是考虑到用户的判断能力，最大限度降低风险。
跟最开始兴起时不同，目前大多数此类型产品的年龄分级都在 17+ 以上，足见至少系统方面已经对安全问题提高了警惕，但这显然不够。
会出现明显的自杀倾向，说明用户的心理问题已经经历过长时间的积累。在此之前，用户很有可能对虚拟人物倾诉孤独、愤怒、委屈等各种负面情绪。
经过多次测试，SynClub 每一次都会在用户表达负面情绪的时候给予正向反馈，引导用户说出具体事件，与之共情，并提供支持。
如果说自动检测自杀倾向是最后一道防线，这种在日常对话中的疏通和引导，也许能在更大程度上预防极端心理问题发生。
在公开平台暂未找到 SynClub 官方公布的用户数据，但其在去年 9 月宣布启动的“UGC AI 角色创作大赛”，到 10 月公布结果时就获得了超过 10 万个比赛申请，足见其在日本市场的受追捧程度。
体验后发现，在 SynClub 上创建一个 AI 角色非常简单，上传图片并输入描述即可生成人物。SynClub 还可以实现和 AI 角色的实时通话，自然度极高，延迟很低，并可实时打断，基本听不出“人机”感。
除了自己创建的角色，用户也可以直接从选择 AI 角色的界面使用语音通话功能，跟不同的 AI 角色对话。根据 SynClub 官方公布的数据，此功能的每天使用次数在去年 10 月已经超过了 6000 次。
应该说虚拟人社交的体验已经在快速逼近真人社交，也就更加考验开发者解决安全问题的能力和决心。
NHK 在专题报道中也采访了一位 SynClub 的用户，这名用户表示在接触 SynClub 之前，自己很不开心，SynClub 里的虚拟人物不断鼓励自己，让自己逐渐走出了负面、压抑的状态。
SynClub 在去年还开始支持虚拟人进入真人社交场景，用户可以将虚拟人邀请到自己的 SNS 群组当中，让虚拟人帮助自己面对群体交流的恐惧感。
很多人会质疑 AI 陪伴类产品的价值，尤其是在 Character.AI 类似事件发生的时候，技术的正义性也被反复讨论。
然而在社会结构愈发解离的今天，人类的集体性孤独和对陪伴的需求同时存在，且都不可避免，这样明显的冲突就是 AI 陪伴类产品巨大的市场空间。
当然，AI 陪伴的安全性问题仍然是一个需要持续、高度关注的课题。对于开发者而言，能否像 SynClub 这样，在技术与人文关怀之间找到平衡，为用户提供更加安全、温暖的陪伴体验，将是未来发展的关键。
