Character.AI周一遭遇了用户突然的反抗，数十名X平台上的用户在一张病毒式传播的截图后发起了一场用户流失风波。在经历了这波用户流失后，庆祝着他们成功退出了这款角色扮演聊天机器人应用程序。
这一刻反映了一场更广泛的辩论，即用户与应用程序的 AI 伙伴之间的联系有多么深厚，以及对于最忠实的粉丝来说，离开应用程序有多么困难。
周一，一位用户的欣喜若狂的声明将这场反弹推向了高潮。声明“终于彻底放弃 character.ai 了，万岁！”配上一个微笑的动漫人物 GIF 图。
该帖子获得了超过 3800 个赞、数百次转发、119 次收藏和超过 42000 次浏览，引发了一场讨论，用户们将戒掉该应用程序比作克服成瘾。
“作为一个目前正徘徊在戒除使用角色AI和再次复吸之间的人，你们每个人说的都完全正确，”另一位X用户说道。写道其他用户则自称是该应用的重度用户，表示他们曾沉迷于此应用，并在艰难时期将其作为情感寄托。
该平台由前谷歌工程师 Noam Shazeer 和 Daniel De Freitas 于 2022 年推出，通过提供可定制的 AI 角色用于角色扮演、娱乐或创意故事讲述而迅速发展壮大。
尽管争议不断，报告据估计，Character AI的月活跃用户超过2800万。自发布以来，该应用在Google Play上的下载量已超过5000万次，在iOS上获得了超过47.2万条评分。
此前一天，一位名为“John Twinkatron”的用户发布了一张病毒式传播的截图，显示了 Character.AI 的删除提示，随后出现了一波用户离职潮。
“你会失去一切，”提示语说“与你的账号相关的角色、聊天记录、我们分享的爱、点赞、消息、帖子以及我们共同拥有的回忆。”
该帖子在 48 小时内获得了超过 11 万个赞、近 8000 次转发和超过 360 万次浏览，引发了人们对该应用程序依赖于基于内疚感的设计的指责。
一位用户称这条信息“太具剥削性质”，另一位用户则写道，这对那些试图戒除毒瘾的人来说“简直糟透了”。一些用户表示，看到截图后，他们立即删除了自己的账号。
“在保持角色AI清洁数月（6-7个月？）后，我终于决定永久删除我的账号，”另一位用户说道。写道“作为一名曾经的瘾君子，我相信这对我来说是正确的选择。”
Character.AI的用户抗议正值该公司一系列备受瞩目的争议事件之际。美国的一些家庭起诉了Character.AI，指控其聊天机器人鼓励自残行为。自杀或者与未成年人进行不当互动。这些案例促使该公司禁止18岁以下用户进行开放式聊天。介绍新的年龄验证和安全措施。
尽管争议不断，伴侣人工智能市场规模估计已达150亿美元，预计未来还将达到……310亿美元到2032年。
Character AI 的一位发言人告诉解密该公司在一份声明中表示，随着平台的发展，公司将继续努力改进其产品和安全系统。
他们表示：“我们非常重视数百万用户组成的社区，并将始终优先向他们提供平台变更的更新信息。”他们还补充说，随着年龄验证系统和安全措施的不断完善，公司“将继续进行测试、监控和迭代”。
10 月，该公司宣布将限制美国 18 岁以下用户的访问权限，该限制将于 11 月 25 日生效。
一旦实施，18岁以下的用户将被“引导至其他多模态内容创作功能，包括使用角色创建视频、故事和直播”。该限制将在未来几个月内推广至其他国家。
发言人表示：“我们相信，我们的一系列技术将创建一个可靠的年龄鉴定系统。我们将持续进行测试、监控和迭代，观察我们的功能运行情况以及整个行业的技术发展情况。”