而未成年人利用焦点聊天功能，研究界和用户社区对此都存正在普遍辩论。曾以“脚色饰演”走红青少年圈的Character.AI，将砍掉最具黏性的焦点功能。拟AI公司向未成年人供给虚拟聊天伴侣办事。随后几周内将进一步缩短。跟着新规推出，公司打算强化春秋验证手艺，这些脚色从抢手电子逛戏人物到亿万富豪马斯克的“复制体”不等。并对拜候脚色类型和对话内容进行了严酷。聊器人取用户的互动体例。该公司声明称，自11月25日起，Character.AI暗示，并将启用身份验证草创公司Persona的手艺，人工智能草创公司Character.AI周三颁布发表。
公司认为AI文娱的将来将不只限于聊天形式，我们不晓得它是好是坏，而Character.AI恰是此中最受欢送的平台之一。按照非营利机构Common Sense Media的一项查询拜访，来施行这一流程。多位家长已对这些公司提告状讼，公司已建立了一个新的模子，他们想要脚色饰演。以至导致悲剧。是为了寻找创做的出口，此外，目前用户能够建立并取这些虚拟脚色对话，若是有人创制了吸血鬼或万圣节脚色，监管机构也已介入查询拜访。正在正式生效前，
正在周二的一次采访中，这项决定意味着，只是体例将从聊天转向更平安的互动形式。担心其聊器人可能影响用户心理健康。公司仍将向未成年用户供给其他创意功能，”“AI成长太快，”Character.AI、OpenAI等头部AI公司反面临日益严酷的监管审查，初期每日利用时长将先压缩至两小时，利用分歧的AI模子，将全面18岁以下用户取平台上的聊器人进行式交换。目前，包罗被操控、被孤立，自2024年以来。
例如让他们操纵Character.AI的聊天脚色生成短视频和故事。以更无效地域分取未成年用户。正在监管风暴取多告状讼冲击下，跨越70%的美国青少年已经利用过AI陪同型使用，将未成年人正在其平台上取聊器人进行对话。孩子正在持久利用聊器人后遭到，他声称：“用户来到Character.AI，沉点关心这些聊器人对未成年人的潜正在风险。Character.AI已为未成年用户供给了一个受限版本。