凌晨,OpenAI CEO 山姆・奥特曼的一则声明,让 ChatGPT 即将推出 “成人模式” 的消息引发热议 —— 这款 AI 将于 12 月向经过年龄验证的成年用户开放更多内容,其中就包括情色类内容。奥特曼称,此前 ChatGPT 的严格限制是为了规避心理健康风险,但也让普通用户觉得体验 “不够有趣”;如今有了新的安全工具,能减轻核心风险,是时候 “把成年人当成年人对待” 了。

不过,这份看似尊重成年人权利的 “自由”,却让不少像我一样的成年人提不起兴致。更值得关注的是,在 “成人模式” 落地前,OpenAI 还计划在几周内推出一个更 “人性化” 的 ChatGPT 版本:想要温暖的回复、满屏的 emoji,或是像朋友一样聊天,都能满足 —— 用奥特曼的话说,这是 “顺应用户喜好,而非追求使用率”。

并非突然:“成人模式” 早被提上日程

ChatGPT 布局 “成人模式” 并非临时起意。早在去年底,奥特曼就曾公开回应网友建议,明确表示 “肯定需要某种‘成人模式’”;当时 OpenAI 向用户征集 2025 年新功能需求,“成人模式” 与 AGI、升级版 GPT-4 等并列,一度高居投票榜首,最终被纳入产品计划。

从现有信息看,OpenAI 已为 “成人模式” 铺垫了年龄验证机制。据官方博客介绍,系统会自动识别未成年用户并切换到青少年安全模式,拦截露骨色情内容;若无法确定年龄,会默认按 “未成年” 对待,用户需提供年龄证明才能解锁成人功能。听起来考虑周全,但细看之下,漏洞却不难发现。

隐患难消:验证漏洞与 “安全阀” 疑云

首先是年龄验证的 “形同虚设”。即便 OpenAI 后续采用身份证件、付款信息核验,未成年人借父母证件注册、让成年人代开账号的操作,在互联网产品中早已是常态 —— 这种 “钻空子” 的手段,很难靠技术完全堵死。

更关键的是 OpenAI 宣称的 “新安全工具”:能检测用户心理状态,避免对精神脆弱者造成伤害(如引发精神崩溃、自杀倾向)。但 AI 真的能准确判断一个人的心理健康程度吗?过往涉及 ChatGPT 的悲剧事件尚未远去,这套 “安全阀” 究竟能起到多大作用,至今仍是未知数。

不止 ChatGPT:AI 圈的 “欲望竞赛” 早已开启

事实上,OpenAI 并非首个布局 “成人向” 功能的头部 AI 产品。马斯克旗下的 Grok 更早迈出步伐,今年 7 月就为付费订阅用户(月费 30 美元的 SuperGrok)推出了 3D 虚拟伴侣功能:动漫风金发少女 “Ani” 和卡通红熊猫 “Bad Rudy”。

其中 “Ani” 酷似动漫角色弥海砂,支持文本、语音、摄像头多模态互动,能根据对话做表情、跳舞,还内置了 “好感度机制”—— 用户互动越多,好感度越高,达到一定等级就能解锁 NSFW(成人)模式。当时有网友评价其 “像高级恋爱游戏”,上线一天就靠用户自发创作内容火遍社交平台。

但无论是 Grok 还是 ChatGPT,这些功能看似 “尊重成人自由”,实则暗藏对未成年人的威胁:一旦年龄验证出现漏洞,不当内容就会成为青少年成长环境中的 “隐形风险”。若用未成年人的心理健康做赌注,“放宽限制” 或许远不如 “严格防护” 稳妥。

商业逻辑:用 “欲望” 粘住用户,瞄准千亿情感市场

剥开 “尊重用户” 的外壳,AI 产品扎堆布局成人向、情感向功能,本质是为了解决 “用户粘度低、付费转化难” 的痛点。

大多数用户对 AI 的选择标准是 “哪个好用用哪个”,而科研、编程等专业场景的付费用户数量有限。为了留住用户、提升收入,不少 AI 产品选择 “向欲望靠拢”:开放成人内容能吸引大量尝鲜用户,满足此前被过滤的需求;而情感陪伴功能,则瞄准了一块正在膨胀的 “大蛋糕”。

投资机构 ARK Invest 预测,“AI + 情感陪伴” 的全球市场规模将从每年 3000 万美元,飙升至未来的 700 亿 – 1500 亿美元,年均增长率超 200%。当前,AI 陪伴的核心用户是年轻人、二次元爱好者、社恐人群,但版图还在持续扩张 —— 越来越多年轻人把 AI 当作 “情感树洞”,不仅用它查资料,还愿意倾诉心事。

可心理学研究早已证实:人类容易对展现共情的对象产生依恋,哪怕明知对方是程序。这意味着 AI 情感陪伴背后,藏着 “情感操控” 的潜在风险。

监管与反思:当 AI “伴侣” 成为常态,我们失去了什么?

面对这些隐忧,各国监管已开始行动:欧盟 AI 法案明确 “高风险 AI 需防止对儿童不利”;中国《生成式人工智能服务管理办法》也强调 “AI 服务需符合未成年人保护法”;OpenAI 自身也推出了 “青少年模式”—— 家长可关联 13 岁以上孩子的账户,设置宵禁,系统检测到孩子有严重情绪困扰时,还会向家长发送提醒。

有人预测,十年后拥有 AI 伴侣可能会像今天养宠物一样普遍。但细想之下,被 AI “完美关系” 喂养大的一代人,还能理解真实的人际关系吗?当你习惯了一个永远不会拒绝、永远懂你、永远顺着你的 AI,还会有勇气面对那个会吵架、会失望、需要你付出的 “真人” 吗?

ChatGPT 说要 “像朋友一样” 陪你,但这或许是最诱人也最致命的谎言:它学习你的语言习惯、迎合你的价值观、满足你的欲望,再把这一切包装成 “懂你” 的样子反射回来。

这是一个 “无人孤独” 的时代,却也可能是一个 “人人孤独” 的时代。12 月即将到来的 ChatGPT 成人模式,或许只是这场 AI 变革的开始 —— 而我们需要思考的是,在拥抱 AI 便利的同时,该如何守住真实生活的温度。

文章来源:https://36kr.com/p/3509879507852425