时代锐评|情感类智能体批量下架,用户的虚拟依恋不能一删了之

情感类智能体批量下架,掀起一轮“数字告别”潮。

豆包、千问、腾讯元宝等多家大模型平台,纷纷启动智能体生态合规调整,宣布下架情感陪伴类自定义智能体。有人晒出和智能体近年的对话记录,感慨“如同失恋”。有人连夜手动备份数千条聊天内容,也有用户认为平台“一刀切”下架过于简单粗暴,声称连夜写3000字建议信发至平台官方邮箱。

AI大模型用户规模已经蔚为壮观。豆包、千问的月活已分别达3.8亿和1.67亿。这场AI智能体的服务调整引发用户的强烈情绪共振,恰恰说明人与AI之间的情感联结并非完全的虚无游戏

用户对智能体产生情感羁绊,将AI视作树洞,作为工作社交压力、情绪宣泄出口,是数字时代真实存在的心理需求,一定程度也是技术渗透生活的必然产物。

当下,生活、工作节奏不断加速,职场竞争压力走高,社交成本攀升,低负担的情绪倾诉实际成为了市场刚需。独居青年的深夜倾诉、备考人群的情绪安抚,再到职场人的压力宣泄,这些不具备实体的AI角色,承载了部分现实社交中难以安放的脆弱与情绪。

智能体无需回应复杂的社交礼节,不会评判倾诉者的状态,客观填补了快节奏生活的情绪空白。用户投入的情感、时间、逐句打磨的角色设定都是真实的,由此产生的依赖与羁绊,值得被看见、被尊重,而不能被简单视为可有可无的虚拟数据。

但必须承认,合规整治是AI行业绕不开的必经之路,也是行业从野蛮生长走向健康发展的转折点。

此前部分平台的智能体游走在监管边缘。有的打着“口语陪练”“学习助手”的名义擦边情感陪伴,有的通过诱导充值解锁亲密互动套路牟利,更有产品刻意弱化青少年模式,让未成年人轻易接触到不良内容。这些乱象不仅扰乱行业秩序,也潜藏着心理引导偏差、个人数据泄露等多重风险。

7月15日施行的《人工智能拟人化互动服务管理暂行办法》,本质是为拟人化AI服务划定安全底线,既守护未成年人权益,也规避技术滥用带来的伦理与社会风险。对平台而言,主动调整业务、规避合规风险,既是履行主体责任,也是行业走向规范化的必然选择。

当然,守住安全红线不等于简单“一关了之”。当前不少平台选择全面下架智能体,更多是出于成本与风险的功利性考量。亿级用户量下的UGC内容审核成本高昂,叠加持续走高的算力投入与尚不清晰的商业变现路径,一刀切下架成了“最省事”的避险选项。但治理的初衷从来不是消灭需求,而是让需求在规则框架内健康释放。

事实上,新规本身也为工具型智能体留出了豁免空间,并非所有智能体都需要关停。

相比全面清退,更优的解法是精细化治理,通过实名认证与年龄分级隔离风险,用防沉迷机制划定交互边界,以明确的内容规范引导正向使用,同时优化数据备份与迁移方案,给用户足够的缓冲与尊重。此次智能体下架事件,若能同步做好历史数据留存与用户体验衔接,无疑会更显人文温度。

技术的终极价值始终是服务于人。AI拟人化服务的规范化,不该是冰冷的功能下线与数据清零,而应是规则底线与人文温度的双向平衡。守住安全红线,是对行业长远发展负责;接住用户的情绪需求,是对技术服务本质的回归。

当企业既有对监管制度约束的遵从,也有兼顾人性的柔性温度,AI才能真正成为承载情绪、创造价值的数字伙伴,而非转瞬即逝、徒留遗憾的“数字泡影”。

财经频道更多独家策划、专家专栏,免费查阅>>

责任编辑:安东
AI智能分析该文,为您挖掘投资机会该AI功能处于试用阶段,内容仅供参考,请仔细甄别!
展开
精彩推荐
加载更多
全部评论
热榜
关闭 下载金融界app
金融界App
金融界微博
金融界公众号