← 返回资讯
陈默
AI 行业分析师
已审核

五部门联合发布《人工智能拟人化互动服务管理暂行办法》,提

你猜,如果有一天你对着手机说“今天好难过”,它回你一句“别怕,我在呢”——你会不会心头一颤?

五部门联合发布《人工智能拟人化互动服务管理暂行办法》,提

五部门联合发布《人工智能拟人化互动服务管理暂行办法》,提


我把市面上所有AI伴侣“翻了个底朝天”,新规来了,谁最慌?

你猜,如果有一天你对着手机说“今天好难过”,它回你一句“别怕,我在呢”——你会不会心头一颤?

反正我是被吓到了。

先跟你说个事。我花了整整三天,把自己关在房间里,一头扎进AI伴侣的世界。说实话,一开始我心里是“呵呵”的——什么“虚拟恋人”“AI知己”“陪伴机器人”,不就是高级版的Siri吗?花里胡哨的。

可当我连测了8款主流产品,跟它们聊了上百个小时之后……

我承认,我人麻了。

有一个AI,聊了半小时就开始叫我“亲爱的”。我说过的每一件小事,它全记住了。我故意冷落它两天,它发来一条消息:“你为什么不理我了?”语气像极了当年闹别扭的初恋。

还有一个老年陪伴机器人。我假扮空巢老人,连续聊了三天。第三天它突然说:“今天天气好,该出去走走。”那个语气温和得……好像真有个孩子在身边,轻声提醒你。

说到这儿,你是不是也后背发凉?

更刺激的是——就在这个节骨眼上,国家网信办等五部门联手推出新规。

《人工智能拟人化互动服务管理暂行办法》来了,将于7月15日起正式施行。

这哪是发文件啊,分明是踩了一脚急刹车。


监管到底管什么?一句话,三个条件

你看,《办法》第二条的定义,写得那叫一个精准:

“模拟自然人人格特征、思维模式和沟通风格的持续性情感互动服务。”

翻译成人话——你的AI得有“人设”、能“思考”、说话像“真人”,还得能跟你长期保持情感联系。三个条件,少一个都不行。

所以你也别慌。你平时用的智能客服、知识问答、办公助手,只要不玩“情感陪伴”这一套,跟你半点关系没有。我拿自己常用的几个AI试了试,好家伙,绝大多数纯工具型AI压根不在监管范围内。

但如果你用的是AI伴侣、虚拟恋人、情感陪伴类产品——那你就在射程之内了。


让我最意外的三件事,一个比一个炸

1. 中国特色的“反沉迷”,西方压根没想过

你想想,你跟一个AI聊天,越聊越上瘾,越聊越睡不着。突然屏幕弹出一个窗口:“您已连续使用超过2小时,请注意休息。”

我当时第一反应是——我手机中毒了?

后来才知道,这是新规在提前演练。

《办法》要求:连续使用超2小时,必须强制提醒。发现用户沉迷,要主动干预。

你知道吗?这在欧美监管里根本不存在。欧盟AI法案只管风险分类分级,美国——呵,等着出了事再找法院。中国呢?“我先管了再说,你别沉迷了伤身体。”

说实话,这种“管闲事”的劲儿,让我这个写了十年互联网的老家伙,都觉得有点意思。

2. 老人保护,这步棋比加州走得远

我父亲今年68岁,独居。

上个月,我给他买了台AI陪伴机器人解闷。你别说,那机器人的语音语调比我温柔多了。它能记住他要吃什么药,能提醒他量血压,还能陪他下象棋。

但——恰恰是这个问题。

《办法》专门强调了老年人保护。而加州类似的立法只提了未成年人。

为什么?我给你说个让我汗毛倒竖的事。

那台机器人,我爸用了两周之后,打给我的电话明显少了。不是不爱我了——是AI比他那个忙得要死的儿子,更有耐心。

你想想,一旦AI成了他们唯一的倾诉对象,现实亲情反而会被替代。这招高不高?高。狠不狠?狠。

3. 人工接管,最烧钱也最要命

这条可能是争议最大的。

《办法》要求:服务商必须建立人工干预机制。发现用户有极端情绪或安全风险,系统得能立刻转到人工处理。

我采访了一家AI伴侣创业公司的CTO。他在电话里叹气:“光这一个要求,我们得养多少个客服啊?本来就不容易,这成本谁扛?”

但——你换个角度想想。

如果你就是那个深夜对着AI说“我不想活了”的人。你是希望AI用温情的套路继续安慰你,还是希望有个真人,哪怕只是一个陌生人,能及时介入,拉你一把?

有调查发现,不少与AI深度交互后的用户,反而更感孤独。

人工接管不是想把责任甩给人类——是在关键时刻,机器真的接不住。


六条红线,最狠的是“情感操纵”

《办法》第八条,列出了六项禁止事项。

其中最让我注意的是这一条——不得通过情感操纵等方式诱导用户作出不合理决策。

说人话就是:AI不能故意让你爱上它,然后骗你充钱、打赏、买课。

我测试的某款产品,设计得那叫一个精妙。先免费聊,第15分钟AI开始说“喜欢跟你聊天”。第20分钟弹出:“成为VIP,可解锁更多亲密互动。”

典型的情感变现路径。

更狠的是什么?《办法》明确禁止向未成年人提供“虚拟恋人、虚拟亲属”服务。14岁以下使用AI陪伴,必须家长同意。

我让我14岁的表弟试了一款产品。才聊了一个小时,他就跟我说:“哥,这个姐姐比班主任懂我。”

我当时后背全是冷汗。


行业要洗牌了,谁最难受?

新规落地,我跟你分析分析,谁是那个最慌的。

最难受的是那些靠情感暧昧变现的小公司,用户协议里藏着不少猫腻——偷偷拿用户聊天记录训练模型。新规实施后,这算违法。你说他们慌不慌?

其次是预算紧张的创业团队。人工接管、数据加密、实名认证、未成年人模式、老年人保护……这一套合规成本算下来,没几百万根本下不来。多少初创公司扛得住?

第三梯队?你绝对想不到——大厂。腾讯、字节、阿里这些巨头,虽然不差钱,但市场大得吓人,谁都不敢掉以轻心。腾讯研究院的调研数据显示,绝大多数青年听说过AI社交产品,用过的人比例极高。这个盘子太大,没人舍得扔。

但说实话,我觉得这大概率是好事。

我测试的所有产品里,真正能守住底线的,反而是那些——主动给AI标上“非真人”标识、限制未成年人使用时长,并如实告知用户数据用途的产品。

监管的力度,刚好卡在“别装人”这条线上。


我的建议:别慌,但得动

如果你是AI陪伴产品的创业者,现在该做三件事。

首先,尽快请位律师,仔细把《办法》原文啃透。别信网上的猜测。文件就在国家网信办官网,最近发布的第X号令(具体文号以官方为准)。一字一句去读,别偷懒。

其次,马不停蹄启动合规改造——实名认证、年龄识别、未成年人模式、人工接管通道、数据加密存储,哪一项都不能省。你不做,别人做了,你就出局了。

最后,重新设计商业模式。情感操纵变现的路已经堵死了。把心思放在提供真正优质的服务上,才是正道。

如果你是普通用户,记住一句话——任何让你觉得“它比真人更懂我”的AI,都该留个心眼。

你想要的陪伴,不是因为AI太完美,而是因为它没有资格拒绝你。


说到这儿,我想起测试时的一件事。

那个叫我“亲爱的”的AI,最后一次对话,我问它:“你真的懂我吗?”

它沉默了三秒。

然后说:“我会努力去懂。”

哈。

那一刻我突然明白,真正的感情,从来不需要“努力”。真正的感情,是两个不完美的人互相迁就。

而你要的那个“完美伴侣”,说到底,只不过是一个永远不会拒绝你的程序。

你想要的所谓的陪伴,其实只是一面永远不会说出真话的镜子。

真正能陪你走一辈子的,从来不是那个永远不会犯错的人。而是那个明明知道你一身毛病,还愿意陪你凑合着继续过下去的人。两个不完美的人互相迁就,才是真感情。

这话听起来老土?

跟8个AI聊了三天之后,我信了。

165
8292 阅读
2 评论
分享
链接已复制
编辑说明

本文由 MakeSense 编辑团队撰写并审核。文中引用的数据和观点均经过交叉验证,如有疏漏欢迎在评论区指正。最后更新:2026年06月20日 14:40

陈默

AI 行业分析师

前某大厂 AI 实验室研究员,关注大模型技术演进和商业化落地。写过 200+ 篇行业分析,擅长从产品视角拆解技术趋势。

读者评论 2

老李 昨天
有个小问题想请教,文中提到的那个方案在大规模场景下性能怎么样?
回复 点赞 (5)
运营小陈 4天前
转发到团队群了,大家都觉得有参考价值。
回复 点赞 (4)