社交App嵌入“AI虚拟人”、“机器人”可刑性分析

最近，虚拟人社交出海火热，成低调黑马赛道。今天聊一聊社交直播、语音平台有关“AI虚拟人”“机器人”国内监管话题，先以案例开题。

案例一（报道）AI虚拟数字人

某App直播间弹幕互动游戏玩法，用户通过发送特定文字如“111”“888”“老婆”，即可“调戏主播”，分别对应“主播喊爸爸”“恶龙咆哮”“主播撒娇”。“小礼物控制主播”玩法，用户通过购买小礼物即可触发“黑色短裙”“可爱学生装”“辣妹舞”“御姐风范”“变身蜘蛛侠”等选项，让数字虚拟人主播换装、跳辣妹舞等。在用户们的小礼物“控制”下，主播则“乖乖”换上相应的“学生装”“御姐装”，跳舞姿势及着装也同时变得更为“火辣”。

案例二（判例）聊天机器人

严某某等人成立北京某科技有限公司，以公司化运营模式，主要研发“相亲”、“约会”、“配对”三种类型交友APP，如“激情约爱”、“成人约”等数十款交友软件，由营销、运营中心部门在“抖音”“今日头条”“短信链接”等当红网络媒介上进行多渠道宣传推广，以“同城交友、求偶”为幌子，利用隐晦宣传用语和美女图片，吸引男性用户安装注册，后由“机器人”程序冒充女用户，按照预先设计模式自动向新注册男用户发送信息，利用虚假美女头像诱惑男用户充值开通会员。

1、虚拟人主播的擦边行为：通过虚拟人主播的低俗、擦边内容，诱导用户刷礼物、充值，构成了对用户的欺骗，属于以非法手段获取用户钱财的行为。

2、机器人冒充女用户的行为：利用虚假美女头像和预先设计的聊天模式，诱导男用户充值开通会员，并不断引诱用户继续充值，这是典型的诈骗行为。

虚拟人主播擦边涉黄：利用虚拟人主播进行擦边色情表演，诱导用户送礼物。此类行为，可能被认定为传播淫秽物品，构成传播淫秽物品罪。

 公司化运营涉黄APP：利用AI技术，通过公司化运营多款涉黄交友软件，吸引用户充值。此行为涉及非法经营，获取大量非法收益，可能构成非法经营罪。

此外，《网络信息内容生态治理规定》《互联网信息服务管理办法》和《互联网信息服务深度合成管理规定》等法规，同时规定了网络信息服务提供者应当对其提供的服务内容进行严格管理，禁止发布、传播违法信息，尤其是涉及色情、诈骗等内容。

1、功能规范及宣示

对虚拟人和聊天机器人设立明确的身份规范和使用规则，禁止其冒充真人进行欺诈或传播不当内容。虚拟人和聊天机器人需进行明确标识，不得误导用户。

2、平台技术监管

平台应采用技术手段监控直播内容，识别和阻止低俗、擦边内容的传播。利用人工智能技术对直播内容进行实时分析，及时发现和处理违规行为。

3、内容审核机制

接入第三方内容审核机制，并设立专门的内容审核团队，对直播内容进行严格审核，对敏感内容进行人工检查，特别是高风险区域如直播和语音聊天。尤其是对于涉及色情、暴力、低俗内容的直播，应当立即封禁账号并删除相关内容，必要时移送有权机关并协助处置。

4、用户举报机制

完善用户举报功能、畅通投诉举报渠道，允许用户举报直播或聊天过程中的不当内容或行为，并确保举报处理机制高效、透明。

5、定期合规评估

定期进行内部合规培训宣导，确保平台行为的合规性，识别潜在的法律风险。邀请第三方评估机构进行审查，确保平台运营符合外部标准和法律要求。

让懂监管的人，进行合规引导，定期合规评估，至关重要。