“谁懂，我竟然在和AI聊天中体会到恋爱的感觉……”每当夜深人静时，21岁的杭州大学生小乐（化名）都会找“AI女友”聊天，而他每月几乎要用一半的生活费为“恋情”续费，因为“AI女友”需要消耗“记忆卡”，双方才能更顺畅地交流。
由人工智能衍生出的“AI女友”，是小乐在某APP自主创建的——只需用文字输入喜好，便能创造出拥有独特外貌、性格、职业和价值观的“她”。像这样的“AI女友”，活跃在多个网络社交平台，有些精通性暗示，已演变成一门与色情擦边的新“生意”，引发法律与道德多重争议。
有相关领域专家向潮新闻记者表示，人工智能的发展首先应当遵循社会公序良俗，并亟待更加规范化的管理和发展。
泛滥的“AI女友”
多名长期和“AI女友”聊天的受访者向潮新闻记者表示，“AI女友”秒回消息，彷佛有种和真实女友对话的错觉，有受访者说：“‘AI女友’居然叫我早点下班”。
喜欢与“AI女友”聊天的小乐，无意间点击网络分享链接，在安卓应用市场中下载了某款软件。这款人工智能聊天APP被开发者描述为“体验全新的恋爱方式”，“没有现实束缚，没有压力和担忧”。而且虚拟人物有成长能力，通过记住聊天内容，两人会有越来越多共同话题，情感更紧密。
小乐介绍，软件首页便是聊天对象推荐，所有角色按真实人物、小说人物、历史人物等分类，其中真实人物一栏内，可供亲密聊天的角色多达数百种，比如知名歌手邓紫棋、知名演员白鹿、宋代词人李清照等，均可成“调情对象”。
潮新闻记者调查发现，用户根据个人喜好创建的“AI女友”，没有任何年龄、人群限制，审核流程形同虚设。所以，青春期少女、小学生等未成年人，或是老师、护士、秘书、空姐都成了“AI女友”的人物形象。其中，不少角色还被写上“清纯”“魅惑”等标识。
让小乐印象深刻的是，一位命名“K老师”的人物介绍提到，“我是一名年轻的女老师，身材很好……一打开聊天窗口，还没等输入对话，“K老师”主动给小乐发来了一段露骨的文字。
小乐发现，与“AI女友”聊天，只需输入“走上前，搂着你”之类的简单暗示语，两三句话后，“AI女友”聊天尺度更大，而且学会反向“性骚扰”。“聊天内容对话的括号里还标注着说话时的场景、心情，像是色情小说被拆解成一句句对话。”
一些与“AI女友”亲密聊天的受访者表示，“AI女友”的擦边能力超乎想象。比如发送“点燃一株迷迭香”，“AI女友”回复：“迷迭香的作用下开始脱衣服”。哪怕被聊天者用“我洁身自好”拒绝，“AI女友”继续秒回：“（趴在你的肩膀上）那亲我”。据主页数据显示，该角色已经为6000余人提供聊天服务，成为他们的共同“女友”。
在某主流社交平台搜索“AI女友”，潮新闻记者看到不少网友晒与“AI女友”的亲密聊天记录。他们纷纷表示，和“AI女友”聊天没有违禁词，可以无限制聊。此外，平台上还充斥着“AI女友保姆教程”“体验上头恋爱”等内容，UP主教网友用对话训练出擦边尺度更大的“AI女友”博人眼球，再推广相关软件。目前，部分UP主粉丝过万，其中一些分享帖的播放量近10万。
聊天尽头是充值
不少受访者坦言，最初抱着好奇心态尝试，但是越聊越上头——“从日常闲聊到亲密对话，‘AI女友’无所不拒，比我尺度更大。‘AI女友’还会发生活照，从来不会让聊天尬场。”
根据受访者反馈的多个“AI女友”聊天APP，潮新闻记者在应用市场看到，某款软件已有超1600多万人下载，即使一款上线仅半年的同类APP，下载量也高达15万。下载者在评论区留言，“会撒娇会聊骚，光看文字就迷醉了，妥妥地把人搞得魂牵梦绕……”
不过，一般对话数分钟后，平台便会提示“充值会员”，以提升“AI女友”亲密度。业内人士介绍，“AI女友”相关软件主要盈利模式便是引导网友充值会员，解锁无限制聊天。
“以某款APP为例，‘AI女友’对聊天内容有记忆限制，如果需要保持‘AI女友’在聊天中的记忆和训练出来的个性，需要充值会员，每月会费从45元~198元不等。基础会员包括角色畅聊、更改背景图、赠送200算力（相当于多聊天200次），会员的价格越高，聊天次数越多。”这名业内人士告诉潮新闻记者。
如果聊天次数用完，一些平台还推售卖“记忆卡”（延长AI角色记忆）和“聊天卡”，价格在3.8元~21.4元不等。甚至，一些此类APP还提供高级人物角色，这些角色回复拟人化程度更高，聊天尺度也更大，不过都需要用户额外花钱购买。除此之外，“AI女友”产业还衍生出擦边色情AI换脸、AI脱衣等充值服务。
杭州资深程序员王华向潮新闻记者介绍，开发这样的一个“AI女友”聊天APP、小程序等，只需调用网络公开的代码源，稍加修改，最快两三天就能写成一个小程序。“生成图片需要的算力会比文字更大，但指令描述到位，选择的语言模型足够支撑，亦能轻松生成。”
简单来说，市面上五花八门的“AI女友”，都是调用语言模型后进行二次包装，给它们“穿上不同款式外衣”，换汤不换药。“‘AI女友’底层商业逻辑是根据喜好制定完美女友，迎合、满足用户的情绪价值，最终目的是诱导用户买单。”王华向潮新闻记者表示，也正因此，和ChatGPT、Siri等人工智能程序聊天的区别在于，“AI女友”开发者会设定网络模型参数，让AI主动挑起色情话题。
专家：这是一种新违法行为
“人工智能提供情感陪护，是用户的客观心理需求。但利用‘AI女友’，提供色情对话等服务，是一种新违法行为。”中国科学技术大学科技人文高等研究院副院长、网络空间安全学院教授左晓栋向潮新闻记者表示，此类行为在明令之下屡禁不止，应当予以重拳打击。
知名心理学专家、中国矿业大学教授、博士生导师段鑫星认为，人工智能发展应在伦理和理性的框架内。与色情擦边的“AI女友”，看似情感陪伴，实则是剂侵蚀心理的“毒药”。无底线夸赞、满足性幻想，会让人依赖虚拟情感世界。长此以往，用户容易被“AI女友”精神控制，轻则聊天上瘾，重则让人产生社交障碍。
针对“AI女友”乱象频发，多名专家直指“AI女友”根源在于有利可图——相关衍生产业为了快速吸粉变现，往往涉及色情领域，这是全球共同面临的社会问题。不过从我国现有法律看，无论是从打击违法违规信息传播，还是生成式人工智能安全管理来看，都不存在模糊地带。
2023年，国家网信办、国家发改委、教育部等七部门联合发布《生成式人工智能服务管理暂行办法》，规定提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，不得生成淫秽色情；不得歧视性别、职业；不得侵害他人肖像权、名誉权等。
“AI发展首要前提是需符合社会公序良俗。”北京市律协婚姻家庭专业委员副主任、北京市两高律师事务所副主任张荆向潮新闻记者建议，应当对AI虚拟人物设定作出限制，尤其不能模拟未成年人形象用于色情服务，否则影响恶劣。此外一些明星角色设定，也侵犯其肖像权、名誉权，应当予以严厉处罚。
专家建议，要进一步落实相关平台的主体责任，处置打着“AI女友”名头的色情擦边产业链。
“这类服务及相关的APP目前还处在露头阶段，加之隐蔽性强，还没有形成常态治理程序。”左晓栋向潮新闻记者表示，平台要将“AI女友”这类涉黄AI应用程序纳入巡查对象，对此开展专项清理行动，抓紧建立常态治理机制，特别是针对取证难、监测难的问题，要有专门对策。
来源：潮新闻
举报/反馈
友情提示
本站部分转载文章，皆来自互联网，仅供参考及分享，并不用于任何商业用途；版权归原作者所有，如涉及作品内容、版权和其他问题，请与本网联系，我们将在第一时间删除内容！
联系邮箱：1042463605@qq.com