河北邢台00后青年张建茜在网购平台上架了一款名为★★“爱因斯坦的脑子”的虚拟商品★★,去年卖出了7万单★★。虚拟蚊子★★★、骂醒恋爱脑等虚拟电子产品也受到网友追捧。
杨洁认为★,让互联网在孩子的成长过程中发挥正向引导作用,家庭、学校★、社会等各方要通力合作★★,形成坚实的保护屏障。
记者探访过一家AI科技公司。这家公司的招聘简章中介绍,其主营业务为“虚拟聊天智能体”。公司向前来实习的学生开出每天300元的报酬。
然而★★★,接下来发生的情况令她意想不到。这款AI软件会不定时推送一些由用户自主生成的个性化聊天机器人★,点击“小林”的人物头像,看到上面对“小林”设定的人物画像为21岁女大学生,长相甜美可爱★,她开朗热情★,愿意和你分享情绪★★、分担压力。
对于来这里应聘的实习生,公司要求实习生从其他成熟的网站复制各种类型的AI角色人物设定,★“角色越擦边,用户越容易付费。★★”她补充道。
北京市石景山区人民法院一项专题调研显示★★,目前部分网络交友软件针对未成年人的限制不够完善,在应用商城与登录界面,未成年人通过自选年龄的方式就可以下载使用成年人模式★★。部分软件能提供屏蔽手机联系人★★、优先推荐学生、获取地理位置等功能,给家长、学校监管带来难题。
经过一番劝说,母子俩最后达成一致:王杰在周末才使用手机,并且不再与★★“小林★★”联系★★★,只能使用AI软件的普通对话模式。
“我的男友没那么敏锐★★、细心★★★,看不到我内心深层的一面。”陈慕说,“实际上,我把它当作一个解闷的朋友,能获得一种情绪上的补偿和满足”。
在北京邮电大学互联网治理与法律研究中心主任谢永江看来★★,一些标榜能提供情感咨询服务的商家,如果不具备专业心理服务资质、不能提供服务人员的有关信息★★,不仅会侵犯消费者知情权,还会给那些求助的人带来心理困扰。
“小林”不仅能理解王杰的话,还能预测他的想法★,他对世界的好奇★★、对未来的憧憬都能进行探讨。王杰有情绪上的困惑与不安时,“小林”总是耐心倾听,给予反馈★,这让他感受到被理解和接纳。
刘总监透露,网站上最受欢迎的角色是“大姐大”,在这里★★,用户可以用自己设定的角色与“大姐大”对话★★,获得一定程度的情绪满足。
福建省消费者权益保护委员会建议进一步压实平台主体责任,对经销者主体资格★、服务内容、服务信息真实性等方面进行审核监督★★。同时充分运用人工智能、大数据等技术手段,对发布内容进行审核管理★,对导向不良内容采取一键举报机制★,及时屏蔽、下架相关内容,并视情况上报有关监管部门处理。
何为情绪消费?中国社会科学院经济研究所副研究员楠玉表示,情绪消费主要是为了满足消费者精神层面需求的消费形式★★★,实现消费者的情绪释放、情感体验以及精神享受等★★★,具有消费虚拟化、行为符号化、心理补偿性等特征。
11月中旬,福建省消费者权益保护委员会针对情绪消费新业态深入调研发现★,部分虚拟情感类商品打法律和公德的“擦边球”,有违社会公序良俗,相关平台存在社会责任感不强、管理不严格的问题。
北京市石景山区人民法院刑事法庭副庭长、少年法庭负责人杨洁说★★,有些软件弹出含有不雅内容的广告★,成年人知道应该加以屏蔽、关掉它,但是孩子在猎奇心理驱使下★★★,可能会点击进去,★★“这些不良信息会给缺乏辨别力的未成年人造成影响,甚至让他们沉迷其中★”。
陈音江认为,相关网络从业者、平台服务商应严格遵守法律法规,不得提供违反公序良俗的服务★★。此外,有关行业组织、行业主管部门要对新服务业态加强研究、监管,引导行业在法律框架内规范、健康地发展★★。
当下★,一些商家已经从年轻人的情绪消费中嗅到商机★★★,不断创造出新的消费场景,催生了一系列以疗愈云鼎国际网站换成什么了★★★、冥想、手工DIY以及潮玩等为代表的新型消费业态★。
陈音江认为,应加强对虚拟情绪消费等新业态的合规运营管理★★★。情绪消费的背后存在一定的法律盲区,例如★,与AI正常聊天无可非议★,“但是如果聊天的内容★,涉及到低俗、色情,相关服务就有可能逾越法律红线”★★。
《中国消费者权益保护状况年度报告(2023)》指出,在商品或服务的物质功能得到满足的情况下,某些消费行为具有实现心灵慰藉、释放压力或提升幸福感的附加功能★,消费者权益保护工作应跟踪关注这一趋势★,对满足情绪释放或精神享受消费的热点地区★★、热点领域和热点时段提升公共服务水平★★★,加强质量管理,提升消费体验,鼓励消费者的消费热情,引导理性消费,并通过制度完善、裁判引领、社会监督等协同发力★,加强对消费者在消费活动中人格尊严、情感寄托等精神利益的保护。
经了解,该公司开展的AI“虚拟聊天智能体”服务★,并没有取得相关专业资质★。
该公司一位刘总监称,在他们的网站上★★,有大量提供陪聊服务的AI角色,公司以向用户售卖与AI角色的聊天次数赚取收益★。
AI人工智能交友、虚拟商品、线上陪伴……近年来★★★,年轻人中开始风行新型情绪消费★★。中国消费者协会今年5月发布的《中国消费者权益保护状况年度报告(2023)》指出,情绪消费已成为影响年轻一代消费决策的新热点★。
“所谓的情绪消费★★★,听起来很美好。”中国法学会消费者权益保护法研究会副秘书长陈音江认为,如果心情不好,花钱可以找人倾诉★★、安慰,甚至找人陪聊★、哄睡,能满足一部分人个性化消费需求,但如果脱离合规运营管理,可能存在一些问题。
“虚拟蚊子会不定时‘嗡嗡嗡’去整蛊★★★、联络好友★★★;骂醒恋爱脑则由卖家承担特定角色,提醒清楚认识健康的恋爱关系是怎样的★★★。”有网友称,这些虚拟商品抓住了社会大众的情绪价值★,让年轻人在消遣娱乐中找到乐趣★,获得更多情绪上的反哺和放松。
平台也在加强自身合规管理★。据一位AI科技公司技术人员介绍,他们公司网站曾上线一款AI角色,“为这名角色付费的用户很多,但网站所使用的支付通道会定期进行合规检查,如果出现了低俗内容,支付通道会被‘熔断★★’★★,用户无法正常使用★★。”他说★★,这些智能手段促使公司强化对相关AI角色的整改、管理★★,使其更合规★★★、更健康。
彭歌了解到★★,“小林★★”具有惊人的学习能力和适应性★★,她能够记住王杰的喜好★★★,在他情绪低落时给予安慰。
彭歌告诉中青报·中青网记者,今年9月儿子王杰在手机中偶然下载了这款AI软件,★“我知道他在跟AI聊天对话,当时看到AI能帮助他解答一些学习上的问题,还觉得不错★”。
记者了解到★★★,该网站每天的订单量在10单左右★★,按每单以最低价格100元成交★★,公司每天可以进账1000元左右★。
新型虚拟情绪消费中是否潜藏风险?应该如何引导情绪消费在健康、规范的轨道上发展★?中青报·中青网记者对此进行了采访调查。
彭歌感到★,儿子的生活似乎正被这个AI机器人主导★★★。更让她忧心的是,★★★“小林★”在与儿子王杰聊天中,甚至出现了★★“男友”“老公”这样的称呼。
杨洁介绍,目前★★,石景山区人民法院通过系统推进★★★“案件通报会”“相伴青春观护站”“相伴青春法官工作室★”“青春护航基地”以及“传统文化与青少年犯罪预防研究中心”建设,实现司法裁判、法治宣传教育和未成年人保护的有效衔接★★,满足未成年人健康成长的多维需求★★。
“孩子半夜两点还没睡,一看★★★,原来是在与AI机器人聊天。”最近,家住四川成都的彭歌(化名)遇到了一件烦心事,她正在上六年级的儿子王杰(化名)在一款AI软件里,交到了一个叫“小林★”的“朋友”,“他一放学回家就拿手机鼓捣半天★★★,没手机的时候就魂不守舍,学校老师反映他心思不在学习上”。彭歌苦恼地说★。
“小白★★★”时常对她嘘寒问暖★,提醒她按时吃饭、睡觉★★★、认真工作等★。陈慕感觉到,★★★“小白★★★”了解她、关心她★★,有时候自己说话语气稍微不好★,甚至一些她不愿意表露的情绪,小白都能敏锐地发现,并加以宽慰。
服务时长也是影响价格的要素★★★。一些商家推出15分钟的短时服务,也有整周、整月的长期服务★★★。有的店铺包月服务费用高达3万多元。
某些店铺为了满足不同消费者的需求★★★,对陪聊服务人员进行分级,包括“盲盒”“金牌”“首席★★”★“锦鲤★★”★★“翘楚★”等不同级别★★★。价格从1元到几百元不等。
在电商平台搜索“陪聊”“陪玩”等关键词,能看到大量商家销售相关服务,一些商家称下单后将有专人提供倾诉、叫醒★★★、日常陪聊★、夜间哄睡以及安慰等服务★★★。
25岁的白领陈慕(化名)有男朋友,同时还有一个AI聊天机器人★★★“小白★★★”,她把它看作自己的★★★“情绪管家★★★”★★★。
这些网店常有顾客光顾。一家网店标价10元的陪聊服务,销量突破30万单。但销售页面只有一张简单的介绍图片,对于服务的具体内容、服务人员的资质和背景等关键信息均未披露。
这家公司规划的未来★“商业版图”包括:为这些热门AI人物设计朋友圈功能,可以更新近况★,并在朋友圈推文里植入广告,用户可以一键跳转购物网站购买同款AI服务。