网易行业首推AI巡逻员，多AI模型24小时护航未成年人暑期游戏安全

2023-06-28 23:11:26 来源：和讯网小 中

自2021年游戏防沉迷新规落实后，未成年人玩家每周游戏时间被控制在3小时内，但仍存在部分未成年人使用各种手段绕过监管。暑假将至，未成年人防沉迷问题再次引发各界关注。

【资料图】

作为最早构建未成年人保护系统的游戏厂商之一，网易游戏连续第三年开展暑期未成年人保护专项，借助前沿AI大模型技术对未成年保护体系进行智能升级，行业首推AI巡逻员提高未成年风险行为识别准确率，为未成年人保护工作制定更加科学高效的解决方案。同时，网易针对暑期未成年上网安全教育、未成年相关黑产打击等，强化与家庭、公安等社会力量的协同，不断加固守护未成年人健康成长的屏障。

系统智能升级，行业首推AI巡逻已识别超千万未成年玩家

依托领先的技术研发能力与多年积累的未成年人保护工作经验，网易游戏首推AI未成年保护巡逻技术，提高未成年风险行为识别准确率。据介绍，网易游戏这项AI未成年保护系统，是基于深度学习大模型开发，具备AI识别未成年保护系统、干预未成年玩家不理性消费模型、监控与打击体系等多项技术体系，可24小时深度参与未成年保护工作的全流程，进行安全护航。

据调研数据显示，违规登入游戏的未成年玩家主要是使用了成年人的账号，AI巡逻员的第一项任务就是基于未成年行为精准判断疑似未成年玩家，并进行行为干预。通过对未成年人的游戏行为进行多方面的大数据分析，网易AI巡逻技术能够从玩家在游戏中的行为特征，来精准判断疑似未成年玩家，第一时间拦截管控，并辅以人脸识别进行高效验证。而针对疑似未成年人的不理性消费行为，AI巡逻员能够做到提前预测，在消费发生前就介入干预拦截。

除了规范未成年人科学上网，网易游戏AI巡逻员在构建健康的未成年上网环境方面同样发挥了重要作用。网易AI巡逻员专门配备了多维的监控与打击体系，包括危害未成年不良信息AI识别模型、不良信息的过滤与隔离机制、未成年人社交风控模型、网络黑手专项打击等，以系统化且多维化的监管模式，严打网络中的有害信息，据悉每月过滤不良信息超7300万条，全方位构建绿色的网络游戏空间。

据统计，试运行至今，AI巡逻员已成功辨别出使用成年人信息进行实名认证的未成年人超千万并纳入监管，干预上万个未成年人使用成人账号的高额消费，处理涉骚扰未成年玩家违规账号8万多个，实现未成年人保护工作各环节的提质提效。

这一系列智能化、动态化的精准防护背后，是网易游戏多年来对未成年人保护体系的持续升级。为了加速未成年人相关问题的处理，网易游戏成立了专为未成年人服务的部门“网易游戏未成年人保护中心”，下设防沉迷产品开发、网络环境治理、网络安全教育等工作组，系统构建了全新的未成年人保护机制，将保护工作提升到了前所未有的高度。

家企联合管理，网易家长关爱平台已助力超10万家长高效监护

作为未成年人保护工作“最后一公里”的重要环节，家庭监护和教育的作用不容忽视。为此，网易游戏系统构建全新的未成年人保护工作机制，不仅在内部设立“网易游戏未成年人保护中心”，还搭建和不断完善“网易家长关爱平台”，帮助解决家庭管理的难点、痛点，也让双方的协同管理变得更为高效紧密。目前，网易游戏及125款产品官网、《蛋仔派对》等游戏的登陆界面均设置有“网易家长关爱平台”入口，方便家长点击直达，更快速找对渠道解决问题。

“网易家长关爱平台”是网易游戏为高效帮助家长解决未成年游戏相关各类问题、科学管理未成年游戏行为而专设的平台。家长可通过微信搜索公众号“网易家长关爱平台”，或在游戏官网、登录界面直接点击“家长关爱平台”按钮，即可登录平台操作，能够随时随地通过手机查询和管理孩子的游戏时间和消费情况，可以设置游戏禁玩、禁止消费，对孩子的游戏情况和行为直观掌控；当遇到防沉迷、未成年骚扰、未成年诈骗等相关问题，也可以通过平台咨询投诉、寻求帮助。截至目前，网易家长关爱平台已累计帮助超过10万家长解决了孩子消费异常、时间管理、退款等问题。平台还邀请了教育专家入驻，为家长与孩子的沟通教育提供更多建设性思路。

同时，网易游戏还设立了一个特殊的客服团队——网易游戏未成年人保护团队，快速响应解决家长在未成年游戏行为监管中遇到的问题。保护团队在接收到家长关爱平台上的相关举报后，会以最快的速度查实情况，并与家长沟通解决问题，确保未成年人的网络安全。并且，保护团队还专门开辟了一条未成年人专线电话，全年无休在线，节假日时刻待命，第一时间倾听家长的困扰，解决家长管理孩子游戏的各类问题。

社会协作联合守护，“疏堵结合”实现保护工作多场景覆盖

未成年人保护工作是一项系统工程，不仅是行业问题、技术问题、家庭问题，也需要社会各界共同投入力量。以企业为纽带，网易游戏持续联合社会各界力量，采用“疏堵结合”的方式，将未成年人保护和教育工作渗透到生活的多个场景。

一方面，网易游戏开展了多个治理专项，通过对网络空间有害信息、灰黑产的阻断和打击，强化网络防护。据悉网易游戏已对19个平台维权下架租售网易账号商品，并协助执法部门对违规售卖实名账号的工作室进行严厉打击；同时，联合公安开展联动打击，对骚扰游戏内未成年人的黑手重拳出击，并协助公安立案侦察。

另一方面，通过现实社会的教化和疏导，网易游戏致力于提升青少年网络素养，让他们真正形成自己的“免疫力”，能够去伪存真，对网络空间形成正确的价值判断，形成自我保护意识。在线下，网易游戏联合广州市人民检察院、荔湾区人民检察院、荔湾区教育局举办以“未成年人网络保护”为主题的“检察开放日”活动；在线上，联合广州市检察院共同打造公益直播视频专栏，提升未成年人网络安全素养，进一步强化科学、文明、安全上网的意识和能力。

据相关报告显示，目前未成年人防沉迷保护相关规定对92%的未成年玩家形成了有效认知，有44%的未成年玩家认为，自己的生活在新规实施后发生了变化。可见，这项重大的事业已经取得阶段性显著成果。守护未成年人，就是守护社会的未来。当保护工作进入“最后一公里”，需要企业技术和体系升级提效、需要家庭监护和教育落到实处、也需要社会各界关切协力，进一步巩固未成年人保护成果，让守护的力量覆盖每一位青少年。

关键词：