调查显示，中国6至15岁孩童的数量高达1.8亿，他们已经成为高度数字化的一代：开始使用电脑的平均年龄为7.8岁，开始使用智能手机的平均年龄为7.3岁，大部分在9岁以前都已接触各种智能设备、电子游戏和社交媒体。网络为未成年人创造了一个全新的世界，但未成年人进行网络游戏、网课、网络购物等时间越来越长、频率越来越高，加之未成年人防骗意识薄弱，受到各类不良信息诱导、遭受网络违法犯罪侵害的风险日益加剧。
(资料图片)
一直以来，国家都高度重视未成年人网络保护工作，对涉未成年人问题露头就打。自2020年起连续三年部署开展“清朗”未成年人暑期网络环境专项整治行动，深入清理了一批有害信息，处置了一批违法违规网站账号，严厉打击了各种乱象问题。
“清朗·2023年暑期未成年人网络环境整治”专项行动已经开启，今年行动将依旧聚焦网上涉未成年人突出问题，严厉整治各类有害内容和违法犯罪，守住专属平台安全底线，对于学习类App、儿童智能设备等，压实平台主体责任，强化应用上线、内容发布等前端管理，加强功能安全风险评估，禁止出现各类违法不良内容，不得诱导充值消费等。
目前未成年人网络危害主要有以下几个特征：
1.危害低龄化
目前未成年人的互联网接触率非常高，高学龄前达32.9%，中小学生达100%。2020年，媒体公开报道未成年人性侵案件中，受害人年龄为中小学学龄段的案例占比83.95%；
2.种类多样化
暴力内容诱导未成年校园霸凌乃至犯罪；国外亚文化衍生的违规类型开始在国内生根发芽；
3.方式隐匿化
黑灰产分子逐渐转入地下或境外；儿童软色情表情包及图片；涉政、虚无主义、暴恐等元素；
4.行为对抗化
黑灰产通过欺诈工具持续对抗；有害内容不断进行变异；黑灰产触角延伸到了PGC领域。
关于未成年人网络保护，国家从三个方面给出了指示。
第一，要加强未成年人网络安全教育，国家在“网络保护”专章中明确规定了政府有关部门在预防和干预沉迷网络方面的职责，以及父母或者其他监护人、学校、网络产品和服务提供者各方面预防沉迷网络的义务，依法惩处利用网络从事危害未成年人身心健康的活动，形成家庭、学校、社会多方位保护合力，营造良好安全的未成年人网络环境。
第二，各类平台主体需要构建合理的未成年人网络保护体系。国家网信办针对应用程序提供者明确提出，应当坚持最有利于未成年人的原则，关注未成年人健康成长，履行未成年人网络保护各项义务，严格落实未成年用户账号实名注册和登录要求，不得以任何形式向未成年用户提供诱导其沉迷的相关产品和服务。
应用程序为用户提供信息发布、即时通讯等服务的，应当对申请注册的用户进行基于移动电话号码、身份证件号码或者统一社会信用代码等方式的真实身份信息认证。用户不提供真实身份信息，或者冒用组织机构、他人身份信息进行虚假注册的，不得为其提供相关服务。
第三，积极探索未成年人网络司法保护新路径。以惩防网络犯罪为重点，依法精准打击“隔空猥亵”等网络违法犯罪，加大对以未成年人为目标的网络诈骗犯罪的打击惩治力度；依法惩戒和精准帮教相结合，最大限度教育挽救涉网络犯罪的未成年人。此外，还应通过公益诉讼、检察建议、支持起诉、情况通报等多种形式，推动网络平台、社会、政府共同守护未成年人健康网络环境。
作为国内最早搭建未成年人保护体系的企业之一，网易主要从技术拦截、社会共治、网络素养等三大维度出发持续探索守护未成年人健康成长。同样，未成年网络保护也是网易易盾网络生态治理的重点领域，易盾通过多年丰富的行业经验沉淀，搭建及不断完善了一套未成年人专项网络保护体系，主要包括未成年人识别、涉未成年人内容检测、内容蓝军巡检治理三个维度，并覆盖了注册环节、验证环节、消费环节、行为分析环节等，从自动化AI到人工审核，实现了有效、精准、多维度的未成年网络保护。
目前未成年人网络危害主要有以下几个特征：
1.危害低龄化
目前未成年人的互联网接触率非常高，高学龄前达32.9%，中小学生达100%。2020年，媒体公开报道未成年人性侵案件中，受害人年龄为中小学学龄段的案例占比83.95%；
2.种类多样化
暴力内容诱导未成年校园霸凌乃至犯罪；国外亚文化衍生的违规类型开始在国内生根发芽；
3.方式隐匿化
黑灰产分子逐渐转入地下或境外；儿童软色情表情包及图片；涉政、虚无主义、暴恐等元素；
4.行为对抗化
黑灰产通过欺诈工具持续对抗；有害内容不断进行变异；黑灰产触角延伸到了PGC领域。
关于未成年人网络保护，国家从三个方面给出了指示。
第一，要加强未成年人网络安全教育，国家在“网络保护”专章中明确规定了政府有关部门在预防和干预沉迷网络方面的职责，以及父母或者其他监护人、学校、网络产品和服务提供者各方面预防沉迷网络的义务，依法惩处利用网络从事危害未成年人身心健康的活动，形成家庭、学校、社会多方位保护合力，营造良好安全的未成年人网络环境。
第二，各类平台主体需要构建合理的未成年人网络保护体系。国家网信办针对应用程序提供者明确提出，应当坚持最有利于未成年人的原则，关注未成年人健康成长，履行未成年人网络保护各项义务，严格落实未成年用户账号实名注册和登录要求，不得以任何形式向未成年用户提供诱导其沉迷的相关产品和服务。
应用程序为用户提供信息发布、即时通讯等服务的，应当对申请注册的用户进行基于移动电话号码、身份证件号码或者统一社会信用代码等方式的真实身份信息认证。用户不提供真实身份信息，或者冒用组织机构、他人身份信息进行虚假注册的，不得为其提供相关服务。
第三，积极探索未成年人网络司法保护新路径。以惩防网络犯罪为重点，依法精准打击“隔空猥亵”等网络违法犯罪，加大对以未成年人为目标的网络诈骗犯罪的打击惩治力度；依法惩戒和精准帮教相结合，最大限度教育挽救涉网络犯罪的未成年人。此外，还应通过公益诉讼、检察建议、支持起诉、情况通报等多种形式，推动网络平台、社会、政府共同守护未成年人健康网络环境。
作为国内最早搭建未成年人保护体系的企业之一，网易主要从技术拦截、社会共治、网络素养等三大维度出发持续探索守护未成年人健康成长。同样，未成年网络保护也是网易易盾网络生态治理的重点领域，易盾通过多年丰富的行业经验沉淀，搭建及不断完善了一套未成年人专项网络保护体系，主要包括未成年人识别、涉未成年人内容检测、内容蓝军巡检治理三个维度，并覆盖了注册环节、验证环节、消费环节、行为分析环节等，从自动化AI到人工审核，实现了有效、精准、多维度的未成年网络保护。
01 未成年人识别
平台青少年模式、防沉迷系统已基本普及，但在平台认证环节中依然存在较多漏洞，未成年人可以轻松绕过。同时也存在未成年人租赁买号、冒充家长成人、充值消费等，对平台的良性运营也提出了挑战。因此，鉴别账号背后人的真实年龄是平台防范的第一步，也是非常重要的一步。平台可根据账号真人年龄进行防沉迷等功能限制，同时也可标记未成年人用户标签，保护未成年人的隐私信息，有效防止不法分子通过未成年人信息获取侵害机会。为此，易盾可提供全周期行为的未成年身份识别。
（1）身份认证识别
易盾可提供多种未成年身份识别方式，如实名认证，通过校验姓名与身份证的真实性，或结合手机号码的绑定来判定。同时也可通过活体检测、人脸比对、设备指纹、等技术全面快速核验真实身份信息，并将未成年人用户进行标识。
（2）行为智能识别
除了身份认证识别，易盾还可在用户的内容与行为中，通过图像、声音、文字等维度判定出“疑似未成年”的嫌疑度，如通过AI人脸识别算法进行年龄识别，或通过未成年人声纹、娃娃音、ASR语音转文本等语音算法进行判定。在文字内容方面，易盾可通过NLP语义分析、言论算法嫌疑度、未成年人黑话进行疑似判定。同时，易盾还通过海量数据分析挖掘，搭建了未成年人的行为模型，如通过在线时长算法、身份证绑定账户数、手机号绑定账户等方式，进行行为分析。对高嫌疑账号执行人脸核身，人脸校验当前账号是否未成年，同时对未成年人过滤不良内容。
（3）风险用户识别
网络平台中存在着很多黑色利益链条，未成年人由于心智未发育成熟，很容易成为黑灰产的“猎物”。易盾在用户识别领域一直非常关注风险用户的识别，通过海量用户数据的多维挖掘，构建黑产信息库和风险识别模型，并可根据唯一的设备指纹，形成One- ID，通过用户ID与用户行为分析，精准识别“风险账号”。同时，针对团体黑灰产行为，网易易盾将其设备信息、网络环境、行为时序、内容等多维信息整合后进行深度数据挖掘，可挖掘出黑产用户之间潜在的隐式关系，从而以点带面找出团伙，有效保护平台未成年用户远离网络风险。
02 涉未成年人内容检测
网络世界充斥着大量对未成年人的有害和负面内容，如低俗色情、血腥暴力、炫富拜金，甚至有一些不法分子利用互联网教唆和引诱未成年人实施暴力、诈骗甚至自杀，有的对未成年人实施性引诱、网络猥亵等违法行为，性质非常恶劣。因此，清理平台涉未成年人的有害信息是每年“清朗”行动非常关注的一面，并且将进行严厉打击。
易盾主要通过机审+人审的组合策略，在所有涵盖文本、图片、音视频的多个业务场景，实现对侵害未成年人的不良内容风险全覆盖，有效阻隔不良信息对未成年人造成的伤害。
在AI智能检测能力中，易盾对色情引诱、性暗示、低俗视频等问题有着很强的检测力，且对儿童形象软色情包做深度识别；同时，针对不同行业和类型的平台，易盾可提供专门的未成年策略集配置，有效防止各种不同有害信息内容的传播；
03 内容蓝军巡检治理
除了为平台提供身份识别、内容检测服务，易盾针对内容风险治理还可提供内容蓝军巡检服务。在平台的日常运营中，蓝军可根据平台的类型与未成年人用户视角制定专业的巡检方案。
易盾蓝军将会以攻击者姿态，针对未成年人用户群体向不同的场景投放蓝军样本，并监控蓝军样本的处置方式、处置时长，逐渐升级攻击难度，并输出产品内容风控蓝军报告，帮助平台知晓产品抗攻击能力。
未成年人安全风险在各类型平台中都普遍存在，对游戏、娱乐直播、教育等行业来说尤为突出，且问题多样，所以易盾针对这三个行业可提供深度定制方案。
游戏行业
游戏沉迷是未成年人比较突出的一个问题。易盾依托网易的技术能力与丰富的游戏行业经验，搭建未成年人游戏平台保护体系。易盾在用户注册、游戏服务与游戏处置过程中均进行了深度的识别检测和风险控制。在游戏全业务流程中，易盾可通过AI及人脸识别技术，判定的疑似未成年人的用户身份，并由人脸识别验证系统进行二次验证，落实未成年人游戏防沉迷要求，同时也可有效解决未成年人租售游戏账号等问题。
娱乐直播行业
随着短视频、直播的社会影响力逐渐增大，未成年人用家长手机给主播打赏的现象屡见不鲜。同时也出现了“未成年人充值打赏恶意退款”案例，对直播平台的安全运营造成了影响。所以未成年人的身份识别和落实“青少年模式”很关键，需对未成年人进行合理监管及限制，易盾可通过用户识别和内容检测等技术手段为平台标识未成年人用户，降低运营风险。
教育行业
教育行业主要典型的问题是不良内容的传播，比如谩骂、色情、违禁接龙、不良价值观导向等问题。所以不良信息的拦截是非常关键的一步。易盾可通过多方式综合性审核未成年人可接收到的数据内容，对不良信息进行有效拦截，创造良好的网络环境，保障儿童身心健康发展。
易盾还提供内容蓝军巡检服务，专人专项定期对应用商店的应用进行内容安全巡检，清除不良信息。同时，提供高级安全服务，如人工审核、安全培训、舆情顾问、风控咨询等，为教育平台打造完整、体系化的应对方案。
未成年人网络保护是全社会越来越关注的一个热点问题，在每年的“清朗”专项行动当中，都有社会群众反映平台强烈的突出问题并要求开展专项整治。国家对未成年的网络保护高度重视，对突出问题形成露头就打、高压严打的态势。未成年人网络保护是一项系统的工作，需要平台、企业、家长、社会共同来保驾护航。作为国内新一代数字内容风控服务商,网易易盾让未成年人在网络空间呼吸新鲜空气。
