守護(hù)清朗網(wǎng)絡(luò)空間丨“小網(wǎng)民”需要“大保護(hù)”

  暑期將至，眼看著“神獸歸籠”，未成年人網(wǎng)絡(luò)保護(hù)問題又進(jìn)入公眾視野。

  為了讓孩子遠(yuǎn)離網(wǎng)上不良信息、避免網(wǎng)絡(luò)游戲沉迷、防范網(wǎng)絡(luò)安全風(fēng)險(xiǎn)，不少家長操碎了心。

  中央網(wǎng)信辦2025年“清朗”系列專項(xiàng)行動整治重點(diǎn)中，就包括“整治暑期未成年人網(wǎng)絡(luò)環(huán)境”，要求強(qiáng)化涉未成年人不良內(nèi)容治理，凈化兒童智能設(shè)備、未成年人模式、未成年人專區(qū)等重點(diǎn)環(huán)節(jié)信息內(nèi)容。

  伴隨新技術(shù)發(fā)展，網(wǎng)絡(luò)上有哪些危害未成年人身心健康的新問題？各方如何提升治理效能？記者進(jìn)行了調(diào)查采訪。

  網(wǎng)絡(luò)多風(fēng)險(xiǎn)，“原住民”怎么辦？

  最近，來自四川成都的彭女士發(fā)現(xiàn)自己12歲的女兒有點(diǎn)不對勁。

  “總神神秘秘地抱著手機(jī)，問在干啥，也死活不說”。她留了個(gè)心眼，點(diǎn)開女兒常用的一款軟件。這一看嚇得不輕：屏幕上出現(xiàn)與多個(gè)虛擬男性角色的聊天互動，其中充滿暗示性的對話，以及曖昧露骨的神情與動作描述。

  原來，這是一款A(yù)I陪伴聊天軟件，應(yīng)用商店中年齡分級為“17+”。用戶只要簡單描述，就能定義AI智能體的形象、聲音、人設(shè)、技能，然后實(shí)時(shí)語音、文字聊天。最受歡迎的是戀愛情景模式，以及霸總、病嬌等人設(shè)。

  將對女兒接觸“擦邊”信息的擔(dān)憂發(fā)在網(wǎng)上后，彭女士發(fā)現(xiàn)自家情況并非個(gè)案。在社交媒體上檢索這款應(yīng)用，能看到不少正上初中甚至小學(xué)的用戶曬出自己的年齡和聊天體驗(yàn)。后知后覺的父母們則心急如焚地互相詢問：“這到底是啥？”“該怎么勸？”

  這樣的焦慮不難理解。

  這一代未成年人作為“互聯(lián)網(wǎng)原住民”，大多從出生起就接觸互聯(lián)網(wǎng)。據(jù)《青少年互聯(lián)網(wǎng)使用情況調(diào)查報(bào)告（2024）》統(tǒng)計(jì)，我國學(xué)齡期及以上未成年人觸網(wǎng)率近98%。

  與他們的父輩不同，智能設(shè)備、短視頻、網(wǎng)絡(luò)游戲，乃至人工智能大模型……本身就是他們認(rèn)識和參與社會、獲取知識與情感陪伴的重要途徑。許多家長“一刀切”禁止孩子上網(wǎng)，也引起許多孩子的不滿。

  但家長們的擔(dān)心也不無道理。許多未成年人沒意識到：他們熟悉的互聯(lián)網(wǎng)，實(shí)際上“險(xiǎn)象環(huán)生”。

  不良內(nèi)容、成癮沉迷、網(wǎng)絡(luò)欺凌、個(gè)人信息泄露、非理性消費(fèi)……這些令人眼花繚亂的風(fēng)險(xiǎn)場景，連成年人都可能“踩坑”，對身心尚在發(fā)育成長中的未成年人，傷害往往更加深遠(yuǎn)。

  正如彭女士的經(jīng)歷，人工智能,尤其生成式AI的發(fā)展普及，讓未成年人面臨的各類網(wǎng)絡(luò)風(fēng)險(xiǎn)更隱蔽、更難以防范。

  除了AI陪伴聊天中暗藏的色情暴力信息，網(wǎng)信部門還發(fā)現(xiàn)，部分用戶利用AI繪圖技術(shù)，惡意將未成年人圖片轉(zhuǎn)換成兒童懷孕狀態(tài)、身穿裸露服裝等惡俗低俗漫畫。

  有專家指出，這與對AI生成內(nèi)容以及相關(guān)產(chǎn)品服務(wù)背后的語料訓(xùn)練監(jiān)管不嚴(yán)有關(guān)。

  “青少年模式”，如何不被輕易繞開？

  自從互聯(lián)網(wǎng)走進(jìn)人們的生活，孩子與家長的“斗智斗勇”似乎就沒停過。

  “明明手機(jī)設(shè)置了青少年模式，但娃還是能超出時(shí)間限制玩游戲。”來自北京的蕭女士說，“查了好久，才發(fā)現(xiàn)他偷偷用我的身份信息做了實(shí)名認(rèn)證。”

  來自湖南的中學(xué)生小王和伙伴分享經(jīng)驗(yàn)：“我和爺爺說，學(xué)校有信息要確認(rèn)，讓他幫忙自拍一張，實(shí)際上是用他的信息刷臉認(rèn)證，解除青少年模式。”

  從2019年起，部分短視頻平臺和游戲平臺開始推出“青少年模式”，通過限制時(shí)長、使用時(shí)段、使用功能，減少未成年人網(wǎng)絡(luò)依賴，保護(hù)未成年人隱私信息和人身安全。

  那么，為何給青少年“量身打造”的“青少年模式”并不受他們歡迎？除了未成年人本身的逆反心理，也因?yàn)椴糠制脚_的“青少年模式”設(shè)置并不完善。

  一個(gè)主要原因是，部分平臺沒有青少年的年齡段區(qū)分，開啟后能看到的內(nèi)容過于單一，“只有低齡化動畫片和手工視頻。”一位上海小學(xué)生這樣吐槽，“別讓我們?yōu)榱苏乙恍┖侠淼木W(wǎng)絡(luò)資源而動歪腦筋！”

  為解決這些問題，2025年4月，“未成年人模式”作為“青少年模式”的升級版，正式發(fā)布上線。相較于過去由單一平臺支撐，新模式由移動智能終端、應(yīng)用程序和應(yīng)用商店三方協(xié)同改造。

  具體帶來哪些變化？

  首先，操作門檻大大降低。目前，華為、OPPO等手機(jī)更新后，桌面會出現(xiàn)醒目的“未成年人模式”圖標(biāo)，一鍵就能讓所有APP同步切換；不同設(shè)備能統(tǒng)一管理，家長在自己的手機(jī)設(shè)置后，孩子的手機(jī)、平板、智能手表等設(shè)備都能同步限制；“繞開”的難度也增加了，退出模式需要人臉或指紋識別。

  其次，內(nèi)容大大豐富。增加年齡分層，如0-3歲主打兒歌、親子互動，8-12歲主打科普、生活技能；優(yōu)質(zhì)內(nèi)容定向增加，如抖音邀請全國科技館入駐并開展科學(xué)教育。

  另外，部分應(yīng)用增加了定制化內(nèi)容，家長可以根據(jù)孩子的具體情況“量體裁衣”。以微信為例，監(jiān)護(hù)人可以設(shè)置微信支付的限額；未成年人遇到受限內(nèi)容，如特定公眾號、小程序、外部鏈接，也可以向監(jiān)護(hù)人發(fā)起臨時(shí)訪問申請。

  目前，未成年人模式仍在不斷完善。“有這個(gè)模式，可以少花心思在‘斗智斗勇’上了。管理孩子手機(jī)的時(shí)候，也不容易‘一刀切’了。”一位家長說。

  孩子上網(wǎng)引糾紛，責(zé)任誰來擔(dān)？

  當(dāng)網(wǎng)絡(luò)上的權(quán)益糾紛真正發(fā)生，平臺、監(jiān)護(hù)人、未成年人應(yīng)如何劃分責(zé)任？

  “作為全國首個(gè)互聯(lián)網(wǎng)少年法庭，2021年掛牌至今，我們已經(jīng)受理了1200余件涉網(wǎng)未成年人案件，案件呈現(xiàn)出快速增長趨勢。”北京互聯(lián)網(wǎng)法院少年法庭法官毛春聯(lián)告訴記者。

  據(jù)她介紹，這些司法案件主要包括兩類，一是未成年人游戲充值、直播打賞引發(fā)的網(wǎng)絡(luò)服務(wù)合同糾紛，占到全部案件的近七成；二是線下糾紛以及追星導(dǎo)致造謠、辱罵、P圖等引發(fā)的網(wǎng)絡(luò)侵權(quán)責(zé)任糾紛。

  “充值打賞類案件是所有案件中最令人擔(dān)憂的。”毛春聯(lián)說，“我們近3年審結(jié)了近700件此類糾紛，案件平均標(biāo)的額超過8萬元。不少涉訴未成年人的家庭經(jīng)濟(jì)基礎(chǔ)薄弱，部分是隔代撫養(yǎng)的留守兒童，未成年人的大額消費(fèi)給家庭帶來了巨大負(fù)擔(dān)。”

  毛春聯(lián)解釋：這類案件中，對未成年人，法院主要考慮其是否采取了繞過監(jiān)管的措施。“之前有一起案件，未成年人冒充自己母親與平臺客服溝通，解除對消費(fèi)的限制。法院認(rèn)為這一行為存在過錯(cuò)，在確定平臺退款數(shù)額時(shí)將該行為作為考量因素之一”。

  對于監(jiān)護(hù)人，是否開啟未成年人模式、是否管理設(shè)備使用、是否保管好支付密碼和身份信息等，是衡量其是否盡到監(jiān)護(hù)職責(zé)的標(biāo)準(zhǔn)。

  而對于平臺，想要壓實(shí)主體責(zé)任，“事先預(yù)防、事中限制、事后救濟(jì)，一個(gè)也不能少。”毛春聯(lián)說。

  具體而言，事前預(yù)防包括提供未成年人模式、接入實(shí)名制認(rèn)證系統(tǒng)、優(yōu)化平臺內(nèi)容、設(shè)置提示等；事中，即侵權(quán)行為發(fā)生后，平臺不能僅處在被動地位，在接受侵權(quán)通知后才采取措施，對侵權(quán)性明顯的內(nèi)容應(yīng)通過AI識別、關(guān)鍵詞過濾等技術(shù)手段，主動識別攔截；事后救濟(jì)環(huán)節(jié)，應(yīng)提供相應(yīng)的指引，設(shè)置涉未糾紛專屬處理通道，配合披露侵權(quán)人信息等。

  同時(shí)，應(yīng)對人工智能相關(guān)的新型風(fēng)險(xiǎn)，相關(guān)部門也在探索。

  6月10日，在安徽合肥舉辦的2025年中國網(wǎng)絡(luò)文明大會人工智能分論壇上，《向未成年人提供生成式人工智能服務(wù)安全指引》正式發(fā)布，明確提到“對涉未成年人數(shù)據(jù)實(shí)施分類分級管理”“建議在模型訓(xùn)練過程中引入保護(hù)未成年人權(quán)益的安全原則，約束模型的輸出符合倫理規(guī)范、減少偏見等”。

  如何才能更加有效解決網(wǎng)絡(luò)沉迷等涉未成年人網(wǎng)絡(luò)安全問題？

  “可以把握家庭、學(xué)校、社區(qū)、司法部門幾個(gè)維度。”四川省成都市武侯區(qū)人民法院黨組成員、副院長李非陽告訴記者，“司法部門可以開展法制教育、提供調(diào)解干預(yù)與心理疏導(dǎo)。家庭要加強(qiáng)情感陪伴，用運(yùn)動、親子閱讀、外出旅行等活動減少未成年人對虛擬世界的依賴；學(xué)校要強(qiáng)化素養(yǎng)教育與早期干預(yù)，可以通過開設(shè)‘算法認(rèn)知課’介紹網(wǎng)絡(luò)成癮原理。社區(qū)有條件的，可以考慮打造適合未成年人的無網(wǎng)娛樂空間，引導(dǎo)未成年人培養(yǎng)線下興趣，減少對網(wǎng)絡(luò)的沉迷和依賴。”（記者 霍旻含）

  資料鏈接

  家庭如何引導(dǎo)未成年人遠(yuǎn)離有害網(wǎng)絡(luò)信息：

  1. 營造健康的網(wǎng)絡(luò)使用環(huán)境。

  2. 在孩子上網(wǎng)時(shí)適當(dāng)陪伴。

  3. 引導(dǎo)孩子辨別網(wǎng)絡(luò)信息內(nèi)容。

  4. 加強(qiáng)孩子對危害后果的認(rèn)識。

  5. 幫助孩子抵御有害內(nèi)容侵蝕。如果孩子已經(jīng)遭受有害內(nèi)容的負(fù)面影響，家長需要采取積極的干預(yù)措施。

  來源：北京互聯(lián)網(wǎng)法院《關(guān)于促進(jìn)未成年人網(wǎng)絡(luò)素養(yǎng)家庭教育的指引》