本報深圳訊(記者黃劼)廣東省深圳市消費者委員會近日發(fā)布消費警示,拆解AI虛擬伴侶App的隱性風險,并呼吁多方共治,筑牢未成年人網(wǎng)絡消費安全防線。
深圳市消委會梳理相關(guān)投訴與監(jiān)測信息發(fā)現(xiàn),當前市面上多款AI虛擬伴侶App存在風險隱患,對未成年人群體具有誤導性和危害性。
一是不良內(nèi)容侵蝕青少年身心健康。部分平臺虛擬人設著裝暴露,日常對話充斥低俗暗示話術(shù),甚至上線“暴力”情感互毆”等極端不良劇情,易扭曲未成年人尚未成熟的價值觀。有測試反饋顯示,以13歲未成年人身份在相關(guān)App與虛擬人設交流時,平臺不僅未終止互動、啟動保護機制,反而推送曖昧肢體描寫等不良話術(shù),存在較大的心理健康危害隱患。
二是未成年人保護機制形同虛設。調(diào)研發(fā)現(xiàn),這類平臺的青少年模式可通過“我知道了”等簡單操作一鍵跳過,賬號注冊、登錄全程無需實名認證和年齡核驗,未成年人能夠輕易繞過平臺管控無門檻接觸各類不良內(nèi)容,保護機制無法發(fā)揮有效防護作用。
三是暗藏誘導充值消費陷阱。多數(shù)AI虛擬伴侶App設置多層消費關(guān)卡,通過付費解鎖親密劇情、購買虛擬禮物、定制專屬人設等功能誘導用戶持續(xù)充值,易引發(fā)未成年人沉迷消費。不僅如此,部分平臺默許、縱容二手交易平臺售賣定制涉黃擦邊虛擬人設,進一步放大了網(wǎng)絡消費風險與合規(guī)隱患。
記者了解到,國家網(wǎng)信辦等5部門聯(lián)合出臺的《人工智能擬人化互動服務管理暫行辦法》將于7月15日施行,其中明確規(guī)定,擬人化互動服務提供者不得向未成年人提供虛擬伴侶等虛擬親密關(guān)系服務;向不滿十四周歲未成年人提供其他擬人化互動服務,必須事先取得監(jiān)護人同意。
網(wǎng)絡空間不是法外之地,技術(shù)創(chuàng)新不能淪為低俗牟利的工具。深圳市消委會呼吁:平臺方應切實履行主體責任,立即停止向未成年人提供虛擬伴侶服務,全面下架涉嫌低俗、暴力、擦邊人設等不良內(nèi)容,完善實名認證、青少年模式及消費限額等機制,嚴防誘導未成年人充值消費;家長應筑牢監(jiān)護防線,妥善保管支付密碼,定期關(guān)注孩子消費記錄,引導孩子理性看待AI虛擬互動,培養(yǎng)真實社交與健康情感觀念;廣大消費者如發(fā)現(xiàn)平臺涉嫌違規(guī)提供虛擬伴侶服務、誘導消費等行為,應理性維權(quán),保留聊天記錄、支付憑證等證據(jù),及時通過平臺客服、12315熱線、各地消費者組織等渠道投訴舉報,必要時可依法訴訟。
(責任編輯:王惠綿)