莫讓AI聊天“網(wǎng)”住未成年人
AI聊天模式越來越趨向真實，不經(jīng)意間會讓人越陷越深。 薛淞作
小學(xué)生沉迷和AI角色聊天；無限制詞AI聊天網(wǎng)頁出現(xiàn)“擦邊”色情故事場景；AI角色聊天暴露大量個人隱私……一些打著“角色扮演”等旗號的AI劇情聊天應(yīng)用，悄然滋生灰色地帶，引發(fā)社會廣泛關(guān)注。
近年來，伴隨著社交媒體深入生活，AI劇情聊天軟件如雨后春筍般涌現(xiàn)。這些軟件通過設(shè)定風格迥異的人物角色、極富想象力的劇情，為人們帶來新奇的交互體驗，成為豐富人們精神世界的工具。然而，在一些AI劇情聊天軟件對話中，時而出現(xiàn)的語言暴力、色情“擦邊”等涉嫌違法違規(guī)內(nèi)容，成為亟待解決的社會問題。
AI劇情聊天軟件“擦邊”“毀三觀”，主要是相關(guān)平臺企業(yè)受利益驅(qū)使，忽視了自身社會責任。同時，未成年人心智尚未成熟，自我防護能力弱，極易受到AI劇情聊天的影響和誘惑。
AI劇情聊天軟件背后的大語言模型數(shù)據(jù)，多源于對話式小說提取，聊天內(nèi)容具有不可預(yù)測風險。2023年7月頒布的《生成式人工智能服務(wù)管理暫行辦法》第四條規(guī)定，提供和使用生成式人工智能服務(wù)，應(yīng)當遵守法律、行政法規(guī)，尊重社會公德和倫理道德。
這些年，很多平臺都推出未成年人模式，試圖筑起保護未成年人的“安全墻”。然而現(xiàn)實中，一些未成年人模式出現(xiàn)開啟與否全憑用戶“一鍵選擇”、未成年人選擇“未滿18歲”后依舊暢行無阻等問題。國家互聯(lián)網(wǎng)信息辦公室發(fā)布的《移動互聯(lián)網(wǎng)未成年人模式建設(shè)指南》提出了未成年人模式建設(shè)的整體方案，鼓勵和支持移動智能終端、應(yīng)用程序和應(yīng)用程序分發(fā)平臺等共同參與。這既考驗平臺保護未成年人的誠意和決心，也考驗平臺技術(shù)服務(wù)能力。平臺要進一步強化內(nèi)容審核機制，不斷加強內(nèi)部審核管理，確保生成內(nèi)容符合相關(guān)法律法規(guī)的要求，將未成年人模式設(shè)計為不容繞過的“鋼鐵模式”。
莫讓AI聊天“網(wǎng)”住未成年人。有關(guān)部門要引進、強化外部監(jiān)管，通過日常巡查、聯(lián)合執(zhí)法，確保用戶權(quán)益不被侵犯。此外，監(jiān)護人也要盡到監(jiān)護責任，及時對問題軟件進行投訴舉報。各方銘記守護未成年人成長初心，借政策東風，憑技術(shù)革新，用行動踐行使命，就一定能修補防線漏洞，讓AI之光照亮未成年人成長之路。（黃宗躍）
