兒童智能產(chǎn)品開發(fā)必須嚴(yán)守底線

近日，某品牌兒童手表搜索功能出現(xiàn)“不良答案”的消息登上熱搜。相關(guān)答案毀三觀的程度令人驚詫。事后，企業(yè)表示將整改并接受社會(huì)監(jiān)督。

為什么會(huì)出現(xiàn)這些毀三觀的答案？從技術(shù)的手段上分析，當(dāng)然可以得出各種結(jié)論。但技術(shù)背后的原因更值得深思，那就是一些企業(yè)缺乏社會(huì)責(zé)任感，在研發(fā)產(chǎn)品時(shí)沒有從保護(hù)未成年人權(quán)益、呵護(hù)未成年人成長的角度去設(shè)計(jì)產(chǎn)品。所以，才會(huì)出現(xiàn)各種漏洞。試想，如果沒有家長及時(shí)發(fā)現(xiàn)內(nèi)容并推動(dòng)企業(yè)整改，還會(huì)有多少毀三觀的內(nèi)容持續(xù)污染青少年的認(rèn)知？

更需要指出的是，不僅是某一款兒童產(chǎn)品存在類似問題。近年來，隨著人工智能技術(shù)、大數(shù)據(jù)等科技發(fā)展，幫助兒童生活、學(xué)習(xí)的電子產(chǎn)品、App軟件更加豐富。相伴而來的是，相關(guān)產(chǎn)品和軟件在內(nèi)容輸出方面問題頻出，引發(fā)社會(huì)的廣泛關(guān)注和討論。這背后反映的是一些企業(yè)不斷追求應(yīng)用最新的技術(shù)，卻忽略了技術(shù)應(yīng)用可能帶來的風(fēng)險(xiǎn)。人工智能確實(shí)強(qiáng)大，其內(nèi)容生成能力遠(yuǎn)超過人類，但人工智能在價(jià)值判斷上存在紊亂的情況，它可能給人提供錯(cuò)誤的信息，誤導(dǎo)、欺騙人類。這就需要人類把握好價(jià)值判斷的尺度。對(duì)于企業(yè)來說，在開發(fā)兒童產(chǎn)品時(shí)，認(rèn)識(shí)到人工智能的局限性，牢記自身的責(zé)任，是必須守住的最基本的底線。

《中國教育報(bào)》2024年08月29日第2版