加強監(jiān)管讓AI造謠無處藏身

據(jù)媒體報道，近期多地公安機關發(fā)布了多起利用AI工具實施造謠的相關案件。在這個信息爆炸的時代，網(wǎng)絡謠言時刻影響著我們的生活。特別是一些涉及教育的謠言信息，傳播力強，容易造成不良的社會影響。例如，此前有人曾利用一款AI小程序，編造出“校園霸凌”的虛假信息，對被造謠的學校造成了嚴重的名譽損害。面對AI造謠這一新型挑戰(zhàn)，我們有必要健全法律法規(guī)和相關治理機制，不斷加強監(jiān)管，斬斷其背后的利益鏈條。

造謠不僅容易誤導公眾，還可能侵害他人合法權益，擾亂社會秩序。對此，我國刑法、民法典、治安管理處罰法以及相關司法解釋，都為打擊造謠提供了法律依據(jù)。然而，關于AI生成內容的法律屬性及其責任歸屬仍然存在一定的爭議，或者說現(xiàn)有的法律還存在縫隙地帶和空白地帶。因此，立法機關應當積極回應技術發(fā)展帶來的新問題，通過完善法律法規(guī)，進一步明確AI謠言制造者、傳播者的法律責任，為打擊AI造謠提供堅實的法律依據(jù)。

AI造謠往往依賴于特定的算法模型和大數(shù)據(jù)資源。監(jiān)管部門需要加強技術研發(fā)，或加強與AI技術企業(yè)合作，提高監(jiān)管“智能”。一方面，要運用AI技術對網(wǎng)絡信息進行智能監(jiān)測，迅速發(fā)現(xiàn)謠言的蛛絲馬跡。通過算法識別謠言的傳播特征，如關鍵詞、語言風格、圖像識別等，實現(xiàn)謠言的自動識別和攔截。另一方面，要利用AI技術提高謠言的甄別能力，結合官方信息、權威數(shù)據(jù)等，對網(wǎng)絡信息進行實時比對，確保信息的真實性。對發(fā)現(xiàn)的網(wǎng)絡謠言，要用技術的力量第一時間“識破”謠言，然后“撕破”謠言。此外，要加大對網(wǎng)絡數(shù)據(jù)的治理力度，打擊數(shù)據(jù)造假、濫用等行為，從源頭上削減AI造謠的素材基礎。對于已經(jīng)投入市場的AI工具，應定期開展檢測評估，一旦發(fā)現(xiàn)其被用于造謠等違法行為，應立即予以警示并做出相應的處理。

造謠的是AI，作惡的是人。以“西安突發(fā)爆炸”虛假新聞案為例，涉事賬號所屬機構最高峰一天能生成4000至7000篇假新聞，每天收入在1萬元以上，而公司實際控制人經(jīng)營著5家這樣的機構，運營賬號達842個?？梢?，這些幕后黑手才是AI造謠泛濫的根源。因此，相關部門應建立健全AI技術應用的審核制度，對AI算法開發(fā)者、服務提供商進行資質審查，對成為謠言幫兇的AI運營企業(yè)和個人要依法追責。

治理AI造謠亂象，是深化網(wǎng)絡生態(tài)治理的應有之義。只有不斷扎緊監(jiān)管的“籬笆”，深入挖掘、嚴厲打擊AI造謠產(chǎn)業(yè)鏈上下游的違法犯罪行為，讓AI造謠者付出應有的代價，才能避免AI造謠傳播帶來的社會危害，從而為良好教育環(huán)境的營造奠定基礎。

（作者系江蘇沛縣融媒體中心編輯部主任）

《中國教育報》2024年07月30日第2版