為生成式人工智能教育應(yīng)用確立規(guī)范

隨著ChatGPT的正式發(fā)布，生成式人工智能迅速受到教育領(lǐng)域的廣泛關(guān)注。目前，國產(chǎn)大語言模型也紛紛亮相，頗受用戶青睞。可以說，生成式人工智能已經(jīng)成為一種不可逆轉(zhuǎn)的技術(shù)發(fā)展潮流。一般認(rèn)為，新技術(shù)對(duì)教育的影響都具有滯后性，但自生成式人工智能推出以來，對(duì)教育的影響與對(duì)生產(chǎn)生活的影響幾乎是同步的。就此而言，生成式人工智能的教育應(yīng)用問題是必須認(rèn)真對(duì)待的緊迫問題。

得益于強(qiáng)大的文本、圖像生成功能，生成式人工智能不僅能夠幫助學(xué)生進(jìn)行資料檢索與自主學(xué)習(xí)，還能為學(xué)生提供良好的互動(dòng)體驗(yàn)，更能協(xié)助教師提升教育教學(xué)的質(zhì)量和效率。然而，生成式人工智能給教育領(lǐng)域帶來變革機(jī)遇的同時(shí)，也給教育領(lǐng)域帶來誠信危機(jī)、信息欺騙與隱私泄露等諸多潛在風(fēng)險(xiǎn)。今年7月，國家網(wǎng)信辦等七部門聯(lián)合公布《生成式人工智能服務(wù)管理暫行辦法》，提出國家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，體現(xiàn)了中國政府在發(fā)展生成式人工智能方面的積極態(tài)度與責(zé)任擔(dān)當(dāng)。近日，聯(lián)合國教科文組織發(fā)布《教育與研究領(lǐng)域生成式人工智能指南》，呼吁各國政府通過制定法規(guī)、培訓(xùn)教師等，規(guī)范生成式人工智能在教育中的應(yīng)用?？傮w來看，該類文件不僅從技術(shù)開發(fā)者角度明確了數(shù)據(jù)處理規(guī)則與服務(wù)規(guī)范，還從技術(shù)使用者角度提供了應(yīng)用措施與培訓(xùn)規(guī)劃，更從技術(shù)監(jiān)管者角度制定了分級(jí)監(jiān)督和管理機(jī)制，整體上構(gòu)建了生成式人工智能教育應(yīng)用之路。

技術(shù)提前防范是前提。生成式人工智能對(duì)教育的根本挑戰(zhàn)不在于前述教育誠信危機(jī)、信息欺騙風(fēng)險(xiǎn)與隱私保護(hù)問題等，而在于對(duì)學(xué)生思維培養(yǎng)的威脅。因此，從教育技術(shù)產(chǎn)品設(shè)計(jì)的角度，任何技術(shù)應(yīng)用都應(yīng)該進(jìn)行教育化改造，并通過教育市場的準(zhǔn)入制度進(jìn)行前端防范。為此，技術(shù)研發(fā)部門有必要開發(fā)教育專用的生成式人工智能系統(tǒng)，改進(jìn)當(dāng)前的直白問答模式，根據(jù)不同學(xué)段的育人目標(biāo)、認(rèn)知規(guī)律，采用更加安全、科學(xué)的方式與學(xué)生進(jìn)行對(duì)話交流和提問引導(dǎo)，降低學(xué)生的工具依賴風(fēng)險(xiǎn)。同時(shí)，這種教育專用系統(tǒng)可以開發(fā)多用戶同步對(duì)話模式，既能促進(jìn)學(xué)生的合作探究與相互引導(dǎo)，也能方便教師成為人機(jī)互動(dòng)、人人互動(dòng)的調(diào)停者與監(jiān)督者。此外，技術(shù)研發(fā)部門亟須開發(fā)相應(yīng)的文本、圖像檢測器，甄別AI生成作品和人類作品的區(qū)別，并將AI檢測作為學(xué)術(shù)出版、考試評(píng)價(jià)的常規(guī)流程，抵御生成式人工智能所引發(fā)的學(xué)術(shù)倫理、作業(yè)抄襲、考試作弊等問題。

主體合理應(yīng)用是關(guān)鍵。任何教育技術(shù)產(chǎn)品的應(yīng)用都需要保持工具理性與價(jià)值理性的平衡和張力，既要注重教育效率和效果的提升，也要關(guān)注教育主體的內(nèi)在尺度和精神存在。大多學(xué)者雖認(rèn)同生成式人工智能在教育領(lǐng)域的合理應(yīng)用而非簡單屏蔽，但沒有具體說明技術(shù)的應(yīng)用邊界。應(yīng)用邊界的劃分是教育領(lǐng)域合理應(yīng)用生成式人工智能的規(guī)范與保障。例如，大學(xué)生可以自主選擇與決定是否使用生成式人工智能工具；在中小學(xué)領(lǐng)域，則需根據(jù)不同教學(xué)目標(biāo)、教學(xué)任務(wù)、教學(xué)方法與學(xué)習(xí)者的具體情況，設(shè)計(jì)“建議不用”“建議合理使用”“禁止使用”等不同使用方案。尤其對(duì)于認(rèn)知能力尚不成熟、無法承擔(dān)法律責(zé)任的基礎(chǔ)教育低年級(jí)學(xué)生而言，生成式人工智能的應(yīng)用邊界模糊且不受控制。因此，在缺乏成熟的技術(shù)防范機(jī)制或工具的情況下，禁止低年級(jí)學(xué)生使用生成式人工智能工具是必要的。當(dāng)然，這并不意味著將低年級(jí)學(xué)生作為生成式人工智能的絕緣體。相反，教育者需要探索如何將生成式人工智能作為中小學(xué)信息科技教育的重要內(nèi)容，讓學(xué)生不僅可以體驗(yàn)生成式人工智能的特點(diǎn)、功能、優(yōu)勢和限制，還可以收集數(shù)據(jù)、訓(xùn)練人工智能模型，深度學(xué)習(xí)算法和人工智能應(yīng)用，從而體悟人工智能的有限性和應(yīng)用邊界。同時(shí)，各地教研部門可以有針對(duì)性地加強(qiáng)以生成式人工智能為主題的教學(xué)教研，加強(qiáng)對(duì)中小學(xué)教師人工智能應(yīng)用、人工智能倫理規(guī)范等主題的培訓(xùn)，為生成式人工智能進(jìn)入課堂做好充足準(zhǔn)備。

政府有力監(jiān)管是保障。政府監(jiān)管不僅能為教育主體提供生成式人工智能的應(yīng)用指南與服務(wù)體系，還能為技術(shù)開發(fā)者提供生成式人工智能產(chǎn)品的治理規(guī)則與服務(wù)規(guī)范。高校與教育管理部門可合作研制生成式人工智能教育的應(yīng)用指南，遴選優(yōu)秀應(yīng)用案例，鼓勵(lì)創(chuàng)新應(yīng)用，樹立典型示范。還可以健全學(xué)術(shù)誠信規(guī)范、倫理規(guī)范、考試管理等教育管理制度，將人工智能技術(shù)應(yīng)用納入教育督導(dǎo)與教育法規(guī)體系，成為教育治理體系的一個(gè)有機(jī)組成部分，規(guī)避技術(shù)濫用帶來的潛在風(fēng)險(xiǎn)。

總之，面對(duì)生成式人工智能在教育領(lǐng)域引起的轟動(dòng)效應(yīng)，我們既要客觀正視其核心價(jià)值，也要審慎看待其潛在風(fēng)險(xiǎn)。未來，中小學(xué)校、高校、教育管理部門以及技術(shù)研發(fā)部門等應(yīng)遵守“防范—應(yīng)用—監(jiān)管”三位一體原則，持續(xù)加強(qiáng)合作，共同致力于生成式人工智能的健康發(fā)展與規(guī)范應(yīng)用。

（作者系華南師范大學(xué)教育信息技術(shù)學(xué)院教授）

《中國教育報(bào)》2023年09月22日第2版