為生成式人工智能教育應用確立規范

隨著ChatGPT的正式發布，生成式人工智能迅速受到教育領域的廣泛關注。目前，國產大語言模型也紛紛亮相，頗受用戶青睞?？梢哉f，生成式人工智能已經成為一種不可逆轉的技術發展潮流。一般認為，新技術對教育的影響都具有滯后性，但自生成式人工智能推出以來，對教育的影響與對生產生活的影響幾乎是同步的。就此而言，生成式人工智能的教育應用問題是必須認真對待的緊迫問題。

得益于強大的文本、圖像生成功能，生成式人工智能不僅能夠幫助學生進行資料檢索與自主學習，還能為學生提供良好的互動體驗，更能協助教師提升教育教學的質量和效率。然而，生成式人工智能給教育領域帶來變革機遇的同時，也給教育領域帶來誠信危機、信息欺騙與隱私泄露等諸多潛在風險。今年7月，國家網信辦等七部門聯合公布《生成式人工智能服務管理暫行辦法》，提出國家堅持發展和安全并重、促進創新和依法治理相結合的原則，體現了中國政府在發展生成式人工智能方面的積極態度與責任擔當。近日，聯合國教科文組織發布《教育與研究領域生成式人工智能指南》，呼吁各國政府通過制定法規、培訓教師等，規范生成式人工智能在教育中的應用?？傮w來看，該類文件不僅從技術開發者角度明確了數據處理規則與服務規范，還從技術使用者角度提供了應用措施與培訓規劃，更從技術監管者角度制定了分級監督和管理機制，整體上構建了生成式人工智能教育應用之路。

技術提前防范是前提。生成式人工智能對教育的根本挑戰不在于前述教育誠信危機、信息欺騙風險與隱私保護問題等，而在于對學生思維培養的威脅。因此，從教育技術產品設計的角度，任何技術應用都應該進行教育化改造，并通過教育市場的準入制度進行前端防范。為此，技術研發部門有必要開發教育專用的生成式人工智能系統，改進當前的直白問答模式，根據不同學段的育人目標、認知規律，采用更加安全、科學的方式與學生進行對話交流和提問引導，降低學生的工具依賴風險。同時，這種教育專用系統可以開發多用戶同步對話模式，既能促進學生的合作探究與相互引導，也能方便教師成為人機互動、人人互動的調停者與監督者。此外，技術研發部門亟須開發相應的文本、圖像檢測器，甄別AI生成作品和人類作品的區別，并將AI檢測作為學術出版、考試評價的常規流程，抵御生成式人工智能所引發的學術倫理、作業抄襲、考試作弊等問題。

主體合理應用是關鍵。任何教育技術產品的應用都需要保持工具理性與價值理性的平衡和張力，既要注重教育效率和效果的提升，也要關注教育主體的內在尺度和精神存在。大多學者雖認同生成式人工智能在教育領域的合理應用而非簡單屏蔽，但沒有具體說明技術的應用邊界。應用邊界的劃分是教育領域合理應用生成式人工智能的規范與保障。例如，大學生可以自主選擇與決定是否使用生成式人工智能工具；在中小學領域，則需根據不同教學目標、教學任務、教學方法與學習者的具體情況，設計“建議不用”“建議合理使用”“禁止使用”等不同使用方案。尤其對于認知能力尚不成熟、無法承擔法律責任的基礎教育低年級學生而言，生成式人工智能的應用邊界模糊且不受控制。因此，在缺乏成熟的技術防范機制或工具的情況下，禁止低年級學生使用生成式人工智能工具是必要的。當然，這并不意味著將低年級學生作為生成式人工智能的絕緣體。相反，教育者需要探索如何將生成式人工智能作為中小學信息科技教育的重要內容，讓學生不僅可以體驗生成式人工智能的特點、功能、優勢和限制，還可以收集數據、訓練人工智能模型，深度學習算法和人工智能應用，從而體悟人工智能的有限性和應用邊界。同時，各地教研部門可以有針對性地加強以生成式人工智能為主題的教學教研，加強對中小學教師人工智能應用、人工智能倫理規范等主題的培訓，為生成式人工智能進入課堂做好充足準備。

政府有力監管是保障。政府監管不僅能為教育主體提供生成式人工智能的應用指南與服務體系，還能為技術開發者提供生成式人工智能產品的治理規則與服務規范。高校與教育管理部門可合作研制生成式人工智能教育的應用指南，遴選優秀應用案例，鼓勵創新應用，樹立典型示范。還可以健全學術誠信規范、倫理規范、考試管理等教育管理制度，將人工智能技術應用納入教育督導與教育法規體系，成為教育治理體系的一個有機組成部分，規避技術濫用帶來的潛在風險。

總之，面對生成式人工智能在教育領域引起的轟動效應，我們既要客觀正視其核心價值，也要審慎看待其潛在風險。未來，中小學校、高校、教育管理部門以及技術研發部門等應遵守“防范—應用—監管”三位一體原則，持續加強合作，共同致力于生成式人工智能的健康發展與規范應用。

（作者系華南師范大學教育信息技術學院教授）

《中國教育報》2023年09月22日第2版