防止機械刷題、不傳播教育焦慮：AI頭部企業(yè)聯(lián)合發(fā)布公約

　　據(jù)中國民辦教育協(xié)會信息，協(xié)會近日與百度、騰訊、科大訊飛等10家人工智能領(lǐng)域企業(yè)聯(lián)合簽署《智能體賦能學(xué)生全面成長公約》(以下簡稱《公約》)，為教育智能體的發(fā)展劃定了清晰的邊界。

　　據(jù)介紹，當(dāng)前帶有“主體性”特征的教育智能體不但在倫理身份、互動方式、學(xué)習(xí)方式及價值觀念等層面形成沖擊，更使教育實踐面臨被AI技術(shù)操控取代的風(fēng)險，迫切需要探尋智能體的倫理邊界?；诖?，《公約》提出，教育智能體的發(fā)展應(yīng)有效防范違背教育本質(zhì)的功利化傾向，堅決杜絕傳播錯誤價值觀和不良信息，防止機械重復(fù)刷題，避免加重學(xué)生學(xué)業(yè)負擔(dān)、限制學(xué)生想象空間、惰化學(xué)生思維。

　　《公約》強調(diào)，教育智能體要嚴格遵守《未成年人保護法》《網(wǎng)絡(luò)安全法》《個人信息保護法》等相關(guān)法律法規(guī)及政策要求，對涉及未成年人的，應(yīng)嚴格依法落實數(shù)據(jù)安全及隱私保護機制。

　　《公約》倡議，相關(guān)人工智能企業(yè)應(yīng)強化與學(xué)校、家庭的協(xié)同育人，擴大資源普惠，不制造惡性競爭，不傳播教育焦慮，推動在全社會樹立科學(xué)的人才觀、成才觀、教育觀。

　　針對《公約》的出臺，北京師范大學(xué)教授李玉順表示：“人工智能教育，尤其是智能體融入教育過程中，必須確保教育性、科學(xué)性、安全性三大原則。”談及《公約》所倡導(dǎo)的AI教育精神，北京航空航天大學(xué)熊璋教授特別強調(diào)了“安全至上”原則。他指出，需圍繞AI教育特有的自主性、交互性與學(xué)習(xí)特性，構(gòu)建覆蓋技術(shù)、倫理、數(shù)據(jù)、心理等維度的防護體系。在規(guī)劃與設(shè)計之初，就必須秉承“安全至上”的原則，包括不傷害學(xué)習(xí)者、不誤導(dǎo)學(xué)習(xí)者、不泄露學(xué)習(xí)者隱私的全方位安全。“對學(xué)習(xí)者異常行為的預(yù)警、報告、疏導(dǎo)也是安全至上的一個側(cè)面。”

　　另據(jù)透露，《公約》或適用于所有可能面向中小學(xué)生提供智能體產(chǎn)品或服務(wù)的企業(yè)。

　　涉及的產(chǎn)品和服務(wù)包括但不限于人工智能大模型、自適應(yīng)學(xué)習(xí)系統(tǒng)、虛擬教師等軟件，智能學(xué)習(xí)機、學(xué)練機、學(xué)習(xí)教具、可穿戴設(shè)備等硬件，以及基于上述軟硬件的課程、教學(xué)、測評、數(shù)據(jù)分析等衍生服務(wù)，覆蓋產(chǎn)品設(shè)計、算法研發(fā)、模型訓(xùn)練、運營服務(wù)等全生命周期。