對教育行業(yè)有何影響？逐條拆解AI新規(guī)《生成式人工智能服務(wù)管理暫行辦法》

　　文|百千 教育行業(yè)研究者

　　編者按：

　　本文系多知網(wǎng)投稿，作者百千。近期，《生成式人工智能服務(wù)管理暫行辦法》公布，作者逐條解讀了《辦法》及其對教育行業(yè)可能帶來的影響。其中，不管是境外AIGC公司或者接入境外API的境內(nèi)公司，不管是基座模型層面，或者是應(yīng)用層面，均會受到該《辦法》管理。由此可見，若嚴格按照《辦法》執(zhí)行，對于中小企業(yè)，AIGC在教育領(lǐng)域面臨持續(xù)支出而創(chuàng)收較弱的問題。

　　7月12日，《生成式人工智能服務(wù)管理暫行辦法》(后稱《辦法》)對外公布，距離其征求意見稿發(fā)布僅3個月，并將于2023年8月15日起施行。速度不可謂不快，也足以見國家對生成式人工智能的關(guān)注度及監(jiān)管的緊迫性。

　　相比科技行業(yè)，教育行業(yè)向來屬于慢行業(yè)，但教育卻以內(nèi)容為核心。本次AIGC對內(nèi)容生產(chǎn)將起到巨大影響，教育行業(yè)也不可避免。接下來，我們將詳細解讀《辦法》及其對教育行業(yè)可能帶來的影響。

　　發(fā)布單位有國家互聯(lián)網(wǎng)信息辦公室、中華人民共和國國家發(fā)展和改革委員會、中華人民共和國教育部、中華人民共和國科學(xué)技術(shù)部、中華人民共和國工業(yè)和信息化部、中華人民共和國公安部、國家廣播電視總局。

　　解析：該《辦法》以網(wǎng)信辦牽頭，優(yōu)先監(jiān)管為互聯(lián)網(wǎng)企業(yè)或者線上內(nèi)容，基于AIGC技術(shù)生成線下產(chǎn)品或服務(wù)的企業(yè)在監(jiān)管優(yōu)先級上略微靠后。其他部委參與發(fā)布，可增強法律權(quán)威性和適用范圍，但預(yù)計不久后上述各個部委將發(fā)布針對各自領(lǐng)域的政策細則。教育企業(yè)核心關(guān)注教育部相關(guān)細則。

　　第一條：為了促進生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權(quán)益，根據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》、《中華人民共和國數(shù)據(jù)安全法》、《中華人民共和國個人信息保護法》、《中華人民共和國科學(xué)技術(shù)進步法》等法律、行政法規(guī)，制定本辦法。

　　解析：首要監(jiān)管范圍，在網(wǎng)絡(luò)安全、數(shù)據(jù)安全、個人信息安全、技術(shù)產(chǎn)權(quán)等領(lǐng)域。大多教育企業(yè)在技術(shù)方面依賴第三方技術(shù)公司，可向供應(yīng)商提及相關(guān)需求，增加該類管控。特別要關(guān)注數(shù)據(jù)出境問題。

　　第二條：利用生成式人工智能技術(shù)向中華人民共和國境內(nèi)公眾提供生成文本、圖片、音頻、視頻等內(nèi)容的服務(wù)(以下稱生成式人工智能服務(wù))，適用本辦法。

　　國家對利用生成式人工智能服務(wù)從事新聞出版、影視制作、文藝創(chuàng)作等活動另有規(guī)定的，從其規(guī)定。

　　行業(yè)組織、企業(yè)、教育和科研機構(gòu)、公共文化機構(gòu)、有關(guān)專業(yè)機構(gòu)等研發(fā)、應(yīng)用生成式人工智能技術(shù)，未向境內(nèi)公眾提供生成式人工智能服務(wù)的，不適用本辦法的規(guī)定。

　　解析：明確對象。公司若面向海外客戶，可不受該《辦法》限制。據(jù)調(diào)研，確有部分基于AIGC的國內(nèi)教育公司，其產(chǎn)品僅面向海外。

　　另外，若各類機構(gòu)僅出于研發(fā)考慮，應(yīng)用AIGC技術(shù)，不受《辦法》限制。相關(guān)教育企業(yè)，若僅將AIGC技術(shù)應(yīng)用于研發(fā)，不應(yīng)用于自身產(chǎn)品，不受《辦法》限制。

　　從該條可看出，政策鼓勵基于AIGC相關(guān)研究，管理環(huán)節(jié)主要在于觸達用戶階段。

　　第三條：國家堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展，對生成式人工智能服務(wù)實行包容審慎和分類分級監(jiān)管。

　　解析：比起一刀切，分級管理是更優(yōu)的管理方式，等待細則。

　　第四條：提供和使用生成式人工智能服務(wù)，應(yīng)當遵守法律、行政法規(guī)，尊重社會公德和倫理道德，遵守以下規(guī)定：

　　(一)堅持社會主義核心價值觀，不得生成煽動顛覆國家政權(quán)、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統(tǒng)一和社會穩(wěn)定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規(guī)禁止的內(nèi)容;

　　(二)在算法設(shè)計、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過程中，采取有效措施防止產(chǎn)生民族、信仰、國別、地域、性別、年齡、職業(yè)、健康等歧視;

　　(三)尊重知識產(chǎn)權(quán)、商業(yè)道德，保守商業(yè)秘密，不得利用算法、數(shù)據(jù)、平臺等優(yōu)勢，實施壟斷和不正當競爭行為;

　　(四)尊重他人合法權(quán)益，不得危害他人身心健康，不得侵害他人肖像權(quán)、名譽權(quán)、榮譽權(quán)、隱私權(quán)和個人信息權(quán)益;

　　(五)基于服務(wù)類型特點，采取有效措施，提升生成式人工智能服務(wù)的透明度，提高生成內(nèi)容的準確性和可靠性。

　　解析：比起征求意見稿時“內(nèi)容應(yīng)當真實準確”，《辦法》理解AIGC模型幻覺的客觀存在，緩和表述為“采取有效措施提升準確性和可靠性”，實為容錯率上的放寬。對采用AIGC的教育企業(yè)有一定利好。

　　第五條：鼓勵生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用，生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容，探索優(yōu)化應(yīng)用場景，構(gòu)建應(yīng)用生態(tài)體系。

　　支持行業(yè)組織、企業(yè)、教育和科研機構(gòu)、公共文化機構(gòu)、有關(guān)專業(yè)機構(gòu)等在生成式人工智能技術(shù)創(chuàng)新、數(shù)據(jù)資源建設(shè)、轉(zhuǎn)化應(yīng)用、風(fēng)險防范等方面開展協(xié)作。

　　第六條：鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎(chǔ)技術(shù)的自主創(chuàng)新，平等互利開展國際交流與合作，參與生成式人工智能相關(guān)國際規(guī)則制定。

　　推動生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺建設(shè)。促進算力資源協(xié)同共享，提升算力資源利用效能。推動公共數(shù)據(jù)分類分級有序開放，擴展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源。鼓勵采用安全可信的芯片、軟件、工具、算力和數(shù)據(jù)資源。

　　解析：旨在明確大模型之間的競爭，需要國內(nèi)各企業(yè)團結(jié)從而與海外競爭。教育類企業(yè)通常沒有足夠的資金實力和人才密度去參與競爭，可進入該類聯(lián)盟或其附屬，搭乘技術(shù)便車。

　　第八條：在生成式人工智能技術(shù)研發(fā)過程中進行數(shù)據(jù)標注的，提供者應(yīng)當制定符合本辦法要求的清晰、具體、可操作的標注規(guī)則;開展數(shù)據(jù)標注質(zhì)量評估，抽樣核驗標注內(nèi)容的準確性;對標注人員進行必要培訓(xùn)，提升尊法守法意識，監(jiān)督指導(dǎo)標注人員規(guī)范開展標注工作。

　　解析：教育企業(yè)通常不具備基座大模型的開發(fā)能力，采用三方基座模型在做本地化部署為更可行操作，其中微調(diào)前期準備涉及數(shù)據(jù)清洗、標注等內(nèi)容。教育企業(yè)的數(shù)據(jù)規(guī)化通常較差，在線教育興起后推動全行業(yè)數(shù)據(jù)化提升，但若采用AIGC，則對數(shù)據(jù)化要求再次升高。

　　第九條：提供者應(yīng)當依法承擔網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，履行網(wǎng)絡(luò)信息安全義務(wù)。涉及個人信息的，依法承擔個人信息處理者責(zé)任，履行個人信息保護義務(wù)。

　　提供者應(yīng)當與注冊其服務(wù)的生成式人工智能服務(wù)使用者(以下稱使用者)簽訂服務(wù)協(xié)議，明確雙方權(quán)利義務(wù)

　　解析：此前征求意見稿要求“用戶提供真實身份信息”，《辦法》將其刪除，要求“提供者和使用者簽訂協(xié)議”，將管理權(quán)交給市場。教育企業(yè)曾有或現(xiàn)在依舊存與用戶在權(quán)利義務(wù)協(xié)議方面，故意模糊以促使銷售的情況。若之后采用AIGC提供內(nèi)容，需更加明確權(quán)責(zé)利。

　　第十條：提供者應(yīng)當明確并公開其服務(wù)的適用人群、場合、用途，指導(dǎo)使用者科學(xué)理性認識和依法使用生成式人工智能技術(shù)，采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務(wù)。

　　解析：該條更適用于AIGC游戲領(lǐng)域應(yīng)用，不過教育領(lǐng)域擁有采用游戲化學(xué)習(xí)方式的產(chǎn)品，該條未來對該類企業(yè)將產(chǎn)生影響。

　　第十二條：提供者應(yīng)當按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對圖片、視頻等生成內(nèi)容進行標識。

　　解析：需標識AI生成內(nèi)容。若教育產(chǎn)品中，標識其內(nèi)容由AI生成，而非真人老師生成，將降低用戶對其內(nèi)容的價值判斷，拉低客單價。

　　第十三條：提供者應(yīng)當在其服務(wù)過程中，提供安全、穩(wěn)定、持續(xù)的服務(wù)，保障用戶正常使用。

　　解析：AI基座模型的使用上，需要plan B。

　　第十四條：提供者發(fā)現(xiàn)違法內(nèi)容的，應(yīng)當及時采取停止生成、停止傳輸、消除等處置措施，采取模型優(yōu)化訓(xùn)練等措施進行整改，并向有關(guān)主管部門報告。

　　提供者發(fā)現(xiàn)使用者利用生成式人工智能服務(wù)從事違法活動的，應(yīng)當依法依約采取警示、限制功能、暫?；蛘呓K止向其提供服務(wù)等處置措施，保存有關(guān)記錄，并向有關(guān)主管部門報告。

　　解析：通常大型互聯(lián)網(wǎng)平臺會對“審核員”有大量需求，該《辦法》實施，會導(dǎo)致采用AIGC技術(shù)相關(guān)企業(yè)，增加人工審核環(huán)節(jié)。教育企業(yè)曾經(jīng)在此類人員招聘上較少，若大量使用AIGC產(chǎn)品，可能需要增加更多人工審核員工。

　　第十七條：提供具有輿論屬性或者社會動員能力的生成式人工智能服務(wù)的，應(yīng)當按照國家有關(guān)規(guī)定開展安全評估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。

　　解析：“具有輿論屬性或者社會動員能力的生成式人工智能服務(wù)”的范圍需進一步明確，但教育很可能在其中。

　　第二十條：對來源于中華人民共和國境外向境內(nèi)提供生成式人工智能服務(wù)不符合法律、行政法規(guī)和本辦法規(guī)定的，國家網(wǎng)信部門應(yīng)當通知有關(guān)機構(gòu)采取技術(shù)措施和其他必要措施予以處置。

　　解析：境外AIGC直接向境內(nèi)用戶提供服務(wù)的，會收到嚴管控。同時，境外公司提供API，境內(nèi)接入的情況，依舊存在合規(guī)問題。目前教育創(chuàng)業(yè)項目，此類問題較明顯。

　　第二十三條：法律、行政法規(guī)規(guī)定提供生成式人工智能服務(wù)應(yīng)當取得相關(guān)行政許可的，提供者應(yīng)當依法取得許可。

　　外商投資生成式人工智能服務(wù)，應(yīng)當符合外商投資相關(guān)法律、行政法規(guī)的規(guī)定。

　　解析：許可證將成為提供AIGC服務(wù)的準入門檻，不過暫無法確定是否針對所有企業(yè)，還是大型企業(yè)。外商投資教育領(lǐng)域AIGC，需符合《雙減》規(guī)定。

　　第二十四條：本辦法自2023年8月15日起施行

　　解析：有想法的教育企業(yè)，需盡快咨詢網(wǎng)信辦具體規(guī)定。

　　總體而言，不管是境外AIGC公司或者接入境外API的境內(nèi)公司，不管是基座模型層面，或者是應(yīng)用層面，均會受到該《辦法》管理。大量的面向境內(nèi)提供服務(wù)的中小型教育公司，在使用AIGC上均面臨許可證、內(nèi)容監(jiān)管等額外成本。同時，AIGC在教育領(lǐng)域的商業(yè)化進程并不順利(參見文章《大模型應(yīng)用的商業(yè)化進展慢，為什么慢?》)，支出>收益的情況短時間較難解決。采取審慎的態(tài)度使用AIGC能力，對于中小型教育企業(yè)或許是更穩(wěn)妥的策略。

　　讓子彈飛一會兒。

　　(本文僅代表作者個人觀點，供讀者參考。)