企業(yè)不要做惡,加強(qiáng)技術(shù)防范;而政府部門加強(qiáng)監(jiān)管,用規(guī)范和法律制度保障。
多知網(wǎng)12月4日消息,在2018未來(lái)教育大會(huì)上,在《教育+科技的倫理與邊界》圓桌論壇中,嘉賓們探討了互聯(lián)網(wǎng)在教育中應(yīng)用后,如何趨利避害,真正讓技術(shù)服務(wù)于教育。
本場(chǎng)論壇的主持人為北京師范大學(xué)遠(yuǎn)程教育研究中心教授張偉遠(yuǎn);嘉賓有西安交通大學(xué)副校長(zhǎng)鄭慶華;工信部信息中心副主任李德文;北京師范大學(xué)哲學(xué)院教授、北京師范大學(xué)-香港浸會(huì)大學(xué)聯(lián)合國(guó)國(guó)際學(xué)院教務(wù)長(zhǎng)李建會(huì);微軟全渠道事業(yè)部首席技術(shù)官徐明強(qiáng)。
本場(chǎng)論壇,嘉賓們認(rèn)為互聯(lián)網(wǎng)技術(shù)應(yīng)用于教育后,會(huì)產(chǎn)生一些負(fù)面價(jià)值,會(huì)有隱私問(wèn)題和知識(shí)產(chǎn)權(quán)問(wèn)題,而解決方法就是需要企業(yè)不要做惡,加強(qiáng)技術(shù)防范;而政府部門加強(qiáng)監(jiān)管,用規(guī)范和法律制度保障。
以下為圓桌論壇實(shí)錄,經(jīng)多知網(wǎng)編輯整理:
主持人(張偉遠(yuǎn)):技術(shù)為教育提供了精準(zhǔn)的服務(wù),那么新興技術(shù)會(huì)不會(huì)帶來(lái)新的倫理方面的問(wèn)題?
鄭慶華:科技與教育的融合一定能推動(dòng)信息化、個(gè)性化、智能化、國(guó)際化基礎(chǔ)的支撐手段,任何科學(xué)技術(shù)對(duì)于任何事務(wù)一樣都具有兩面性,趨利避害,謀劃研究是非常必要的。那么教育與科技的融合過(guò)程中,怎樣對(duì)數(shù)據(jù)進(jìn)行分析利用是一個(gè)根本性的東西。
所有的行為都會(huì)留下痕跡,在信息化時(shí)代,所有數(shù)據(jù)都會(huì)產(chǎn)生日志,互聯(lián)網(wǎng)教育當(dāng)中基本數(shù)據(jù)都會(huì)采集利用,問(wèn)題是采集數(shù)據(jù)的動(dòng)機(jī)是什么?帶來(lái)的是正面的,還是負(fù)面的?這些都是人工智能、大數(shù)據(jù)等信息技術(shù)對(duì)教育的影響和作用的發(fā)揮問(wèn)題。
互聯(lián)網(wǎng)在教育中的應(yīng)用里面有三個(gè)問(wèn)題需要關(guān)注和考慮:
第一,學(xué)會(huì)或者是理解在監(jiān)督下,或者說(shuō)有記錄的情況下去做事情,現(xiàn)在大街小巷各種會(huì)議室都有攝像,都有上網(wǎng)的日志記錄,這不以我們的意志為轉(zhuǎn)移;
第二,一定要在教育領(lǐng)域要從善,要正面引領(lǐng),而不是去研究人的隱私而不是倫理等問(wèn)題,也就是說(shuō)要讓科學(xué)技術(shù)引領(lǐng)教育的發(fā)展;
第三,在新的歷史時(shí)代,作為國(guó)家層面也好,一定要研究隱私新的范式、新的定義,它的內(nèi)涵與外延。另外,要在這個(gè)基礎(chǔ)上,分析倫理、隱私等對(duì)教育的影響。從而,做到有選擇的發(fā)揮科學(xué)技術(shù)的作用。
李德文:科學(xué)技術(shù)與教育深度融合,科學(xué)技術(shù)推動(dòng)科學(xué)創(chuàng)新方面起到了越來(lái)越重大的作用,但是科學(xué)技術(shù)是雙刃劍,它可以帶來(lái)正面的價(jià)值,比如經(jīng)濟(jì)的發(fā)展、社會(huì)的進(jìn)步,文化的繁榮等,它也帶來(lái)了越來(lái)越多的負(fù)面價(jià)值,比如環(huán)境污染、溫室效應(yīng)、隱私的效應(yīng)等。
同時(shí),技術(shù)對(duì)教育的發(fā)展產(chǎn)生正價(jià)值的同時(shí),也在產(chǎn)生負(fù)價(jià)值,隨著互聯(lián)網(wǎng)技術(shù)的發(fā)展,尤其是多媒體互聯(lián)網(wǎng)技術(shù)的發(fā)展,其在教育中的應(yīng)用逐漸從局外的、邊緣的教育工具轉(zhuǎn)變?yōu)殛P(guān)鍵的,重要的支撐來(lái)改造教育,科學(xué)技術(shù)也越來(lái)越從塞入教學(xué)加入教學(xué)變?yōu)榱藵撊虢虒W(xué)和融入教學(xué),在這種情況下,教育越來(lái)越離不開技術(shù),離開了電腦,離開了多媒體,在很多情況下教育可能就無(wú)法進(jìn)行,結(jié)果,技術(shù)逐步由服務(wù)者的角色轉(zhuǎn)變?yōu)榭刂普叩慕巧?,有可能出現(xiàn)了過(guò)度依賴技術(shù)而產(chǎn)生,技術(shù)對(duì)教育的控制或者壟斷的情況。
負(fù)面價(jià)值由此產(chǎn)生:
一,師生關(guān)系冷漠化,比如慕課等大量使用,使得傳統(tǒng)的教師與學(xué)生的從二元關(guān)系變?yōu)榱藱C(jī)器、學(xué)生、教師三元關(guān)系,空間上限制了師生之間的對(duì)話,使得學(xué)生無(wú)法直接感受教師的情感、態(tài)度、價(jià)值觀。學(xué)生逐漸改變?yōu)闆](méi)有感情色彩的信息接受者,這在心理距離越來(lái)越遠(yuǎn),師生關(guān)系逐漸冷漠化,教育中的人文關(guān)懷嚴(yán)重受到影響;
二,信息過(guò)量,信息污染導(dǎo)致學(xué)生壓力增大,損害身心健康,由于互聯(lián)網(wǎng)技術(shù)的提升,學(xué)生接受信息大幅度增加,虛假信息泛濫,過(guò)時(shí)、垃圾、冗余、謠言等信息泛濫,導(dǎo)致學(xué)習(xí)者壓力增大,身心健康受到危害;
三,文化霸權(quán),一些發(fā)達(dá)國(guó)家和地區(qū),利用自己的技術(shù)優(yōu)勢(shì),對(duì)自己的文化和理念進(jìn)行宣傳,對(duì)其他國(guó)家和地區(qū)造成無(wú)形中的巨大影響,形成文化霸權(quán),形成文化殖民的目的;
四,造成教育不公平,很多情況下技術(shù)能達(dá)到教育的公平,比如慕課能打破階層和地域的限制,能快速集結(jié)資源,但是現(xiàn)在教育技術(shù)也可能加劇這種不公平。發(fā)達(dá)地區(qū)的民眾可以使用先進(jìn)的技術(shù),但不發(fā)達(dá)的地區(qū)使用不到,從而導(dǎo)致數(shù)字鴻溝的出現(xiàn),教育公平會(huì)受到影響。
此外,還有隱私問(wèn)題和知識(shí)產(chǎn)權(quán)問(wèn)題。
總之,科學(xué)技術(shù)對(duì)教育的應(yīng)用必須重視這些負(fù)面價(jià)值的影響,努力減少負(fù)面價(jià)值的影響,這是我們教育工作者應(yīng)當(dāng)承擔(dān)的責(zé)任。
徐明強(qiáng):我來(lái)自微軟,那么我從技術(shù)角度探討AI帶來(lái)的倫理問(wèn)題。
第一是公正性,美國(guó)獨(dú)立宣言中提到“造物者面前人人平等”,后來(lái)有人解讀稱其中的“evry man”中的“man”指得是自由人,不包括奴隸。今天我們發(fā)現(xiàn),人工智能在這方面也有不公正的地方,比如《紐約時(shí)報(bào)》在今年2月公布的結(jié)果中顯示,美國(guó)人工智能人臉識(shí)別對(duì)于白人女性判斷的錯(cuò)誤率為7%,如果是深色皮膚的女性,錯(cuò)誤率高達(dá)30%。因此,人工智能在人種方面不是太公平。
那在教育方面,還有種種不公正,曾有一個(gè)學(xué)校說(shuō)有一個(gè)機(jī)器學(xué)習(xí)的演示,可以幫助學(xué)生發(fā)現(xiàn)哪些學(xué)生有好的成績(jī),希望和微軟聯(lián)合演示,學(xué)校數(shù)據(jù)出來(lái)我們看了后,我們拒絕了合作,因?yàn)閿?shù)據(jù)出來(lái)后就是家里富裕的孩子成績(jī)好,我們認(rèn)為這個(gè)數(shù)據(jù)不公正,微軟就沒(méi)繼續(xù)談合作。
第二是包容性,微軟在技術(shù)上吃過(guò)虧,比如微軟第一款Xbox游戲機(jī)在日本賣得不好,分析以后知道那個(gè)“ Control”(手柄)太大,因?yàn)榘兹耸执?,所以就是按白人手掌?biāo)準(zhǔn)去做得,他們覺(jué)得挺好的,但亞洲人握起來(lái)不舒服,沒(méi)考慮到亞洲人的手相對(duì)小一些。這就反映出產(chǎn)品不夠包容。因此,在人工智能在教育中的應(yīng)用注意到這些。
第三是透明度,比如現(xiàn)在人工智能的圍棋都非常厲害,成為了教學(xué)工具,AI棋走得好,但是為什么走得好,它講不出來(lái)。這就是人工智能的問(wèn)題,解答不了為什么的問(wèn)題。
李德文:教育+科技的倫理問(wèn)題,可以說(shuō)是互聯(lián)網(wǎng)+教育產(chǎn)生的倫理問(wèn)題,因?yàn)殡S著大數(shù)據(jù)、人工智能、云計(jì)算等技術(shù)的使用產(chǎn)生了新的思考,互聯(lián)網(wǎng)的使用產(chǎn)生了倫理的問(wèn)題。
教育引入互聯(lián)網(wǎng)是毋庸置疑的,大家已經(jīng)達(dá)成共識(shí),打破時(shí)空的限制,進(jìn)行信息流的傳遞,而教育正好是信息的傳遞,因此,教育也是互聯(lián)網(wǎng)適合發(fā)揮的領(lǐng)域之一。此前,鄧小平講過(guò),教育要面向現(xiàn)代化,這個(gè)現(xiàn)代化就是應(yīng)用,但是,現(xiàn)在教育在現(xiàn)代化的應(yīng)用遠(yuǎn)遠(yuǎn)不夠。
由于互聯(lián)網(wǎng)的應(yīng)用帶來(lái)的倫理問(wèn)題,我會(huì)從行政的角度談?wù)勥@個(gè)看法,教育是公共事業(yè),國(guó)家提倡公共服務(wù)均等化,到教育領(lǐng)域就是,基本教育均等化,教育有很多目標(biāo),均等化知識(shí)目標(biāo)之一,這也是倫理的問(wèn)題,也就是公平公正的問(wèn)題。
教育是支撐信息的傳遞,對(duì)人和物的依賴最少,因此是最有條件實(shí)現(xiàn)均等化的公共服務(wù)之一。從政府的角度可以從三個(gè)方面促進(jìn)均等化:
一、大力加強(qiáng)基礎(chǔ)設(shè)施的建設(shè),讓大家能夠用得上和用得起互聯(lián)網(wǎng),這個(gè)是工信部推進(jìn)的工作,如提速降費(fèi),這在目前取得了階段性的成果。
全國(guó)96%以上的行政村通上了光纜寬帶,資費(fèi)方面月均消費(fèi)約51元,與德國(guó)相當(dāng),與美國(guó)日本韓國(guó)要低。在我國(guó),我們對(duì)貧困地區(qū)投入很多,越是貧困地區(qū)資費(fèi)越底。
二、優(yōu)質(zhì)資源供給問(wèn)題,大城市的好的學(xué)校才有優(yōu)質(zhì)資源,邊遠(yuǎn)地區(qū)只要有寬帶就都會(huì)去爭(zhēng)取優(yōu)質(zhì)資源,現(xiàn)在的問(wèn)題是主要是自下而上的發(fā)動(dòng)方式,作為教育的組織部門,怎么樣自上而下作為整體的聯(lián)動(dòng),這是一個(gè)很大的問(wèn)題。
三、還有資源覆蓋的問(wèn)題,比如學(xué)而思的雙師教學(xué),怎么利用線上線下發(fā)揮作用都是需要考慮的問(wèn)題。
另外還有信息保護(hù)的問(wèn)題,互聯(lián)網(wǎng)大數(shù)據(jù)的應(yīng)用,這些都需要政府部門保證信息不被非法獲取,確保學(xué)習(xí)者不能被一些信息受到傷害。
主持人(張偉遠(yuǎn)):大家探討了互聯(lián)網(wǎng)在教育應(yīng)用中帶來(lái)的倫理問(wèn)題,大家都認(rèn)為會(huì)帶來(lái)一些新的問(wèn)題,那么,有沒(méi)有解決的策略和方法?
鄭慶華:我是學(xué)計(jì)算記專業(yè)的,技術(shù)應(yīng)用于教育管理,提升教育質(zhì)量是基本的目標(biāo)和手段。從目前來(lái)看,有三個(gè)方面:
第一,推動(dòng)教育管理手段的效果,比如對(duì)學(xué)校所有課程可以實(shí)現(xiàn)全覆蓋的評(píng)價(jià),我們還可以及時(shí)發(fā)現(xiàn)失聯(lián)的學(xué)生,心理比較孤獨(dú)的學(xué)生,關(guān)系活躍的學(xué)生等等,通過(guò)大數(shù)據(jù)平臺(tái)可以實(shí)現(xiàn)精準(zhǔn)的發(fā)現(xiàn)。對(duì)提升教育教學(xué)的效率、針對(duì)性和個(gè)性化起到了良好作用;
第二,在教育內(nèi)容的數(shù)字化、智慧化、呈現(xiàn)化也有好處,比如,我們提出了知識(shí)圖譜概念,把過(guò)去只見(jiàn)樹木不見(jiàn)森林的離散的知識(shí)融合成一個(gè)相互關(guān)聯(lián)的層次邏輯清晰的組織方式,這對(duì)提高知識(shí)過(guò)程的效率,有針對(duì)地進(jìn)行導(dǎo)航學(xué)習(xí)也起到了非常重要的作用;
第三,測(cè)試,評(píng)價(jià)手段現(xiàn)代化智慧化改革,我們承擔(dān)了教育部的一個(gè)課題,探討5-10年以后運(yùn)用人工智能技術(shù)、VR/AR 技術(shù)如何解決現(xiàn)在只能通過(guò)紙和筆考試的問(wèn)題,紙和筆只能考知識(shí),不能考能力,考能力現(xiàn)在的手段做不到,比如實(shí)驗(yàn)、設(shè)計(jì)的能力,快速反應(yīng)的能力,一問(wèn)一答的能力等,通過(guò)人工智能虛擬技術(shù)的應(yīng)用,將來(lái)一定會(huì)突破考試的瓶頸,考試模式的改革一定會(huì)倒逼中小學(xué)走向素質(zhì)教育的軌道,所以非常有意義。
要做到這些事情,有一個(gè)基礎(chǔ)性的保障,也就是保障學(xué)生教師應(yīng)有的基本權(quán)利,比如隱私等倫理問(wèn)題,這些問(wèn)題確實(shí)需要關(guān)注。
這些問(wèn)題的解決我認(rèn)為一是依靠教育,就是讓老師知道職業(yè)操守是什么,不能超越底線;
二是依靠制度規(guī)范,就是要靠制度和法律去保證;
三是依靠技術(shù)手段,讓管理有跡可循。
教育、制度規(guī)范、技術(shù)手段是三位一體,讓技術(shù)真正服務(wù)于教育。
李德文:我是做哲學(xué)研究的,我曾經(jīng)參與編撰了圖書《離散同行》,幫助解決科技的倫理問(wèn)題和價(jià)值選擇,那么,科技倫理的解決方法是國(guó)際通行的叫原則主義,提出一些大家公認(rèn)的原則,我認(rèn)為教育過(guò)程中產(chǎn)生的倫理問(wèn)題可以這樣解決:
一,堅(jiān)持教師在教育教學(xué)中的主導(dǎo)地位,注重師生互動(dòng),人文關(guān)懷,避免過(guò)度被技術(shù)控制;
二,堅(jiān)持健康的原則,很多領(lǐng)域的有一條原則,就是不傷害原則。這里我想做一點(diǎn)改造,叫健康原則。也就是說(shuō),科學(xué)技術(shù)在應(yīng)用教育時(shí)努力使得技術(shù)不會(huì)對(duì)教育者造成身心傷害,或者容易時(shí)教育者身心健康。
三,堅(jiān)持有利有效原則,要讓這些科技有利于教育者和受教育者,造福教育者、受教育者。這樣有利有效不僅是短時(shí)的,還應(yīng)該是長(zhǎng)期的有利和有效。
四,堅(jiān)持公平公正的原則,讓不同地區(qū)的教師和學(xué)生都能使用到信息技術(shù)。
五,保護(hù)個(gè)人隱私,保護(hù)知識(shí)產(chǎn)權(quán)。
主持人(張偉遠(yuǎn)):謝謝李教授,從一個(gè)哲學(xué)的角度來(lái)探討這個(gè)問(wèn)題,而且提出的幾條基本原則,非常的重要。下面請(qǐng)微軟徐博士發(fā)表自己的觀點(diǎn)。有請(qǐng)徐博士。
徐明強(qiáng):我也回應(yīng)一下李教授講到這個(gè)隱私,這是大家關(guān)心的一個(gè)問(wèn)題。我介紹一下微軟近年來(lái)和英特爾做一個(gè)合作,就是叫隱私計(jì)算。什么意思呢?現(xiàn)在大家迫切想要做的一件事情,就是比如兩個(gè)學(xué)校,它都有不同的數(shù)據(jù),如果各自做各自模型訓(xùn)練的話,最后出來(lái)的模型都不是非常好。兩個(gè)學(xué)校希望把數(shù)據(jù)合成到一起,一起做一個(gè)訓(xùn)練,但是這個(gè)隱私法辦不到的。過(guò)去是小人愛(ài)數(shù)據(jù),得之有盜?,F(xiàn)在和英特爾做,希望君子愛(ài)數(shù)據(jù),得之有道。我們做的辦法,是可以讓數(shù)據(jù)傳輸?shù)臅r(shí)候加密,有隱私保護(hù);在存儲(chǔ)的時(shí)候加密,有隱私保護(hù)。但是唯一沒(méi)有辦法在運(yùn)行的時(shí)候?qū)λ用堋,F(xiàn)在我們跟英特爾合作后,照樣可以加密。現(xiàn)在在傳輸、運(yùn)算的時(shí)候都可以保護(hù)?,F(xiàn)在可以讓兩個(gè)學(xué)校加密在一起,可以訓(xùn)練好出更好的模型。所以這是我們一個(gè)努力的方向,將來(lái)會(huì)成為機(jī)器學(xué)習(xí),陰私計(jì)算的一個(gè)方向。
我剛才講到公正性問(wèn)題,解決方法首先一定要非常仔細(xì)地訓(xùn)練數(shù)據(jù),看看訓(xùn)練者是否把偏見(jiàn)引入。第二,不希望看到光是互聯(lián)網(wǎng)公司,就是跨界和教育競(jìng)爭(zhēng),這個(gè)做教育,做AI應(yīng)用,一定把教育界專家介入。從包容性方面來(lái)說(shuō),包容性比較重要的一點(diǎn)是,很多時(shí)候機(jī)器今天AI它智商很高,但是它同理心沒(méi)有辦法像一個(gè)教師這樣,所以我們確實(shí)擔(dān)心,沒(méi)有同理心,教育出來(lái)的孩子,我們過(guò)去聽到他山猿人的故事,害怕孩子機(jī)器人一樣的思維。所以我想這方面AI更多的開發(fā)不光IQ,還有情商的開發(fā)。最后到了透明性,透明性的時(shí)候就是要把很多的,還是回到剛才數(shù)據(jù)的搜集采樣那邊,要更多的從制度上,要把數(shù)據(jù)本身,不光是要這個(gè)數(shù)據(jù)審查,另外在實(shí)際應(yīng)用當(dāng)中有反饋的,要隨時(shí)發(fā)現(xiàn)這個(gè)片面的引入。感謝。
主持人(張偉遠(yuǎn)):非常感謝徐博士,現(xiàn)在他們?cè)诩夹g(shù)方面給在保護(hù)用戶隱私方面做出的一些突破性貢獻(xiàn)。而謝謝。
最后請(qǐng)壓軸代表工信部的李主任發(fā)表觀點(diǎn)。
李德文:剛才講的都很好。但是我覺(jué)得技術(shù)的進(jìn)步是一種對(duì)社會(huì)帶來(lái)影響最大的一種進(jìn)步。一種重大的進(jìn)步也會(huì)帶來(lái)重大的社會(huì)變革,比如蒸汽機(jī)也好,電也好,現(xiàn)在互聯(lián)網(wǎng)也好,這種變革是全方位的,深入到社會(huì)的各個(gè)領(lǐng)域,各個(gè)方面,各個(gè)角度。至于教育這方面必然帶來(lái)倫理的問(wèn)題。這個(gè)是我們永遠(yuǎn)無(wú)法能夠回避的。
剛才幾位專家都講了,主要現(xiàn)在重點(diǎn)集中在數(shù)據(jù)保護(hù)問(wèn)題。這個(gè)保護(hù)涉及到兩個(gè)方面:一個(gè)是資源提供者,包括公共機(jī)構(gòu)也好,比如學(xué)校也好,包括像好未來(lái)這種商業(yè)機(jī)構(gòu)也好,他們掌握這種教育資源,他們有學(xué)員,學(xué)生數(shù)據(jù),他們首先我覺(jué)得有兩個(gè)義務(wù)要去做:
第一個(gè),企業(yè)自己要不主動(dòng)作惡。因?yàn)楝F(xiàn)在工信部打擊垃圾短信,詐騙等,很多都是信息泄露。這個(gè)泄露是自己內(nèi)部人賣數(shù)據(jù)。所以作為資源提供者首先保證自己不作惡;
第二,保證采取必要的技術(shù)手段,把你產(chǎn)生的數(shù)據(jù)加密也好,用各種防范措施也好,通過(guò)這種防御手段讓別人拿不到這個(gè)數(shù)據(jù),這也是很重要的一個(gè)方面。但是這里也離不開監(jiān)管方的努力,監(jiān)管方首先有一個(gè)定義,叫什么是要保護(hù)的數(shù)據(jù)。這可能通過(guò)立法來(lái)進(jìn)一步明確。
第三,作為監(jiān)管肯定要有效的實(shí)行監(jiān)管的責(zé)任,它一定要加強(qiáng)對(duì)資源提供者的監(jiān)督,要求它們一定要加強(qiáng)技術(shù)防范,加強(qiáng)倫理的教育,使他們信息不能夠泄露出去。
最后,監(jiān)管者還是要加強(qiáng),打擊個(gè)人信息,違法犯罪力度,對(duì)出現(xiàn)這種行為的,無(wú)論是資源提供方主動(dòng)做的也好,還是外部有人竊取也好,要中重拳出擊,使竊取信息的人受到法律的嚴(yán)懲,就是警戒后來(lái)者,懲戒犯規(guī)者,這個(gè)也是監(jiān)管從兩方面對(duì)教育+科技帶來(lái)倫理方面的問(wèn)題。
主持人(張偉遠(yuǎn)):感謝李主任給出的實(shí)效性的建議??萍际请p刃劍,給教育帶來(lái)的發(fā)展的機(jī)遇,也探討了倫理方面的主題。今天四位專家給我們這個(gè)主題進(jìn)行了點(diǎn)題和開始破解這么一個(gè)難題,這也是現(xiàn)在國(guó)際上討論非常熱烈的一個(gè)主題。今天四位專家的啟發(fā)性精彩的觀點(diǎn)給我們研究這個(gè)主題提供了一個(gè)非常好的方向。讓我們共同參與到這個(gè)主題的研究。最后我們?cè)僖淮胃兄x各位嘉賓的精彩發(fā)言。也感謝各位積極參與。教育+科技的倫理和邊界的主題圓桌到此結(jié)束了,再次謝謝大家。