熱門文章
-
以學正風強根基 篤行致遠踐初心 2025-05-06 -
高校分類評價機制構建的重要經驗與關鍵要點 2025-04-10 -
三部門聯合發文：加強語言文字復合型人才培養 2025-04-01
被AI“監控”的孩子：保護安全還是侵犯隱私？愛爾蘭的做法給我們敲響了警鐘
2019-09-12 | 文章來源：少年商學院 | 分享到：
9月新學期剛開始沒幾天，南京某大學上了熱搜。因為率先在校內試點安裝人臉識別技術，繼而在采集學生數據和是否侵犯學生隱私的問題上引發了人們的關注和熱議。
面對此事，近日教育部科學技術司司長雷朝滋，在接受某新聞媒體采訪時表示：學校要謹慎使用人臉識別技術。雷司長的話一錘定音，表明了教育部門對此技術的謹慎態度。
當然，謹慎操作不代表不發展。任何一個新技術剛剛降臨時，都會面對質疑和支持兩種態度。現在誰離得開汽車、電腦？我們又為什么要決絕地阻擋人工智能的普及呢？何況，我們阻擋得了么？
面對“來勢洶洶”的人臉識別技術，我們真正該關注的焦點是，技術為誰所用，使用的目的和使用的手段。技術是無辜的，作為技術使用者的人，“有所為，有所不為”方是問題的根本。
對比國外學校在人臉識別技術上的差別，今天我和大家大概說說，為什么人臉識別技術在學校使用要謹慎操作？
人臉識別技術用于學校時必須得謹慎
在美國，近幾年來人臉識別技術得以在部分學校進行試點。隨后，因技術和倫理道德上的考慮，并基于巨大的社會壓力，被一一叫停。有某州政府今年初已經立法禁止人臉識別技術在該州學校使用：除非得到學生、家長和教育部門的同意，否則人臉識別技術不得在校園推廣——這是來自美國的“謹慎”。
在澳洲，人臉識別技術公司looplearn得到了政府的資金支持，可以在學校使用人臉識別技術，在這些學校，人臉識別技術主要用于老師點名，了解學生出勤情況。但是這個看起來“單一”的功能依然因為其具有明顯的商業前景，引發了人們的擔憂和反對。
另外有研究者擔心：因為在識別技術上尚不成熟，在區分有色人種時人臉識別技術會花更多的時間，并有可能錯認，從而引發新的“種族歧視”問題——因為相較于有色人種，白人更容易被識別。
而在歐洲，歐盟成員國正在積極地尋求人臉識別技術上的新規定。不知道是不是愛遵守規定的緣故，前不久瑞典有關部門剛剛處罰了一個高中19000歐元。因為該校在去年未經學生的同意就采集了22名學生的臉部信息。歐洲媒體在報道此事時，“夸張”地運用了“難以置信”學校的違法行為和當局處罰實在“輕微”等字眼，理由是按照該法條，最高的罰款額可是100萬歐元吶！
我所處的愛爾蘭，雖然有著歐洲硅谷的美譽，人臉識別技術在愛爾蘭的學校存在可幾乎是0。至于為什么說是“幾乎”呢？因為在學生使用的智能手機里，比如說像FACEBOOK這些app里還是有人臉識別技術的，歐盟一直在試圖控制這些社交軟件對隱私的侵犯。
當然，智能手機里的人臉識別技術是另外一個話題了，我們今天討論的是，在學校使用人臉識別是否會侵害孩子們的隱私？
在愛爾蘭學校
孩子的形象信息需家長授權
孩子有隱私么？不好意思，我說了一個偽命題。因為但凡是人就都有隱私。在愛爾蘭，當一個孩子進入幼兒園、學校時，家長都會被提示隱私安全和網絡安全。比如我女兒在幼兒園和夏令營參加活動時，校方會讓父母授權是否可以拍攝孩子。
剛開始老母親對此很不適應，心想：不就“喀嚓”一個照片么？可是后來想，這個照片拍了是為啥呢？無疑是用在商業用途上，比如廣告等。那作為這些小小肖像所有權人的監護人，家長當然需要知情并做出決定。學校得到家長的許可，才可以合理使用這些照片。如果你不同意，也沒關系，學校會避免采集孩子的形象。
一句話，愛爾蘭學校里孩子們的私人形象，如果學校想“有所為“一定是要有授權、有依據的。
用人臉識別技術監控孩子的行為
難以反映真實的學習效果
過度使用人臉識別技術會讓家長擔心：我的孩子需要的是同理心和愛，請不要隨意刺探，還把他們當機器喲！
在美國或者澳洲學校推行人臉識別試驗時，支持方的理由是：
1. 幫助校方排除可能危及學生安全的人員入校，比如已被開除的不良學生或罪犯等。尤其在全球恐怖襲擊連連的西方世界，說這個理由似乎可以很大程度上安撫父母的擔心；
2. 幫助老師管理大課堂，節省時間，提高管理效率。如果一個班級人數眾多，老師是沒可能用傳統的方式點名的，人臉識別技術無疑大大節省了人力。
而反對方的理由則十分的“情懷牌”：孩子不是機器，應該被當人來看。
在澳洲人臉識別新聞的評論中，有網友就表示，這項技術一旦不加節制地推行，將是政客樂于見到的“政績”，也是產品公司巴不得的巨大商業利益。可是對于家長而言，除了干巴巴地知道自己的孩子是否出勤、是否聽課外，什么也得不到。
因為孩子在這些行為背后的原因是什么？這是AI無法告訴你的事。而一旦，有朝一日，當整個教育系統都把“行為”作為評判學生好壞的唯一標準時，那么他們的內心又有誰會去費勁兒了解呢？
現在國內學校試點的人臉識別技術，把孩子們低幾次頭，是否在看手機，走神等作為是否專心聽課的標準。這實際上已經遠遠超過了歐美國家對于人臉識別技術使用的界限和想象：如果說人臉識別技術最早是為了公共安全的需要，那把低頭、小動作作為聽課指標的運用則顯得刻板、生硬且單一，確實有把人當機器之嫌。
近日，當我和我的鄰居，愛爾蘭一家專門負責學校軟硬件技術支持的公司COO聊到人臉技術時，他表示，人臉技術用來管理課堂確實是高效的。但是如果把學生打瞌睡、低頭等也作為指標是無意義的，因為這些指標不會告訴你孩子的真實情況，至少無法真實反映孩子的學習效果，也無法反映那些需要長期跟蹤才可以看到的結果。
而當我“腹黑”地表示，也許老師會用這些“開小差”的證據來批評學生時，他聳聳肩表示：如果僅僅用這個監視學生還批評學生，那他就是壞老師！這個評價倒是很簡單粗暴，不知道同樣簡單地用低頭次數、面部表情來判斷孩子的人怎么想？
采集信息的規則應當是雙邊的
在人臉識別上，用途、具體方式、信息保護等都應當是建立在采集方和被采集方平權的基礎上。
而在本次事件中，該南京高校的發言人則表示，因為學校是公共場合，同時采集信息也可以作為改善教學質量的依據，所以學校采集信息不屬于侵犯隱私。
且不說同樣是公眾場合，在大街上你也不能隨意拍攝他人。再說，你用拍學生走神的方式來判斷老師的教學質量，這個方式得到學生同意了么？老師認可么？
難道說，改善教學質量就真的沒有效率更高、更本質、更經濟、更安全的方式了么？現在不是花錢安設備就完了。后面的維護，以及被采集的信息如何管理，是否定期銷毀？校方是否跟進考慮了呢？
想到此不由得感嘆虧好自己生得早，否則自己當年在上“大學生修養” 之類的課時，低頭打個瞌睡的行為，放到現在被記錄了，都有可能要跟著我一輩子，那真是恐怖的事情……
有所為，有所不為
說到底是責任和界限的問題
現在很多家長都知道，面對自己生養的骨肉要慎言“為你好”三個字。學校何嘗不該如此？如果學校真的認為學習是學生的責任，那么就把這份責任交還給學生。曠課次數多了，學校可以依法處理，這才是學校的責任。
我剛來愛爾蘭的第一年圣誕節放假，我帶孩子回國度假。因為返程時，遇國內大雪航班延誤，我索性向學校多請了幾周假期。結果學校在準假后，又給我寄了信表示，因為我們請假過多，導致孩子缺課超過了教育部門規定的比例，所以他們必須向上級反映，同時讓我做好有可能向該部門解釋的準備。
孩子學校這種“大驚小怪”的做法其實還挺讓我理解的，因為這是他們保護未成年人受教育權利的證明。家長是否注重孩子的出勤率學校雖然管不著，但是當學生出勤率出現問題時，學校可以依法啟動相關程序。這是學校的“有所為”——不用家訪，不用約談，不用曉之以情動之以理的苦口婆心說“為你好”，只按章辦事，尊重了彼此，也盡到了本分。
而在大學，面對已經成人的學生子，若他們無心向學，我們的學校還要用人臉識別技術“留得住人，留不住心”，這是何必，又是何苦呢？畢竟該讀書的時候不讀書，受損的是自己。
最后我想說個恐怖故事，那時我兒子幾年前剛在國內讀一年級的時候有天和我說的：“媽媽，老師今天在課上對我們說，我們一出生，爸爸媽媽就放了一枚愛的芯片到我們身上。這樣一來，即使不在你們身邊，你們也可以隨時隨地看到我們。所以我們表現得要好，不能犯錯誤，因為你們都看得到！”
恐怖么？這份恐怖不是來自于那片尚不存在的芯片，而在于“因愛之名”。
面對此事，近日教育部科學技術司司長雷朝滋，在接受某新聞媒體采訪時表示：學校要謹慎使用人臉識別技術。雷司長的話一錘定音，表明了教育部門對此技術的謹慎態度。
當然，謹慎操作不代表不發展。任何一個新技術剛剛降臨時，都會面對質疑和支持兩種態度。現在誰離得開汽車、電腦？我們又為什么要決絕地阻擋人工智能的普及呢？何況，我們阻擋得了么？
面對“來勢洶洶”的人臉識別技術，我們真正該關注的焦點是，技術為誰所用，使用的目的和使用的手段。技術是無辜的，作為技術使用者的人，“有所為，有所不為”方是問題的根本。
對比國外學校在人臉識別技術上的差別，今天我和大家大概說說，為什么人臉識別技術在學校使用要謹慎操作？
人臉識別技術用于學校時必須得謹慎
在美國，近幾年來人臉識別技術得以在部分學校進行試點。隨后，因技術和倫理道德上的考慮，并基于巨大的社會壓力，被一一叫停。有某州政府今年初已經立法禁止人臉識別技術在該州學校使用：除非得到學生、家長和教育部門的同意，否則人臉識別技術不得在校園推廣——這是來自美國的“謹慎”。
在澳洲，人臉識別技術公司looplearn得到了政府的資金支持，可以在學校使用人臉識別技術，在這些學校，人臉識別技術主要用于老師點名，了解學生出勤情況。但是這個看起來“單一”的功能依然因為其具有明顯的商業前景，引發了人們的擔憂和反對。
另外有研究者擔心：因為在識別技術上尚不成熟，在區分有色人種時人臉識別技術會花更多的時間，并有可能錯認，從而引發新的“種族歧視”問題——因為相較于有色人種，白人更容易被識別。
而在歐洲，歐盟成員國正在積極地尋求人臉識別技術上的新規定。不知道是不是愛遵守規定的緣故，前不久瑞典有關部門剛剛處罰了一個高中19000歐元。因為該校在去年未經學生的同意就采集了22名學生的臉部信息。歐洲媒體在報道此事時，“夸張”地運用了“難以置信”學校的違法行為和當局處罰實在“輕微”等字眼，理由是按照該法條，最高的罰款額可是100萬歐元吶！
我所處的愛爾蘭，雖然有著歐洲硅谷的美譽，人臉識別技術在愛爾蘭的學校存在可幾乎是0。至于為什么說是“幾乎”呢？因為在學生使用的智能手機里，比如說像FACEBOOK這些app里還是有人臉識別技術的，歐盟一直在試圖控制這些社交軟件對隱私的侵犯。
當然，智能手機里的人臉識別技術是另外一個話題了，我們今天討論的是，在學校使用人臉識別是否會侵害孩子們的隱私？
在愛爾蘭學校
孩子的形象信息需家長授權
孩子有隱私么？不好意思，我說了一個偽命題。因為但凡是人就都有隱私。在愛爾蘭，當一個孩子進入幼兒園、學校時，家長都會被提示隱私安全和網絡安全。比如我女兒在幼兒園和夏令營參加活動時，校方會讓父母授權是否可以拍攝孩子。
剛開始老母親對此很不適應，心想：不就“喀嚓”一個照片么？可是后來想，這個照片拍了是為啥呢？無疑是用在商業用途上，比如廣告等。那作為這些小小肖像所有權人的監護人，家長當然需要知情并做出決定。學校得到家長的許可，才可以合理使用這些照片。如果你不同意，也沒關系，學校會避免采集孩子的形象。
一句話，愛爾蘭學校里孩子們的私人形象，如果學校想“有所為“一定是要有授權、有依據的。
用人臉識別技術監控孩子的行為
難以反映真實的學習效果
過度使用人臉識別技術會讓家長擔心：我的孩子需要的是同理心和愛，請不要隨意刺探，還把他們當機器喲！
在美國或者澳洲學校推行人臉識別試驗時，支持方的理由是：
1. 幫助校方排除可能危及學生安全的人員入校，比如已被開除的不良學生或罪犯等。尤其在全球恐怖襲擊連連的西方世界，說這個理由似乎可以很大程度上安撫父母的擔心；
2. 幫助老師管理大課堂，節省時間，提高管理效率。如果一個班級人數眾多，老師是沒可能用傳統的方式點名的，人臉識別技術無疑大大節省了人力。
而反對方的理由則十分的“情懷牌”：孩子不是機器，應該被當人來看。
在澳洲人臉識別新聞的評論中，有網友就表示，這項技術一旦不加節制地推行，將是政客樂于見到的“政績”，也是產品公司巴不得的巨大商業利益。可是對于家長而言，除了干巴巴地知道自己的孩子是否出勤、是否聽課外，什么也得不到。
因為孩子在這些行為背后的原因是什么？這是AI無法告訴你的事。而一旦，有朝一日，當整個教育系統都把“行為”作為評判學生好壞的唯一標準時，那么他們的內心又有誰會去費勁兒了解呢？
現在國內學校試點的人臉識別技術，把孩子們低幾次頭，是否在看手機，走神等作為是否專心聽課的標準。這實際上已經遠遠超過了歐美國家對于人臉識別技術使用的界限和想象：如果說人臉識別技術最早是為了公共安全的需要，那把低頭、小動作作為聽課指標的運用則顯得刻板、生硬且單一，確實有把人當機器之嫌。
近日，當我和我的鄰居，愛爾蘭一家專門負責學校軟硬件技術支持的公司COO聊到人臉技術時，他表示，人臉技術用來管理課堂確實是高效的。但是如果把學生打瞌睡、低頭等也作為指標是無意義的，因為這些指標不會告訴你孩子的真實情況，至少無法真實反映孩子的學習效果，也無法反映那些需要長期跟蹤才可以看到的結果。
而當我“腹黑”地表示，也許老師會用這些“開小差”的證據來批評學生時，他聳聳肩表示：如果僅僅用這個監視學生還批評學生，那他就是壞老師！這個評價倒是很簡單粗暴，不知道同樣簡單地用低頭次數、面部表情來判斷孩子的人怎么想？
采集信息的規則應當是雙邊的
在人臉識別上，用途、具體方式、信息保護等都應當是建立在采集方和被采集方平權的基礎上。
而在本次事件中，該南京高校的發言人則表示，因為學校是公共場合，同時采集信息也可以作為改善教學質量的依據，所以學校采集信息不屬于侵犯隱私。
且不說同樣是公眾場合，在大街上你也不能隨意拍攝他人。再說，你用拍學生走神的方式來判斷老師的教學質量，這個方式得到學生同意了么？老師認可么？
難道說，改善教學質量就真的沒有效率更高、更本質、更經濟、更安全的方式了么？現在不是花錢安設備就完了。后面的維護，以及被采集的信息如何管理，是否定期銷毀？校方是否跟進考慮了呢？
想到此不由得感嘆虧好自己生得早，否則自己當年在上“大學生修養” 之類的課時，低頭打個瞌睡的行為，放到現在被記錄了，都有可能要跟著我一輩子，那真是恐怖的事情……
有所為，有所不為
說到底是責任和界限的問題
現在很多家長都知道，面對自己生養的骨肉要慎言“為你好”三個字。學校何嘗不該如此？如果學校真的認為學習是學生的責任，那么就把這份責任交還給學生。曠課次數多了，學校可以依法處理，這才是學校的責任。
我剛來愛爾蘭的第一年圣誕節放假，我帶孩子回國度假。因為返程時，遇國內大雪航班延誤，我索性向學校多請了幾周假期。結果學校在準假后，又給我寄了信表示，因為我們請假過多，導致孩子缺課超過了教育部門規定的比例，所以他們必須向上級反映，同時讓我做好有可能向該部門解釋的準備。
孩子學校這種“大驚小怪”的做法其實還挺讓我理解的，因為這是他們保護未成年人受教育權利的證明。家長是否注重孩子的出勤率學校雖然管不著，但是當學生出勤率出現問題時，學校可以依法啟動相關程序。這是學校的“有所為”——不用家訪，不用約談，不用曉之以情動之以理的苦口婆心說“為你好”，只按章辦事，尊重了彼此，也盡到了本分。
而在大學，面對已經成人的學生子，若他們無心向學，我們的學校還要用人臉識別技術“留得住人，留不住心”，這是何必，又是何苦呢？畢竟該讀書的時候不讀書，受損的是自己。
最后我想說個恐怖故事，那時我兒子幾年前剛在國內讀一年級的時候有天和我說的：“媽媽，老師今天在課上對我們說，我們一出生，爸爸媽媽就放了一枚愛的芯片到我們身上。這樣一來，即使不在你們身邊，你們也可以隨時隨地看到我們。所以我們表現得要好，不能犯錯誤，因為你們都看得到！”
恐怖么？這份恐怖不是來自于那片尚不存在的芯片，而在于“因愛之名”。
【關注川越微信公眾號，了解更多】
