界面新聞?dòng)浾?| 劉子象
法國的人工智能（AI）視頻監(jiān)控計(jì)劃本周又跨過了一個(gè)重要障礙，距離落地僅一步之遙。
3月28日，國民議會(huì)以400-93的壓倒性結(jié)果批準(zhǔn)了一項(xiàng)涵蓋2024年巴黎奧運(yùn)會(huì)安保措施的草案。之后，草案將在參議院和國民議會(huì)之間進(jìn)一步微調(diào)，預(yù)計(jì)4月將最終通過。今年1月，該草案已經(jīng)在參議院獲得壓倒性（245-28）通過。
這項(xiàng)草案包括多項(xiàng)內(nèi)容，其中第7條特別引發(fā)爭議，因?yàn)樗试S在巴黎奧運(yùn)會(huì)期間使用AI視頻監(jiān)控技術(shù)來檢測異常行為。不過，實(shí)施將是臨時(shí)性的，使用時(shí)間在巴黎奧運(yùn)會(huì)（2024年7月26日-8月11日）以及隨后舉行的殘奧會(huì)期間，將于2024年12月31日結(jié)束。
這項(xiàng)條款比全球大多數(shù)國家走得更遠(yuǎn)，它不僅涉及在歐洲很難推動(dòng)的視頻監(jiān)控，還有越來越引人擔(dān)憂的人工智能。這項(xiàng)擬議中的法案，將攝像頭與算法驅(qū)動(dòng)的AI軟件結(jié)合起來，AI負(fù)責(zé)識別安全問題，比如被遺棄的包裹或異常的人群涌動(dòng)，人類負(fù)責(zé)最后一步操作、決定是否就此采取行動(dòng)。
支持者認(rèn)為，這只是一項(xiàng)新技術(shù)的暫時(shí)性試驗(yàn)，不必過分擔(dān)憂。法國政府表示，面對即將到來的巴黎奧運(yùn)會(huì)這個(gè)全球盛會(huì)，恐襲、人群踩踏等安全壓力巨大，它援引去年造成160多人死亡的韓國梨泰院踩踏事故，認(rèn)為新技術(shù)可以較大程度避免此類悲劇的發(fā)生。法國體育部長卡斯特拉強(qiáng)調(diào)該法案只是臨時(shí)性的，并且不會(huì)涉及面部識別，檢測的是“異常情況而不是某人”。
另外，基于AI的系統(tǒng)能夠預(yù)測人群的動(dòng)向，發(fā)現(xiàn)被遺棄的行李或潛在的危險(xiǎn)事件。與傳統(tǒng)的視頻監(jiān)控相比，AI的引入帶來了自動(dòng)化，算法負(fù)責(zé)分析還能減少人為錯(cuò)誤。
反對者則擔(dān)心，最初的特殊使用最終會(huì)成為普遍現(xiàn)象，并將在更大范圍內(nèi)開創(chuàng)“危險(xiǎn)的先例”。他們援引往屆奧運(yùn)會(huì)使用新技術(shù)最終推廣的例子稱，2012年倫敦奧運(yùn)會(huì)最終導(dǎo)致視頻監(jiān)控在倫敦的廣泛使用。2018年俄羅斯世界杯試驗(yàn)性地使用語音識別技術(shù)，最終也擴(kuò)大了使用范圍。
對于法國政府堅(jiān)稱的不涉及面部識別，反對人士認(rèn)為，拋開視頻監(jiān)控可能對隱私等個(gè)人權(quán)利的侵犯不談，“面部識別”只是個(gè)等待被激活的功能，類似技術(shù)的使用只是時(shí)間問題。
從技術(shù)本身來說，也存在爭論，尤其是在強(qiáng)大的ChatGPT引發(fā)討論之時(shí)。不久前，ChatGPT的橫空出世震驚了科技界。隨著時(shí)間的推移，輿論已從最初的對技術(shù)革命的贊嘆，逐漸轉(zhuǎn)向?qū)夹g(shù)失控的擔(dān)憂。馬斯克等大佬已聯(lián)名發(fā)出公開信，呼吁AI實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少半年。
而法國擬議的AI視頻監(jiān)控也是這樣一種新的技術(shù)形式。數(shù)字法專業(yè)律師Arnaud Touati表示，它使用計(jì)算機(jī)軟件實(shí)時(shí)分析監(jiān)控?cái)z像頭拍攝的圖像。軟件中使用的算法主要是基于機(jī)器學(xué)習(xí)技術(shù)，隨著時(shí)間的推移，它將能夠繼續(xù)改進(jìn)并適應(yīng)新的情況。
而人權(quán)組織更關(guān)心AI技術(shù)的潛在歧視。他們指出，看似冷酷無情的算法實(shí)際上可能包含歧視性的偏見，移民、有色人種將被針對對待。“這些算法將使用一組由人類決定和設(shè)計(jì)的數(shù)據(jù)進(jìn)行訓(xùn)練，它將納入設(shè)計(jì)者的歧視性偏見，另外，在奧運(yùn)會(huì)這樣如此大規(guī)模的場合使用該技術(shù)，將更加凸出算法的歧視性和種族主義偏見。”技術(shù)和人權(quán)專家Katia Roux說。
除了技術(shù)本身的隱患，法國的法案還將與歐盟的立法沖突，并將在歐洲大陸開啟一個(gè)反面先河，以及引來后續(xù)的法律訴訟問題。
兩年前歐盟就著手制定AI法案，旨在對公司、公共部門以及執(zhí)法部門在使用AI技術(shù)方面進(jìn)行規(guī)范和監(jiān)管。但是由于內(nèi)部分歧以及OpenAI技術(shù)的持續(xù)快速發(fā)展，布魯塞爾面臨不小挑戰(zhàn)，目前仍在就該法案進(jìn)行激辯。分析人士認(rèn)為，即便在最好的情況下，歐洲議員們迅速達(dá)成妥協(xié)，但也大概率無法在500天后的巴黎奧運(yùn)會(huì)召開前通過。因此，短期內(nèi)，法國政府預(yù)計(jì)不會(huì)遭受較大外部壓力，但是后續(xù)可能會(huì)產(chǎn)生法律問題。
稍早前，約40名歐洲議員聯(lián)名警告稱，“法國正以奧運(yùn)會(huì)為借口，開創(chuàng)歐洲從未見過的監(jiān)視先例?！?/span>通過這項(xiàng)法律，法國將成歐盟27國里第一個(gè)將視頻監(jiān)控合法化的國家，并樹立“危險(xiǎn)先例”，“向那些試圖使用這項(xiàng)技術(shù)的國家發(fā)出極其令人擔(dān)憂的信號。”
而從法國內(nèi)部來說，該國民眾正陷入對養(yǎng)老金改革的抗議狂潮中，AI視頻監(jiān)控議題尚未引起他們的廣泛關(guān)注。不過，馬克龍政府仍可能面臨該國憲法法院的挑戰(zhàn)，因此，AI視頻監(jiān)控能否最終現(xiàn)身巴黎奧運(yùn)會(huì)，仍有待觀察。