今年2月，環(huán)球網(wǎng)援引?？怂剐侣剤蟮婪Q，舊金山可能成為美國第一個禁止政府使用人臉識別技術(shù)的城市。近日，舊金山市通過了對《停止秘密監(jiān)視》條例所作的一些修訂，條例強調(diào)：“人臉識別技術(shù)侵害公民權(quán)利和公民自由的可能性大大超過了其聲稱的好處；這項技術(shù)將加劇種族不公正，并且威脅到我們的生活不受政府持續(xù)監(jiān)視的能力?！边@意味著，美國第一個城市禁用人臉識別軟件將成為現(xiàn)實。

　　人臉識別是今天多種多樣人工智能技術(shù)中相當(dāng)新銳又被視為具有廣泛用途的技術(shù)，對個體生物識別、安保、刑事鑒識、社會生活等都有重要的意義。其被一個城市叫停，至少可以解讀為，在AI技術(shù)發(fā)展突飛猛進之時，相應(yīng)的對其管理的規(guī)則和技術(shù)還不成熟。

　　舊金山市禁止人臉識別的最大理由是，它將公民置于政府的持續(xù)監(jiān)視之下，侵害公民權(quán)利和自由，同時也會造成種族歧視。這些是AI倫理的一部分，人類社會不能為了使用技術(shù)而發(fā)展技術(shù)，更不能以發(fā)展和使用技術(shù)為由違反甚至破壞人類社會公認的倫理底線。

　　目前，對AI技術(shù)的狂熱已經(jīng)讓這一技術(shù)有失控的危險。為此，歐盟在4月初抓緊公布了AI倫理指導(dǎo)方針，要求公司和政府機構(gòu)在未來開發(fā)AI時應(yīng)遵循7大原則。其中的第一條是，AI不應(yīng)該踐踏人類的自主性。人們不應(yīng)該被AI系統(tǒng)所操縱或脅迫，應(yīng)該能夠干預(yù)或監(jiān)督AI軟件所做的每一個決定。舊金山市禁止使用人臉識別技術(shù)的重要理由，與這一指導(dǎo)方針吻合。

　　人臉識別和其他AI技術(shù)一樣仍存在較大問題。首先，人臉識別技術(shù)并不可靠。亞馬遜及其他公司的人臉識別技術(shù)由于它們?nèi)毕荨獙Ψ且崦绹说恼`認而受到審查，甚至還發(fā)生過亞馬遜的人臉識別工具認為，535名國會議員中，有28名議員看起來像是罪犯的事件。美國佐治亞理工學(xué)院的喬伊·布拉姆維尼團隊分析了3500張膚色各異的人的照片，發(fā)現(xiàn)自動駕駛技術(shù)在識別黑色皮膚人群時的準(zhǔn)確度平均降低了5%，得出了皮膚較黑的人比皮膚較白的人更容易被自動駕駛汽車撞到的結(jié)論。微軟、IBM和Facebook等大公司推出的商用人臉識別軟件系統(tǒng)，也無法識別女性和有色人種。

　　人臉識別技術(shù)還可能被模仿并用于造假。一項被稱為GAN（生成對抗網(wǎng)絡(luò)）的新興技術(shù)可以把任何人的相貌換成另一個人并通過檢測。實際上，GAN是一種生成模型，可以自動生成圖像，也能自動篡改圖像，可以輕而易舉地通過人臉識別技術(shù)的檢測進行造假和欺詐。

　　類似的情況，還有2017年問世的Deepfakes換臉技術(shù)，能將《神奇女俠》主角蓋爾·加朵的臉嫁接到另一位女影星的身上，看起來天衣無縫，也使得使用這項技術(shù)對任何人換臉并通過人臉識別成為可能。統(tǒng)計表明，互聯(lián)網(wǎng)有大量的合成信息，如合成聲音、生成圖像、AI合成不存在的人像等，這讓人臉識別在尚未被普遍使用之時，可靠性就遭遇空前危機。

　　人臉識別的不可靠之處還在于，其不安全性是長久的。相較于個人的生物信息，保護個人的其他密碼是可更換的，但個人生物信息一旦泄露和遭到改變，就會是終身泄露，除了影響人們的生活，還讓人處于永遠的不安全中。

　　歐盟關(guān)于AI的7項倫理指導(dǎo)方針要求，AI系統(tǒng)收集的個人數(shù)據(jù)應(yīng)該是安全的，能夠保護個人隱私，不應(yīng)該被任何人訪問，也不應(yīng)該輕易被盜。但是，目前的人臉識別技術(shù)大多為公司和政府所有，屬于專有技術(shù)，缺乏公平和公正的第三方的嚴格監(jiān)管。

　　從這個意義上講，舊金山市禁用AI人臉識別技術(shù)，是在平衡AI技術(shù)的利弊之后進行的立法?，F(xiàn)在，美國參議院正在考慮一項監(jiān)管人臉識別軟件商業(yè)使用的法案，這也是從管理角度來保證AI技術(shù)的安全和公平公正使用。未來，如果技術(shù)的進步和法律能保證人臉識別技術(shù)到達更穩(wěn)妥更可控的安全程度，也許禁令會被撤銷。（張?zhí)锟保?/p>