谷歌的AI拒絕了五角大樓 但亞馬遜選擇敞開(kāi)懷抱！
2018-06-13 來(lái)源：
杰夫·貝佐斯的商業(yè)巨頭公司亞馬遜一直被大多數(shù)人看作是由消費(fèi)者驅(qū)動(dòng)的企業(yè)，而不像是一個(gè)簡(jiǎn)單易用的間諜技術(shù)的提供商。但是，根據(jù)美國(guó)公民自由聯(lián)盟(American Civil Liberties Union，ACLU)上周所披露的消息，亞馬遜網(wǎng)絡(luò)服務(wù)(AWS)正在向美國(guó)各個(gè)警察部門(mén)提供Rekognition產(chǎn)品。
由于Rekognition向所有人都開(kāi)放，福布斯網(wǎng)站決定嘗試一下這項(xiàng)服務(wù)。根據(jù)員工自愿提供的照片，以及我們?cè)跐晌魇泻蛡惗剞k公室拍攝的照片，我們只花了很少的費(fèi)用，通過(guò)一些技術(shù)知識(shí)，用了幾個(gè)小時(shí)就成功建立了一個(gè)超級(jí)精確的面部識(shí)別系統(tǒng)。
“這說(shuō)明了政府可以輕易地利用亞馬遜的面部識(shí)別技術(shù)來(lái)進(jìn)行大規(guī)模監(jiān)控，”ACLU的技術(shù)律師Matt Cagle在談到福布斯的項(xiàng)目時(shí)說(shuō)，“所以這取決于亞馬遜。它會(huì)停止向政府出售危險(xiǎn)的技術(shù)嗎?還是會(huì)繼續(xù)損害消費(fèi)者的隱私，危及有色人種、抗議者和移民社區(qū)?因?yàn)檫@些人在當(dāng)前的政治氣候下已經(jīng)受到了攻擊。”
亞馬遜沒(méi)有對(duì)這篇文章發(fā)表評(píng)論，但在上周的一篇博客文章中向福布斯指出，“沒(méi)有任何報(bào)道稱(chēng)執(zhí)法部門(mén)濫用亞馬遜的Rekognition產(chǎn)品”。亞馬遜AWS人工智能部門(mén)總經(jīng)理Matt Wood博士寫(xiě)道，該公司的許可使用政策(Acceptable Use Policy, AUP)禁止將該服務(wù)用于“任何非法的、侵犯他人權(quán)利的，或者可能對(duì)他人有害的活動(dòng)”。
“這包括侵犯任何人的憲法權(quán)利，涉及第四、第五和第十四條修正案——即任何形式的非法歧視，或違反正當(dāng)程序以及侵犯隱私權(quán)。違反我們的AUP的客戶(hù)會(huì)被禁止使用我們的服務(wù)，”Wood補(bǔ)充道。
面部識(shí)別“攻略”
為了測(cè)試面部識(shí)別系統(tǒng)，我們請(qǐng)求了獨(dú)立研究員Matt Svensson的幫助。他建立了一個(gè)AWS數(shù)據(jù)庫(kù)(即S3存儲(chǔ)桶)，在其中上傳了大量的圖庫(kù)照片和福布斯員工的面部照片。由于亞馬遜沒(méi)有一個(gè)直觀的工具來(lái)可視化人臉匹配過(guò)程，而只是簡(jiǎn)單地以文本形式返回結(jié)果，Svensson迅速編寫(xiě)了一個(gè)程序，該程序會(huì)在其“目標(biāo)”周?chē)胖眉t色方框，以及在“非目標(biāo)”周?chē)胖镁G色方框，相當(dāng)于對(duì)這個(gè)系統(tǒng)進(jìn)行了專(zhuān)業(yè)的監(jiān)控。
我們的視頻團(tuán)隊(duì)在澤西市和倫敦拍攝了一些簡(jiǎn)單的視頻片段，模仿閉路電視錄像，鏡頭保持靜止或輕微地旋轉(zhuǎn)。這意味著，員工可能會(huì)與鏡頭有一段距離，或者處于Rekognition可能很難識(shí)別的角度。
不過(guò)，正如我們所預(yù)料的那樣，亞馬遜的技術(shù)并沒(méi)有因此受挫。我們把視頻上傳進(jìn)去之后，它幾乎沒(méi)有遇到什么問(wèn)題。每當(dāng)數(shù)據(jù)庫(kù)中的員工在上傳的視頻中出現(xiàn)時(shí)，就會(huì)生成一個(gè)成功的匹配，就像他們面部周?chē)募t色方框所顯示的那樣。
通過(guò)使用Svensson提供的簡(jiǎn)單六步“攻略”，我也成功地設(shè)置了一個(gè)純文本版本的Rekognition，這證明了即使是那些缺乏技術(shù)常識(shí)的人也能快速地進(jìn)行面部識(shí)別操作。
在不到幾個(gè)小時(shí)的時(shí)間里，我注冊(cè)了一個(gè)亞馬遜賬戶(hù)，并創(chuàng)建了一個(gè)AWS S3存儲(chǔ)桶，在里面上傳了圖片。然后，我在蘋(píng)果Mac電腦上測(cè)試了一個(gè)對(duì)應(yīng)這些照片的快速自拍。匹配度達(dá)到了99%。然后我讓亞馬遜在一個(gè)簡(jiǎn)短的自拍視頻中尋找人臉，并要求找到一組照片匹配。再一次，它快速地完成了匹配，匹配度為99%。即使是識(shí)別人偶，亞馬遜也毫不費(fèi)力。
廉價(jià)且振奮人心的面部識(shí)別技術(shù)
這種小規(guī)模的測(cè)試基本上是免費(fèi)的，當(dāng)然主要是因?yàn)镾vensson不向我們收費(fèi)。單在專(zhuān)業(yè)部署中，這一成本仍然是微不足道的。“即使我們將測(cè)試的成本，使用AWS以及在我們的實(shí)際場(chǎng)景中使用面部識(shí)別的成本包括在內(nèi)，它的價(jià)格也將低于10美元，”Svensson補(bǔ)充道。
執(zhí)法部門(mén)已經(jīng)在享受這一低成本了：美國(guó)公民自由聯(lián)盟發(fā)現(xiàn)，佛羅里達(dá)州奧蘭多警察局僅僅花了30.99美元來(lái)處理30989張照片。
與目前由美國(guó)聯(lián)邦 政府管理的其他面部識(shí)別項(xiàng)目相比，亞馬遜的服務(wù)非常便宜。例如，福布斯還發(fā)現(xiàn)，美國(guó)海關(guān)與邊境保護(hù)局(U.S. Customs & Border Protection)在2017年12月達(dá)成了一筆1080萬(wàn)美元的交易，購(gòu)買(mǎi)包括“無(wú)限的面部識(shí)別匹配算法”在內(nèi)的技術(shù)。
面部識(shí)別產(chǎn)品的規(guī)模
亞馬遜并不是唯一一家擁有大規(guī)模監(jiān)控產(chǎn)品的消費(fèi)科技巨頭。谷歌和Facebook都有自己的面部識(shí)別產(chǎn)品，但沒(méi)有證據(jù)表明他們已經(jīng)向美國(guó)政府或當(dāng)?shù)貓?zhí)法機(jī)構(gòu)出售了此類(lèi)服務(wù)。
雖然我們?cè)谑褂谜掌瑫r(shí)得到了福布斯員工的許可，但如果普通用戶(hù)想要建立自己的面部識(shí)別系統(tǒng)，也不是一件難事。例如，他們可以抓取網(wǎng)站、Facebook和谷歌上的照片，并上傳到他們的數(shù)據(jù)庫(kù)中。
例如，以色列監(jiān)控巨頭Verint公司已經(jīng)擁有了一個(gè)巨大的面部識(shí)別數(shù)據(jù)庫(kù)，數(shù)據(jù)庫(kù)中的圖片就來(lái)自Facebook和YouTube。在早期的測(cè)試中，Svensson簡(jiǎn)單地抓取了我的谷歌個(gè)人資料，并將其與我在福布斯拍攝照片相匹配，匹配度達(dá)到了97.4%。
在初期測(cè)試中，另一件有趣的事情是，Svensson試圖讓亞馬遜識(shí)別Ring拍攝的視頻，Ring是亞馬遜斥資10多億美元收購(gòu)智能門(mén)鈴制造商，其門(mén)鈴配有攝像頭，用于額外的家庭安全保護(hù)。
最初，他使用單張圖片訓(xùn)練亞馬遜的系統(tǒng)，Rekognition沒(méi)能從Ring的錄像中認(rèn)出他。不過(guò)，只要增加更多的訓(xùn)練圖像，匹配就在慢慢形成了，即使在開(kāi)始時(shí)有一些“假陰性”——亞馬遜只是簡(jiǎn)單地識(shí)別出有一張面孔，而不知道那是Svensson。因?yàn)樵诩t色方框出現(xiàn)之前出現(xiàn)了閃爍的綠色方框。
“真實(shí)世界的匹配是一樣的，需要多個(gè)角度的人的臉才能匹配得很好。Facebook和谷歌肯定也想到了這一點(diǎn)，”Svensson說(shuō)。當(dāng)然，谷歌已經(jīng)在其N(xiāo)est Hello門(mén)鈴中安裝了面部識(shí)別軟件。
Rekognition比開(kāi)源產(chǎn)品更好嗎?
雖然現(xiàn)在已經(jīng)有一些開(kāi)源的面部識(shí)別工具，但亞馬遜的平臺(tái)卻與之不同。和亞馬遜的其它產(chǎn)品一樣，它的規(guī)模和服務(wù)質(zhì)量使其得以以極低的成本提供面部識(shí)別服務(wù)，任何有電腦的人都可以使用。
Svensson在Github上發(fā)現(xiàn)，亞馬遜Rekognition的速度超過(guò)了最受歡迎的開(kāi)源工具之一。盡管這兩款產(chǎn)品在檢測(cè)福布斯員工的四張臉時(shí)都是準(zhǔn)確的，但AWS平均花了0.3秒的時(shí)間來(lái)對(duì)圖片進(jìn)行索引，而開(kāi)源系統(tǒng)的這一時(shí)間是4.5秒。在檢測(cè)視頻時(shí)，AWS檢測(cè)每幀圖像的時(shí)間為0.2秒，而開(kāi)源的則為6.45秒。很顯然，亞馬遜的速度要快得多。
Svensson說(shuō)：“Rekognition如此便宜、簡(jiǎn)單、快捷，它‘很可能改變我們?cè)诰W(wǎng)絡(luò)和現(xiàn)實(shí)世界中看待隱私的方式。'”開(kāi)源工具要求用戶(hù)擁有大量的計(jì)算機(jī)能力，并且能夠處理復(fù)雜的任務(wù)。Svensson說(shuō)，通過(guò)使用亞馬遜龐大的基礎(chǔ)設(shè)施，Rekognition消除了這些障礙。
監(jiān)督“監(jiān)視者”
亞馬遜表示，它不會(huì)允許任何用戶(hù)違反法律，而且會(huì)尊重公民的隱私權(quán)。但是，它將如何監(jiān)督這么多客戶(hù)呢?在發(fā)布產(chǎn)品的時(shí)候，亞馬遜還沒(méi)有對(duì)具體要求做出回應(yīng)。亞馬遜也沒(méi)有公開(kāi)說(shuō)明他們是如何讓Rekognition的效果如此之好的，只是指出它使用人工智能和機(jī)器學(xué)習(xí)來(lái)訓(xùn)練軟件。
開(kāi)源面部識(shí)別項(xiàng)目的開(kāi)發(fā)者Adam Geitgey解釋說(shuō)：“他們獲取到的面部圖像越多，他們的系統(tǒng)就越好。像Facebook這樣的公司在這種情況下就占優(yōu)勢(shì)，因?yàn)樗麄冇泻芏嘤袠?biāo)簽的真人照片。但我敢肯定，亞馬遜也會(huì)有很好的解決方案。我還認(rèn)為亞馬遜也在使用來(lái)自所有Rekognition用戶(hù)的數(shù)據(jù)來(lái)幫助他們重新培訓(xùn)和改進(jìn)系統(tǒng)，使之后的產(chǎn)品效果更好。”
但是Adam Geitgey也擔(dān)心面部識(shí)別系統(tǒng)會(huì)缺乏足夠的訓(xùn)練。“同樣重要的是，我們要知道，任何人臉識(shí)別系統(tǒng)都只和用來(lái)訓(xùn)練它的數(shù)據(jù)一樣好。如果某些種族、外貌特性或者年齡階段等在訓(xùn)練數(shù)據(jù)中所占比例不足，那么在最終的系統(tǒng)中都不會(huì)被認(rèn)可。例如，如果有人用成年西方名人的照片作為訓(xùn)練數(shù)據(jù)來(lái)建立面部識(shí)別系統(tǒng)，那么它在識(shí)別亞洲人和年幼的孩子時(shí)就會(huì)表現(xiàn)不佳。”
當(dāng)然，有些人可能會(huì)考慮面部識(shí)別的非監(jiān)視用途。Sky News最近在本月初的英國(guó)皇家婚禮上使用了Rekognition來(lái)發(fā)現(xiàn)婚禮上的名人。這些工具也被用于簡(jiǎn)單的生物識(shí)別技術(shù)，例如，只允許被授權(quán)的人進(jìn)入某個(gè)建筑物。
安全問(wèn)題
但除了幾乎可以察覺(jué)到的隱私問(wèn)題之外，亞馬遜的Rekognition也引發(fā)了安全方面的擔(dān)憂(yōu)。這在很大程度上是因?yàn)閬嗰R遜網(wǎng)絡(luò)服務(wù)的客戶(hù)多次誤把他們的數(shù)據(jù)庫(kù)公開(kāi)給公眾。例如，2017年12月，市場(chǎng)分析公司Alteryx在AWS服務(wù)器上留下了1.2億個(gè)美國(guó)家庭的大量個(gè)人信息。想象一下，如果執(zhí)法部門(mén)的目標(biāo)(以及無(wú)辜者)被泄露到網(wǎng)絡(luò)上，后果將會(huì)如何。Svensson補(bǔ)充說(shuō)：“只要有一個(gè)錯(cuò)誤的配置就能讓數(shù)百萬(wàn)人的信息暴露在外。”
標(biāo)簽： 安全 服務(wù)器 谷歌 開(kāi)發(fā)者 數(shù)據(jù)庫(kù) 網(wǎng)絡(luò)
版權(quán)申明：本站文章部分自網(wǎng)絡(luò)，如有侵權(quán)，請(qǐng)聯(lián)系：west999com@outlook.com
特別注意：本站所有轉(zhuǎn)載文章言論不代表本站觀點(diǎn)！
本站所提供的圖片等素材，版權(quán)歸原作者所有，如需使用，請(qǐng)與原作者聯(lián)系。
