很多人一直在討論將人工智能技術(shù)應(yīng)用于開發(fā)武器所產(chǎn)生的道德問題，這是否會(huì)導(dǎo)致AI武器使用禁忌的出現(xiàn)?

 

 

這場(chǎng)圍繞人工智能武器道德問題的辯論涉及到每個(gè)人，從倡導(dǎo)團(tuán)體、政府官員到谷歌工程師。許多人認(rèn)為人工智能武器帶有非常重要的道德問題，這就引出了一個(gè)疑問，這些道德問題以及反人工武器倡導(dǎo)組織的努力是否會(huì)導(dǎo)致人工智能能武器被禁止使用或者引發(fā)強(qiáng)烈禁忌的出現(xiàn)?有些人認(rèn)為 ，國際協(xié)議足以阻止AI武器被應(yīng)用于世界軍隊(duì)。然而，圍繞人工智能武器使用禁忌的討論取決于更為直接的因素：它們?cè)趹?zhàn)場(chǎng)上的有效性。

今年4月，谷歌員工以非常公開的方式抗議公司參與五角大樓計(jì)劃(Pentagon program)，該計(jì)劃使用人工智能來解釋圖像以改進(jìn)無人機(jī)對(duì)目標(biāo)的攻擊。當(dāng)然，人工智能武器的風(fēng)險(xiǎn)和道德問題是真實(shí)存在的(就像任何新的戰(zhàn)爭(zhēng)技術(shù)一樣)。此外，大多數(shù)人工智能武器的反對(duì)者通常都指出了這樣一個(gè)道德問題：使用計(jì)算機(jī)算法來選擇和消除人類目標(biāo)，而控制過程卻沒有人類參與。

然而，人工智能武器所帶來的危機(jī)已超出了戰(zhàn)爭(zhēng)的道德問題。有些人指出 ，如果人工智能武器在世界范圍內(nèi)擴(kuò)散，危機(jī)會(huì)呈現(xiàn)出動(dòng)態(tài)、不穩(wěn)定的狀態(tài)。如果危機(jī)涉及的兩個(gè)國家能夠獲得可以輕易進(jìn)行如此迅速破壞的武器，那么先發(fā)優(yōu)勢(shì)(first mover advantage)可能會(huì)使這些國家走向戰(zhàn)爭(zhēng)而不是遠(yuǎn)離戰(zhàn)爭(zhēng)。例如，人們常常認(rèn)為先發(fā)優(yōu)勢(shì)是第一次世界大戰(zhàn)爆發(fā)的原因。部隊(duì)的迅速流動(dòng)和武器的進(jìn)步使得軍事規(guī)劃人員相信那些先行動(dòng)的人將擁有不可逾越的優(yōu)勢(shì)。因此，如果對(duì)方正準(zhǔn)備行動(dòng)，那么你就會(huì)希望在對(duì)方行動(dòng)前先發(fā)制人，AI可以創(chuàng)造類似的激勵(lì)。

 

 

(圖：2016年7月8日，第5海軍陸戰(zhàn)隊(duì)第3營在加利福尼亞州彭德爾頓海軍陸戰(zhàn)隊(duì)營地的模擬戰(zhàn)斗環(huán)境中測(cè)試了新設(shè)備，如多功能戰(zhàn)術(shù)運(yùn)輸。)

大多數(shù)人認(rèn)為化學(xué)武器使用禁忌之所以存在，是因?yàn)樗鼈兪且环N特別可怕的戰(zhàn)爭(zhēng)武器，國際社會(huì)同意禁止使用它們。但是，國際社會(huì)禁止某些事物并不代表這些武器足以被阻止使用。姑且先把對(duì)人工智能武器的使用禁令是否切合實(shí)際放在一邊，人們?cè)趹?zhàn)場(chǎng)上使用或不使用人工智能武器的唯一決定因素是一些更為直接的結(jié)果：有效性，如果AI武器有效，各國便會(huì)在戰(zhàn)場(chǎng)上使用它。

以往被開發(fā)的新戰(zhàn)爭(zhēng)工具也證明了這一點(diǎn)。在這些新武器被開發(fā)出來時(shí)，通常會(huì)被要求禁止使用。約翰·埃利斯(John Ellis)在《機(jī)槍的社會(huì)歷史》(The Social History of the Machine Gun)一書 中解釋了早期美國使用機(jī)槍的獨(dú)特性原因，以及機(jī)槍最終戰(zhàn)勝封建觀念并遍布戰(zhàn)場(chǎng)的原因。與此相對(duì)的是，在傳統(tǒng)觀念里，人們認(rèn)為只有勇敢的人可以贏得戰(zhàn)爭(zhēng)，而不是依賴花哨的武器。

類似的武器禁忌以及對(duì)戰(zhàn)爭(zhēng)行為制定適當(dāng)?shù)囊?guī)則提供了一些例子，我們可以從中獲知人們對(duì)人工智能武器的期許。1898年，來自世界各地的代表在日內(nèi)瓦召開會(huì)議，討論戰(zhàn)爭(zhēng)中的規(guī)則和法律。人們尤為關(guān)心的是對(duì)化學(xué)武器的使用，化學(xué)武器是當(dāng)時(shí)正在開發(fā)的一種新武器。大會(huì)期間，即使化學(xué)武器被規(guī)定禁止大規(guī)模使用，代表們?nèi)匀桓械綋?dān)心。

最終討論得出的公約要求：禁止使用窒息性、有毒或其他氣體。只有兩個(gè)國家對(duì)這項(xiàng)禁止表示反對(duì)，美國和(支持美國的)英國。美國持反對(duì)意見的觀點(diǎn)是，各國應(yīng)該盡一切可能利用所有手段盡快結(jié)束戰(zhàn)爭(zhēng)，他們認(rèn)為禁止使用化學(xué)武器只會(huì)延長(zhǎng)沖突的時(shí)間，最終導(dǎo)致更多人死亡。他們對(duì)美國內(nèi)戰(zhàn)仍記憶猶新，這場(chǎng)戰(zhàn)爭(zhēng)僅在三十三年前結(jié)束，此外，這是一場(chǎng)人們預(yù)計(jì)會(huì)很快結(jié)束但并沒有并伴有大量傷亡的戰(zhàn)爭(zhēng)。

1898年，美國代表大使Alfred T. Mahan說：“對(duì)于新武器來說，總有一種反對(duì)意見認(rèn)為具有戰(zhàn)爭(zhēng)危險(xiǎn)的武器是野蠻、殘暴的，然而，人們最終還是采用了這種武器。”那么，為什么一種禁忌形式會(huì)圍繞特定的具有戰(zhàn)爭(zhēng)危險(xiǎn)的武器，而不是其他具有戰(zhàn)爭(zhēng)危險(xiǎn)的武器呢?理查德·普賴斯(Richard Price)觀察到 ，“縱觀歷史，許多新武器作為一種新技術(shù)被引入戰(zhàn)爭(zhēng)時(shí)都會(huì)引發(fā)道德抗議的呼聲。然而，正如長(zhǎng)弓，弩，槍械，爆炸彈和潛艇等例子所表明的那樣，隨著這些創(chuàng)新被納入戰(zhàn)爭(zhēng)的標(biāo)準(zhǔn)技術(shù)，相關(guān)道德顧慮隨著時(shí)間的推移就會(huì)逐漸消失”。

最終，圍繞化學(xué)武器會(huì)形成使用禁忌。雖然這并不妨礙化學(xué)武器被人們使用(在最近的伊拉克戰(zhàn)爭(zhēng)中化學(xué)武器被多次使用)，但這肯定會(huì)對(duì)其被廣泛使用產(chǎn)生威懾作用。但是什么推動(dòng)了化學(xué)武器被有限使用呢?“禁忌”實(shí)際上能夠在不停止部分國家的情況下阻止了其他國家使用化學(xué)武器嗎?

由于化學(xué)武器在戰(zhàn)場(chǎng)上不是一種特別有效或有用的工具，所以認(rèn)為禁忌是阻止其被廣泛使用的唯一因素，這種論點(diǎn)更不具有說服力。產(chǎn)生足夠濃度的氣體云是很困難的。在戰(zhàn)爭(zhēng)的迷霧中，在不同程度的“摩擦”下，瞄準(zhǔn)目標(biāo)變得更加困難。在精確制導(dǎo)武器的時(shí)代，武器無法擊中離散目標(biāo)似乎尤其無用。此外，如果風(fēng)起作用或改變方向，也不能保證部隊(duì)不會(huì)受到影響。這些限制使得這種武器只對(duì)已經(jīng)處于極度絕望境地的領(lǐng)導(dǎo)人和政權(quán)具有吸引力。

現(xiàn)在對(duì)比一下潛艇的發(fā)展。潛艇最初是在化學(xué)武器被廣泛使用的同時(shí)被開發(fā)出來的，也曾受到類似的對(duì)待，人們認(rèn)為潛艇是一種不光彩的武器，潛伏在地下，匿名殺死它們的目標(biāo)。在不受限制的潛艇戰(zhàn)崛起時(shí)期中尤其如此。人們還呼吁禁止使用潛艇，1936年的倫敦議定書試圖對(duì)潛艇戰(zhàn)采取制定限制。

 

 

(圖：俄羅斯Uran-9無人駕駛地面車輛)

那么為什么化學(xué)武器發(fā)展成為禁忌而潛水艇沒有呢?這告訴我們圍繞人工智能武器使用禁忌的潛在發(fā)展趨勢(shì)是什么呢?這里考慮的三種新戰(zhàn)爭(zhēng)技術(shù)都引發(fā)并造成了重大的道德困境，并且仍然被許多人視為是不道德的。然而，在這兩個(gè)歷史例子中，無效的工具產(chǎn)生了一個(gè)禁忌，而有效的工具卻沒有。那么，人工智能將成為一種有效的戰(zhàn)爭(zhēng)工具嗎?

人工智能似乎極有可能成為戰(zhàn)爭(zhēng)的有用工具。盡管人們應(yīng)該避免使用諸如“軍事革命(evolution in military affairs)”之類的術(shù)語，但很容易看到這種新型武器系統(tǒng)的前景。然而，人們不應(yīng)該期待一場(chǎng)終結(jié)“現(xiàn)代系統(tǒng)(modern system)”戰(zhàn)爭(zhēng)的劇變。盡管人工智能武器可能會(huì)提高軍事效率，但隨后的對(duì)策發(fā)展可能會(huì)阻止它們顛覆現(xiàn)代的戰(zhàn)爭(zhēng)體系。

人工智能在軍隊(duì)中的承諾之一，似乎可以保證其被采用，這就是它的廣泛適用性。人工智能可以用來提高效率，不僅僅是作戰(zhàn)行動(dòng)上。人工智能可以改善補(bǔ)給線，加強(qiáng)對(duì)新士兵的訓(xùn)練，提高情報(bào)收集和處理的效率但人工智能在作戰(zhàn)行動(dòng)中的有效性似乎特別有前景。人工智能并不是一個(gè)完全革命性的概念，它被應(yīng)用到軍事領(lǐng)域，這僅僅是現(xiàn)代戰(zhàn)場(chǎng)數(shù)字化和機(jī)械化下的一個(gè)合乎邏輯的步驟。在911之后，電子和機(jī)器人武器系統(tǒng)進(jìn)入現(xiàn)代軍隊(duì)的過程越來越快。根據(jù)一篇文章所述，“已經(jīng)有90個(gè)國家和非政府組織擁有無人機(jī)，30個(gè)國家擁有武裝無人機(jī)或計(jì)劃開發(fā)它們。”ISIS采用無人機(jī)是一個(gè)著名例子，證明了人工智能武器的潛力。

最后，人工智能武器將對(duì)美國軍方正在實(shí)施的第三次抵消戰(zhàn)略至關(guān)重要。機(jī)器學(xué)習(xí)、人機(jī)協(xié)作、以及無人機(jī)群都是可能會(huì)破壞國家之間的平衡的潛在系統(tǒng)。我們已經(jīng)看到了一些戰(zhàn)術(shù)在戰(zhàn)場(chǎng)上被使用。例如，俄羅斯聲稱，無人機(jī)群襲擊了其在敘利亞的一個(gè)基地。

在戰(zhàn)場(chǎng)上早期采用類似于AI的策略，投入此類技術(shù)的國家數(shù)量之多，以及展示其潛力的現(xiàn)有武器系統(tǒng)，所有這些似乎都表明，人工智能武器將是非常有效的戰(zhàn)爭(zhēng)工具。因此，雖然人們應(yīng)該對(duì)工具的倫理和限制進(jìn)行有力的討論，但不太可能圍繞工具的使用制定出一個(gè)強(qiáng)制的禁忌。

選自：Taskandpurpose 作者：Adam Wunische 編譯：網(wǎng)易智能

標(biāo)簽： 谷歌

版權(quán)申明：本站文章部分自網(wǎng)絡(luò)，如有侵權(quán)，請(qǐng)聯(lián)系：west999com@outlook.com
特別注意：本站所有轉(zhuǎn)載文章言論不代表本站觀點(diǎn)！
本站所提供的圖片等素材，版權(quán)歸原作者所有，如需使用，請(qǐng)與原作者聯(lián)系。