Bayraktar TB2無人機可以自動起飛和降落，但需要由人類操作人員發起攻擊。圖片來源：NINA LIASHONOK—UKRINFORM/FUTURE PUBLISHING/GETTY IMAGES

位于烏克蘭基輔（Kyiv）的街頭，裝有爆炸物的無人機像死魚一般肚皮朝上躺在地上，發出刺耳的噪音，尾部的螺旋槳已經變形。這架無人機攜帶的致命爆炸物并未引爆，墜毀原因可能是故障或者被擊落。

這架無人機的照片很快被上傳到社交媒體，有武器專家確認這是由俄羅斯的武器制造商卡拉什尼科夫集團（Kalashnikov）的無人機部門扎拉航空（Zala Aero）生產的KUB-BLA“巡飛彈”。這類巡飛彈俗稱“自殺式無人機”，可以自動飛到指定區域，巡航最長30分鐘。

無人機的操作員能夠遠程監控其拍回的視頻，等到地面出現敵軍的士兵或者坦克時發起攻擊。在某些情況下，無人機會安裝人工智能軟件，使其可以根據輸入到機載系統的圖像獵殺指定目標。無論在哪種情況下，只要無人機發現敵人并且操作人員選擇攻擊，這種無人機就會朝目標俯沖而下，然后爆炸。

俄烏戰場成為日益先進的巡飛彈的重要試驗場。這引起了人權活動家和技術人員的警惕。他們擔心，這代表戰場上利用“殺手機器人”的時代即將來臨。這些由人工智能控制的武器有可能會在沒有人類決策的情況下自動獵殺人類。

隨著這項技術的快速完善和成本下降，它引起了各國軍隊的密切關注。小型半自動無人機的賣點在于，它的價格只有體型更大的“捕食者”（Predator）無人機的幾分之一，而且不需要由經驗豐富的飛行員遠程操控。“捕食者”無人機的價格可能高達數千萬美元。步兵只要接受一點培訓，就能夠輕松使用這些新型自動化武器。

美國海軍海豹突擊隊（Navy SEAL）的前隊員、美國Shield AI公司的聯合創始人及首席增長官布蘭登·曾（Brandon Tseng）說：“‘捕食者’無人機的價格過于昂貴，因此各國開始思考：‘能否用體積更小、價格更低的無人機實現98%的作戰效果？’”Shield AI公司致力于生產小型無人偵察機，使用人工智能進行導航和圖像分析。

但人權組織和一些計算機科學家擔心，這項技術將給戰區的平民甚至整個人類帶來新的嚴重威脅。

國際特赦組織（Amnesty International）的高級顧問維里蒂·科伊爾（Verity Coyle）稱：“目前的巡飛彈還有人類操作人員負責決定攻擊目標，但取消人類操作并不難。一個巨大的威脅在于，如果沒有清晰的法規，也就無法明確使用無人機的紅線在哪里。”國際特赦組織參與了“停止殺手機器人”（Stop Killer Robots）活動。

聯合市場研究公司（Allied Market Research）預測，全球人工智能驅動的各類致命武器市場發展迅速，其規模將從今年的近120億美元，增長到這個十年底的300億美元。Grand View Research公司表示，僅美國目前每年在巡飛彈方面的支出就高達約5.8億美元，到這個十年底將增加到10億美元。

從事巡飛彈生產的以色列國防公司UVision的國際銷售與營銷總監達干·勒夫·阿里（Dagan Lev Ari）表示，最初巡飛彈需求增長緩慢，直到2020年亞美尼亞與阿塞拜疆爆發沖突。當時阿塞拜疆使用先進無人機和巡飛彈摧毀了亞美尼亞的大量坦克和火炮，幫助其取得了決定性的勝利。

勒夫·阿里指出，那場戰爭讓許多國家對巡飛彈產生了興趣。美國開始大規模采購，包括UVision的“英雄”（Hero）系列自殺式無人機，以及由美國公司AeroVironment生產的“彈簧刀”（Switchblade）無人機，也推動了該市場的增長。勒夫·阿里補充道，俄烏沖突加快了需求增長速度。他說：“人們突然發現歐洲可能爆發一場戰爭，國防預算不斷增加。”

巡飛彈的價格雖然低于某些武器，但實際上并不便宜。例如，有報告稱，一架“彈簧刀”無人機包括發射控制系統和彈藥在內的價格高達7萬美元。

據稱，美國將向烏克蘭提供了100架“彈簧刀”無人機。這些“彈簧刀”無人機將作為烏克蘭現有的土耳其造Bayraktar TB2無人機的補充。Bayraktar TB2無人機可以自動起飛、降落和巡航，但需要由人類操作人員尋找目標和發出發射機載火箭或投彈的命令。

巡飛彈并不是新鮮事物。最早的巡飛彈能夠追溯到20世紀60年代，當時的飛航式導彈可以飛到指定區域搜索敵軍防空系統的雷達信號。區別在于現在的巡飛彈技術更復雜、更準確。

理論上，人工智能武器系統能夠減少戰場上的平民傷亡。計算機處理信息的速度比人類更快，并且不會受到戰斗帶來的生理和情緒壓力的影響。在激烈交火中，計算機還可以更準確地判斷房子后面突然出現的是敵軍士兵還是一名兒童。

但人權活動家和許多人工智能研究者卻警告，面對是否要扼殺一個人的生命這個對所有人而言都最重要的決定，今天基于機器學習的算法在實踐中并不值得信任。圖像識別軟件在某些測試中雖然能夠媲美人類的能力，但在許多現實場景中，比如雨天或雪天環境，或者在光影對比明顯的環境下，這類軟件有明顯的不足。

它經常會犯一些人類從來不會犯的稀奇古怪的錯誤。例如在一次試驗中，研究人員成功欺騙了一個人工智能系統，通過微調圖像的像素圖案，使系統把一只烏龜識別成一把步槍。

即使目標識別系統可以做到完全精確無誤，自動武器依舊會帶來嚴重的威脅，除非它能夠理解整個戰場上的細微差別。比如，人工智能系統可以準確識別敵軍坦克，卻無法理解它停靠的地點在一家幼兒園旁邊，為避免平民受傷不應該發動攻擊。

支持禁止使用自動武器的人們還強調了“殺戮機器人”的危險，例如大量價格相對低廉的小型無人機群經過改造能夠投放具有殺傷性的手榴彈，或者改造為巡飛彈。理論上，這類無人機群可以用于殺死某個區域內的所有人，或者實施種族滅絕，殺死具有某類種族特征的所有人，甚至能夠利用面部識別技術來執行暗殺。

麻省理工學院（MIT）的物理學教授、生命未來研究所（Future of Life Institute）的聯合創始人馬克思·泰格馬克（Max Tegmark）表示，成群結隊的殺戮機器人將成為“窮人的大規模毀滅性武器。”生命未來研究所致力于解決人類面臨的“生存風險”。這類自動化武器可能動搖現有的世界秩序，因此他希望美國和俄羅斯等大國至少可以同意禁用這類殺戮機器人無人機和巡飛彈，盡管這些國家一直在研發從機器人潛艇到無人駕駛戰機等各種人工智能武器。

聯合國（United Nations）希望出臺禁令，限制致命自動化武器的開發和銷售，但到目前為止以失敗告終。聯合國下屬的一個委員會已經用八年多時間，討論如何處理這類武器，但始終未能達成任何共識。

雖然現在有66個國家支持出臺相關禁令，但該委員會需要達成共識才能夠運行，而美國、英國、俄羅斯、以色列和印度均持反對立場。中國雖然也在開發人工智能武器，但已經表態支持禁令，只是在各國沒有簽署條約的情況下，中國不會單方面放棄研發。

對于殺戮機器人帶來的反烏托邦未來，生產巡飛彈和其他人工智能武器的公司表示，這些武器只是為了增強人類在戰場上的能力，而不是要取代人類。勒夫·阿里稱：“我們不希望武器自動攻擊。”但他承認其公司正在武器中添加基于人工智能的目標識別系統，以提高其自主性。他說：“這是為了協助人類做出必要決策。”

勒夫·阿里指出，即使武器可以找到目標，比如發現一輛敵軍坦克，這并不意味著它是最佳攻擊目標。他說：“那輛坦克可能已經無法行駛，而附近可能還有一輛更具有威脅性的坦克。”

英國謝菲爾德大學（University of Sheffield）的計算機科學專業榮譽教授諾埃爾·夏基（Noel Sharkey）是“停止殺手機器人”活動的發言人。他表示，自動化正在加快戰場的節奏，人類沒有人工智能協助識別目標可能很難做出有效響應。一種人工智能創新必然會增加需求，演變成軍備競賽。夏基稱：“這將導致大規模人道主義災難。”

*****

致命的科技

人工智能武器已經被投入使用，但大多數武器未經人類同意無法選擇和攻擊目標。這樣的例子不勝枚舉。

?

Orca潛水艇

美國海軍（U.S. Navy）正在與波音公司（Boeing）合作開發一款長51英尺（約15.54米）的潛水艇Orca。其目標是使這款潛水艇能夠自動巡航6,500海里（約12,038千米），可以使用聲吶探測敵軍船只和水雷。這款潛水艇的初始版本未配備武器，但美國海軍表示最新款能夠發射魚雷。

?

Kargu 2無人機

聯合國曾經得出結論，稱由土耳其公司STM生產的一架小型四旋翼飛行器，在2020年自動攻擊了一個利比亞軍閥的武裝，這讓其名聲大噪。據稱這是第一次有自殺式無人機自行選擇攻擊目標。但STM否認其無人機具備這一功能。

?

SGR-A1自動機槍

由韓國的韓華航空航天公司（Hanwha Aerospace）與高麗大學（Korea University）聯合開發的自動機槍SGR-A1，旨在幫助韓國守衛與朝鮮之間的邊界。據媒體報道，這款機槍使用紅外熱成像技術偵測邊境附近的人員。如果目標沒有說出預先設定的密碼，這款機槍就會發出警報，或發射橡皮子彈或致命性子彈。

?

KUB-BLA巡飛彈

俄羅斯正在將這款小型巡飛彈應用到烏克蘭戰場。據其制造商扎拉航空透露，這款無人機的操作人員可以在發射前向系統上傳目標圖像。之后，這款無人機將自動定位戰場上的類似目標。

?

忠誠僚機（Loyal Wingman）

波音公司生產的“忠誠僚機”無人機長38英尺（約11.58米），會自動伴飛由飛行員駕駛的戰機和其他飛行器，提供警報和監控，以及預警導彈襲擊和其他威脅。

譯者：Biz

?