高科技成法外之地?
大眾對軍事衝突的認知,往往停留在前線的坦克、無人機與導彈。然而,現代戰爭的本質已經轉變為一場大數據與算力的較量。最近由以色列導演執導的電影《NAZA》深入訪談了廿四名以色列軍方與情報吹哨者,首次向世人披露了以軍核心AI殺戮系統的恐怖運作細節。
原來,以色列竟然利用加沙居民無法選擇不被無人機監控、無法拒絕面部識別,他們的恐慌、流離失所和生存策略,被迫成為優化
AI演算法的“免費訓練數據”。換言之,這無異於將真實戰場作為環境,收集人類在戰火下的行為數據,以獨家姿態來優化預測模型,然後販售給別國的軍工企業牟取暴利,這解釋了為何以色列軍工科技近年有如此大的升幅。
情報官員在片中坦承,軍方高層下達了極具毀滅性的指令,AI標註誰,他們就炸誰。人類操作員在執行轟炸前,往往只花大約二十秒確認目標是否為男性,隨後便放任演算法進行冷酷的定點清除。而最令人髮指的是,系統對“附帶損害”的精準量化計算。
為了追蹤被AI鎖定的目標,軍方搭配使用了名為“Where's Daddy?”(爸爸在哪裡?)的自動追蹤系統。該系統會刻意等到目標返回家中、與妻兒團聚的深夜時刻,才向無人機發出攻擊指令。這種“非人化的篩選與抹殺”,背後需要極其恐怖的 AI基礎設施。這正是亞馬遜AWS發揮作用的地方。作為全球市佔率最高的雲端運算龍頭,亞馬遜在以色列本土建立的加密數據中心,為以軍的 AI系統提供了不可或缺的“數碼子彈”。
當OpenAI或Google成為輿論焦點時,亞馬遜實際上才是那頭躲在幕後、資助並提供AI 基礎設施的科技怪獸。亞馬遜高層或許會辯稱,其雲端服務主要用於金融、醫療與交通等民生與政府業務,可是“聖雲計劃”合約中極具爭議的條款,明文規定亞馬遜無權因國際抵制或員工抗議而單方面終止服務,亦無權拒絕國防部等軍事部門的使用。
亞馬遜在法律上自廢武功,等同於向國際社會宣告:只要利潤足夠,科技巨頭不惜道德破產也甘願成為威權監控與軍事殺戮的隱形後勤。事實上,這類科技巨頭的暴利乃來自於為美國國土安全部(DHS)、移民海關執法局(ICE)所建構的軍事級邊境監控網絡,以及如亞馬遜透過“聖雲計劃”為以色列政府提供臉部辨識、自動圖像分類與物體追蹤等監控工具。這種將技術武器化、協助大規模監視與種族清洗的行為,讓“AI 道德準則”變成了最具諷刺意味的時代笑話。
當科技巨頭的商業利益與地緣政治的軍事需求結合時,道德審查機制在龐大的資本面前脆弱得如同紙張,而科技成“戰爭販子”,以色列則在科技的加持下吃着他們大屠殺下的人血饅頭,世人應如何應對?我們不能允許AI領域成為法外之地,更不能允許冷冰冰的演算法凌駕於普世的人性與尊嚴之上。
亞馬遜的員工已經站了出來抗議,電影《NAZA》揭露了血的真相,社運人士亦紛紛抗爭,現在,輪到全球的消費者與監管機構,共同對這個“科技——戰爭”共生體說不。
張翠容(香港戰地記者)