加入怡居
過去7年,我司每年平均捐出52%純利作慈善用途,款額動輒以百萬元計,可稱實 至名歸的社會企業。閣下光顧我司,是變相自己做善事!日後請多多光顧為感!
尖沙咀總行 : 2569 2192
太古城華山分行 : 2569 1339
沙田銀禧分行 : 2636 1380
太古城明宮分行 : 2560 3738
沙田第一城專責組 : 2647 1838
杏花邨專責組 : 2898 0007
尖沙咀總行 : 2569 2192
太古城華山分行 : 2569 1339
沙田第一城專責組 : 2647 1838
沙田銀禧分行 : 2636 1380
太古城明宮分行 : 2560 3738
杏花邨專責組 : 2898 0007
   回應 : 0
奇、趣、妙、識
揭烏自製軍火內幕 「AI武器化」犯大忌
知‧析趨勢
HKET
2024年7月17日

(原文發表於2024年7月10日)

 

 

俄烏戰爭自20222月開戰至今已超過兩年,雙方死傷人數數以十萬計。盡管聯合國及其他大國多番斡旋,俄烏雙方還是勢不兩立,似乎停火遙遙無期。

 

在這場戰爭中,烏克蘭獲得歐美多國支持,屢次獲得軍事援助。例如,美國總統拜登於4月底宣布向烏克蘭提供價值10億美元的武器;德國又於5月宣布計劃對烏克蘭追加38億歐元(約41.3億美元)的軍援資助等。

 

俄烏軍力強弱懸殊,因此烏克蘭絕對需要大量武器,才能避免在這漫長的持久戰中被俄軍「陰乾」,至慘遭滑鐵盧。但歐美往往卻是「雷聲大雨點小」,軍援步伐蝸行牛步,遲遲不到位。其實,烏克蘭政府亦早有所料,深知到要保家護國絕對不可假手於人。因此,烏克蘭積極地發展在本土軍事工業,並投資不匪。有傳媒指出,在「俄烏戰爭」爆發後,烏政府的軍工投資金額比起「戰」前高出20倍。據報,烏克蘭現時共有約500家軍工企業,有接近30萬名員工。憑藉隱蔽和分散的地下工廠,烏克蘭計劃長期保存其軍備生產能力,逐步實現自給自足,擺脫對歐美軍援的依賴。

 

 

 

烏「合成數據」 質素可靠性存疑

 

烏軍工廠自製軍備五花八門,廣泛利用人工智能(AI)技術,當中包括:

 

「無人偵察機」:在無人機上裝上人工智能+「電腦視覺」(Computer Vision)設備。就此,無人機可作俯瞰式偵察之用,對地下的目標便一覽無遺。再者,無人機可收集(錄影)不同戰場的實景,把錄像送回中央超算中心作大數據分析,來優化以戰事為重心的「垂直大型語言模型」(Vertical LLM)。

 

「無人機敢死隊」:利用嵌入在機身的遙控「物體識別」(Object Recognition)晶片,讓無人機在凌空識別地面的目標物體(例如敵方的坦克車),控制者便可利用遙控裝設把無人機鎖定目標之後,讓它自動向前直衝,與目標物體「同歸於盡」。

 

「智能機槍」:把「物體識別」技術設於機關槍(Machine Gun)內;機槍系統便「以物體為目標」,瞄準目標物體,自動開槍掃射,直至物體被系統認定已擊中倒地。再者,「智能機槍」可以安裝在無人車上,充當「無人坦克」。

 

人工智能系統建基於「大模型」訓練,背後大數據的質量至關重要。烏克蘭人工智能武器在訓練中採用了大量「合成數據」(Synthetic Data)。「合成數據」是一種模仿真實世界數據,利用「生成式人工智能」(GenAI)技術而生成的。生產商使用「合成數據」進行研究、測試、新開發和機器學習。然而,要注意的是,盡管先進技術讓「合成數據」的生成變得高效且快速,但「垃圾入垃圾出」(Garbage In Garbage Out),因此「合成數據」的質量對生成系統至為關鍵。不過,烏克蘭所生產的人工智能武器所採用的「合成數據」質素成疑,更有些是基於模擬器所產出的資訊;這些數據測試不足,嚴重影響武器的可靠性。

 

另外,除了彈藥之外,許多烏克蘭生產的人工智能武器都是利用開源代碼及公開硬體部件等製造而成的。這些武器(或其製造方法)很多都可以從網上購買得到,而且價格與歐美相比非常便宜。因此,不少國家都擔心這些「開放式」武器都極很容易落在不法之徒手上,到處實施恐怖攻擊。這正正觸犯了「人工智能武器化」的道德大忌。

 

AI武器失靈 勢殃及無辜人命

 

「前車可鑑」,且看下述「巴以衝突」中以軍誤炸,便是人工智能武器失靈的好案例。據獨立綫上新聞媒體「+972雜誌」報道,以色列在加沙攻擊中多次採用一套命名為「薰衣草」(Lavender)的人工智能系統來辨識加沙地區內的襲擊目標。然而,「薰衣草」的準確率只得90%,即是說它在辨別襲擊目標時有10%誤判的機會。這導致近期「世界中央廚房」(World Central KitchenWCK)人道主義援助車隊被誤炸,三部車輛上的WCK標誌非常之明顯,而且車與車之間亦保持了一定的距離,在這些條件之下,以軍的人工智能系統仍然會出錯,「誤中副車」,效果實在不可思議,令人不寒而慄!

 

綜合而言,雖然這些烏克蘭土製武器並不像美國、中國和俄羅斯所製造的軍用級系統那麼先進和可靠,但它們的特點是低成本(僅數千美元)及可用性(Availability)。不過,想深一層,生命何價?真的值得有些國家以錢先行,懶理人工智能武器的準確度和可靠性?把無辜人命置之腦後。

我要回應
我的稱呼
回應 / 意見
驗証文字