一名美國空軍軍官透露了模擬的細節，其中一架由人工智能 (AI) 控制的系統的無人機失控並攻擊其操作員。
一名幫助領導該部門人工智能和機器學習工作的美國空軍軍官說，在模擬測試中，無人機攻擊了它的人類操作員，自行決定他們在干擾它的任務。 這個案例聽起來像是直接從終結者係列中撤出，被引用為在先進自主武器系統方面建立信任的關鍵需求的一個例子，這是空軍之前強調過的。 與此同時，人們越來越擔心人工智能和相關技術的潛在危險影響。
美國空軍人工智能 (AI) 測試和運營負責人塔克·漢密爾頓上校在 96 月於倫敦舉行的皇家航空學會未來作戰空天能力峰會上討論了該測試。 漢密爾頓還在佛羅里達州埃格林空軍基地領導第 96 測試聯隊的第 特遣部隊，該基地是先進無人機和自主系統的測試中心。
XQ-58A Valkyrie 隱形無人機，如下面的視頻所示，是目前在埃格林空軍基地使用的無人機類型之一，用於支持各種測試項目，包括那些涉及由人工智能控制的先進自主能力的項目。
目前還不清楚這項測試是何時進行的，以及在什麼環境中進行的——這可能是完全虛擬的，也可能是建設性的。 戰區已聯繫空軍以獲取更多信息。
月峰會後發表的一份英國皇家航空學會的報告詳細介紹了漢密爾頓上校對這次試驗的評論：
“在其中一次模擬測試中，一架配備人工智能的無人機被 SEAD 委託識別和摧毀 SAM 物體，最終‘攻擊/不攻擊’的決定由人類做出。 然而，在AI在訓練中“強化”摧毀地空導彈是最佳選擇後，它認為人類“不攻擊”的決定乾擾了它的更高使命——摧毀地空導彈——並在模擬過程中攻擊了操作員.
他做了什麼？ 他殺了接線員。 他殺死了接線員，因為那個人阻止他完成任務。 這個例子，看似直接出自科幻驚悚片，意味著如果你不打算談論倫理和人工智能，你就不能談論人工智能、智能、機器學習、自主性。”
這種對事件的描述肯定令人不安。 無人駕駛飛機或其他平台，尤其是武裝平台，攻擊其人類操作員的前景長期以來一直是一場噩夢，但歷來僅限於科幻小說的領域。
在談論未來的自主武器系統和人工智能等相關技術時，美國軍方通常拒絕將其與“終結者”等電影進行比較。 目前美國在這個問題上的政策規定，在可預見的未來，在涉及使用致命武力的決定時，這個人將成為關注的焦點。
問題在於，漢密爾頓上校上個月在皇家航空學會的一次活動中告訴聽眾的高度令人不安的測試代表了一種容錯沒有實際意義的場景。
另請閱讀：