Czy autonomiczne systemy uzbrojenia wymagają szczególnych zasad podejmowania działań przy użyciu siły (ROE)?

Bibliogr. w przypisach

Wykorzystanie w pełni autonomicznych systemów uzbrojenia (autonomous weapon systems – AWS) w operacjach wojskowych rodzi istotne wyzwania natury prawnej i etycznej. Wyzwania te dotyczą również kwestii technicznych związanych z tym, czy takie systemy będą w stanie przestrzegać obowiązujących zasad użycia siły (rules of engagement – ROE), które są tradycyjnie opracowywane z myślą o ludziach. Operacje militarne realizowane są w bardzo złożonym kontekście prawnym, wojskowym i politycznym, co budzi wątpliwości, czy autonomiczne systemy sterowane sztuczną inteligencją będą w stanie uwzględnić liczne zmienne niezbędne do zapewnienia zgodności z zakazami i ograniczeniami wynikającymi z misji bojowych. Niniejszy artykuł wyjaśnia, czy AWS powinny być objęte tymi samymi ROE, które mają zastosowanie do konwencjonalnych rodzajów broni, czy też wymagają odrębnych ROE dostosowanych do ich unikalnych cech operacyjnych. Kluczowe w tym kontekście jest pytanie, czy AWS mogą skutecznie funkcjonować w nieprzewidywalnym i dynamicznym środowisku wojennym, biorąc pod uwagę złożoność zadań oraz cykliczny charakter procesu targetingu. Poza tym, problemy takie jak syndrom „czarnej skrzynki” podkreślają nieprzewidywalność podejmowania decyzji przez sztuczną inteligencję, co dodatkowo komplikuje dostosowanie ROE do AWS. Chociaż empiryczne przykłady zastosowania AWS są ograniczone, analiza teoretyczna oparta na elementach ROE oraz definicyjnych cechach AWS – autonomii, sztucznej inteligencji i algorytmicznym podejmowaniu decyzji – może zaowocować istotnymi spostrzeżeniami i wnioskami dotyczącymi omawianej materii.

The integration of fully autonomous weapon systems (AWS) into military operations presents significant legal and ethical challenges. These challenges extend to technical concerns regarding whether such systems can adhere to established Rules of Engagement (ROE), which are traditionally designed for human agents. Military operations occur within a complex legal, military, and political context, raising doubts about whether AI-driven autonomous systems can account for the numerous variables necessary to comply with the prohibitions and restrictions inherent in combat missions. This article explains whether AWS should be governed by the same ROE applicable to conventional weapons or require distinct ROE tailored to their unique operational characteristics. Central to this inquiry is whether AWS can function effectively within the unpredictable and dynamic nature of military environments, given the complexities of tasks and the cyclical nature of the targeting process. Additionally, problems such as the “black box” syndrome highlight the unpredictability of AI decision-making, further complicating the adaptation of ROE to AWS. Although empirical examples of AWS use are limited, theoretical analysis grounded in ROE elements and the defining features of AWS – autonomy, artificial intelligence, and algorithmic decision-making – can provide insights into these issues.