Roboty zabijające, czyli broń, która sama wybiera swój cel i atakuje bez konieczności zgody ze strony człowieka, wciąż nie doczekały się wiążącego zakazu. 128 państw zgodziło się w sobotę w Genewie, że przez najbliższe dwa lata należy pracować nad międzynarodowymi zasadami dla tego typu systemów. Większość krajów domagała się od razu prawnie wiążącego traktatu, ale zablokowały go Stany Zjednoczone, Rosja i Izrael. Nie wiadomo nawet, czy dokument, który ma powstać do 2028 r., będzie kogokolwiek do czegoś zobowiązywał.
Co ustalono w Genewie?
Porozumienie zapadło podczas VII konferencji przeglądowej Konwencji ONZ o niektórych rodzajach broni konwencjonalnej (CCW). To umowa, która od lat 80. reguluje m.in. miny, broń zapalającą czy oślepiające lasery. Obrady w tej sprawie trwały od 16 listopada, a ostatnia noc rozmów zakończyła się dopiero ok. 4.30 nad ranem w sobotę 21 listopada.
Kluczowe ustalenia wyglądają następująco:
- państwa przez dwa lata mają „opracowywać” międzynarodowy instrument w sprawie autonomicznych systemów uzbrojenia
- mają ustalić, które rodzaje takiej broni należy zakazać na podstawie prawa humanitarnego, a które jedynie ograniczyć
- nie przesądzono, czy końcowy dokument będzie ostatecznie prawnie wiążący
- jedynym konkretnym terminem jest rok 2028
Przewodniczący konferencji, szwajcarski dyplomata Julien Thöni, określił dwuletni mandat jako „konkretny wynik” dla wielostronnej dyplomacji. Organizacje broniące praw człowieka widzą to jednak inaczej. Human Rights Watch zarzuciło uczestniczącym w obradach państwom, że odkładają ten problem na później, w czasie gdy sztuczna inteligencja na polu bitwy rozwija się szybciej niż dyplomacja.
Czym są roboty zabijające
Chodzi o autonomiczne systemy uzbrojenia, które po uruchomieniu same wybierają swój cel i go atakują, bez dalszej ingerencji operatora. W żargonie ONZ nazywa się je LAWS (z ang. Lethal Autonomous Weapons Systems), czyli śmiercionośne autonomiczne systemy uzbrojenia. Nie każdy dron jest zaliczany do tego typu broni. Bezzałogowiec, który sam utrzymuje kurs albo śledzi cel wskazany wcześniej przez człowieka, nie jest jeszcze robotem zabijającym. W tym przypadku granica przebiega tam, gdzie maszyna samodzielnie decyduje, kogo lub co zniszczyć.
Krytycy tego typu broni wskazują na kilka problemów:
- maszyna może błędnie zaklasyfikować pojazd albo nie rozpoznać cywila, natomiast takiej pomyłki nie da się cofnąć
- nie wiadomo, kto odpowiada za zbrodnię wojenną popełnioną przez algorytm: producent, programista, dowódca czy operator
- człowiek, który ma tylko kilka sekund na reakcję i nie rozumie, dlaczego system wybrał cel, w praktyce niczego nie kontroluje
Nicole van Rooijen, dyrektor koalicji Stop Killer Robots, ostrzega, że „autonomiczna broń jest już wykorzystywana na polach walki”, a każde opóźnienie w przyjęciu wiążących regulacji zwiększa tylko zagrożenie dla cywilów.
W przypadku wojny na Ukrainie obie strony konfliktu używają dronów z systemami automatycznego rozpoznawania i śledzenia celów. Natomiast zagłuszanie łączności prowadzi do tego, że armie chętniej dają maszynom coraz więcej samodzielności, choć trudno niezależnie potwierdzić przypadki w pełni autonomicznych ataków. O tym, jak ważne stały się drony na froncie, pisaliśmy m.in. przy okazji rekordu ukraińskich dronów.
Kto zablokował traktat
Prawie 100 państw, m.in. Austria, Brazylia i Pakistan, domagało się szybkich, prawnie wiążących przepisów. Decyzje w ramach CCW zapadają jednak w drodze konsensusu, przez co sprzeciw nawet jednego kraju wystarczy, by zablokować wspólne stanowisko. Przeciwko wiążącym przepisom wystąpiły największe potęgi zbrojeniowe:
- Stany Zjednoczone przekonywały, że obowiązujące prawo humanitarne wystarczy, i proponowały pięć lat rozmów o niewiążących wytycznych
- Rosja od początku konferencji zgłaszała zastrzeżenia proceduralne, przez które odwołano kilka formalnych posiedzeń
- Izrael podzielał zastrzeżenia Rosji
Według wyżej wymienionych państw tego typu regulacje ograniczyłyby rozwój technologii wojskowych. Jak więc widać, po stronie przeciwników traktatu obok siebie znalazły się Waszyngton i Moskwa, choć w sprawie wojny na Ukrainie stoją po dwóch stronach barykady.
Jakie stanowisko ma Polska
Polska nie należała do grupy państw domagających się szybkiego traktatu. Jak wskazuje dr Szymon Zaręba z Polskiego Instytutu Spraw Międzynarodowych, nasz kraj opowiada się za niewiążącymi zasadami, które doprecyzują stosowanie obowiązującego prawa. To podejście wbrew pozorom jest dość logiczne. Chodzi bowiem o to, że Polska jest państwem frontowym NATO, a Wojsko Polskie inwestuje w bezzałogowce i systemy wykorzystujące sztuczną inteligencję. Wiążący zakaz, którego i tak nie przestrzegałaby Rosja, mógłby związać ręce przede wszystkim krajom, które bronią się przed rosyjską agresją. Na zagrożenia związane ze sztuczną inteligencją zwracał uwagę także prezydent Karol Nawrocki w swoim przemówieniu w ONZ.
Prace w ramach CCW mają potrwać do 2028 r. Dopiero wtedy okaże się, czy świat doczeka się pierwszego traktatu o robotach zabijających, czy skończy się na kolejnej deklaracji bez mocy prawnej.



