ONZ stara się zatrzymać zabójcze roboty, zanim będzie za późno

Niezaskakująco, okazuje się, że stworzenie i wykorzystanie robotów kojarzących się z filmowym Terminatorem, które mogłyby zabijać ludzi, nie jest dobrym pomysłem i może mieć katastrofalne skutki.

13 maja 2014 roku rozpoczęto rozmowy związane z tak zwanymi „zabójczymi systemami autonomicznej broni” lub, według przeciwników pomysłu „robotami zabójcami”. Michael Moeller, Szef Konferencji Rozbrojenia ONZ apelował do delegatów o podjęcie odważnych decyzji i działań.

„Zbyt często prawo międzynarodowe odpowiada na okrucieństwa i cierpienia już po ich pojawieniu się. Teraz mamy okazję do podjęcia działań prewencyjnych, wyprzedzających i zapewniających, że ostateczna decyzja co do zakończenia czyjegoś życia spoczywa we właściwych, ludzkich rękach”. Apel został powtórzony przez Międzynarodowy Komitet Czerwonego Krzyża.

„Głównym problemem z jakim się borykamy jest brak potencjału ludzkiego do kontroli krytycznych funkcji identyfikacji i atakowania celów, włącznie z celami ludzkimi” – mówiła Kathleen Lawand, szef jednostki broni MKCK. „Istnieje poczucie głębokiego dyskomfortu związanego z ideą pozwalania maszynom na podejmowanie decyzji o życiu lub śmierci nawet na takim na polu bitwy, na którym byłoby niewielu lub ani jednego człowieka.”

Czterodniowe posiedzenie w Genewie miało na celu wytyczenie drogi do bardziej szczegółowych rozmów na ten temat, przewidzianych na listopad tego roku.

„Roboty zabójcy mogłyby zagrozić najbardziej podstawowym prawom i zasadom, na których opiera się Prawo Międzynarodowe” – powiedział Steve Goose, dyrektor ds. broni z Human Rights Watch. „Jedyną odpowiedzią na tego typu sytuację jest zakaz poboru.”

Sentry Robot

Najbardziej znane są aktualnie drony, bezzałogowe statki powietrzne, w których ludzie władają kontrolerami z odległej bazy. Najbliżej maszyny do zabijania przedstawionej w filmach „Terminator” z Arnoldem Schwarzeneggerem jest robot Samsunga Wartownik (Sentry Robot), wykorzystywany w Korei Południowej, mający możliwość dostrzegania podejrzanej aktywności, rozmowy z intruzami oraz zabijania ich po wcześniejszym pozwoleniu ze strony człowieka.

Zabijać bez angażowania ludzi

To kolejny krok, bardzo zdecydowany krok w kierunku eliminacji ludzi z areny świata. Ten fakt najbardziej irytuje przeciwników pomysłu. Eksperci przewidują, że wojsko może wyprodukować tego typu zabójców w przeciągu najbliższych 20 lat.

„Autonomiczne systemy uzbrojenia są dobrze opisane w perspektywie kolejnej rewolucji w technologii wojskowej. Wszystko wydaje się zgadzać tak samo jak wcześniejsze plany związane z wprowadzeniem prochu i broni jądrowej” – mówi ambasador Pakistanu, Zamir Akram. „W przypadku jakiejkolwiek interwencji człowieka, broń taka w rzeczywistości całkowicie zmieni charakter wojny, czy też innego konfliktu w jakim zostanie użyta” – dodał ostrzegając, że takie działania mogą naruszyć światowy pokój i bezpieczeństwo.

Jak podkreślili dyplomaci, aktualnie celem jest zabronienie wprowadzenia takiej technologii, ale nie wprost.

Ograniczenie badań

„Musimy pamiętać, że mamy do czynienia z podwójnymi technologiami i mogą mieć wiele zastosowań zarówno cywilnych jak i wojskowych. Mogą służyć utrzymaniu pokoju i mogą sprawić, ze stanie się to zdecydowanie łatwiejsze. Nie musimy ograniczać badań w tej dziedzinie.” – powiedział ambasador Francji, Jean-Hugues Simon-Michel. „Przykładowo, badania na polu robotyki bardzo dobrze zdają egzamin w udoskonalaniu pracy straży pożarnej, rozbrajania bomb i min.”

Noel Sharkey, emerytowany profesor robotyki i sztucznej inteligencji na Uniwersytecie w Sheffield w Wielkiej Brytanii, podkreślił, że autonomia w tym wypadku nie jest sama w sobie żadnym problemem. „Mam robo-odkurzacz w domu, który jest w pełni autonomicznym urządzeniem i nie chcę go zatrzymywać w żaden sposób. Istnieje tylko jedna rzecz, której nikt z nas by nie chciał – funkcja zabijania.” – powiedział.

Zwolennicy pomysłu twierdzą, że broń w postaci robotów oferuje ogromny potencjał ratowania życia w czasie wojny. Takie „żelazne wojsko” mogłoby podejść do wroga zdecydowanie bliżej, lepiej ocenić zagrożenie, bez angażowania emocjonalnego w podejmowaniu ważnych decyzji. Dodatkowo byłoby mniej ofiar na polu walki, a sama konfrontacja także trwałaby zapewne krócej.

Właśnie przekonania zwolenników idei martwią najbardziej krytyków rozwiązania. „Jeśli nie wprowadzimy kwestii moralnych i etycznych do dyskusji na ten temat, to nie my będziemy w takiej sytuacji kontrolować przebieg wojny.” – powiedziała Jody Williams, zdobywczyni Pokojowej Nagrody Nobla w 1997 roku.

Roboty mogą zdziałać wiele dobrego, ale niosą ze sobą zbyt wiele ryzyka, którego nie możemy w pełni wyeliminować.