Autonomiczne systemy uzbrojenia będą nieustannym zagrożeniem dla ludzkości

Kategorie: 

Źródło: Flickr/Laurie Lee/CC BY-NC 2.0

Były urzędnik Pentagonu przygotował raport dotyczący robotów, wyposażonych w autonomiczne systemy uzbrojenia. Wymieniono w nim jak wielkie zagrożenie stanowią maszyny, które mogą pracować samodzielnie, decydować o swoich działaniach i używać broni - wszystko to bez kontroli człowieka.

 

Paul Scharre, dyrektor Center for a New American Security zwraca uwagę, że istnieje różnica między bronią półautonomiczną a bronią w pełni autonomiczną. W pierwszym przypadku to zawsze człowiek musi podjąć ostateczną decyzję o eliminowaniu celów i może monitorować działania maszyny. W razie problemów, operator może po prostu wyłączyć robota. Natomiast w przypadku systemów w pełni autonomicznych, android może wyrządzić znacznie więcej szkód, zanim człowiek zdoła prawidłowo zainterweniować.

 

W raporcie podkreślono, że uzbrojone roboty, jak każde inne urządzenia, mogą być wadliwe i podatne na awarie. Bardziej niebezpiecznie brzmi fakt iż każde systemy można po prostu zhakować - maszyny wyposażone w autonomiczną broń mogą zostać przejęte przez wroga. Nie chodzi tu tylko o roboty lądowe, przypominające filmowego Terminatora, ale także autonomiczne systemy snajperskie, zautomatyzowane wieże strażnicze wyposażone w karabiny maszynowe, zrobotyzowane pojazdy lądowe oraz latające drony.

W najbardziej ekstremalnym przypadku, według Paula Scharre'a, zhakowany lub zainfekowany wirusem robot może zacząć strzelać do niewłaściwych celów tak długo, aż zużyje całą dostępną amunicję. Może do dotyczyć nawet całej grupy maszyn, która w pewnym momencie zacznie zabijać swoich ludzkich sprzymierzeńców. Perspektywa ta jest bardzo przerażająca i niebezpieczna.

 

Raport podsumowuje, że mimo wielu zagrożeń, takich jak możliwość zhakowania robotów, wystąpienia awarii czy też błędnej interakcji z otoczeniem, część z nich można z powodzeniem wyeliminować. Niestety Scharre dodaje, że nie jesteśmy w stanie całkowicie pozbyć się wszelkich problemów i zawsze będzie istniało pewne ryzyko.

 

 

Źródło: http://gizmodo.com/autonomous-killing-machines-are-more-dangerous-than-we-1761928608

Dokument: http://www.cnas.org/sites/default/files/publications-pdf/CNAS_Autonomous-weapons-operational-risk.pdf

Ocena: 

Nie ma jeszcze ocen

Komentarze

Skomentuj