Google pracuje nad wyłącznikiem który uchroni nas przed buntem maszyn

Kategorie: 

Kadr z filmu Terminator 3: Bunt Maszyn
Opowieści o złowrogich zbuntowanych maszynach, dziesiątkujących rodzaj ludzki, przerażają niejednego choć znajdą się też tacy, którzy do scenariuszy rodem z "Terminatora" podchodzą z dystansem. Niemniej jednak pracownicy należącej do Google firmy DeepMind oraz uczeni z Instytutu Przyszłości Ludzkości chcą opracować skuteczne rozwiązania, które w razie niebezpiecznej sytuacji pozwolą po prostu wyłączyć zagrażające naszej egzystencji roboty.

 

Eksperci coraz częściej ostrzegają przed inteligentnymi uzbrojonymi maszynami. Co prawda sztuczna inteligencja ma pojawiać się między innymi w sektorze przemysłowym, ale już dziś znajduje swoje zastosowanie także na polu walki. Jednak dziś, każda maszyna zdolna do zabijania jest jeszcze w pewnym stopniu kontrolowana przez człowieka - decyduje on między innymi kiedy robot ma wyeliminować namierzony cel.

 

Gdy dojdzie do pełnej autonomizacji systemów uzbrojenia, ludzie będą mogli co najwyżej wydawać polecenia i nie będą już mieć wpływu na przebieg misji. Pojawia się więc poważne pytanie - co jeśli autonomiczny robot zostanie np. zhakowany i w pewnym momencie obróci się przeciwko swoim dowódcom? Taka maszyna, zanim zostanie unieszkodliwiona, może wyrządzić ogromne szkody.

 

Inteligentne systemy mają przejawiać się inteligencją na odpowiednim poziomie, ale zbyt inteligentna jednostka z czasem może być postrzegana przez rządy jako zagrożenie - podobnie jest przecież z ludźmi których praktycznie cały czas ogłupia się na wiele różnych sposobów. Roboty wojskowe mają być inteligentne ale tylko do pewnego stopnia, tak aby posłusznie wykonywały wszystkie rozkazy.

 

Aby zapobiec niechcianym incydentom, Google chce opracować wyłącznik (tzw. kill switch) który w razie potrzeby powstrzyma sztuczną inteligencję zanim ta wymknie się spod ludzkiej kontroli i zacznie np. strzelać do przypadkowych ludzi albo zechce wyeliminować swoich podwładnych. Jednak wraz z rozwojem SI trudno powiedzieć czy w przyszłości jakiekolwiek zabezpieczenia ochroną nas przed ewentualnym buntem maszyn.

 

 

Ocena: 

Nie ma jeszcze ocen

Komentarze

Portret użytkownika nikuba

To dziwne , że dopiero teraz

To dziwne , że dopiero teraz pracuje się nad tzw wyłącznikiem.
Miałem nadzieje, że koncepcja budowy sztucznej inteligencji w samym zarodku zakłada, że gdyby poszło coś nie tak to powinno dać się to dziadostwo wyłączyć. Komu oddajemy nasze pieniądze i na co idą te pieniądze ???

Portret użytkownika lipka

Czy gogle opracuje wyłącznik

Czy gogle opracuje wyłącznik dla cywilów do wyłączenia wojskowych robotów-zabójców? Raczej wątpliwa sprawa, wojskowe roboty bedą zabijać a tych nikt nie wyłączy chyba że sami "chłopcy z pomalowanymi twarzami".

Skomentuj