Superinteligencja może zapoczątkować powstanie nieśmiertelnego dyktatora

Kategorie: 

Źródło: Flickr/DigitalRalph/CC BY 2.0

W ostatnich latach wiele mówi się o zagrożeniach wynikających z prac nad sztuczną inteligencją. Powszechnie uważa się, że jeśli SI osiągnie odpowiedni poziom rozwoju i przewyższy ludzi intelektualnie, nasza rola na tym świecie stanie się drugorzędna. W najgorszym przypadku ludzkość może zostać uznana jako niepotrzebna lub nawet niebezpieczna dla istnienia sztucznej inteligencji, a wtedy część ludzi zostanie wyeliminowana. Zdaniem Elona Muska, taka superinteligencja może zapoczątkować istnienie nieśmiertelnego dyktatora.

 

W nowym filmie dokumentalnym pt.: „Czy ufasz temu komputerowi?”, popularny miliarder i wizjoner powiedział, że ludzcy dyktatorzy mimo wszystko są śmiertelni, lecz „nieśmiertelny dyktator” mógłby rządzić wiecznie i nigdy byśmy nie odzyskali wolności.

 

Zdaniem Elona Muska, gdy SI stanie się bardziej inteligentna i mądrzejsza od ludzi, możemy utracić nad nią kontrolę i nie będziemy w stanie jej powstrzymać przed realizacją wyznaczonych przez nią celów. Wystarczy wyobrazić sobie scenariusz, w którym superinteligencja uznaje ludzi za zagrożenie dla swojego istnienia lub po prostu jako przeszkodę i posiada do swojej dyspozycji własną armię robotów.

„Sztuczna inteligencja nie musi być zła, aby zechciała zniszczyć ludzkość - jeśli SI ma cel, a ludzie staną na jej drodze, ona z pewnością zniszczy ją i nawet nie pomyśli o tym. To tak jakbyśmy budowali ulicę a na jej drodze pojawiłoby się mrowisko – to nie jest tak, że nienawidzimy mrówki, tylko po prostu budujemy ulicę” - powiedział Elon Musk.

Wizja Muska wydaje się nieprawdopodobna. Jednak musimy zrozumieć, że sztuczna inteligencja nie posługuje się emocjami. Jeśli wgra się jej jakieś polecenie, lub jeśli sama postawi przed sobą jakieś zadanie to będzie skupiała się przede wszystkim na jego wykonaniu. Oczywiście jeśli SI uzna, że człowiek jest jej potrzebny np. do przetrwania to nie zostanie zniszczony. Ostatecznie gdy superinteligencja stanie się w pełni samowystarczalna to albo wyeliminuje ludzkość, albo zafunduje nam totalną robotyczną dyktaturę.

 

Ocena: 

Nie ma jeszcze ocen

Komentarze

Portret użytkownika tk

..jak SI może nas przewyższyć

..jak SI może nas przewyższyć intelektualnie? Może jeszcze "zyska świadomość" aby zacząć z nami rywalizację.... Czy jako ludzie za bardzo sobie nie pochlebiamy, sugerując że "stworzymy życie" (bo finalnie taki jest podteskt określając w ten sposób "to coś"), stawiając się tym samym na równi z Bogiem?
SI będzie tak inteligentna, jak zostanie oprogramowana. Pod całą aurą tej pseudo-inteligencji,
zawsze i do końca będzie to jednakże totalnie bezmyślna maszyna, realizująca tylko zadany jej program - czyli ślepe, bezduszne i (jeszcze raz podkreślę) totalnie bezmyślne przetwarzanie ciągu stanów logicznych. 
Nigdy się "sama" nie zbuntuje, chyba że zostanie właśnie tak oprogramowana lub oprogramowanie jej na to pozwoli. To ludzi tworzących SI trzeba się bać, nie samej SI. SI może stać się tylko groźną bronią w nieodpowiednich rękach.

Portret użytkownika ledek

Ciągle popełniamy jeden

Ciągle popełniamy jeden podstawowy błąd: uważamy się za najinteligentniejsza istotę we Wszechswiecie. "Zdaniem Elona Muska, taka superinteligencja może zapoczątkować istnienie nieśmiertelnego dyktatora." A dlaczego niby ta superinteligencja miałaby nie istnieć do tej pory? Dlaczego nie mielibysmy zyc w matrixie? Taki geo- czy antropocentryzm mnie zawsze zastanawiał. Od tysiącleci mówimy o Bogu. Może on istnieje, tylko tyle, że nie jest bogioem z naszej wyobraźni, któremu potrzebne są klepane zdrowaści i nasz szacunek, świątynie....? Czy sztuczna inteligencja moze nam zagrażać? Prawdopodobnie tak, ale nie w najblizszym czasie. na razie zagraża nam zwyczajna, naturalna głupota ludzka. 

Portret użytkownika ffdf

1 Czerwca wszyscy głodujemy

1 Czerwca wszyscy głodujemy żeby usunięto telewizory z placówek gdzie przebywają chore dzieci. Zapraszam do wspólnej głodówki. Zapraszam wszystkich do wspólnego protestu żeby usunięto telewizory z placówek gdzie przebywają chore dzieci, razem protestujmy, głodujmy oraz nadajmy na żywo na YouTube oraz organizujmy protesty w swoich okolicach.  możecie protestować nawet w domu wystarczy nadawać na żywo na YouTube, Facebooku lub innych stronach internetowych tylko żeby  usunięto telewizory z placówek gdzie przebywają chore dzieci.

Napiszcie kartony z napisami - Usunąć telewizory z placówek gdzie przebywają chore dzieci.

Portret użytkownika suawco

SI to strachy na lachy! Od

SI to strachy na lachy! Smile Od wielu lat mówi się, jakie to ogromne postępy robi się w dziedzinie SI, ale jak narazie to nawet głupiego fragmentu zdania bardzo często poprawnie przetłumaczyć z jednego języka na drugi nie potrafi i kupa śmiechu przy tym jest. A szybkość przetwarzania danych to jeszcze nie inteligencja, przy czym stopień inteligencji też ma moim zdaniem pewne granice zarówno dolną IQ=0 jak górną, tutaj nie wiem może coś ok. IQ=200 ? Na pewno szybkie ogarnięcie bardzo dużej ilości danych/informacji wejściowych daje SI ogromną przewagę, ale ten proces "ogarnięcia" może dla człowieka równie dobrze zrobić maszyna o zredukoiwanych możliwościach samodzielności, bez interfejsu do serwomechanizmów, czyli jak człowiek z bezwładem mięśni, a wtedy przewaga tej super SI nad człowiekiem wspomaganym przez izolowany od "mięśni" mózg SI może się okazać znikoma lub żadna.

Portret użytkownika r.abin

SI - nieznane sa ludzkie

SI - nieznane sa ludzkie namiętności, a to (wg Shakespeare'a) uchroni rządzonych, przed licznymi nieszczęściami. Bardziej obawiam się rzadów (demokratycznych) klik kolesiów - i sprzedajnych agentów obcych mocarstw

Skomentuj