SzukajSzukaj
dołącz do nasFacebookGoogleLinkedinTwitter

Elon Musk poparł apel o wstrzymanie prac nad następcami GPT-4. „Utrata kontroli nad cywilizacją”

Setki biznesmenów, inwestorów i ekspertów od sztucznej inteligencji, w tym Elon Musk, wezwało we wspólnym liście do przynajmniej sześciomiesięcznej przerwy w rozwijaniu systemów AI zdolniejszych od opublikowanego w marcu GPT-4. Sygnatariusze ostrzegają przed nieprzewidywalnymi skutkami wyścigu o tworzenie coraz potężniejszych modeli.

Jak twierdzą autorzy listu opublikowanego na stronach ośrodka Future of Life Institute, zaawansowana sztuczna inteligencja może stanowić "głęboką zmianę w historii życia na Ziemi" i do jej rozwoju powinno się podchodzić z ostrożnością.

- Niestety, do tego poziomu planowania i zarządzania nie dochodzi, mimo że w ostatnich miesiącach widzieliśmy laboratoria AI zaangażowane w niekontrolowany wyścig, by rozwijać i wdrażać coraz potężniejsze cyfrowe umysły, których nikt - w tym nawet ich twórcy - nie potrafi zrozumieć, przewidzieć, czy porządnie kontrolować - czytamy w liście.

Ostrzeżenie przed skutkami AI bez kontroli

Pismo ostrzega, że niekontrolowane podejście do rozwoju AI grozi zalewem dezinformacji, masową automatyzacją pracy, a nawet zastąpieniem ludzi przez maszyny i "utratą kontroli nad cywilizacją".

- Silne systemy AI powinny być rozwijane dopiero kiedy będziemy pewni, że ich efekty będą pozytywne, a ich ryzyka możliwe do kontrolowania - uważają autorzy.

Wzywają przy tym do sześciomiesięcznej przerwy w trenowaniu systemów przewyższających wypuszczony niedawno przez firmę OpenAI GPT-4, który m.in. zdolny jest do zdawania testów różnego rodzaju na poziomie zbliżonym do najlepszych zdających ludzi. Apelują też o wdrożenie kompleksowych rządowych regulacji i nadzoru nad nowymi modelami.

Wśród sygnatariuszy listu jest m.in. miliarder Elon Musk, współzałożyciel firmy Apple Steve Wozniak, szef Stability AI Emad Mostaque (producenta generatora obrazów Stable Diffusion) oraz badacze sztucznej inteligencji z uniwersytetów Stanforda, Massachusetts Institute of Technology (MIT) i innych uczelni i laboratoriów AI.

Dołącz do dyskusji: Elon Musk poparł apel o wstrzymanie prac nad następcami GPT-4. „Utrata kontroli nad cywilizacją”

8 komentarze
Publikowane komentarze są prywatnymi opiniami użytkowników portalu. Wirtualnemedia.pl nie ponosi odpowiedzialności za treść opinii. Jeżeli którykolwiekz postów na forum łamie dobre obyczaje, zawiadom nas o tym redakcja@wirtualnemedia.pl
User
AI
Wyobraźmy sobie sytuację, że specjalnie do tego celu napisany program "ogląda" na YT walkthrough jakiejś gry, następnie pisze jej recenzję na wyznaczoną mu ilość znaków, powiedzm 4000. Potem taką recenzję wystarczy tylko przeczytać i w DTP przepleść grafikami z gry, a w sumie to AI samo by to mogło zrobić, no i dać do druku. Gdzie w tym wszystkim redaktor magazynu o grach, z których został już tylko 1 miesięcznik na rynku?
odpowiedź
User
rvb
Ciekawe czy jeśli Musk dalej miałby udziały w OpenAI lub był jej właścicielem, jak planował, to też by blokował rozwój GPT?
odpowiedź
User
AI
Ciekawe czy jeśli Musk dalej miałby udziały w OpenAI lub był jej właścicielem, jak planował, to też by blokował rozwój GPT?

Dobre pytanie. Ale też należy zadać inne - co jest na końcu drogi rozwoju AI? Podnoszące się włazy silosów rakiet z głowicami atomowymi, których obsługa może jedynie to obserwować i nerwowo stukać w klawisz ESC? Trochę przerysowana wizja, ale wiemy, co będzie za 10 lat przy tym tempie rozwoju AI i ewentualnej implementacji jej w systemy zbrojeniowe? Cameron wymyślił historię o Terminatorach. Analogia sama się nasuwa.
odpowiedź