Obawy o bezpieczeństwo powodem zwolnienia Sama Altmana z OpenAI. Jest nowy CEO
Obawy o zbyt szybki rozwój sztucznej inteligencji i związany z tym niepokój o bezpieczeństwo AI były w centrum sporu, który doprowadził do zwolnienia szefa OpenAI Sama Altmana - doniosły w niedzielę "New York Times" i Bloomberg. Tymczasem wciąż trwają rozmowy nt. ewentualnego przywrócenia biznesmena. Nowym tymczasowym CEO został Emmett Shear, współzałożyciel platformy społecznościowej Twitch.
Jak pisze "NYT", powołując się na trzy wtajemniczone źródła, powodem nagłego zwolnienia szefa i twarzy OpenAI, firmy znanej jako twórcę chatbota ChatGPT, był konflikt Altmana z głównym naukowcem, współzałożycielem firmy i członkiem zarządu, Ilyą Sutskeverem. Sutskever miał uważać, że technologia tworzona przez organizację może być niebezpieczna, a Altman przykładał zbyt mało uwagi do tej kwestii i parł naprzód wiedziony logiką biznesowej konkurencji.
Troska o bezpieczeństwo
Jak notuje "NYT", choć część OpenAI - założonej jako niekomercyjny ośrodek badań nad bezpieczną sztuczną superinteligencją (AGI) - przekształciła się w firmę komercyjną w 2018 r., to rządzi nią wciąż zarząd non-profit, w którym zasiadają osoby związane z ruchem tzw. skutecznego altruizmu (effective altruism, EA). Część tego ruchu, skupionego na maksymalizacji efektywności filantropii, w ostatnich latach była pochłonięta kwestią ryzyka zagłady ludzkości z powodu rozwoju AI. Z ruchem związany był także Altman, który wielokrotnie mówił o ryzyku katastrofalnych skutków rozwoju sztucznej inteligencji, ale akcentował też pozytywny potencjał tej technologii.
Podobnie konflikt opisał Bloomberg, według którego do zwolnienia Altmana doprowadzili kierujący spółką naukowcy, którzy obawiali się ekspansji spółki, uważając ją za "niekontrolowaną, może nawet niebezpieczną". Bloomberg twierdzi, że Altman "agresywnie" starał się o nowych inwestorów, by umożliwić dalszy rozwój i powiększanie bazy użytkowników ChatGPT, co wymaga ogromnego kapitału.
To, że kwestie obaw o konsekwencje niekontrolowanego rozwoju technologii były powodem nieoczekiwanych roszad w OpenAI, sugerował w niedzielę na portalu X Toby Ord, filozof i jeden z liderów ruchu EA. Według niego, wzmianka w komunikacie o zwolnieniu Altmana mówiąca o tym, że "nie był konsekwentnie szczery w swojej komunikacji z zarządem, utrudniając mu wykonywanie jego obowiązków" oznacza, że biznesmen "zatajał informacje, które kolidowały z obowiązkami zarządu, by zapewnić bezpieczny rozwój AGI".
Jednak według "NYT", w grę wchodziły także kwestie personalne, w tym obawy o słabnącą pozycję Sutskevera. Gazeta wskazuje na niedawny awans polskiego informatyka Jakuba Pachockiego, zaangażowanego w prace nad ostatnim wypuszczonym przez firmę modelem GPT-4, który został mianowany szefem ds. badań, obejmując pozycję na równi z Sutskeverem.
Pachocki miał wspólnie z dwoma innymi Polakami w firmie - prof. Aleksandrem Mądrym i Szymonem Sidorem - podjąć decyzję o odejściu w związku ze zwolnieniem Altmana.
Jak notuje Bloomberg, Sutskever cieszy się renomą jako jeden z czołowych badaczy w branży, a do OpenAI z Google'a ściągnąć miał go Elon Musk, który również należał do założycieli ośrodka, lecz później zerwał więzy ze spółką. Musk miał "ukraść" naukowca koncernowi w nadziei na spowolnienie Google'a, obawiając się, że gigant dąży do rozwoju AI bez względu na bezpieczeństwo.
Nowy tymczasowy CEO OpenAI
Los Altmana jeszcze w niedzielę wieczorem nie był przesądzony. W niedzielę wrócił do siedziby spółki, by rozmawiać o swoim ewentualnym powrocie na stanowisko.
W poniedziałek amerykańskie media poinformowały, że tymczasowo na czele OpenAI stanie Emmett Shear. To założyciel i były prezes platformy społecznościowej Twitch. Decyzję zarząd podjął po naciskach Microsoftu na zarząd. Shear znany jest z wypowiedzi dotyczących egzystencjalnych zagrożeń związanych z technologią AI.
Początkowo po zwolnieniu Altmana stery w OpenAI miła przejąć Mira Murati, od pięciu lat odpowiedzialna za obszary badawczy, produktowy i bezpieczeństwa.
EXCLUSIVE: OpenAI's board moves to hire former Twitch head Emmett Shear as its new CEO, dismissing growing calls to reinstate Sam Altman https://t.co/2AUIOPnLLX pic.twitter.com/2S2encKz3M
— Bloomberg Technology (@technology) November 20, 2023
Microsoft wzywa do przywrócenia Sama Altmana na stanowisko CEO
Według "NYT" i innych mediów, za Altmanem wstawili się najwięksi inwestorzy w OpenAI, w tym koncern Microsoft, których zaskoczyła decyzja zarządu. Microsoft miał również zasugerować, że jeśli Altman odejdzie na dobre, zainwestuje w konkurencyjną wobec OpenAI firmę stworzoną przez biznesmena. Trzon nowej firmy mieliby stanowić pracownicy OpenAI, których część wyraziła solidarność z Altmanem.
Sam Altman był jednym z założycieli OpenAI w 2015 roku, razem z inkubatorem Y Combinator, Brockmanem, inwestorem Peterem Thielem, Elonem Muskiem, CEO Tesli, Jessicą Livingston, współzałożycielką Y Combinator, oraz firmą IT Infosys.
W październiku Bloomberg News podał, że odpowiedzialna za słynnego czatbota ChatGPT spółka OpenAI prowadzi rozmowy na temat sprzedaży wyemitowanych udziałów wycenianych w sumie na 86 mld dol.
Według agencji, OpenAI negocjuje warunki z potencjalnymi inwestorami. Jednak firma nie sfinalizowała jeszcze alokacji i warunki mogą ulec zmianie.
Wcześniej „The Wall Street Journal” donosił, że OpenAI będzie dążyła do uzyskania wyceny wynoszącej 80-90 mld dol.
Dołącz do dyskusji: Obawy o bezpieczeństwo powodem zwolnienia Sama Altmana z OpenAI. Jest nowy CEO
"przekształciła się w firmę komercyjną w 2018 r."
"W pierwszych latach działania firma była organizacją non-profit, co zmieniło się w 2019r. "