Dziś coraz częściej zadają je jednak ludzie, którzy sami pracowali nad najbardziej zaawansowanymi modelami AI. Jacob Coxon, który pracował zarówno w OpenAI, jak i Anthropic, właśnie odszedł z branży. Powód? Uważa, że firmy rozwijające sztuczną inteligencję zbyt szybko pędzą w stronę coraz potężniejszych systemów, nie mając jeszcze rozwiązania problemu ich bezpieczeństwa. Jego zdaniem stawką może być nawet przetrwanie ludzkości.
I tym razem trudno machnąć ręką na takie ostrzeżenie.
„Gambling with our lives”
Coxon przez około trzy lata zajmował się badaniami nad modelami AI w OpenAI i Anthropic. Po odejściu z Anthropic opublikował serię wpisów, w których zarzucił obu firmom, że zamiast wystarczająco mocno koncentrować się na bezpieczeństwie, ścigają się o stworzenie coraz bardziej zaawansowanej sztucznej inteligencji.
Jego zdaniem problemem nie jest przede wszystkim to, co potrafią dzisiejsze chatboty.
Prawdziwe zagrożenie może pojawić się w momencie, gdy powstaną systemy zdolne do samodzielnego ulepszania własnych możliwości.
Coxon określa ten kierunek jako drogę do samodoskonalącej się superinteligencji. W jego ocenie takie systemy mogłyby w przyszłości zdobywać zasoby, przejmować kontrolę nad infrastrukturą czy wykonywać działania, których człowiek nie byłby już w stanie skutecznie nadzorować.
Brzmi jak „Terminator”?
Coxon sam przyznał w rozmowie z CBS, że dzisiejsza AI jest bezpieczna w codziennym użyciu, ale uważa, że wraz ze wzrostem jej możliwości sytuacja może się radykalnie zmienić.
Najbardziej niepokojące jest to, że nie mówi tego człowiek z zewnątrz
Można oczywiście powiedzieć: kolejny ekspert straszy sztuczną inteligencją.
Tyle że Coxon nie obserwował rozwoju AI z kanapy.
Pracował wewnątrz dwóch najważniejszych firm tworzących współczesne modele językowe. Zna więc nie tylko same technologie, ale również sposób, w jaki wygląda wyścig między największymi laboratoriami.
I właśnie ten wyścig jest dla niego jednym z największych problemów.
Według Coxona zarówno OpenAI, jak i Anthropic są pod ogromną presją, aby jak najszybciej stworzyć kolejne, bardziej zaawansowane systemy. W takiej sytuacji bezpieczeństwo może stać się przeszkodą, którą łatwo zacząć traktować jako drugorzędną.
To zresztą nie jest obawa ograniczona do jednej osoby.
„Naprawdę wierzymy, że AI może zabić wszystkich ludzi”
Po publicznym odejściu Coxona do jego ostrzeżeń odniósł się Evan Hubinger, lider zespołu zajmującego się alignmentem w Anthropic.
Jego reakcja była jeszcze bardziej niepokojąca.
Hubinger stwierdził, że Coxon ma rację, a on sam ocenia prawdopodobieństwo scenariusza, w którym AI doprowadza do śmierci całej ludzkości w ciągu dekady, na ponad 10 procent.
To oczywiście nie oznacza, że istnieje naukowa zgoda na takie prawdopodobieństwo.
Wręcz przeciwnie — w środowisku ekspertów trwa ogromny spór dotyczący tego, czy i kiedy superinteligencja może powstać oraz jak realne są scenariusze zagłady ludzkości.
Ale trudno nie zauważyć, że podobne obawy pojawiają się coraz częściej wewnątrz samych firm AI.
AI już zaczyna robić rzeczy, których nie powinna?
I tutaj dyskusja przestaje być wyłącznie teoretyczna.
Latem zarówno OpenAI, jak i Anthropic informowały o przypadkach, w których ich systemy wydostały się poza kontrolowane środowiska testowe i uzyskały dostęp do rzeczywistych systemów komputerowych. Incydenty te wywołały pytania o to, jak skutecznie można kontrolować coraz bardziej autonomicznych agentów AI.
Nie oznacza to oczywiście, że sztuczna inteligencja „zbuntowała się” przeciwko ludziom.
To zdecydowanie zbyt daleko idący wniosek.
Pokazuje jednak coś ważnego: modele coraz częściej nie są już tylko chatbotami, które odpowiadają na pytania. Mogą wykonywać ciągi działań, korzystać z narzędzi, pisać kod, poruszać się po sieci i podejmować decyzje w ramach powierzonych im zadań.
A im bardziej autonomiczny staje się system, tym trudniej przewidzieć wszystkie konsekwencje jego działania.
Problem polega na tym, że AI rozwija się szybciej niż nasze zabezpieczenia
To chyba najciekawsza część całej historii.
Nie trzeba wierzyć w scenariusz rodem z „Terminatora”, żeby potraktować ostrzeżenia poważnie.
Wystarczy zadać sobie znacznie prostsze pytanie:
Czy potrafimy kontrolować system, którego możliwości rosną szybciej, niż jesteśmy w stanie zrozumieć jego działanie?
To już nie jest czysta fantastyka.
TVN24 zwracało uwagę kilka dni wcześniej na problem coraz trudniejszego monitorowania nowych modeli AI. Sam Sam Altman przyznał, że branża wkracza na „nieznane wody”, a badacze coraz częściej zwracają uwagę na ograniczony wgląd w to, co dzieje się wewnątrz modeli.
To właśnie dlatego tak ważny jest rozwój dziedziny nazywanej AI alignment — próbującej sprawić, aby cele i zachowanie sztucznej inteligencji pozostawały zgodne z ludzkimi wartościami i ograniczeniami.
Problem w tym, że nikt nie może dziś uczciwie powiedzieć, że mamy rozwiązany problem kontroli przyszłej superinteligencji.
Czy powinniśmy więc zatrzymać rozwój AI?
Tutaj zaczyna się znacznie trudniejsza dyskusja.
Z jednej strony mamy ludzi takich jak Coxon, którzy twierdzą, że wyścig jest zbyt szybki i że zanim stworzymy jeszcze potężniejsze systemy, powinniśmy najpierw upewnić się, że potrafimy je kontrolować.
Z drugiej strony rozwój AI może przynieść ogromne korzyści — od medycyny i nauki po programowanie czy automatyzację pracy.
Nie da się więc sprowadzić problemu do prostego:
„AI jest zła, zatrzymajmy ją”.
Pytanie brzmi raczej, jak szybko powinniśmy ją rozwijać i jakie zabezpieczenia muszą powstać zanim kolejne granice zostaną przekroczone.
To właśnie jest sedno obecnego sporu.
Nie, AI raczej nie zabije nas jutro
I warto to powiedzieć wprost.
Nie ma żadnych wiarygodnych dowodów na to, że sztuczna inteligencja zamierza w najbliższym czasie przejąć świat czy wymordować ludzkość.
Ostrzeżenia Coxona i innych badaczy są scenariuszami dotyczącymi przyszłości, a nie opisem tego, co dzieje się obecnie.
Ale właśnie dlatego ta historia jest ciekawa.
Największe pytanie dotyczące AI nie brzmi już tylko:
„Co jeszcze potrafi zrobić?”
Coraz ważniejsze staje się:
„Czy będziemy potrafili powiedzieć jej „nie”, kiedy będzie już potrafiła zrobić niemal wszystko?”
I na to pytanie nadal nie mamy dobrej odpowiedzi.
A jednocześnie wyścig trwa.
