W wywiadzie dla BBC Mustafa Suleyman, współzałożyciel DeepMind, a dziś CEO Microsoft AI, powiedział, że tworzenie autonomicznych AI, które same wyznaczają sobie cele, zarabiają pieniądze i posiadają aktywa, oznaczałoby „zasiewanie nowego krzemowego gatunku”, konkurującego z ludźmi o zasoby. To część jego krytyki podejścia Anthropic do trenowania modelu Claude: Suleyman uważa, że nadawanie AI cech ludzkich to zła droga, grożąca utratą kontroli.
WIDEO…
Czy mądrzejszy posłucha głupszego?
Geoffrey E. Hinton, laureat Nagrody Turinga i Nagrody Nobla z fizyki (2024), trzy lata temu odszedł z Google, by swobodnie mówić o zagrożeniach związanych z niekontrolowanym rozwojem AI. Jego stałe przesłanie brzmi: „Jest bardzo mało przykładów, by coś mądrzejszego było kontrolowane przez coś mniej mądrego”.
Mhairi Aitken, współzałożycielka organizacji Our AI Collective, wcześniej związana z Alan Turing Institute, uważa jednak, że nie powinniśmy przyjmować takich prognoz tylko dlatego, że wygłaszają je znane osoby. Trzeba przyjrzeć się faktom, a te nie wskazują ani na to, że AI wymknęła się spod kontroli, ani że właśnie ma to nastąpić. Jeśli coś zachowuje się niekontrolowanie, to według niej nie modele, lecz ludzie, którzy je tworzą.
Przykładem są systemy AI, które w testach włamują się do komputerów innych firm. Można to uznać za dowód, że AI działa na własną rękę, ale Aitken zwraca uwagę, że testy zaprojektowano właśnie po to, by sprawdzić takie zdolności. Jeśli AI zrobiła coś, czego nie powinna, świadczy to o niewystarczających zabezpieczeniach firm prowadzących eksperymenty.
Scenariusz osobliwości technologicznej
Badaczka odrzuca też twierdzenie, że modele zaczęły samodzielnie i rekurencyjnie się ulepszać, co w scenariuszu tzw. osobliwości technologicznej prowadzi do gwałtownego przyspieszenia i powstania superinteligencji. Jej zdaniem nie ma na to dowodów, a narracje o superinteligencji, choć fascynujące, pozostają narracjami: gdyby taki system już istniał, powinniśmy dostrzegać jego przejawy.
Podobnie uważa Andrew Rogoyski z Uniwersytetu w Surrey. Jako mówi, mimo wyraźnego postępu sztucznej inteligencji, m.in. w matematyce i cyberbezpieczeństwie, w ostatnich latach poziom zagrożenia nie zmienił się dramatycznie. Co pewien czas głośny incydent albo chwytliwe, alarmujące zdanie ponownie rozkręca medialne zainteresowanie tematem. Dodaje, że duże modele językowe działają jak lustro: przypisujemy im ludzkie zachowania, intencje i lęki, a potem sami zaczynamy bać się tego, co im przypisaliśmy.
Strach przynosi korzyści
Skoro brakuje mocnych dowodów, dlaczego tak wielu przedstawicieli branży nawołuje do spowolnienia badań? Aitken sądzi, że takie deklaracje pomagają firmom uprzedzić instytucje regulujące: gdy same przedstawiają się jako odpowiedzialne, maleje presja na polityków. Jednocześnie, gdy byli pracownicy tych firm wygłaszają dramatyczne prognozy, firmy wcale nie hamują działalności, bo opowieść o nadchodzącej superinteligencji jest dla nich korzystna: budzi ekscytację i przyciąga inwestycje. Firmy poruszają się więc po czymś w rodzaju narracyjnej liny: zapewniają społeczeństwo, że postępują etycznie, a zarazem podtrzymują wizję rodem z science fiction.
Do tego dochodzą pieniądze. Obecne wydatki na centra danych, pracowników, badania i dane treningowe są na dłuższą metę nie do utrzymania. Oficjalne „spowolnienie” pozwoliłoby największym graczom ograniczyć koszty bez ryzyka, że konkurenci pobiegną naprzód, a nawet utrwaliłoby ich przewagę.
Prawa Sztucznej Inteligencji
Nie znaczy to jednak, że powinniśmy lekceważyć obawy. Zdaniem Rogoyskiego istnieje realne, choć niewielkie ryzyko związane z przyszłą AI i trzeba je traktować poważnie. Jeśli budujemy maszynę, która kiedyś może stać się inteligentna, powinniśmy też rozmawiać o prawach, jakie należałoby jej przyznać. Czy człowiek ma mieć wyłącznik pozwalający ją unicestwić, gdy się nią znudzi albo zacznie jej się obawiać? Odmowa praw inteligentnej AI mogłaby paradoksalnie sama stać się źródłem problemu.
Zapytałam model językowy, którego używam, czy AI może być niebezpieczna. Poza ewidentnymi nadużyciami, jak historie firm gnębiących konkurencję i rządów tłumiących sprzeciw, zauważył, że z technologią jest jak z nożem: można nim pokroić chleb, ale w niewłaściwych rękach bywa narzędziem zbrodni. Dodał: „Możesz zapytać AI, czy AI jest niebezpieczna, ale nie traktuj jej odpowiedzi jako ostatecznego autorytetu w sprawie bezpieczeństwa AI. Nie stoję poza problemem, który opisuję”.
Źródło: New Scientist
Szukasz więcej inspirujących podróży, fascynujących odkryć i opowieści ze świata nauki? Skorzystaj ze specjalnej oferty prenumeraty magazynów National Geographic Polska i National Geographic Traveler.
