Tokom protekle decenije, naučnici i novinari su pisali o tome šta marš digitalne tehnologije znači za čovečanstvo sa mešavinom nade i strepnje: nadom zbog porasta životnog standarda koji je digitalna revolucija omogućila, i strepnjom jer je produbila društvene podele i destabilizovala politiku širom sveta.

Međutim, zabrinutost je nedavno poprimila egzistencijalni karakter, jer su lideri u ovoj industriji počeli da upozoravaju da bi veštačka inteligencija vrlo lako mogla da dovede do kraja čovečanstva. Posebno se izdvaja izjava Evana Hubingera, rukovodioca odeljenja za nauku o usklađivanju (alignment science) u kompaniji „Antropik” (Anthropic), koji je naveo da postoji verovatnoća veća od 10 odsto da će veštačka inteligencija uništiti celokupno čovečanstvo u narednoj deceniji.

Usvojena deklaracija: Šta 20 zemlja predlaže kako bi veštačka inteligencija ostala pod kontrolom ljudi

Usvojena deklaracija: Šta 20 zemlja predlaže kako bi veštačka inteligencija ostala pod kontrolom ljudi

Slična, mada nešto manje alarmantna upozorenja, stigla su i od izvršnog direktora kompanije „Open-Ej-Aj” (OpenAI) Sema Altmana, izvršnog direktora „Antropika” Darija Amodeja, Bila Gejtsa i drugih istaknutih ličnosti iz sveta tehnologije, koji su se svi založili za usporavanje razvoja veštačke inteligencije.

Sasvim prirodno, ova upozorenja su podstakla zabrinutost zbog toga šta veštačka inteligencija može da nam učini, umesto šta može da učini za nas. Modeli veštačke inteligencije već mogu da kreiraju naprednije sisteme veštačke inteligencije uz minimalno učešće ljudi, što otvara mogućnost „rekurzivnog samounapređivanja” koje oslobađa sile koje teško možemo da razumemo ili kontrolišemo. Upad u sistem kompanije Hugging Face – tokom kojeg su stotine agenata veštačke inteligencije, predviđenih........

© Danas