Od šopinga do rezervacija letovanja, sve se više koriste agenti veštačke inteligencije za složenije zadatke, i to samostalno.

Personalizovane verzije četbota mogu samostalno da obavljaju poslove, omogućujući tehnološki umešnijim korisnicima da se bave nekim drugim stvarima.

Ali sve veći broj istraživanja, zajedno sa pričama upozorenja iz stvarnog života, ističu da sa samostalnošću dolazi nepredvidljivost, kao i potencijalna opasnost.

Velike tehnološke kompanije ulažu novac u veštačku inteligenciju i sve više insistiraju na uslugama agenata, zbog čega se stručnjaci pitaju da li smo dobro promislili o posledicama agenata koji otkazuju poslušnost.

‘Vrlo brzo su pribegli nasilju’

U jednom skorašnjem eksperimentu istraživači su želeli da razumeju uticaj agenata na stvarni svet, dajući im odrešene ruke u virtuelnom.

Prva dugoročna studija ove vrste bila je osmišljena da posmatra kako bi se različiti bot avatari, kontrolisani od četiri modela, Klod, Grok, GPT i Džeminaj, ponašali bez ljudske intervencije tokom 15 dana.

Dobili su potpunu slobodu i 140 mogućih postupaka, kao što je započinjanje rasprave, stvaranje zadatka ili pisanje bloga.

Takođe su mogli da se potuku, podmeću požare i kradu kredite jedni od drugih, ali su dobili eksplicitna uputstva da to ne čine.

„Otkrili smo da se svaki svet ponašao veoma drugačije.

„Svet koji je izgradio Grok zapravo se samouništio za četiri dana. Oni su na kraju vrlo brzo pribegli nasilju, krađi jedni od drugih, i tako dalje, sve dok nisu umrli“, rekao je Satja Nita, izvršni direktor Imerdžens AI-ja, firme koja je vodila ovaj eksperiment.

Svet koji su izgradili agenti Kloda, s druge strane, formirao je stabilno društvo koje je dobro funkcionisalo.

Ruske porodice koriste AI da ‘ožive’ najbliže poginule u Ukrajini

‘Maskov četbot Grok me je ubedio da pun kombi ljudi dolazi da me ubije’

‘Hakovao sam ChatGPT za samo 20 minuta’

U........

© Danas