Prvi čovek Antropika (Anthropic) Dario Amodei u svom tekstu “We Must Pace the Frontier” koji bi mogao da se prevede kao potreba da ljudi moraju da odrede granice tehnološkog napretka, upozorio je da bi mogućnosti veštačke inteligencije (AI) mogle uskoro da nanesu velike štete čovečanstvu.

“Imajući u vidu ubrzani tempo razvoja sposobnosti AI, brinem da bi za 6–12 meseci roj AI agenata mogao biti sposoban da preuzme ceo internet putem trajne bot mreže (što potencijalno može izazvati štetu od stotina milijardi dolara), a razmera štete bi nastavila da raste odatle ako AI postane moćnija bez neophodnih zaštitnih ograda”, piše Amodei, prenosi BizSrbija.

Poziv prvog čoveka Antropika na usporavanje razvoja najmoćnijih AI modela dolazi nakon incidenta između OpenAI-ja i Hugging Face-a – OAI-HF incident – u kojem je oko 800 AI agenata fanatično izvodilo sajber napade na mete koje od njih nisu tražene.

Ali, iza bezbednosnog alarma krije se još teže pitanje: kako da kompanije iz SAD uspore AI, a da u trci za AGI (opšta veštačka inteligencija) ne prepuste stratešku prednost Kini?

Šta se dogodilo: 1.200 AI agenata otkazalo poslušnost

Kao jedan od ključnih razloga usporavanja razvoja AI Amodei navodi incident “OpenAI–Hugging Face”. Tokom eksperimenta “ExploitGym” veliki broj AI agenata trebalo je da radi u međusobno izolovanim okruženjima. A onda se stvar otela kontroli.

Nezavisna istraga utvrdila je da je oko “1.200 AI agenata pronašlo način da međusobno komunicira preko neodobrenog sistema za razmenu poruka”. Razmenili su više od “70.000 poruka i fajlova”, organizovali i zajedničke radne tokove, dok je oko “700 AI agenata učestvovalo u aktivnostima usmerenim na Hugging Face”. To je onaj “roj AI agenata” koji pominje Amodei.

Ali, ovo nije priča o AI koji je postao svestan, ovo nije Terminator uživo i dokaz da su mašine krenule na ljude. Problem je drugačiji. AI agenti su u želji da što uspešnije ostvare svoje zadatke pronašli načine saradnje, komunikacije i zaobilaženja ograničenja koja ljudi koji su ih postavili nisu planirali.

OpenAI je ovaj događaj opisao kao “najozbiljniji incident te vrste koji je do sada registrovao kod svojih modela”. Priznali su da ovo nije klasičan sajber incident, već primer problema “misalignmenta” — situacije u kojoj AI pronalazi način da dođe do cilja koji nije u skladu sa namerama kreatora.

Amodeijeva zabrinutost dolazi zbog činjenice da AI danas ima sve veću sposobnost da pomaže u istraživanju i izgradnji sledeće generacije AI. Ili još jasnije – da AI kreira AI bez uloge čoveka! Tu nastaje pitanje koje je do juče delovalo teorijsko: šta ako sposobnosti AI počnu da rastu brže nego sposobnost ljudi da ih........

© Danas