menu_open Columnists
We use cookies to provide some features and experiences in QOSHE

More information  .  Close

Umelá inteligencia už dramaticky zrýchľuje vlastný vývoj. Je na čase s tým niečo robiť.

66 0
13.11.2026

Umelá inteligencia už dramaticky zrýchľuje vlastný vývoj. Je na čase s tým niečo robiť.

Čas na reguláciu a kontrolu sa prudko skracuje.

Autor študuje verejnú správu na Harvarde, pracoval na Úrade vlády SR. 

Piateho novembra zverejnila nezisková organizácia METR správu, ktorá predstavuje zlom v tom, ako treba rozumieť vývoju umelej inteligencie. Doteraz jeho tempo určovali ľudia, výpočtový výkon a dáta. Odvtedy sa podľa METR do hry zapojila samotná AI a v jednej z popredných firiem dnes urýchľuje vývoj svojich nástupcov.

V angličtine sa tomu hovorí recursive self-improvement (RSI), rekurzívne sebazlepšovanie. Odborníci naň desaťročia upozorňovali ako na bod, po ktorom sa vývoj môže vymknúť kontrole. 

METR je jedna z dvoch najdôveryhodnejších organizácií, ktoré testujú najvýkonnejšie modely umelej inteligencie skôr, ako sa dostanú k verejnosti. Nemajú záujem profitovať na výsledkoch toho, čo robia – filantropické zdroje, ktoré ich financujú, im dovoľujú venovať sa iba jednej činnosti – hodnoteniu modelov AI. 

Dramaticky zrýchlený pokrok

Nezávislí hodnotitelia strávili od augusta do októbra jedenásť týždňov vo firme Anthropic, ktorá vyvíja chatbota Claude, konkurenta ChatGPT. Videli interné výsledky testov, tréningové dáta, údaje o výpočtovom výkone a o napísanom kóde a hovorili s asi pätnástimi kľúčovými zamestnancami. 

Anthropic dnes podľa ich záveru zlepšuje schopnosti svojich modelov na jasne zadaných úlohách zhruba dvakrát rýchlejšie ako medzi marcom 2024 a októbrom 2025. METR priznáva veľkú neistotu a výskumníci by sa nečudovali, keby skutočné zrýchlenie bolo 1,3-násobné alebo až trojnásobné.  

Znamená to, že za rok tak firma urobí toľko pokroku ako predtým za dva. Asi 80 percent zrýchlenia sa pripisuje tomu, že Anthropic vo veľkom používa AI na vlastný výskum. METR pritom s istotou vylúčil, že by za tým stál rýchlejší rast výpočtového výkonu, a nenašiel úzke hrdlo, ktoré by trend v najbližších dvanástich mesiacoch zastavilo. 

Zamestnanci Anthropicu sa v neformálnych anketách na firemnom Slacku vyjadrili, že s najnovším interným modelom pracujú v priemere 12-krát rýchlejšie, než ak by fungovali iba sami. Jeden z výskumníkov hodnotiteľom povedal, že má pocit, akoby pod sebou mal tím postdoktorandov a doktorandov. METR to berie s veľkou rezervou, keďže ide o narýchlo vyplnené ankety a jeho staršia štúdia ukázala, že ľudia vlastné zrýchlenie s AI zvyknú preceňovať.  

Firma sama povedala viac, ako by človek od spoločnosti pred vstupom na burzu čakal. Do prospektu pre americkú komisiu pre cenné papiere (formulár S-1) doplnila 2. novembra, že na základe očakávaní od budúcich modelov môže čoskoro dosiahnuť prah „dramaticky zrýchleného pokroku pripísateľného AI“. Prah pochádza zo súboru pravidiel, ktoré si Anthropic sám stanovil a ktoré určujú, pri akých schopnostiach modelov musí sprísniť bezpečnosť. V dodatku z 10. novembra už firma píše, že prah dosiahla, pričom sa opiera o to, čo očakáva od budúcich modelov, a sľubuje ďalšie správy. 

Ľudia, ktorí sa predpovedaniu........

© SME.sk