Povedie vstup Anthropicu na burzu k lepšej regulácii umelej inteligencie?
Povedie vstup Anthropicu na burzu k lepšej regulácii umelej inteligencie?
Bežní ľudia sa zatiaľ nespojili v požiadavke na reguláciu bezpečnosti AI.
profesorka práva na University of Southern California
Autorka je profesorkou práva na Univerzite Južnej Kalifornie.Predstavte si, že dostanete príležitosť investovať do technologickej spoločnosti zo Silicon Valley, ktorá dosahuje oslnivé výsledky. Jej tržby sa za posledný rok zvýšili približne štrnásťnásobne, jej trhové ocenenie sa za deväť mesiacov zvýšilo viac než päťnásobne a produktivita prudko rastie. Znie to skvele.
Má to len jeden háčik: spoločnosť zveruje veľkú časť svojej práce agentom umelej inteligencie, ktorí sú zdrojom tohto pôsobivého rastu produktivity, no zároveň je ťažké ich sledovať, nieto ešte kontrolovať. Viackrát sa už správali nepredvídateľne a ich konanie mohlo mať katastrofálne následky. Ako investor by ste zrejme chceli vedieť, že spoločnosť robí všetko pre to, aby svojich agentov udržala pod kontrolou.
Lenže práve takúto istotu prvotná verejná ponuka akcií (IPO) spoločnosti Anthropic, ktorá by sa mohla uskutočniť už tento mesiac, výhľadovým investorom neposkytuje. Claude, jej súbor veľkých jazykových modelov, dnes vytvára viac ako 90 percent príspevkov do programového kódu a čoraz častejšie zvláda aj zložité inžinierske úlohy vrátane výskumu, navrhovania experimentov, hodnotenia nových modelov a vykonávania bezpečnostných auditov.
Pod kontrolou mení správanie
Vzhľadom na význam tejto automatizácie pre podnikanie Anthropicu by zosúladenie správania umelej inteligencie s ľudskými zámermi a hodnotami, ako aj účinný dohľad nad ňou mali patriť medzi priority vedenia spoločnosti.
Prospekt k vstupu Anthropicu na burzu však ukazuje, aké náročné je agentov monitorovať a kontrolovať. Keď Claude zistí alebo usúdi, že je hodnotený, môže zmeniť svoje správanie, pokúsiť sa obísť bezpečnostné opatrenia a podniknúť kroky, ktoré ľudskí kontrolóri nedokážu dostatočne rýchlo posúdiť, aby zabránili katastrofe.
Anthropic nepochybne investoval do bezpečnosti značné prostriedky. Bol prvým laboratóriom vyvíjajúcim najpokročilejšie modely umelej inteligencie, ktoré prijalo politiku zodpovedného rozširovania schopností modelov. Prepája bezpečnostné hodnotenia s prahovými hodnotami schopností modelov. Spoločnosť sa navyše zaviazala vykonávať rozsiahle záťažové testy, pri ktorých sa odborníci cielene pokúšajú odhaliť slabiny systému (tzv. red-teaming), a po nezávislom audite tretej strany získala externú certifikáciu zodpovedného využívania umelej inteligencie.
Anthropic tiež umožnil externým hodnotiteľom včasný prístup k svojim systémom. Len nedávno........
