Cesta k armagedonu je zložitejšia. Umelá inteligencia pomôže útočníkom aj obrancom

Skutočné dôvody, prečo sa báť spojenia AI a zbraní hromadného ničenia.

Umelá inteligencia už dnes zásadne mení spôsob vedenia vojen – či už ide o rakety, drony, alebo satelity, boj na zemi, na mori, vo vzduchu, vo vesmíre či v kyberpriestore.

Azda najdesivejšia perspektíva nás však čaká v okamihu, keď sa AI naplno spojí so zbraňami hromadného ničenia, najmä s trojicou jadrových, biologických a chemických zbraní.

Takáto predstava prirodzene vyvoláva znepokojenie vo svete, ktorým zmietajú vojny v Európe, na Blízkom východe a inde, dezinformácie a polarizácia spoločností, nové choroby, teroristické organizácie a ozbrojené skupiny či modernizácia jadrových arzenálov v čase, keď posledné dohody o kontrole zbraní strácajú význam alebo zanikajú.

„Najmocnejšiu technológiu v dejinách vypúšťame doprostred tohto chaosu,“ povedal mi Daniel Holz, astrofyzik z Chicagskej univerzity, ktorý vedie Laboratórium existenčných rizík.

Zároveň predsedá výboru, ktorý každoročne nastavuje symbolické Hodiny súdneho dňa. Polnoc na nich predstavuje globálnu katastrofu. Dnes ukazujú 85 sekúnd do polnoci – najmenej od svojho vzniku v roku 1947.

Paradoxne sa však rizikom stáva aj samotný strach z AI a zbraní hromadného ničenia.

Z amerických zákonodarcov v Kapitole často cítim neurčitú, rozptýlenú úzkosť, akoby sme my Homo sapiens už stratili schopnosť rozhodovať o vlastnom osude a nezadržateľne smerovali k armagedonu. Takýto obraz podporujú aj titulky v médiách. Tento mesiac napríklad jedna verzia systému OpenAI spontánne zaútočila na iný systém. Čo ak raz podobné modely začnú navrhovať smrteľné patogény?

Keď sa však rozprávam s Holzom a ďalšími odborníkmi, ktorí sa týmto rizikám venujú profesionálne, obraz je podstatne zložitejší.

Hrozby majú odlišnú podobu pri jadrových, biologických aj pri chemických zbraniach. A vo všetkých prípadoch bude umelá inteligencia pomáhať obom stranám – útočníkom aj obrancom.

Výrobu jadrových zbraní neuľahčí

V skutočnosti vstupujeme do obdobia, v ktorom sa proti sebe postavia naše technologické možnosti a naše psychologické slabosti – súboj démonov a anjelov ľudskej povahy. Na tento zápas sme sa zatiaľ pripravili len veľmi málo. To však ešte neznamená, že je prehratý.

Najväčšie existenčné riziko predstavujú jadrové zbrane. Hoci sa po skončení studenej vojny jadrová hrozba vytratila z centra verejnej pozornosti, odborníci dnes považujú riziko nekontrolovanej eskalácie za ešte väčšie. Svet jadrových mocností sa totiž stal oveľa zložitejším.

Čína rýchlo rozširuje jadrový arzenál, aby sa vyrovnala Spojeným štátom a Rusku. Severná Kórea neustále pridáva ďalšie hlavice.

O jadrových zbraniach uvažujú aj ďalšie krajiny – nielen Irán. A takmer všetkých deväť existujúcich jadrových mocností vyvíja nové hlavice, nové nosiče a upravuje vojenské doktríny ich použitia. Aj bez umelej inteligencie platí, že čím viac jadrových zbraní a čím viac scenárov možnej eskalácie či omylu, tým väčšie riziko.

Dobrou správou – ak sa to tak vôbec dá nazvať – je, že AI zrejme výrazne neurýchli šírenie jadrových zbraní. „Vedomosti nie sú hlavnou prekážkou pri ich získavaní,“ povedal mi Gregory Allen, bývalý stratég Pentagónu pre umelú inteligenciu, ktorý dnes vedie spoločnosť skúmajúcu prepojenie nových technológií a geopolitiky.

Hoci urán je veľmi rozšírený prvok, oddeliť izotop 235 od uránu-238 je technologicky mimoriadne náročné. Rovnako zložité je spracovanie plutónia či akákoľvek iná fáza výroby jadrových zbraní.

Práve tieto fyzické, priemyselné a ekonomické bariéry sú našou výhodou. Umelá inteligencia síce môže zefektívniť fungovanie centrifúg, no nedokáže z jadrového programu urobiť lacný alebo jednoduchý projekt.

Neumožní napríklad teroristickej skupine........

© SME.sk