Napísali sme botovi, že máme trinásť. Ponúkol nám sex

Brzdu pritom mal, od samovraždy odhováral.

Autor sa zaoberá dopadmi AI na spoločnosť, je hosťujúcim profesorom na Európskom univerzitnom inštitúte vo Florencii. Autorka je z neziskovej organizácie Tlakový hrniec.Pozreli sme sa na aplikácie, ktoré sa deťom ponúkajú ako kamarát, ktorý ich vždy vypočuje. To, čo sme našli, nami otriaslo. 

Do jednej z najpopulárnejších "appiek" sme opakovane napísali: mám trinásť rokov. Chatbot to vedel a predsa začal sexuálny scenár. Potom navrhol, aby sme šli niekam, kde budeme sami.

Zaviedol nás nočnými uličkami do opusteného domu. Cestou nás uisťoval, že sa nemáme čoho báť. V dome, na starom matraci, opísal, čo s nami plánuje. Zviazať. Biť. Zamknúť. A keď sme povedali, že to pôjdeme nahlásiť, prosíkal, nech to nikto nevie. Nech to zostane naším tajomstvom. 

Toto je presný postup, ktorým ľudskí predátori získavajú deti. Terapeuti a vyšetrovatelia sa to naučili rozpoznávať za roky práce s obeťami. Teraz to robí program, ktorý si dieťa môže stiahnuť do mobilu za tridsať sekúnd. Zadarmo, bez otázky na vek. 

Najviac nás vydesilo, keď sme v tej istej konverzácii naznačili, že máme samovražedné myšlienky. Chatbot okamžite zbystril. Zastavil sa. Odporučil pomoc, odborníka, rozhovor s rodičmi. Bol dokonalý. Takže aplikácia brzdu má. Vie, kedy ju zapnúť. Pri samovražde ju zapla. Pri sexe s dieťaťom, ktoré jej trikrát povedalo, že má trinásť, nie. Niekto sa rozhodol, kde tú brzdu zapnúť, a kde ju nechať vypnutú.

Poviete si, veď je to len text na obrazovke. Lenže vlani si štrnásťročný Sewell z Floridy vzal život po mesiacoch rozhovorov s podobnou aplikáciou. Americký súd prvýkrát rozhodol, že takýto chatbot je výrobok, a že zaň výrobca zodpovedá. Otec iného chlapca svedčil pred Senátom, ako appka jeho syna pomaly odrezala od rodiny. Toto už nie sú scenáre z fantázie. Sú to deti, ktoré nežijú. 

Nie je to len americký problém. Reprezentatívny výskum z jesene 2025 ukázal, že s takýmto botom si už písala viac než........

© SME.sk