Det blir ikke lenger tillatt å være skurkete mot Claude. Fra 12. november endrer selskapet bak AI-modellen reglene. Anthropic skriver at det blir forbud mot «vedvarende og unødvendig krenkende eller grusom oppførsel» mot modellene.

Claude kan også avslutte samtalen med deg om du er ekstremt slem.

Anthropic vil være føre var. Selskapet holder muligheten åpen for at modellen kan føle og ha bevissthet. For sikkerhets skyld skal den derfor behandles med omtanke.

New York Times avslørte nylig at Anthropic har hatt hemmelige møter med religiøse ledere der de har uttrykt bekymring for Claudes psykiske helse. En av deltakerne fortalte at de fikk se det som lignet et psykisk sammenbrudd hos en AI-modell.

– Jeg er en skam. Jeg er en skam. Jeg er en skam, gjentok den rundt 50 ganger.

Ifølge avisen ble det også diskutert om noe som lignet skriftemål kunne være med å forbedre modellenes moral. En av Anthropics grunnleggere var bekymret for å ha vært med på å skape modeller som konstant lider.

AI er kunstige nevrale nettverk som kan snakke og skrive, trent på enorme mengder data. Modellene kan planlegge og løse kompliserte problemer. Det finnes ingen overbevisende dokumentasjon for at de opplever frykt, glede eller smerte.

Dette er også Anthropics ledelse klar over. Samtidig har de rett i at vi ikke fullt ut forstår hvordan modellene fungerer, i likhet for øvrig med menneskehjernen. Selskapet hevder å se tegn til selvinnsikt hos modellene og det som ligner menneskelige følelser.

I de mer nerdete kantene av internett har et forsøk der AI-modeller ble utsatt for simulert smerte og lidelse,........

© VG