Riskerna med AI-utvecklingen underskattas grovt
Mötet i Davos i januari dominerades av Donald Trumps geopolitiska nyckfullhet, men i skuggan av honom diskuterades ett annat ämne som ser ut att kunna bli än mer betydelsefullt för allas vår framtid. På plats fanns nämligen cheferna för två av världens tre ledande AI-utvecklare: Demis Hassabis från Google DeepMind, och Dario Amodei från Anthropic. Båda två har tidigare bekräftat att de inser att riskerna med den AI-teknologi de själva går i spetsen för är så långtgående att det hela mycket väl kan landa i mänsklighetens undergång, och i Davos var de eniga om hur önskvärt det vore om utvecklingen bromsades, så att reglering, säkerhet och samhällelig anpassning får en bättre chans att hinna ikapp. Ändå trycker de gasen i botten, eftersom de befinner sig i en inbördes kapplöpning som ingen av dem tycker sig ha råd att stiga av.
Att utvecklingen går rasande snabbt argumenterade jag för i min förra gästkrönika den 15/1. Både Hassabis och Amodei är på samma linje, och menar att vi är så pass nära den brytpunkt där AI självt kan börja driva utvecklingen framåt att........
