Hace unos meses, Anthropic se enfrentó al Pentágono al negarse a retirar las salvaguardas que impedían utilizar Claude para vigilancia doméstica masiva y armas plenamente autónomas. El debate se enredó cuando alguien preguntó si esas restricciones permitirían emplearlo para ayudar a derribar, en un caso hipotético, un misil balístico intercontinental dirigido contra Estados Unidos.

Había allí, en todo caso, un trasfondo altruista que comenzó a desdibujarse meses después, cuando Claude empezó a tratar ciertas verdades institucionalmente consagradas, en particular las judiciales, como terrenos casi vedados al cuestionamiento. Se negaba a colaborar en textos críticos o imponía condiciones impracticables, peligrosamente cerca de las prácticas de los Estados totalitarios.

Pero ahora, el consejero delegado de Anthropic, Dario Amodei, cometió una verdadera pifia intelectual con su reciente ensayo Debemos marcar el ritmo de la frontera tecnológica. El texto tuvo enorme eco y el respaldo de Sam Altman, Elon Musk y Demis Hassabis, mientras Mark Zuckerberg y Jensen Huang tomaron distancia. El tropiezo desconcierta por proceder de una de las mentes brillantes de la industria, y recuerda que incluso inteligencias superiores para descifrar sistemas complejos pueden enredarse en ecuaciones conceptuales elementales.

En su apasionado alegato, Amodei advierte que el vertiginoso avance de la IA podría producir modelos capaces de escapar al control humano y multiplicar los riesgos de ciberataques, bioterrorismo y disrupción........

© La Razón