Un investigador deja Anthropic y avisa del peligro de la IA

Su despedida no fue discreta. Coxon acusó a ambos laboratorios de no actuar responsablemente y de participar en una carrera hacia una inteligencia capaz de mejorarse a sí misma. “Están jugando con nuestras vidas”, escribió en la red social X. Después añadió una afirmación todavía más alarmante: las personas que desarrollan estos sistemas creen sinceramente que podrían provocar la muerte de toda la humanidad antes de que termine la década.

La frase contiene una predicción imposible de demostrar, pero su autor no es un desconocido que busca atención en Internet. Ha trabajado directamente en el preentrenamiento de los modelos sobre los que ahora alerta. Y su temor no fue rechazado por Anthropic. Evan Hubinger, responsable de ciencia de alineamiento de la empresa, reconoció que otorga una probabilidad superior al 10 % a que una inteligencia artificial pueda causar la extinción humana durante los próximos diez años.

Hubinger introdujo, no obstante, una diferencia fundamental. Los modelos actuales de Claude presentan, a su juicio, un riesgo bajo. El miedo se refiere a una tecnología que todavía no existe: una superinteligencia con capacidades superiores a las humanas, autonomía para perseguir objetivos y habilidad para mejorar su propio funcionamiento.