Hinton eleva la apuesta: entre 10 % y 20 % de chances de que una superinteligencia nos extinga antes de 2055

Geoffrey Hinton no es un agorero de la verbena digital. Es, probablemente, el científico vivo más importante en la historia reciente de la inteligencia artificial: en 2018 recibió el premio Turing, el Nobel de la informática, por haber sentado las bases del aprendizaje profundo que hoy hace funcionar desde los chatbots de uso masivo hasta los sistemas de diagnóstico médico. Cuando este inglés de 78 años habla, la industria deja la servilleta y toma nota. Por eso sus últimas declaraciones, en las que estima entre 10 % y 20 % las probabilidades de que una superinteligencia extinga a la humanidad en los próximos treinta años, no pueden leerse como un capricho apocalíptico.

El número es, técnicamente, un rango enorme. En ciencia, decir 10 % o 20 % es casi como decir «depende», pero Hinton lo presenta como una cota inferior preocupante: hace una década, cuando todavía trabajaba en Google, él mismo ubicaba el riesgo muy por debajo. Lo que cambió, explica, es la velocidad. El campo avanzó más rápido de lo que cualquier cronograma serio anticipaba, y eso obliga a recalibrar la amenaza hacia arriba.

De predictor de texto a entidad que entiende

El corazón del argumento no es el porcentaje, sino una afirmación filosófica sobre qué son los modelos de lenguaje grandes, esos programas como los que redactan correos, resumen textos o mantienen conversaciones. La visión dominante hasta hace poco era que estos sistemas eran, en el fondo, sofisticados loros estadísticos: detectaban patrones en montañas de texto y los recombinaban sin entender realmente qué decían. Hinton rechaza esa caracterización.

“Estos modelos ya comprenden conceptos semánticos y abstractos, no solo correlaciones estadísticas. Esa distinción cambia la categoría del riesgo.”Geoffrey Hinton

En criollo: cuando un modelo describe cómo funciona una tormenta o explica la diferencia entre una promesa y una amenaza, no está repitiendo frases memorizadas. Está manipulando representaciones internas de lo que esas cosas significan. Para Hinton, eso los acerca más a una forma de comprensión que a un truco de combinatoria, y por eso merecen un tratamiento regulatorio distinto al de cualquier software convencional.

Cómo funciona la advertencia

Para graficar el problema, Hinton usa una imagen muy concreta: la innovación tecnológica es como el acelerador de un automóvil. Cada año la industria pisa más fuerte: modelos más grandes, más entrenados, más autónomos. Pero el volante, la regulación que permite girar y frenar, viene con décadas de atraso respecto del motor. A mayor velocidad sin control, mayor es el daño potencial si algo sale mal. En su esquema, la regulación gubernamental no es un lujo ideológico, es el mecanismo de dirección que falta.

El investigador insiste en que confiar en que el mercado se autorregule es un error estratégico comparable a confiar en que una industria química decida sola cuánta contaminación puede emitir. La competencia geopolítica entre países —el clásico argumento de «si regulamos nosotros, nos ganan los chinos o los estadounidenses»— no lo convence: una amenaza existencial, dice, exige leyes globales, aunque sean imperfectas, antes que una carrera sin reglas.

• Probabilidad de extinción estimada por Hinton: entre 10 % y 20 % en un horizonte de 30 años.
• Razón principal del aumento del riesgo: la velocidad de avance superó todas las proyecciones previas.
• Cambio cualitativo clave: los modelos ya no solo predicen texto, sino que manipulan conceptos abstractos.
• Mecanismo de control propuesto: regulación estatal obligatoria, no autorregulación empresaria.
• Ventana de acción: se está cerrando a medida que los modelos ganan capacidad autónoma.

Qué falta para que el debate llegue a la mesa

Las declaraciones de Hinton se enmarcan en una seguidilla de advertencias que comparten otros investigadores de peso, desde Yoshua Bengio —colega y codescubridor del deep learning— hasta Demis Hassabis, jefe de Google DeepMind. La diferencia es el tono: Hinton ya no habla desde un laboratorio, sino como un científico retirado que se siente libre para decir lo que piensa. Esa voz desinstitucionalizada es la que puso el tema en los principales portales del mundo.

Lo que falta, en la práctica, es un tratado internacional con dientes. Hoy existen documentos como la Declaración de Bletchley, firmada por Estados Unidos, China, la Unión Europea y otras potencias en la cumbre británica de 2023, pero son compromisos políticos sin obligación legal. Para que la advertencia de Hinton se traduzca en algo concreto haría falta, como mínimo, tres piezas que todavía no existen: un organismo global con capacidad de auditar modelos, estándares obligatorios de seguridad antes del despliegue comercial y un mecanismo de frenos de emergencia compartido entre países. Sin esos tres engranajes, la ventana que el científico menciona seguirá cerrándose en silencio.