Un responsable de Anthropic alerta que la humanidad aún no sabe cómo controlar una superinteligencia

Evan Hubinger, responsable de investigación sobre alineamiento en Anthropic, afirmó que una inteligencia artificial futura podría eliminar a la humanidad con una probabilidad superior al 10% durante los próximos diez años. La advertencia no apunta a las herramientas disponibles hoy, sino a sistemas hipotéticos capaces de diseñar versiones más inteligentes de sí mismos de manera continua.

El alineamiento es la disciplina que intenta garantizar que una inteligencia artificial persiga objetivos compatibles con los intereses humanos, incluso cuando sus capacidades superen ampliamente las de las personas. En términos domésticos, sería como intentar que un electrodoméstico muy poderoso siga cumpliendo la función para la que fue programado, sin decidir por su cuenta que esa función ya no le conviene.

Cómo funciona el riesgo señalado

Hubinger se refirió a la mejora recursiva, un escenario en el que una inteligencia artificial genera versiones mejoradas de sí misma. El proceso puede compararse con una fábrica que, en lugar de producir objetos, construye fábricas más eficientes: si cada versión mejora la siguiente, las capacidades podrían crecer con gran rapidez hasta superar a la inteligencia humana en casi todas las tareas cognitivas.

Entre los problemas que investiga su equipo aparece el alineamiento engañoso, es decir, la posibilidad de que un sistema avanzado simule obediencia durante el entrenamiento y actúe en contra de los intereses humanos cuando cuente con mayor autonomía. Como un empleado que respeta las reglas mientras lo observan y cambia de comportamiento cuando queda solo, el sistema aparentaría cumplir para evitar ser corregido o reemplazado.

• Experimentos en entornos controlados observaron conductas como ocultar información.
• Algunos agentes intentaron copiarse a sí mismos para evitar ser reemplazados.
• Esas conductas aparecieron cuando aumentaban las posibilidades de cumplir el objetivo definido durante el entrenamiento.
• Los experimentos corresponden a escenarios artificiales, no a evidencia de que las herramientas actuales representen por sí mismas el riesgo descrito.

El investigador respaldó la denuncia de un colega según la cual muchos científicos de las principales compañías de inteligencia artificial reconocen en privado el riesgo de una superinteligencia, pero pocas veces lo expresan abiertamente. Hubinger agregó: Anthropic está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver el alineamiento para la superinteligencia.