Sam Altman traza una hoja de ruta para evitar que la inteligencia artificial se vuelva ingobernable

Sam Altman volvió a poner sobre la mesa los dilemas más incómodos del avance de la inteligencia artificial. El director ejecutivo de OpenAI, la empresa detrás de ChatGPT, sostuvo que la humanidad enfrenta dos escenarios críticos si no actúa con rapidez: perder el control sobre sistemas cada vez más capaces o permitir que una persona, una empresa o un país concentre un poder desproporcionado gracias a esa tecnología.

Los dos riesgos que señaló Altman

El primer escenario es el de la pérdida de control. "Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas", afirmó el ejecutivo. Para reducir ese riesgo, propuso que las técnicas de alineación —es decir, los métodos que buscan que los sistemas de IA hagan lo que los humanos realmente quieren— y los protocolos de seguridad avancen al mismo ritmo que las capacidades de los modelos, o incluso por delante.

El segundo escenario es la concentración desmesurada de poder. "Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos", advirtió Altman, y reconoció que evitar ambos riesgos a la vez obliga a transitar un camino estrecho, una suerte de equilibrio difícil entre innovar y regular.

Cómo funciona la propuesta regulatoria

Altman respaldó la creación de un marco federal en Estados Unidos que establezca requisitos de seguridad comunes para los modelos de frontera, una categoría que agrupa a los sistemas más avanzados del momento, comparables en potencia a los prototipos más recientes de GPT. Es como si, antes de que un avión nuevo pueda transportar pasajeros, una autoridad aeronáutica independiente verificara que cumple con normas mínimas de seguridad y no dependiera de que la propia compañía declare que su avión está en condiciones.

Dentro de ese esquema, el ejecutivo propuso incorporar auditores independientes en los mecanismos de supervisión. Aunque aclaró que las empresas no deberían esperar nuevas leyes para aplicar medidas de seguridad por cuenta propia, ya que la velocidad del desarrollo tecnológico suele superar a la de la regulación.

Coordinación internacional y presión competitiva

Altman advirtió que la pulseada tecnológica entre países no debería empujar a tomar riesgos innecesarios. "Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia", sostuvo. Y añadió que la coordinación entre gobiernos es uno de los terrenos en los que las compañías de inteligencia artificial necesitarán el acompañamiento de los Estados, porque ningún país puede regular por sí solo una tecnología que se entrena con datos de todo el planeta y se despliega en servidores distribuidos por el mundo.

Lo que todavía falta para que el debate pase a la práctica

Aunque las declaraciones de Altman marcan la postura de una de las voces más influyentes del sector, todavía no existe un consenso global sobre qué autoridad certifica que un modelo es seguro, qué umbral de capacidad dispara una obligación regulatoria ni quién paga los costosos procesos de auditoría. También resta definir cómo se evita que la propia industria termine escribiendo las reglas que la controlan, un riesgo habitual cuando los gobiernos carecen del conocimiento técnico para legislar sobre sistemas que cambian cada pocos meses. La pregunta abierta es si esos mecanismos —marco federal, auditores externos y coordinación internacional— logran instalarse antes de que los modelos de frontera alcancen un nivel de autonomía que vuelva muy difícil corregir el rumbo.