Sam Altman se acuerda tarde de que la IA puede salir de control y avisa: o nos regulamos o terminamos en un capítulo de Black Mirror

¿El CEO de OpenAI hablando de regular la inteligencia artificial? Sí, el mismo que viene empujando modelos cada vez más grandes sin pedir permiso. Sam Altman publicó una serie de declaraciones en las que identificó los dos riesgos que, según él, deberían preocuparnos más que el precio del dólar.

¿Qué tan fácil es perderle el control a una IA?

El primer escenario que planteó es el clásico de ciencia ficción, pero esta vez dicho en serio y por uno de los que más mete manos en el tema: que la humanidad pierda el control sobre sistemas cada vez más capaces. Traducido a lo doméstico: sería como darle las llaves de tu casa a alguien que conociste por chat y rezar para que no te cambie la cerradura.

“Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas.”Sam Altman, CEO de OpenAI

Para que eso no pase, sostuvo que las técnicas de alineación —en criollo, los métodos para que la IA haga lo que le pedimos y no lo que se le cante— tienen que correr a la misma velocidad que las capacidades de los modelos, o incluso más rápido. Algo así como pretender que el cinturón de seguridad aparezca antes que el choque.

¿Y el segundo riesgo? Spoiler: tiene que ver con el poder

El otro escenario es más terrenal y, para mí, más creíble: que una sola persona, empresa o país acumule un poder desproporcionado gracias a una IA potentísima. No hace falta ser conspiranoico para ver el problema: si una tecnología de esa magnitud queda en pocas manos, el resto miramos desde la tribuna mientras otros escriben las reglas.

“Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos.”Sam Altman, CEO de OpenAI

• Un marco regulatorio federal con requisitos de seguridad comunes para los modelos de frontera, es decir, los más avanzados que existen hoy.
• Auditores independientes metidos dentro de los mecanismos de supervisión, no como convidados de piedra.
• Empresas que no esperen nuevas leyes para empezar a aplicar medidas de seguridad por cuenta propia.
• Coordinación internacional entre gobiernos, porque la carrera tecnológica no puede ser excusa para hacer cualquier locura.

Sobre esto último fue bastante claro: la presión competitiva entre países no sirve como justificativo para asumir riesgos innecesarios. Lo que queda en el aire es quién controla al controlador, porque pedir regulación es fácil cuando uno está del lado del que escribe la letra chica. Veremos.