En la madrugada del 14 de septiembre, Sam Altman escribió en X que el progreso de la inteligencia artificial "podría salir muy mal" de dos maneras. La primera, que la humanidad pierda el control sobre la tecnología. La segunda, que una IA extraordinariamente poderosa quede en manos de una sola persona o empresa capaz de imponer su visión al resto del mundo. Tales aseveraciones, viniendo del máximo responsable de OpenAI y no un crítico externo, son como para encender una potente alerta.
Horas antes, Jacob Coxon, un ingeniero que trabajó tanto en OpenAI como en Anthropic, había declarado en la BBC que, de no frenarse el ritmo actual de desarrollo, existía "una probabilidad considerable" de que la humanidad no sobreviviera. Y agregó a sus declaraciones, para ilustrar que no era una preocupación individual, que entre sus antiguos compañeros cundía un "miedo genuino", hasta el punto de que algunos planificaban su vida personal pensando en la posibilidad de una inestabilidad tecnológica severa.
El tercer aviso, durante durante este mismo mes de septiembre, vino firmado por Dario Amodei, consejero delegado de Anthropic, quien pedía pública y formalmente en un extenso manifiesto titulado "We Must Pace the Frontier" (Debemos regular el ritmo de la frontera), desacelerar el avance de la inteligencia artificial de vanguardia e implementar la incorporación de evaluadores externos independientes y permanentes dentro de los laboratorios tecnológicos.
Que sean los propios creadores de la tecnología quienes claman por el control y la supervisión externa es, probablemente, el síntoma más claro de que la cuestión ya no es que la inteligencia artificial deba regularse, sino si aún estamos a tiempo de asumir ese reto, en el que la velocidad de la acción y el acuerdo internacional son la clave.
Un tablero regulatorio fragmentado.
No puede decirse que la respuesta normativa a la IA haya sido inexistente, pero sí que ha sido profundamente desigual, según el lugar del planeta que se enfoque.
Comencemos el recorrido por lo más cercano, la Unión Europea. Sus Estados miembros cuentan, desde 2024, con el Reglamento de Inteligencia Artificial (AI Act), la primera norma horizontal y de aplicación directa sobre esta tecnología en el mundo. En la región son exigibles, desde el 2 de agosto de 2026, nuevas obligaciones de transparencia entre las que se cuentan la identificación de chatbots como sistemas automatizados, el etiquetado de contenido generado o alterado por IA, y las obligaciones documentales para los proveedores de modelos de propósito general (GPAI) —categoría en la que se sitúan OpenAI, Anthropic o Google—, con sanciones de hasta 15 millones de euros o el 3% de la facturación mundial anual, lo que resulte mayor. Pero este es apenas el comienzo. El calendario regulatorio europeo continúa en diciembre de 2026 con la entrada en vigor de la prohibición de sistemas que generen contenido sexual no consentido o de abuso infantil, y se extiende escalonadamente hasta 2028 con las obligaciones plenas para sistemas de alto riesgo. A ese contexto hay que sumar el Convenio Marco del Consejo de Europa sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho —el primer tratado internacional vinculante en la materia, ya ratificado por la Unión Europea— y, en el plano español, la reciente creación de la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), encargada de vigilar el cumplimiento del AI Act en España y de promover un uso "ético, seguro y beneficioso" de la tecnología.
La siguiente parada de nuestro recorrido es Estados Unidos, país que como veremos, ha seguido un camino distinto al modelo europeo de regulación preventiva. La Administración Trump firmó, en diciembre de 2025, una orden ejecutiva para centralizar la política de IA a escala federal y frenar lo que calificó de "colcha de retazos" de leyes estatales dispares —y citó expresamente la norma de protección al consumidor de Colorado como ejemplo problemático—. La orden habilita al Departamento de Justicia para litigar contra leyes estatales y condiciona fondos federales de banda ancha a que los estados suspendan normas de IA "conflictivas". Treinta y seis fiscales generales estatales ya han reclamado al Congreso que no recorte la autoridad de los estados para legislar en la materia, en lo que se perfila como un litigio constitucional sobre federalismo.
La otra parada la hacemos China, que ha optado por una regulación sectorial y de contenidos. Desde 2023, en el país se exige el etiquetado obligatorio —incluidas las marcas de agua— de imágenes, vídeos y textos generados por IA. También se han ido sumando normas específicas, como las que regulan los servicios interactivos "antropomórficos" (asistentes o compañeros virtuales con apariencia humana). En conclusión, el del gigante asiático ha establecido un modelo más ágil para el contenido generativo, pero mucho menos ambicioso que el europeo en la supervisión de los modelos de frontera —los sistemas más potentes y menos predecibles—.
Por encima de estos tres bloques regionales, encontramos una voluntad normativa más abarcadora. Coincidiendo con las demandas de Coxon, Amodei y Altman, el 14 de septiembre la ONU reclamó, a través de un panel de más de treinta expertos y autoridades internacionales, la apertura de negociaciones formales entre los 193 Estados miembros. El objetivo final de tan ambicioso entendimiento sería la redacción de un tratado internacional vinculante y la creación de un organismo global con capacidad para auditar los algoritmos antes de su comercialización, advirtiendo de riesgos que van desde la manipulación informativa hasta la destrucción de más de 300 millones de empleos. De momento, el concierto entre miembros permanece en el terreno de la voluntad, pues se trata de una petición, y no de una norma.
Por qué el mundo no logra ponerse de acuerdo
Como se ha visto, si algo impide llegar a un entendimiento regulatorio para el desarrollo de la IA a nivel mundial no es la falta de propuestas, sino la imposibilidad de conciliarlas. La Cumbre de Impacto de la IA celebrada en Nueva Delhi en febrero de 2026 —con más de cien países, veinte jefes de Estado y los principales directivos tecnológicos del mundo— ilustró bien esa fractura.
La delegación estadounidense, encabezada por Michael Kratsios (director de la Oficina de Ciencia y Tecnología de la Casa Blanca), rechazó explícitamente en su intervención la idea de una "gobernanza mundial de la IA" y cualquier estructura regulatoria supranacional o vinculante, defendiendo en su lugar la adopción tecnológica mediante comercio y asociaciones bilaterales (su "American AI Exports Program") y evitando comprometerse con los aspectos de seguridad de la IA de frontera. A pesar de esta firme postura, Washington figuró entre los cerca de 88-92 países que respaldaron la Declaración de Líderes de Nueva Delhi, un texto que las propias fuentes describen como "no vinculante" y de "lenguaje mayormente aspiracional".
La Unión Europea, por su parte, sí reafirmó explícitamente su respaldo a "fortalecer la gobernanza mundial de la IA" y la cooperación internacional adhiriéndose a la declaración. Hubo una voz disonante dentro de esa misma delegación y fue el caso de Francia, que matizó el mensaje reivindicando la "autonomía estratégica" europea frente a la concentración tecnológica en manos extranjeras.
Por último, citamos el caso de China, que defendió retóricamente la "gobernanza multilateral de la IA" —una posición más próxima a la europea que a la estadounidense en el plano declarativo—, si bien acudió con una delegación más reducida y sin grandes anuncios propios, en un perfil notablemente más discreto que el que mantuvo en la cumbre de París.
A la falta de conciliación y a la rivalidad estratégica entre dos grandes potencias como Estados Unidos y China, se suman al menos tres obstáculos adicionales para alcanzar ese tan necesario entendimiento que permitiría regular el desarrollo y el uso de la IA a nivel mundial. El primero de ellos tiene que ver la velocidad. La capacidad legislativa de los Estados —negociar, tramitar, ratificar— se mide en años, mientras que los ciclos de desarrollo de los modelos de IA se miden en meses. El segundo es la soberanía regulatoria. Ni la UE acepta ceder su modelo de derechos fundamentales al enfoque más laxo de EE.UU., ni Washington está dispuesto a que un tratado internacional limite la ventaja competitiva de sus empresas frente a China, algo que el propio Amodei reconoce abiertamente cuando defiende mantener el control sobre las exportaciones de chips avanzados. El tercero tiene que ver con la propia arquitectura de la gobernanza internacional. Analistas presentes en la cumbre de Nueva Delhi señalaron que se otorgó a las grandes corporaciones tecnológicas un estatus casi equiparable al de los gobiernos soberanos, mientras la sociedad civil y los organismos de derechos humanos quedaban al margen de la negociación real.
¿Qué pasa si la regulación no llega a tiempo?
Los peligros que se citan ya no pertenecen al terreno de la ciencia ficción, aunque es pertinente distinguir entre lo que es evidencia consolidada y lo que sigue siendo una estimación experta con márgenes de incertidumbre reales.
Geoffrey Hinton, premio Nobel y considerado uno de los "padrinos" de la IA moderna, ha ido acortando su propio horizonte de riesgo de treinta o cincuenta años, a "quizá diez, quizá menos". También ha situado en un 10% su estimación —admitiendo él mismo que "nadie sabe realmente cómo dar una estimación sensata"— de que sistemas superinteligentes puedan representar una amenaza existencial para la humanidad. Esto es, por definición, una previsión, no un hecho probado. Pero si consideramos que la formula el mismo hombre que contribuyó a construir los fundamentos técnicos de esta tecnología, y no un tercero ajeno a ella o un “advenedizo”, no podremos eludir el peso específico y la relevancia que cobra esa perspectiva.
Junto al riesgo existencial —el más extremo y también el más polémico—, hay peligros de otro tipo con una base que ya es constatable. Uno de ellos es la concentración de poder de la que advierte el propio Altman, si el control de sistemas extraordinariamente capaces quedara en unas pocas manos —públicas o privadas—. Otro, es la disrupción del mercado laboral, con la cifra que maneja la ONU de 300 millones de empleos potencialmente afectados. Un tercer peligro que ya tenemos ante nosotros es la erosión de la confianza informativa como consecuencia del contenido sintético indistinguible del real. Por último, está la ampliación de la brecha digital entre los países que lideran el desarrollo de estos sistemas, y los que solo pueden consumirlos, sin capacidad regulatoria ni tecnológica propia para condicionarlos.
Qué se puede hacer y quiénes tendrían que hacerlo
Frente al escenario que hemos descrito, las propuestas de acción que hoy tienen más recorrido combinan tres niveles. El primero es empresarial. Amodei plantea que las compañías desarrolladoras acepten "evaluadores integrados" —equipos externos con acceso permanente a sus instalaciones y herramientas, y con derecho a publicar sus conclusiones sin filtro editorial de la empresa—, en una suerte de auditoría continua e independiente del propio proceso de creación de los modelos. El segundo es nacional o regional. Marcos como el AI Act europeo, con sus institutos y agencias de supervisión (la propia AESIA en España, o el Instituto de Seguridad de la IA del Reino Unido, cuyas evaluaciones Hinton reclama que se usen de forma sistemática), muestran que es posible traducir principios éticos en obligaciones exigibles con sanciones reales. El tercero —el más difícil y el más citado por Hinton, Amodei o la propia ONU—, es la coordinación internacional. Se requiere un tratado vinculante, un organismo global de auditoría, o —en la comparación que traza el propio Hinton— algo parecido a la cooperación que mantuvieron Estados Unidos y la URSS en plena Guerra Fría para evitar el desastre nuclear, pese a ser adversarios estratégicos en todo lo demás.
El liderazgo de esos esfuerzos, sin embargo, no es ni puede ser tarea de ninguno de los actores en solitario, y ahí radica buena parte del problema. Los jefes de Estado y organismos multilaterales —la ONU, la Comisión Europea, el G7 del Proceso de Hiroshima, el propio foro de Nueva Delhi— aportan la legitimidad y la capacidad de vincular jurídicamente a los Estados. Los científicos que mejor conocen los límites técnicos de estos sistemas —Hinton, Bengio (que ha fundado LawZero, un instituto centrado específicamente en la seguridad de la IA), o los propios equipos internos de seguridad de OpenAI y Anthropic— aportan la evidencia que permite calibrar el riesgo real frente al alarmismo. Los reguladores y juristas —las agencias como AESIA, los tribunales que tendrán que interpretar el AI Act o las eventuales normas del futuro tratado de la ONU— aportan el instrumento capaz de convertir principios en obligaciones exigibles. Y, de forma menos cómoda, las propias empresas que desarrollan la tecnología —OpenAI, Anthropic, Google DeepMind— tendrán que aceptar niveles de supervisión externa que hasta ahora han sido voluntarios y parciales. La paradoja de esta historia es que sean estas últimas, con Altman y Amodei a la cabeza, quienes hoy claman por esa supervisión sobre sí mismas. Que lo hagan no garantiza que el resultado vaya a ser un desarrollo de la IA beneficioso para el conjunto de la humanidad, pero sí confirma que la ventana para regularla con método, y no a golpe de urgencia, puede estarse cerrando ya. Irreversiblemente.
