La advertencia de António Guterres sobre la inteligencia artificial no resulta sorprendente, pero sí marca un cambio en el tono del discurso. La ONU ya no presenta la IA como una tecnología prometedora que se debe acompañar de principios éticos; ahora la describe como una infraestructura capaz de transformar economías, empleos, procesos electorales, seguridad y la distribución del poder. Y lo hace con una urgencia muy clara: la IA evoluciona más rápido que las normativas que deberían regularla.
El secretario general de Naciones Unidas inauguró el Primer Diálogo Global sobre Gobernanza de la IA con una frase que define bien el momento: la inteligencia artificial avanza a una velocidad desenfrenada. Guterres advierte que su despliegue es más rápido de lo que pueden seguir incluso quienes la crean, por lo que reclama reglas globales, salvaguardas y una cooperación internacional efectiva.
Este evento, celebrado en Ginebra los días 6 y 7 de julio de 2026, surge con un objetivo ambicioso: establecer las bases para una discusión internacional sobre IA que no esté monopolizada únicamente por las grandes empresas tecnológicas ni por los países con mayor capacidad de computación. La propia ONU prevé una segunda sesión en Nueva York en mayo de 2027, lo que indica que aún estamos en las etapas iniciales y que no se alcanzará un tratado vinculante en el corto plazo.
El problema ya no es solo técnico
Durante años, gran parte del debate sobre la IA se centró en aspectos técnicos como sesgos, privacidad, derechos de autor, empleo y automatización. Todos estos temas siguen siendo relevantes, pero la conversación ha evolucionado hacia algo más profundo: ¿quién controla los sistemas capaces de razonar, generar código, crear contenido, operar herramientas y actuar con cierto grado de autonomía?
El informe preliminar del Panel Científico Internacional Independiente sobre IA, formado por expertos de diversas regiones, advierte que las salvaguardas actuales no son suficientes para seguir el ritmo del crecimiento de las capacidades de estos sistemas. La ONU presenta esto como la primera evaluación científica mundial e independiente sobre las oportunidades, riesgos e impactos de la inteligencia artificial.
La inquietud técnica se vuelve más clara al observar cómo han evolucionado los modelos. En poco tiempo, han pasado de responder preguntas a escribir software, analizar vastos documentos, crear vídeos, navegar por interfaces, conectarse a APIs y convertirse en agentes que llevan a cabo tareas encadenadas. El riesgo no se limita a respuestas erróneas de chatbots, sino a sistemas que puedan tomar decisiones, manipular información o actuar en procesos críticos de forma autónoma.
Reuters resumió la advertencia del panel de la ONU en varios frentes: desinformación, ciberataques, amenazas biológicas, comportamientos engañosos, pérdida de control humano y sistemas agentes capaces de ejecutar tareas complejas con cada vez más autonomía. Aunque la probabilidad y el horizonte temporal de estos riesgos varían, todos comparten una característica común: se escalan rápidamente cuando los modelos se conectan a herramientas reales.
Los niños, el límite que nadie quiere discutir pronto
Guterres ha puesto un énfasis especial en la protección de menores. La ONU propone que las empresas demuestren la seguridad de sus productos antes de lanzarlos, que exista una política de tolerancia cero frente al abuso sexual infantil facilitado o generado por IA, y que se estudien límites de edad o controles similares a los ya existentes en otros productos peligrosos o sensibles.
Este tema será uno de los menos controvertidos desde el plano político. Un sistema capaz de generar imágenes, simular vínculos emocionales, recomendar contenidos o mantener conversaciones prolongadas con menores requiere reglas claras. No basta con incluir advertencias en los términos de uso, ni con delegar toda la responsabilidad en las familias.
Desde la perspectiva tecnológica, la verdadera pregunta reside en la implementación: ¿cómo verificar la edad sin comprometer la privacidad? ¿Cómo auditar un modelo que cambia de comportamiento con cada actualización? ¿Qué hacer con modelos abiertos o desplegados fuera de las plataformas principales? ¿Cómo impedir la generación de contenido ilegal cuando existen pesos descargables, modelos ajustados y servicios alojados en distintas jurisdicciones?
La protección infantil es una prioridad legítima, pero también será una prueba para toda la estructura regulatoria. Si la solución termina siendo solo mayor verificación de identidad, más concentrada en las grandes plataformas y con mayores restricciones para proyectos pequeños, esto podría reforzar a los actores ya dominantes del mercado.
Regular también es asegurarse de mantener el control
Existe una dimensión menos cómoda en este debate. La ONU, los gobiernos y los reguladores no solo temen los riesgos de la IA, sino que también están intentando entender qué papel les quedará si la infraestructura cognitiva del futuro está en manos de unas pocas compañías, algunos países y una comunidad open source cada vez más capaz.
La concentración de recursos de cómputo explica esto claramente. Guterres señaló que EE.UU. concentra aproximadamente el 75 % de la supercomputación avanzada para IA, frente a un 15 % en China. Esta diferencia aleja al resto del mundo en la capacidad de entrenar, desplegar y gobernar modelos propios.
Por ello, la gobernanza de la IA no es solo una cuestión de seguridad, sino también de soberanía. Un país que depende de modelos, nubes, chips y plataformas externas puede usar IA, pero tendrá menos capacidad para adaptarla a su idioma, sus leyes, sus servicios públicos o sus necesidades industriales.
Existe una incómoda intuición: quienes actualmente detentan el poder se preocupan por la IA porque no tienen claro cuál será su papel en el futuro. No lo hacen necesariamente por impedir el avance, sino porque la IA puede reorganizar el poder antes de que las instituciones puedan gobernarla adecuadamente.
La historia se repite. Con otras tecnologías de propósito general, como Internet, que se desplegaron antes de que muchos gobiernos entendieran su impacto en información, comercio y privacidad. Las redes sociales primero fueron plataformas de comunicación y solo después infraestructuras de influencia política. Con la IA, el margen de reacción puede ser menor, dada su capacidad de automatización y su potencial de transformación rápida.
El peligro de una regulación que favorezca a las grandes
La ONU pide reglas globales, pero regular la IA no será tan sencillo como emitir un listado de prohibiciones. Los sistemas son diversos, sus usos muy variados y sus arquitecturas cambian con rapidez. No es lo mismo un modelo cerrado usado en un banco, que un modelo local para atención interna, educación, programación o aplicaciones militares.
El principal riesgo es que la regulación termine creando barreras de entrada. Evaluaciones, auditorías, red teaming, documentación, trazabilidad, controles de edad, gestión de incidentes y reportes regulatorios, aunque necesarios en sistemas de alto impacto, implican costes considerables. Las grandes plataformas pueden soportar estos costes, pero startups, laboratorios y proyectos open source tendrán mayores dificultades.
Si la regulación se diseña mal, podría favorecer aún más la concentración del mercado en manos de unos pocos actores, reforzando el poder de los ya dominantes y dejando afuera a otros innovadores.
En definitiva, no se trata de dejar todo sin regulación. Es ingenuo pensar que una tecnología capaz de generar desinformación, automatizar ataques o tomar decisiones sensibles puede crecer sin límites. La clave está en regular en función del riesgo, exigir más en áreas de mayor impacto, proteger a menores y ciudadanos, pero sin convertir cada experimento en una traba burocrática infinita.
La IA no va a esperar
La ONU acierta al intentar abrir un espacio de diálogo global. Ningún país puede resolver por sí solo los riesgos que plantea una tecnología que cruza fronteras por diseño. También acierta en recordar que la gobernanza debe incluir a países sin capacidades propias de entrenamiento o infraestructura, para evitar que la IA se convierta en otra capa de dependencia tecnológica.
Pero hay una realidad ineludible: la IA no esperará a que el sistema multilateral logre consenso. Los modelos abiertos continúan avanzando, los agentes ya se integran en flujos reales, las empresas buscan automatizar más procesos y la presión geopolítica impulsa a EE.UU., China, Europa y otros bloques a actuar con rapidez.
Las normativas pueden reducir daños, exigir responsabilidades y establecer límites. Pero no podrán frenar el cambio. La IA ya está transformando el software, la educación, la producción de contenidos, la ciberseguridad, la investigación científica y la organización del trabajo en las empresas.
Por eso, la verdadera cuestión no es tanto si se regula o no, sino quién regula, con qué legitimidad, con qué capacidad técnica y quién se beneficia del resultado. La ONU busca prevenir que la IA se descontrole. Los gobiernos quieren participar en esa regulación. Las empresas pretenden seguir desarrollando sus tecnologías. Y los usuarios ya están usando estas herramientas mucho antes de que una regulación llegue a tiempo.
La tecnología avanza rápidamente, mientras que la política intenta recuperar el control. La clave será si esto se logra sin frenar demasiado el ritmo del progreso.
Preguntas frecuentes
¿Qué dijo António Guterres sobre la IA?
Advirtió que la inteligencia artificial progresa más rápido que las normativas existentes y pidió reglas globales para gestionar riesgos, proteger a menores y evitar una concentración excesiva de poder tecnológico.
¿Qué es el Diálogo Global sobre Gobernanza de la IA?
Es una iniciativa de Naciones Unidas que busca reunir a gobiernos, empresas, academia y sociedad civil para discutir la gobernanza internacional de la inteligencia artificial. La primera sesión se realizó en Ginebra en julio de 2026.
¿Por qué preocupa la IA a la ONU?
Por su potencial impacto en empleo, procesos electorales, desinformación, ciberseguridad, derechos de los menores, derechos humanos, seguridad internacional y desigualdad entre países con diferentes capacidades de computación.
¿Regular la IA puede beneficiar a las grandes empresas tecnológicas?
Sí, si las obligaciones son demasiado pesadas o uniformes. Las grandes compañías tienen mayor capacidad para absorber los costes de cumplimiento, mientras que startups, laboratorios y proyectos open source podrían verse en desventaja.