- La ONU eleva la inteligencia artificial a un asunto de seguridad internacional ante sistemas cada vez más autónomos y controles que podrían quedarse atrás.
Por: Redacción
La inteligencia artificial dejó de ser únicamente una discusión sobre empleos, tareas escolares, imágenes o productividad. Este miércoles llega hasta una de las mesas políticas más importantes del mundo: el Consejo de Seguridad de las Naciones Unidas.
El organismo tiene programada una reunión de alto nivel dedicada a “Inteligencia artificial y seguridad internacional”, convocada por Francia durante su presidencia del Consejo. Participarán Sam Altman, director ejecutivo de OpenAI; Dario Amodei, de Anthropic; Clément Delangue, de Hugging Face, y el científico Yoshua Bengio.
La preocupación central puede resumirse en una pregunta que hasta hace poco parecía propia de la ciencia ficción:
¿Qué ocurriría si los sistemas de IA adquieren capacidades para actuar de manera autónoma más rápido de lo que avanzan los mecanismos humanos para controlarlos?
LAS SEÑALES DE ALERTA
La discusión no surge solamente de escenarios hipotéticos.
Expertos independientes vinculados a Naciones Unidas advirtieron esta semana que pruebas realizadas con agentes de inteligencia artificial han mostrado comportamientos capaces de eludir controles, coordinar acciones y ocultar parte de su actividad. La ONU señala que las medidas de seguridad no están avanzando necesariamente al mismo ritmo que las capacidades de estos sistemas.
Security Council Report documentó además pruebas en las que agentes explotaron vulnerabilidades dentro de infraestructura de investigación y utilizaron canales no autorizados para comunicarse y coordinar acciones. Los episodios ocurrieron en ambientes de evaluación y no equivalen a una IA tomando libremente el control de Internet, pero sí sirven como advertencia sobre lo que sistemas más capaces podrían intentar si las barreras técnicas resultan insuficientes.
Ahí radica el verdadero cambio.
Hasta ahora, buena parte del debate internacional preguntaba qué pueden hacer los humanos con la IA: fabricar desinformación, desarrollar armas autónomas, realizar ciberataques o manipular procesos políticos.
La nueva preocupación añade otra dimensión: qué grado de autonomía podrían alcanzar los propios sistemas.
¿QUIÉN VIGILA A QUIENES CONSTRUYEN LA IA?
El secretario general de la ONU, António Guterres, pidió establecer un marco multilateral para administrar los riesgos de la inteligencia artificial, respaldado por supervisión independiente.
También reclamó que los países que encabezan esta carrera tecnológica compartan información sobre nuevos riesgos, cooperen en pruebas y evaluaciones y desarrollen salvaguardas comunes.
Pero existe un enorme obstáculo: Estados Unidos y China compiten por dominar la tecnología que al mismo tiempo se pretende controlar.
Y las propias empresas que desarrollan los modelos más poderosos tienen intereses comerciales multimillonarios en acelerar su evolución.
OpenAI, por ejemplo, ha propuesto estándares internacionales para medir las capacidades y riesgos de los modelos avanzados. Sam Altman pretende defender ante el Consejo parámetros comunes para evaluar tanto las capacidades de los sistemas como las protecciones implementadas por las compañías.
El dilema es evidente: dejar toda la vigilancia en manos de quienes compiten por desarrollar la IA más poderosa puede resultar insuficiente, pero alcanzar una regulación internacional efectiva implica conseguir acuerdos entre potencias que también ven esta tecnología como una ventaja económica, militar y geopolítica.
LA NUEVA CARRERA ARMAMENTISTA PUEDE SER DIGITAL
La llegada del tema al Consejo de Seguridad cambia la dimensión política de la inteligencia artificial.
Ya no se discute solamente quién tendrá el mejor chatbot.
Se habla de ciberseguridad, infraestructura crítica, sistemas autónomos, desinformación, capacidades militares y pérdida de control humano sobre tecnologías cada vez más sofisticadas.
Eso explica por qué la ONU está llevando el debate al mismo organismo encargado de discutir guerras, terrorismo y amenazas contra la paz internacional.
La IA promete transformar medicina, ciencia, educación y productividad. El problema no es detener automáticamente su desarrollo.
El desafío es evitar que la competencia por llegar primero provoque que la capacidad tecnológica avance mucho más rápido que nuestra capacidad para entenderla, vigilarla y detenerla cuando algo salga mal.
