Trump rebautiza la IA como “superinteligencia” mientras líderes tecnológicos advierten en la ONU sobre riesgos para la humanidad
NUEVA YORK, 23 sept.– La inteligencia artificial ocupó un lugar central esta semana en las discusiones de Naciones Unidas, donde se produjeron dos acontecimientos que reflejan las diferencias sobre cómo abordar una tecnología que avanza rápidamente: el gobierno del presidente Donald Trump comenzó a utilizar oficialmente el término “superinteligencia”, mientras ejecutivos de algunas de las principales empresas del sector reclamaron salvaguardas internacionales para evitar que sistemas cada vez más poderosos escapen al control humano.
El Departamento de Estado ordenó a los diplomáticos de su Oficina de Asuntos de Organizaciones Internacionales sustituir en sus comunicaciones la expresión “inteligencia artificial” por “superinteligencia”, siguiendo una iniciativa anunciada por Trump durante su discurso del martes ante la Asamblea General de las Naciones Unidas.
La instrucción fue comunicada a los empleados poco después de la intervención presidencial por Michael Drager, subsecretario adjunto de Estado de esa oficina, responsable de las misiones diplomáticas estadounidenses ante Naciones Unidas y otros organismos multilaterales.
El mensaje, obtenido por The Associated Press, estableció que en adelante la oficina utilizará las siglas “SI”, correspondientes en inglés a “Super Intelligence”, en intervenciones, posiciones oficiales y materiales destinados a la prensa.
Hasta el miércoles no estaba claro si la instrucción había sido extendida a otras dependencias del Departamento de Estado o a otras agencias federales.
Trump considera inadecuado el término “artificial”
La decisión surgió directamente del discurso de Trump ante la Asamblea General.
El presidente estadounidense planteó que el término “artificial” ofrece una imagen equivocada de una tecnología que considera extraordinaria y anunció que los documentos gubernamentales comenzarían a utilizar “superinteligencia”.
La decisión podría obligar incluso a modificar el nombre de la denominada “AI Force”, iniciativa anunciada por Trump durante el fin de semana, que eventualmente pasaría a utilizar las nuevas siglas promovidas por su administración.
La instrucción comenzó a hacerse visible apenas un día después.
Representantes estadounidenses utilizaron el miércoles la expresión “SI” durante una reunión del Consejo de Seguridad de las Naciones Unidas dedicada precisamente a analizar los riesgos, oportunidades y mecanismos de control de la inteligencia artificial.
Fue en ese escenario donde surgió un marcado contraste: mientras Washington promovía el cambio de terminología y advertía contra nuevas estructuras internacionales que puedan limitar el desarrollo tecnológico, los ejecutivos de empresas responsables de algunos de los sistemas más avanzados reclamaban medidas para contener sus potenciales peligros.
Altman y Amodei advierten sobre los riesgos
Los máximos responsables de importantes compañías tecnológicas pidieron al Consejo de Seguridad establecer salvaguardas para evitar que el rápido desarrollo de la inteligencia artificial termine generando consecuencias que la humanidad no pueda controlar.
Entre los participantes estuvieron Sam Altman, director ejecutivo de OpenAI, y Dario Amodei, director ejecutivo de Anthropic.
Amodei advirtió que una inteligencia artificial gestionada inadecuadamente podría llegar a representar un riesgo para el conjunto de la humanidad.
Altman planteó igualmente el peligro de que los seres humanos pierdan capacidad para controlar el futuro frente a sistemas tecnológicos cada vez más avanzados.
Ambos coincidieron en que los países deberían establecer algún tipo de salvaguarda antes de que la tecnología alcance niveles de capacidad que dificulten considerablemente su control.
Al mismo tiempo, los ejecutivos señalaron que la inteligencia artificial ofrece enormes posibilidades para mejorar la vida de las personas y ampliar las capacidades humanas.
También consideraron importante impedir que el control de una tecnología tan poderosa termine concentrándose exclusivamente en una empresa o en un solo país.
Reino Unido llevará el debate al G20
El secretario británico de Relaciones Exteriores, Ed Miliband, sostuvo durante la sesión que las advertencias de los propios dirigentes tecnológicos demuestran que la responsabilidad de evitar posibles consecuencias catastróficas no puede quedar únicamente en manos de las compañías que desarrollan estos sistemas.
Miliband anunció que cuando Reino Unido presida el G20 el próximo año, el establecimiento de mecanismos de seguridad para la inteligencia artificial estará entre las prioridades de la agenda.
Londres pretende promover un conjunto de estándares internacionales destinados a garantizar que el desarrollo de estos sistemas se produzca bajo condiciones consideradas seguras.
La posición británica encontró, sin embargo, resistencia inmediata de Estados Unidos.
Estados Unidos rechaza una nueva estructura mundial de control
El asesor científico de la Casa Blanca, Michael Kratsios, reconoció las preocupaciones relacionadas con el control de la inteligencia artificial, pero sostuvo que esos riesgos no justifican detener su desarrollo ni crear una nueva estructura mundial de gobernanza que pueda restringir la innovación.
Estados Unidos considera que sus aliados y socios deben beneficiarse de los avances tecnológicos y ha mostrado reservas frente a propuestas que puedan imponer controles internacionales demasiado amplios.
La posición estadounidense refleja además la creciente competencia tecnológica con China, particularmente en inteligencia artificial, semiconductores y capacidad de procesamiento.
China advierte contra una división tecnológica mundial
El embajador chino ante Naciones Unidas, Fu Cong, defendió el derecho de todos los países a seleccionar las tecnologías de inteligencia artificial que consideren apropiadas.
El diplomático advirtió contra la creación de bloques tecnológicos enfrentados que obliguen a otras naciones a escoger entre diferentes potencias.
Fu cuestionó lo que describió como intentos de algunas grandes potencias por ejercer una especie de hegemonía digital y defendió, en cambio, el desarrollo y utilización de modelos de código abierto, una estrategia que China ha promovido dentro de la competencia mundial por la inteligencia artificial.
Las diferencias entre Washington y Beijing evidencian que el debate sobre regulación no se limita a cuestiones de seguridad, sino que está estrechamente vinculado con la competencia económica y geopolítica.
¿Quién decidirá entre una máquina y un ser humano?
Una de las cuestiones fundamentales planteadas durante la reunión fue hasta dónde debe permitirse que los sistemas de inteligencia artificial intervengan en decisiones relacionadas con la vida y la muerte.
Además de Altman y Amodei, participó de manera remota Clément Delangue, director ejecutivo de Hugging Face.
Los ejecutivos y representantes gubernamentales debatieron no solamente si la inteligencia artificial debe ser controlada, sino quién debería establecer esos controles, qué mecanismos serían técnicamente posibles y en qué momento podría resultar demasiado tarde para imponerlos.
La discusión adquirió especial relevancia por la creciente incorporación de sistemas autónomos y herramientas de inteligencia artificial al ámbito militar.
Un día antes, el secretario general de Naciones Unidas, António Guterres, había advertido sobre el riesgo de los llamados “robots asesinos”, expresión utilizada para referirse a sistemas de armas capaces de realizar determinadas funciones sin intervención humana directa.
Expertos y dirigentes europeos sostienen que la posibilidad de sistemas autónomos de combate no pertenece únicamente al terreno de la ciencia ficción y que algunas capacidades se encuentran ya disponibles o próximas a desarrollarse.
Amodei pide impedir el uso de IA para armas biológicas
Amodei planteó medidas específicas que considera necesarias para reducir los peligros.
Entre ellas figura un acuerdo internacional para impedir que sistemas avanzados de inteligencia artificial sean utilizados para desarrollar armas biológicas.
También reclamó métodos que permitan verificar las capacidades reales de los modelos y establecer estándares comunes para evaluar los riesgos relacionados con pérdida de control y utilización maliciosa.
El planteamiento supone que los gobiernos necesitarían mecanismos técnicos capaces de determinar qué pueden hacer realmente los modelos más avanzados, incluso antes de que sean ampliamente utilizados.
Francia compara el momento con el inicio de la era atómica
El ministro francés de Relaciones Exteriores, Jean-Noël Barrot, cuyo país convocó la reunión del Consejo de Seguridad, comparó la situación actual de la inteligencia artificial con dos referencias históricas y culturales: la computadora HAL 9000 de la película 2001: Odisea del espacio y los comienzos de la era nuclear.
Barrot sostuvo que la comunidad internacional necesita regular la inteligencia artificial de una manera que permita aprovechar sus beneficios y, simultáneamente, reducir sus mayores peligros.
La preocupación fue compartida por representantes de otros países.
El embajador de Liberia ante Naciones Unidas, Lewis G. Brown II, advirtió que retrasar las decisiones necesarias actualmente podría aumentar considerablemente los costos en el futuro.
Zelenskyy advierte sobre decisiones autónomas en el campo de batalla
El presidente ucraniano, Volodymyr Zelenskyy, incorporó también el asunto durante su discurso ante la Asamblea General.
Zelenskyy advirtió que existe una posibilidad real de que los sistemas de inteligencia artificial comiencen a intervenir cada vez más directamente en decisiones adoptadas en los campos de batalla.
Su advertencia adquiere especial significado debido a la guerra entre Rusia y Ucrania, donde drones, sistemas automatizados y otras tecnologías se han convertido en componentes fundamentales de las operaciones militares.
El mandatario ucraniano sostuvo que debe preservarse algún nivel de control humano sobre las máquinas antes de que los avances tecnológicos dificulten hacerlo.
Un debate mundial que apenas comienza
Las discusiones de Nueva York dejaron expuestas dos dimensiones diferentes de la transformación tecnológica.
Por un lado, la administración Trump pretende modificar incluso el lenguaje utilizado para describirla, reemplazando “inteligencia artificial” por “superinteligencia” en determinadas comunicaciones oficiales estadounidenses.
Por otro, los responsables de algunas de las compañías que lideran el desarrollo de estos sistemas advierten que sus capacidades pueden crecer hasta niveles que exijan acuerdos internacionales, pruebas de seguridad y mecanismos destinados a preservar el control humano.
La disputa sobre el nombre resulta así secundaria frente al debate más amplio que se desarrolla en Naciones Unidas: quién establecerá las reglas de la inteligencia artificial, qué límites deberían imponerse, cómo evitar su concentración en unas pocas manos y hasta dónde deben permitirse sistemas autónomos capaces de intervenir en decisiones militares o potencialmente letales.
Mientras Reino Unido y Francia impulsan estándares internacionales y China reclama evitar bloques tecnológicos, Estados Unidos mantiene reservas frente a una nueva estructura mundial de gobernanza.
Las posiciones enfrentadas anticipan que alcanzar reglas comunes será complejo, especialmente cuando la inteligencia artificial se ha convertido simultáneamente en una herramienta económica, científica y militar y en uno de los principales escenarios de competencia estratégica entre las grandes potencias.
Fuente: The Associated Press (AP)