Europa llega a un acuerdo sobre las primeras normas integrales de IA del mundo

LONDRES, 8 Dic — Los negociadores de la Unión Europea llegaron a un acuerdo el viernes sobre las primeras reglas integrales de inteligencia artificial del mundo, allanando el camino para la supervisión legal de la tecnología utilizada en servicios populares de inteligencia artificial generativa como ChatGPT, que ha prometido transformar la vida cotidiana y ha generado advertencias sobre peligros existenciales. a la humanidad.

Los negociadores del Parlamento Europeo y los 27 países miembros del bloque superaron grandes diferencias sobre puntos controvertidos, incluida la IA generativa y el uso policial de la vigilancia por reconocimiento facial, para firmar un acuerdo político tentativo para la Ley de Inteligencia Artificial.

«¡Trato!» tuiteó el comisario europeo Thierry Breton, poco antes de la medianoche. «La UE se convierte en el primer continente en establecer reglas claras para el uso de la IA».

El resultado se produjo después de maratonianas conversaciones a puerta cerrada esta semana, con una sesión que duró 22 horas antes de que comenzara una segunda ronda el viernes por la mañana.

Europa estaba destinada a liderar el mundo en materia de regulación de la IA. ¿Pero pueden los líderes llegar a un acuerdo?

Los funcionarios proporcionaron pocos detalles sobre qué se incluirá exactamente en la ley final, que no entraría en vigor hasta 2025 como muy pronto. Estaban bajo presión para asegurar una victoria política para la legislación emblemática, pero se esperaba que dejaran la puerta abierta a nuevas conversaciones para resolver la letra pequeña, lo que probablemente generaría más lobby tras bastidores.

La UE tomó una temprana iniciativa en la carrera global para diseñar barreras de seguridad para la IA cuando dio a conocer el primer borrador de su reglamento en 2021. Sin embargo, el reciente auge de la IA generativa hizo que los funcionarios europeos se apresuraran a actualizar una propuesta preparada para servir como modelo. por el mundo.

El Parlamento Europeo aún necesitará votarlo a principios del próximo año, pero una vez cerrado el acuerdo eso es una formalidad, dijo a The Associated Press el viernes por la noche Brando Benifei, un legislador italiano que codirige los esfuerzos de negociación del organismo.

Los sistemas de IA generativa como ChatGPT de OpenAI han irrumpido en la conciencia mundial, deslumbrando a los usuarios con la capacidad de producir textos, fotografías y canciones similares a los humanos, pero generando temores sobre los riesgos que la tecnología en rápido desarrollo representa para los empleos, la privacidad y la protección de los derechos de autor e incluso para la vida humana. sí mismo.

Ahora, Estados Unidos, Reino Unido, China y coaliciones globales como el Grupo de las 7 principales democracias se han sumado con sus propias propuestas para regular la IA, aunque todavía están alcanzando a Europa.

Una regulación sólida y completa de la UE “puede ser un poderoso ejemplo para muchos gobiernos que estén considerando regularla”, dijo Anu Bradford, profesora de la Facultad de Derecho de Columbia y experta en la UE y la regulación digital. Otros países “quizás no copien todas las disposiciones, pero probablemente emulen muchos aspectos de ellas”.

Las empresas de IA que tendrán que obedecer las normas de la UE probablemente también extenderán algunas de esas obligaciones a mercados fuera del continente, afirmó. «Después de todo, no es eficiente volver a entrenar modelos separados para diferentes mercados», afirmó.

A otros les preocupa que el acuerdo haya sido aprobado apresuradamente.

«El acuerdo político de hoy marca el comienzo de un trabajo técnico importante y necesario sobre detalles cruciales de la Ley de IA, que aún faltan», dijo Daniel Friedlaender, jefe de la oficina europea de la Asociación de la Industria de Computación y Comunicaciones, un grupo de lobby de la industria tecnológica.

La Ley de IA se diseñó originalmente para mitigar los peligros de funciones específicas de la IA en función de su nivel de riesgo, desde bajo hasta inaceptable. Pero los legisladores presionaron para expandirlo a los modelos básicos, los sistemas avanzados que sustentan los servicios de inteligencia artificial de propósito general como ChatGPT y el chatbot Bard de Google.

Los modelos de fundaciones parecían destinados a ser uno de los mayores puntos conflictivos para Europa. Sin embargo, los negociadores lograron llegar a un compromiso tentativo al principio de las conversaciones, a pesar de la oposición encabezada por Francia, que pidió en cambio una autorregulación para ayudar a las empresas europeas locales de IA generativa que compiten con grandes rivales estadounidenses, incluido Microsoft, patrocinador de OpenAI.

También conocidos como grandes modelos de lenguaje, estos sistemas se entrenan con grandes cantidades de trabajos escritos e imágenes extraídas de Internet. Dan a los sistemas de IA generativa la capacidad de crear algo nuevo, a diferencia de la IA tradicional, que procesa datos y completa tareas utilizando reglas predeterminadas.

Según el acuerdo, los modelos básicos más avanzados que plantean los mayores “riesgos sistémicos” serán objeto de un escrutinio adicional, incluidos requisitos para revelar más información, como cuánta potencia informática se utilizó para entrenar los sistemas.

Los investigadores han advertido que estos poderosos modelos básicos, construidos por un puñado de grandes empresas tecnológicas, podrían usarse para potenciar la desinformación y manipulación en línea, los ciberataques o la creación de armas biológicas.

Los grupos de derechos humanos también advierten que la falta de transparencia sobre los datos utilizados para entrenar los modelos plantea riesgos para la vida diaria porque actúan como estructuras básicas para los desarrolladores de software que crean servicios basados en IA.

Lo que se convirtió en el tema más espinoso fueron los sistemas de vigilancia de reconocimiento facial impulsados por inteligencia artificial, y los negociadores llegaron a un compromiso después de una intensa negociación.

Los legisladores europeos querían una prohibición total del uso público del escaneo facial y otros sistemas de “identificación biométrica remota” debido a preocupaciones de privacidad, mientras que los gobiernos de los países miembros querían exenciones para que las fuerzas del orden pudieran usarlos para abordar delitos graves como la explotación sexual infantil o los ataques terroristas.

Benifei dice que se llegaron a acuerdos sobre algunas exenciones, pero que todavía tienen controles estrictos. «No esperaba conseguir un trato tan bueno», dijo.