Zuckerberg distancia a Meta de propuesta para frenar coordinadamente el desarrollo de la inteligencia artificial
El director ejecutivo de Meta, Mark Zuckerberg, afirmó que corresponde a cada compañía de inteligencia artificial garantizar que su tecnología sea segura, con lo que tomó distancia de las propuestas formuladas por empresas rivales para desacelerar coordinadamente el desarrollo de sistemas avanzados de IA.
Las declaraciones de Zuckerberg, publicadas en las redes sociales, se produjeron después de que el director ejecutivo de Anthropic, Dario Amodei, presentara un plan para reforzar la seguridad de la inteligencia artificial.
La propuesta de Amodei recibió rápidamente el respaldo de importantes figuras del sector tecnológico, entre ellas Sam Altman, director ejecutivo de OpenAI, y Elon Musk, responsable de SpaceXAI.
Las advertencias de investigadores sobre las posibles amenazas que la inteligencia artificial podría representar para la humanidad han generado un intenso debate entre los líderes de la industria acerca de la mejor manera de controlar la tecnología antes de que pudiera escapar de la supervisión humana.
Responsabilidad de cada empresa
Zuckerberg sostuvo que las empresas de inteligencia artificial ya tienen suficientes incentivos para desarrollar sus modelos de manera segura.
Agregó que las compañías también enfrentan una “responsabilidad significativa” para impedir que sus sistemas provoquen daños.
“Cada laboratorio tiene la responsabilidad y el incentivo de avanzar al ritmo necesario para entrenar sus modelos de manera segura, así como la capacidad de adoptar sus propias medidas para garantizar que eso ocurra”, escribió Zuckerberg en la red social X.
El fundador de Meta no mencionó directamente a Anthropic ni a ninguna otra compañía en sus comentarios.
Su pronunciamiento fue publicado varios días después de que Amodei expusiera un plan de tres pasos destinado a garantizar la seguridad de la inteligencia artificial.
Entre las medidas sugeridas figura la coordinación entre las empresas y los países para reducir temporalmente la velocidad con la que se desarrollan los sistemas más avanzados.
La iniciativa busca ofrecer tiempo adicional para que las medidas de seguridad, las regulaciones y los sistemas de supervisión puedan ponerse al nivel del acelerado progreso tecnológico.
Meta retrasó lanzamiento de Muse
Zuckerberg puso como ejemplo la decisión de Meta de retrasar durante varios meses el lanzamiento de su agente de inteligencia artificial Muse, con el objetivo de completar evaluaciones relacionadas con su seguridad y protección.
“Nosotros no pedimos que todos los demás hicieran lo mismo antes de hacerlo”, indicó.
Con esa declaración, el empresario defendió la capacidad de cada compañía para ajustar individualmente el ritmo de sus proyectos cuando detecte riesgos, sin necesidad de que exista un acuerdo general que obligue a todo el sector a actuar simultáneamente.
Su posición contrasta con la de Amodei y otros ejecutivos tecnológicos que consideran necesaria una respuesta colectiva ante el peligro de que la competencia comercial conduzca a las empresas a desarrollar sistemas cada vez más poderosos sin suficientes controles.
Debate sobre una inteligencia capaz de mejorarse sola
Zuckerberg también sostuvo que las compañías deberían dar prioridad a la creación de modelos seguros y útiles para las personas, en lugar de concentrar sus esfuerzos en sistemas capaces de perfeccionarse automáticamente.
Esta última capacidad, conocida como “automejora recursiva”, se refiere a la posibilidad de que un sistema de inteligencia artificial modifique y perfeccione sus propias capacidades de manera repetida, acelerando su evolución sin una intervención humana equivalente.
La posibilidad de que esa tecnología avance rápidamente y supere la capacidad humana para controlarla constituye una de las principales preocupaciones expresadas por investigadores y especialistas en seguridad de IA.
Para Zuckerberg, una manera de reducir ese riesgo consiste en destinar la mayor parte de los recursos informáticos a sistemas que atiendan necesidades concretas de las personas.
“Comprometer la gran mayoría de la capacidad computacional a servir a las personas, en lugar de competir hacia la automejora recursiva, es una de las mejores formas de garantizar que desarrollemos esta tecnología de manera segura”, escribió.
La industria tecnológica se divide
La discusión ha provocado divisiones entre los principales ejecutivos de la industria.
Amodei, Altman y Musk han mostrado disposición a respaldar medidas coordinadas que permitan reforzar los controles de seguridad antes de continuar desarrollando sistemas mucho más potentes.
El director ejecutivo de Google DeepMind, Demis Hassabis, también ha apoyado una mayor coordinación en materia de seguridad.
En cambio, Zuckerberg y el director ejecutivo de Nvidia, Jensen Huang, han manifestado reservas sobre una desaceleración regulada y defienden que las compañías pueden gestionar internamente los riesgos de sus tecnologías.
Otros ejecutivos, como el director de Microsoft, Satya Nadella, y Mustafa Suleyman, responsable de inteligencia artificial de esa empresa, respaldan los esfuerzos de seguridad, pero consideran que cualquier acuerdo debe incluir una representación amplia de la industria y no limitarse a las compañías más poderosas.
El debate se produce mientras los sistemas de inteligencia artificial adquieren mayores capacidades, autonomía y presencia en actividades económicas, laborales, científicas y de seguridad.
Aunque existe un acuerdo general sobre la necesidad de desarrollar tecnologías seguras, las compañías todavía mantienen diferencias profundas sobre quién debe establecer los límites, cómo deben aplicarse y si es necesaria una pausa coordinada para reducir los riesgos.