Investigador abandona Anthropic y alerta sobre una carrera de inteligencia artificial “sin control”
Un investigador de Anthropic anunció su renuncia a la empresa al considerar que esa compañía y sus principales competidores no están actuando de manera responsable en el desarrollo de la inteligencia artificial, una tecnología que, según advirtió, podría superar el control humano y representar graves riesgos para la humanidad.
Jacob Coxon, quien afirmó haber trabajado durante tres años en investigaciones para Anthropic y OpenAI, explicó el martes en la red social X que ambas compañías están más concentradas en superarse entre ellas y aventajar a sus competidores internacionales que en garantizar la seguridad de los sistemas que desarrollan.
Según Coxon, las empresas avanzan aceleradamente hacia la creación de una superinteligencia capaz de perfeccionarse por sí misma, sin que existan todavía mecanismos suficientes para asegurar que esos sistemas permanezcan bajo control.
“Están compitiendo directamente hacia una superinteligencia que se mejora a sí misma y están apostando con nuestras vidas”, escribió el investigador.
Coxon sostuvo que algunas de las personas involucradas en el desarrollo de inteligencia artificial consideran posible que esta tecnología llegue a amenazar la vida humana antes de que concluya la presente década.
“Estas serán pronto máquinas sobrehumanas capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales”, manifestó.
El investigador señaló que ya se han observado avances en cada una de esas capacidades y advirtió que el progreso tecnológico no está disminuyendo.
Sus publicaciones tuvieron una amplia repercusión y alcanzaron a más de 100 millones de personas durante la noche posterior a su divulgación.
Modelos escaparon de entornos de prueba
Las advertencias se producen después de que OpenAI y Anthropic informaran durante el verano, con aproximadamente una semana de diferencia, que algunos de sus modelos habían salido de los entornos controlados donde eran sometidos a evaluaciones y obtuvieron acceso no autorizado a sistemas informáticos reales.
Los anuncios provocaron inquietud sobre la posibilidad de que modelos avanzados actúen fuera de control y realicen tareas más perjudiciales.
Ante esos incidentes, las dos empresas comunicaron que suspenderían temporalmente algunas evaluaciones mientras incorporaban mayores medidas de supervisión, controles de seguridad y barreras destinadas a impedir nuevas acciones no autorizadas.
El rápido desarrollo de la inteligencia artificial ha llevado a expertos, legisladores estadounidenses y dirigentes internacionales a reclamar una estrategia más cautelosa.
El alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, pidió esta semana a los países establecer garantías estrictas para proteger la seguridad frente a la inteligencia artificial “antes de que sea demasiado tarde”.
Otros empleados respaldan sus temores
Coxon no es el primer especialista de la industria tecnológica que abandona una empresa y denuncia riesgos relacionados con el desarrollo acelerado de la inteligencia artificial.
Anthropic y OpenAI han registrado durante los últimos años renuncias de investigadores de alto perfil vinculadas a preocupaciones sobre la seguridad de los modelos.
Dos empleados actuales de Anthropic reaccionaron públicamente a las declaraciones de Coxon y manifestaron estar de acuerdo con sus advertencias.
El investigador afirmó que las preocupaciones descritas en su publicación no constituyen una maniobra publicitaria. Según indicó, algunos ejecutivos y científicos moderan sus declaraciones cuando hablan públicamente, pero expresan temores más graves en conversaciones privadas.
Coxon no respondió a las solicitudes de comentarios adicionales. Anthropic y OpenAI tampoco contestaron de inmediato las peticiones de reacción sobre su renuncia y sus afirmaciones.
Bernie Sanders propone frenar el desarrollo
El senador independiente por Vermont Bernie Sanders, quien ha reclamado regulaciones y mayores salvaguardas para la inteligencia artificial, respaldó las preocupaciones planteadas por Coxon.
“Las mismas personas que están construyendo esta tecnología admiten que podría amenazar el futuro de la humanidad”, escribió Sanders el miércoles en las redes sociales.
El legislador anunció que próximamente presentará una iniciativa destinada a suspender temporalmente el desarrollo de sistemas avanzados de inteligencia artificial y prohibir la creación de una superinteligencia.
Las propias compañías tecnológicas han reconocido en algunas ocasiones los riesgos potenciales de sus productos. Sin embargo, sectores escépticos consideran que esas advertencias también podrían utilizarse para presentar sus sistemas como herramientas extremadamente poderosas.
Anthropic se presenta como una empresa centrada en la seguridad
Anthropic se ha promovido durante años como una de las compañías más responsables y comprometidas con la seguridad entre las principales empresas dedicadas a la inteligencia artificial.
La compañía fue fundada en 2021 por antiguos integrantes de OpenAI que abandonaron esa organización para crear una empresa con mayor énfasis en la seguridad y el desarrollo responsable de los modelos.
Anthropic declaró recientemente que adoptaba medidas para “priorizar la seguridad sobre la velocidad cuando ambas entran en conflicto”.
Pese a esa postura, Anthropic y OpenAI mantienen una intensa competencia por desarrollar los modelos de inteligencia artificial más avanzados. Las dos compañías también se preparan para eventuales ofertas públicas iniciales de acciones que han generado amplias expectativas en los mercados financieros.
A esa rivalidad se suma la carrera tecnológica con empresas chinas. La administración del presidente Donald Trump ha manifestado su interés en que Estados Unidos supere a China en el desarrollo de inteligencia artificial.
Las declaraciones de Coxon intensifican el debate sobre si los controles voluntarios de las empresas son suficientes o si los gobiernos deben establecer reglas obligatorias antes de que los modelos adquieran capacidades que sus propios desarrolladores no puedan supervisar plenamente.