Empresa del ChatGPT suprime su división que analizaba los riesgos de la inteligencia artificial
Nueva York, 18 mayo .- La empresa OpenAI, creadora del ChatGPT, suprimió su departamento enfocado en analizar los riesgos a futuro de la inteligencia artificial apenas un año después de establecerlo, informaron este viernes medios estadounidenses especializados.
Hasta hoy, se preveía destinar a esta división, que recibía el nombre de Superalignment, hasta un 20 % de la “potencia de cálculo” de OpenAI durante cuatro años para, entre otras líneas de investigación, evaluar posibles peligros aparejados a los nuevos escenarios que abre la inteligencia artificial.
Sin embargo, de acuerdo a la prensa de EE.UU., la plantilla de esta sección tendrá que ser reubicada en otras secciones dentro de la compañía.
ChatGPT, creado por OpenAI
La noticia llega días después de que el cofundador de OpenAI, Ilya Sutskever, y el que fuera codirector de Superalignment, Jan Leike, dejarán la empresa -respaldada por Microsoft- diciendo que se debería centrar mucho más en la seguridad, la vigilancia, la preparación y el impacto social que surge de su actividad.
“Construir máquinas más inteligentes que los humanos es un esfuerzo inherentemente peligroso. OpenAI está asumiendo una enorme responsabilidad en nombre de toda la humanidad. Pero en los últimos años, la cultura y los procesos de seguridad han pasado a un segundo plano frente a los productos innovadores”, escribió Leike en X tras su salida.
Salida de Sam Altman
En noviembre, el consejo de OpenAI destituyó al cofundador y consejero , Sam Altman, por una supuesta falta de honestidad que generó gran incertidumbre entre los inversores y empleados de la empresa.
Al cabo de una semana, Altman estaba de vuelta en la empresa y miembros del consejo como el propio Sutskever, que habían votado a favor de la destitución del consejero delegado, estaban fuera.
Sutskever seguía en plantilla, pero ya no como miembro del consejo.
Nuevo módelo
Medios como The Wall Street Journal dieron a conocer entonces de una pugna interna Altman-Sutskever porque este último daba mayor atención al impacto de la IA en los humanos, mientras que el primero estaba enfocado mayormente en seguir haciendo desarrollos para innovar.
OpenAI lanzó esta semana un nuevo modelo de IA (GPT-4) y una versión de escritorio de ChatGPT, junto con una interfaz actualizada, para tratar de conseguir que los usuarios puedan comunicarse por video con su bot conversacional (‘chat bot’, en inglés).
