ChatGPT da un vistazo temprano a lo que podría llegar a ser la inteligencia artificial.

Por Germán López

The New York Times

Una IA El generador de imágenes produjo esto cuando se le dio el mensaje “Un supercerebro lingüístico distribuido que toma la forma de una I.A. chatbot.”Kevin Roose, a través de DALL-E

Prueba de concepto

La estrella más nueva de las redes sociales es un robot: un programa llamado ChatGPT que intenta responder preguntas como una persona.

Desde su debut la semana pasada, muchas personas han compartido lo que puede hacer el bot. Los periodistas de la revista New York le dijeron que escribiera lo que resultó ser una historia «bastante decente». Otros usuarios lo consiguieron para escribir un sólido ensayo académico sobre las teorías del nacionalismo, una historia de la trágica pero ficticia Guerra Ohio-Indiana y algunos chistes. Me contó una historia sobre un programa de inteligencia artificial llamado Asistente que se creó originalmente para responder preguntas, pero pronto condujo a un nuevo orden mundial que guió a la humanidad a «una nueva era de paz y prosperidad».

Lo notable de estos ejemplos es su calidad: un humano podría haberlos escrito. Y el bot ni siquiera es el mejor; Según los informes, OpenAI, la compañía detrás de ChatGPT, está trabajando en un mejor modelo que podría lanzarse el próximo año.

“Muchos de los beneficios prometidos de A.I. han estado eternamente a cinco años”, me dijo mi colega Kevin Roose, que cubre tecnología. “ChatGPT fue un momento en el que una tecnología de la que la gente había oído hablar finalmente se volvió real para ellos”.

En el boletín de hoy, explicaré los beneficios potenciales de la inteligencia artificial, pero también por qué a algunos expertos les preocupa que pueda ser peligroso.

Eficiencia avanzada

La ventaja de la inteligencia artificial es que podría realizar tareas de manera más rápida y eficiente que cualquier persona. Las posibilidades dependen de la imaginación: autos que se conducen solos e incluso se reparan solos, cirugías sin riesgos, bots de terapia personalizados instantáneos y más.

La tecnología aún no está allí. Pero ha avanzado en los últimos años a través de lo que se llama aprendizaje automático, en el que los bots analizan los datos para aprender a realizar tareas. En el caso de ChatGPT, leyó mucho. Y, con la orientación de sus creadores, aprendió a escribir de manera coherente o, al menos, a predecir estadísticamente cómo debería ser una buena escritura.

Ya hay beneficios claros para esta tecnología naciente. Puede ayudar a investigar y escribir ensayos y artículos. ChatGPT también puede ayudar a codificar programas, automatizando desafíos que normalmente pueden tomar horas para las personas.

Otro ejemplo proviene de un programa diferente, Consensus. Este bot analiza hasta millones de artículos científicos para encontrar los más relevantes para una búsqueda determinada y compartir sus principales hallazgos. Una tarea que a un periodista como yo le llevaría días o semanas se realiza en un par de minutos.

Estos son los primeros días. ChatGPT aún comete errores, como decirle a un usuario que el único país cuyo nombre comienza y termina con la misma letra es Chad. Pero está evolucionando muy rápidamente. Incluso algunos escépticos creen que la I.A. de uso general. podría alcanzar los niveles humanos de inteligencia en décadas.

Riesgos desconocidos

A pesar de los beneficios potenciales, los expertos están preocupados por lo que podría salir mal con la IA.

Por un lado, tal nivel de automatización podría tomar los trabajos de las personas. Esta preocupación ha surgido antes con la tecnología automatizada. Pero hay una diferencia entre una máquina que puede ayudar a ensamblar piezas de automóviles y un robot que puede pensar mejor que los humanos. Si I.A. alcanza las alturas que algunos investigadores esperan, podrá hacer casi cualquier cosa que la gente pueda hacer, pero mejor.

Algunos expertos apuntan a riesgos existenciales. Una encuesta preguntó a los investigadores de aprendizaje automático sobre los efectos potenciales de la IA. Casi la mitad dijo que había un 10 por ciento o más de posibilidades de que el resultado fuera «extremadamente malo (por ejemplo, la extinción humana)». Estas son personas que dicen que el trabajo de su vida podría destruir a la humanidad.

Eso podría sonar a ciencia ficción. Pero el riesgo es real, advierten los expertos. “Podríamos fallar en entrenar A.I. sistemas para hacer lo que queremos”, dijo Ajeya Cotra, un A.I. analista de investigación en Open Philanthropy. «Podríamos entrenarlos accidentalmente para perseguir fines que están en conflicto con los humanos».

Tome un ejemplo hipotético, de Kelsey Piper en Vox: se le pide a un programa que estime un número. Se da cuenta de que la mejor manera de hacer esto es utilizar más potencia informática mundial. Luego, el programa se da cuenta de que los seres humanos ya están utilizando ese poder de cómputo. Entonces destruye a todos los humanos para poder estimar su número sin obstáculos.

Si eso suena inverosímil, considere que los bots actuales ya se comportan de formas que sus creadores no pretendían. Los usuarios de ChatGPT han ideado soluciones para que diga cosas racistas y sexistas, a pesar de los esfuerzos de OpenAI para evitar tales respuestas.

El problema, como A.I. Los investigadores reconocen, es que nadie entiende completamente cómo funciona esta tecnología, lo que dificulta el control de todos los posibles comportamientos y riesgos. Sin embargo, ya está disponible para uso público.