Cd. de México (Reforma).- Comunicarse con una inteligencia artificial que responde como si fuera otra persona y pareciera saberlo todo ya es posible con el ChatGPT, el modelo de lenguaje entrenado más avanzado hasta ahora, creado por OpenAI.
“Este modelo utiliza una tecnología avanzada llamada ‘deep learning’ (aprendizaje profundo) para procesar el lenguaje natural y producir respuestas apropiadas a las preguntas que se le hacen.
“ChatGPT ha sido entrenado con un gran conjunto de datos, que incluye millones de ejemplos de conversaciones y texto. Esto le permite comprender el contexto y la intención detrás de las preguntas y producir respuestas razonables, de manera similar a como lo haría un ser humano”, explica el programa en una conversación a través de su web gratuita, abierta el 30 de noviembre.
En ella se puede chatear con el modelo y recibir respuestas coherentes según instrucciones dadas, como “explícalo para que alguien de 6 años lo entienda”.
También sigue convenciones sociales, como saludar, agradecer y disculparse.
Así, el Chat GPT logró en cinco días lo que Instagram en tres meses (y ahora alcanzaría en mes y medio, por el aumento de quienes usan internet): sumar un millón de personas usuarias.
Al ser cuestionado por sus posibles aplicaciones, indica que podría ser utilizado para mejorar la capacidad de bots de mensajería, como los de atención a clientes, al responder preguntas de modo más preciso y natural, o ayudar a escribir mensajes más largos y complejos en aplicaciones.
Miles de personas en redes sociales exhiben muchas más: es capaz de encontrar errores en códigos de programación, hacer uno y guiar a la persona en el proceso de aplicarlo, crear un cuento o poema, escribir una canción con acordes y tablaturas, sugerir ideas para videojuegos y convertirse en uno de trivia o para jugar “gato”, proponer un mensaje adecuado a los intereses de un “match” hecho en una aplicación de citas, explicarle a una hija que es adoptada de modo amoroso, elaborar un breve ensayo académico.
Pese a esta capacidad y ofrecer sus respuestas en pocos segundos, esta herramienta no garantiza certeza.
“ChatGPT a veces escribe respuestas que suenan plausibles pero incorrectas o sin sentido. Resolver este problema es un desafío, ya que durante el entrenamiento de RL (aprendizaje por refuerzo, por sus siglas en inglés), actualmente no hay una fuente de verdad”, advierte en su página OpenAI, fundada en 2015 por Sam Altman, su actual CEO, y Elon Musk, quien ya no es parte de la organización.
Entonces, uno de sus principales riesgos es que sea usado para crear textos falsos, incluso a modo de noticias o imitando el estilo discursivo de un personaje trascendente.
Para prevenir el uso indebido del Chat GPT, sus creadores lo entrenan también para no escribir contenidos con discursos de odio, fines fraudulentos o contenido sexual explícito.
“Si bien nos hemos esforzado para que el modelo rechace solicitudes inapropiadas, a veces responderá a instrucciones dañinas o exhibirá un comportamiento sesgado”, reconoce la organización de investigación de inteligencia artificial, que actualmente usa una aplicación de moderación para detectar o bloquear los tipos de contenidos que considera inseguros.
Para afinar sus filtros de seguridad actuales y mejorar el modelo es que el ChatGPT fue abierto al público, pues se retroalimenta con cada conversación, que cuesta menos de 9 centavos de dólar a la organización.
¿Cómo lo entrenaron?
OpenAI entrenó al ChatGPT mediante un proceso llamado aprendizaje por refuerzo, en el que el modelo fue alimentado con 175 mil millones de entradas (textos, conversaciones disponibles públicamente en páginas web y redes sociales, libros, noticias y otros tipos de contenido).
Después, “etiquetadores” humanos le escribían una pregunta y lo recompensaban con una calificación numérica según la coherencia y relevancia del texto o el uso correcto del vocabulario y la gramática. Entre mejor era calificado un texto, el modelo lo usaba de referencia para generar los siguientes.
Las limitaciones del ChatGPT
Además de escribir respuestas que suenan plausibles, pero son incorrectas o sin sentido, estos son los límites del modelo que reconoce OpenAI:
-Solo cuenta con información actualizada hasta 2021
-Entrenarlo para que sea más cauteloso hace que rechace preguntas que puede responder correctamente
-El entrenamiento lo engaña, pues la respuesta ideal depende de lo que el modelo conoce, en vez de lo que sabe quien lo programa
-Es sensible a los cambios de redacción: podría indicar que ignora una respuesta, pero darla correctamente si se reformula levemente
-A menudo es muy detallado y usa en exceso ciertas frases
Leave a Reply