Los chatbots de IA como ChatGPT han llamado la atención en todo el mundo gracias a su capacidad similar a la humana para discutir cualquier tema. Sin embargo, el informe de Benj Edwards para Ars Technica, publicado el jueves (6 de abril), destaca una desventaja importante: estos chatbots pueden difundir inadvertidamente información falsa pero persuasiva, lo que los convierte en fuentes de información poco confiables y contribuyentes potenciales a la difamación. Edwards explica que los chatbots de IA, como ChatGPT de OpenAI, utilizan «modelos de lenguaje extenso» (LLM) para generar respuestas. Los LLM son programas de computadora entrenados en grandes cantidades de datos de texto para leer y producir lenguaje natural. Sin embargo, son propensos a cometer errores, comúnmente llamados “alucinaciones” o “confabulaciones” en los círculos académicos. Edwards prefiere la «confabulación», ya que sugiere fabricaciones creativas pero no intencionales. El artículo de Ars Technica subraya el problema de los bots de IA que generan información engañosa, engañosa o difamatoria. Edwards proporciona ejemplos de ChatGPT acusando falsamente a un profesor de derecho de acoso sexual y afirmando erróneamente que un alcalde australiano fue condenado por soborno. A pesar de estos inconvenientes, ChatGPT se considera una actualización de GPT-3, ya que puede negarse a responder ciertas preguntas o advertir sobre posibles imprecisiones. El CEO de OpenAI, Sam Altman, admitió las limitaciones de ChatGPT y tuiteó sobre sus limitaciones «increíbles» y los riesgos de confiar en él para asuntos cruciales. Altman también comentó sobre el conocimiento y la inclinación simultáneos del chatbot por ser «seguro y equivocado». Edwards profundiza en su funcionamiento para comprender cómo confabulan los modelos GPT como ChatGPT. Los investigadores crean LLM como GPT-3 y GPT-4 utilizando «aprendizaje no supervisado», en el que el modelo aprende a predecir la siguiente palabra en una secuencia mediante el análisis de vastos datos de texto y refinando sus predicciones a través de prueba y error. ChatGPT se diferencia de sus predecesores, ya que ha sido entrenado en transcripciones de conversaciones escritas por humanos, afirma Edwards. OpenAI empleó el «aprendizaje de refuerzo a partir de la retroalimentación humana» (RLHF) para afinar ChatGPT, lo que generó respuestas más coherentes y menos confabulaciones. Sin embargo, las imprecisiones permanecen. Edwards advierte contra confiar ciegamente en los resultados de los chatbots de IA, pero reconoce que las mejoras tecnológicas pueden cambiar esto. Desde su lanzamiento, ChatGPT ha pasado por múltiples actualizaciones, mejorando la precisión y su capacidad para negarse a responder preguntas que no puede abordar. Aunque OpenAI no ha respondido directamente a las consultas sobre la precisión de ChatGPT, Edwards se refiere a los documentos de la empresa y los informes de noticias para obtener información. El científico jefe de OpenAI, Ilya Sutskever, cree que una mayor capacitación de RLHF puede abordar el problema de las alucinaciones. Al mismo tiempo, el científico jefe de inteligencia artificial de Meta, Yann LeCun, argumenta que los LLM actuales basados en GPT no resolverán el problema. Edwards también menciona métodos alternativos para mejorar la precisión de LLM utilizando arquitecturas existentes. Bing Chat y Google Bard ya utilizan búsquedas web para refinar sus resultados, y se espera que una versión de ChatGPT habilitada para navegador haga lo mismo. Además, los complementos de ChatGPT planean aumentar los datos de entrenamiento de GPT-4 con fuentes externas, como la web y bases de datos especializadas. Como señala Edwards, esto refleja el aumento de precisión que un ser humano obtiene al consultar una enciclopedia. Por último, Edwards sugiere que un modelo similar a GPT-4 podría entrenarse para reconocer cuándo está fabricando información y ajustarse en consecuencia. Esto podría implicar una curación de datos más avanzada y la vinculación de datos de capacitación a puntajes de «confianza», similar a PageRank. Otra posibilidad es ajustar el modelo para que sea más cauteloso cuando tenga menos confianza en sus respuestas.
Credito de imagen
Imagen destacada a través de Pixabay
