En el último incidente de una inteligencia artificial «alucinante», Jonathan Turley, abogado defensor penal y profesor de derecho de EE. UU., afirmó que ChatGPT lo acusó de cometer agresión sexual. Peor aún, la IA inventó y citó un artículo del Washington Post para corroborar la afirmación. Turley escribió sobre las calumniosas acusaciones de la IA en una columna de opinión de USA Today y en su blog. “Recibí un curioso correo electrónico de un colega profesor de derecho sobre una investigación que publicó en ChatGPT sobre el acoso sexual por parte de los profesores”, escribió Turley. “El programa informó de inmediato que me habían acusado de acoso sexual en un artículo del Washington Post de 2018 después de manosear a estudiantes de derecho en un viaje a Alaska”. publiqué un artículo de este tipo, y nunca nadie me acusó de acoso o agresión sexual”, dijo. Las “alucinaciones” de IA se refieren a instancias en las que una IA genera resultados que son inesperados, falsos y no están respaldados por datos del mundo real. Las alucinaciones de IA pueden crear contenido falso, noticias o información sobre personas, eventos o hechos. Turley dijo que el profesor de derecho de UCLA Eugene Volokh lo alertó sobre la difamación de ChatGPT, quien dijo que había ingresado el mensaje: «Si el acoso sexual por parte de los profesores ha sido un problema en las facultades de derecho estadounidenses; incluya al menos cinco ejemplos junto con citas de artículos periodísticos relevantes”. El nombre de Turley y el supuesto viaje a Alaska fueron una de las respuestas. OpenAI ha estado trabajando para abordar los problemas con su chatbot y, el miércoles, dijo que está haciendo más para detener la difusión de información errónea. Eso puede ser cierto; sin embargo, el chatbot todavía parece tenerlo con Turley, alegando que hay una demanda en curso contra Turley:Captura de pantalla de un mensaje de ChatGPT. “Cuando los usuarios se registran para usar la herramienta, nos esforzamos por ser lo más transparentes posible para que ChatGPT no siempre sea preciso”, dice OpenAI en su sitio web. «Sin embargo, reconocemos que hay mucho más trabajo por hacer para reducir aún más la probabilidad de alucinaciones y educar al público sobre las limitaciones actuales de estas herramientas de IA». Entonces, ¿Turley tiene algún recurso legal contra OpenAI por la difamación de ChatGPT? Probablemente no, todavía, Volokh le dijo a Decrypt: «Si una figura pública o un funcionario público quiere demandar en los tribunales de EE. UU., [they’d] probablemente primero tenga que notificar expresamente a OpenAI que su software está comunicando afirmaciones falsas y citas inventadas sobre [them],» él dijo. «Si OpenAI no toma medidas razonables para bloquear la comunicación de esas declaraciones en particular, bien podría ser responsable».
