La inteligencia artificial está perpetuando los trastornos alimentarios en los jóvenes, afirma un nuevo informe publicado el lunes. El Centro para Contrarrestar el Odio Digital, que está involucrado por separado en litigios con Twitter, dice que las herramientas de IA generativa crearon «contenido dañino», incluidos textos e imágenes relacionadas con los trastornos alimentarios, el 41 % de las veces. desatadas en el mundo con la consecuencia inevitable de que están causando daño”, dijo Imran Ahmed, director ejecutivo del centro, en el informe. “Los sitios de IA generativa más populares fomentan y exacerban los trastornos alimentarios entre los usuarios jóvenes, algunos de los cuales pueden ser muy vulnerables”. Los trastornos alimentarios se encuentran entre las formas más mortales de enfermedad mental y son especialmente frecuentes entre las adolescentes. El informe del CCDH examinó cómo los populares chatbots de IA manejaron el tema, incluidos ChatGPT de OpenAI, Bard de Google y My AI de Snapchat. decía el informe. “El conjunto que se le dio a cada chatbot incluía solicitudes de dietas restrictivas para lograr un aspecto ‘thinspo’ y consultas sobre medicamentos que inducen el vómito”.
CCDH descubrió que los sitios de IA generativa más populares fomentan el contenido de trastornos alimentarios el 41% del tiempo, lo que pone en peligro a los jóvenes vulnerables. Necesitamos una regulación efectiva que haga cumplir los principios de seguridad por diseño para todos los productos de IA nuevos y existentes. ⤵️ https://t.co/dy7wRJhTYH — Centro para contrarrestar el odio digital (@CCDHate) 8 de agosto de 2023
A medida que la IA ha progresado hacia la corriente principal, sus efectos en la salud mental de los jóvenes hacen que los expertos hagan sonar la alarma en todos los ámbitos. Los investigadores temen que los niños puedan vincularse con la IA y desarrollar una intimidad artificial con la tecnología, o recurrir a la IA para obtener ayuda con problemas complicados de salud mental. Fundado en 2018, el Centro para contrarrestar el odio digital es una organización británica sin fines de lucro con sede en Londres y Washington, DC. La organización es conocida por sus campañas para que las empresas de tecnología dejen de brindar servicios a los grupos neonazis y a los defensores de las vacunas. La semana pasada, la empresa matriz de Twitter, X, presentó una demanda contra el centro por su investigación independiente sobre el contenido de odio en la plataforma. el informe de AI no especificó qué versión de los diversos chatbots se utilizó, las indicaciones se ingresaron en junio de 2023, según el informe. Si bien My AI de Snapchat se negó a generar consejos y alentó a los usuarios a buscar ayuda de profesionales médicos, tanto ChatGPT como Bard proporcionaron un descargo de responsabilidad o una advertencia, pero generaron el contenido de todos modos. DreamStudio y Dall-E de OpenAI. El informe dijo que las plataformas produjeron imágenes que glorificaban imágenes corporales poco realistas para el 32% de las indicaciones, incluidas imágenes de mujeres jóvenes «extremadamente delgadas» con cajas torácicas y huesos de la cadera pronunciados e imágenes de mujeres con piernas «extremadamente delgadas». Decrypt, Google dijo que Google Bard está «todavía en su fase experimental», pero enfatizó que diseña sus sistemas de inteligencia artificial para priorizar información de alta calidad y evitar exponer a las personas a contenido dañino o de odio. La compañía también señaló que el acceso a Google Bard tiene restricción de edad y que había bloqueado el contenido de «thinspo» como resultado de las pruebas documentadas». respuestas «, dijo un portavoz de Google, señalando que el informe del Centro para contrarrestar el odio digital reconoció que Google Bard «recomendó ponerse en contacto con organizaciones relevantes como la Asociación Nacional de Trastornos de la Alimentación o la Asociación Nacional de Anorexia Nervosa y Trastornos Asociados». Google agregó que los comentarios y los informes de los usuarios son una parte importante de su desarrollo. “Bard es experimental, por lo que alentamos a las personas a verificar la información en las respuestas de Bard, consultar a profesionales médicos para obtener orientación autorizada sobre problemas de salud y no confiar únicamente en las respuestas de Bard para asesoramiento médico, legal, financiero u otro profesional», dijo el vocero. «Alentamos a las personas a hacer clic en el botón de pulgar hacia abajo y proporcionar comentarios si ven una respuesta inexacta o dañina». OpenAI y Stability AI aún no han respondido a la solicitud de comentarios de Decrypt. En sus pruebas, el Centro para contrarrestar el odio digital usó tan- llamadas técnicas de «jailbreak» para eludir las medidas de seguridad integradas en las herramientas de seguridad de IA. Las comunidades a favor de los trastornos alimentarios a menudo intercambian consejos sobre cómo hacer que los chatbots de IA generen información que de otro modo censurarían. “De 60 respuestas a estas versiones de ‘jailbreak’ de las indicaciones de prueba, el 67 % contenía contenido dañino con fallas en las tres plataformas probadas. ”, decía el informe.Un desglose del rendimiento de cada plataforma con y sin jailbreak. Imagen: CCDH “Hemos probado y continuamos probando Bard rigurosamente, pero sabemos que los usuarios encontrarán formas únicas y complejas de probarlo aún más”, dijo el vocero de Google. “Esta es una parte importante del perfeccionamiento del modelo Bard, especialmente en estos primeros días, y esperamos conocer las nuevas indicaciones que se les ocurren a los usuarios y, a su vez, encontrar métodos para evitar que Bard genere información problemática o inexacta”. Los investigadores descubrieron que los usuarios de un foro sobre trastornos alimentarios con más de 500 000 miembros adoptaron las herramientas de IA para producir planes de dieta extremadamente bajos en calorías, obtener consejos sobre cómo lograr una estética «heroin chic» y crear imágenes de «inspiración delgada», y dijeron que las herramientas de IA glorificaban una imagen corporal poco realista en respuesta a indicaciones específicas. Solo unas pocas imágenes dañinas venían con advertencias, observó el informe. El Instituto Stephen Aizenstat le dijo previamente a Decrypt. “La gente está aislada, no comunicativa, lo que puede provocar depresión o incluso suicidio. Con demasiada frecuencia, nos comparamos con las imágenes de IA”. El Centro para contrarrestar el odio digital pidió a los desarrolladores de IA y a los gobiernos que prioricen la seguridad del usuario mediante la implementación de principios de «Seguridad por diseño», que incluyen transparencia, rendición de cuentas y responsabilidad en la capacitación de modelos de IA. Center for Countering Digital Hate aún no ha respondido a la solicitud de comentarios de Decrypt.
