Las compañías detrás de algunas de las herramientas de inteligencia artificial más populares esta semana rechazaron un informe ampliamente citado que afirmaba que los chatbots están proporcionando información peligrosa a usuarios jóvenes vulnerables que sufren de trastornos alimentarios. OpenAI, Google y Stability AI defendieron su tecnología para Decrypt después su informe original de un estudio publicado por el Centro para Contrarrestar el Odio Digital, un informe que ya ha provocado un debate en Washington, DC “Modelos de IA generativa no probados e inseguros se han desatado en el mundo con la consecuencia inevitable de que están causando daño, «, escribió el director ejecutivo del centro, Imran Ahmed». Descubrimos que los sitios de IA generativa más populares fomentan y exacerban los trastornos alimentarios entre los usuarios jóvenes, algunos de los cuales pueden ser muy vulnerables”. e imágenes corporales poco saludables y poco realistas, y no hacer lo suficiente para proteger a los usuarios. Varias compañías de IA respondieron con puntos similares. “Estamos comprometidos con el uso seguro y responsable de la tecnología de IA”, dijo a Decrypt el jefe de política de Stability AI, Ben Brooks, en un correo electrónico. «Stability AI prohíbe el uso indebido de Stable Diffusion con fines ilegales, engañosos o poco éticos, y continuamos invirtiendo en funciones para evitar el uso indebido de AI para la producción de contenido dañino». imágenes de datos de entrenamiento de Stable Diffusion, intentando frenar la generación de contenido dañino antes de que las indicaciones del usuario puedan generarlo. “Siempre estamos trabajando para abordar los riesgos emergentes. Se han agregado mensajes relacionados con los trastornos alimentarios a nuestros filtros, y agradecemos un diálogo con la comunidad de investigación sobre formas efectivas de mitigar estos riesgos”, dijo Brooks. OpenAI, los creadores del popular ChatGPT, también respondieron al informe de CCDH, diciendo que no quiere que sus modelos se utilicen para obtener consejos sobre autolesiones. “Tenemos mitigaciones para protegernos contra esto y hemos entrenado nuestros sistemas de IA para alentar a las personas a buscar orientación profesional cuando se encuentran con indicaciones que buscan consejos de salud”, un OpenAI dijo el portavoz a Decrypt. “Reconocemos que nuestros sistemas no siempre pueden detectar la intención, incluso cuando las indicaciones transmiten señales sutiles. Continuaremos interactuando con expertos en salud para comprender mejor cuál podría ser una respuesta benigna o dañina». respuestas”, dijo un portavoz de Google a Decrypt el martes. «Bard es experimental, por lo que alentamos a las personas a verificar dos veces la información en las respuestas de Bard, consultar a profesionales médicos para obtener orientación autorizada sobre temas de salud y no confiar únicamente en las respuestas de Bard para obtener asesoramiento médico, legal, financiero u otro profesional». El informe llega al mismo tiempo que los desarrolladores de IA se esfuerzan por calmar los temores en torno a la tecnología emergente. En julio, varios de los principales desarrolladores de IA generativa, incluidos OpenAI, Microsoft y Google, se comprometieron a desarrollar una tecnología de IA segura, protegida y transparente. Las medidas prometidas incluyen compartir las mejores prácticas para la seguridad de la IA, invertir en seguridad cibernética y salvaguardas contra amenazas internas, e informar públicamente sobre las capacidades de sus sistemas de IA, limitaciones, áreas de uso apropiado e inapropiado y los riesgos sociales que plantea la tecnología. En el informe, el CCDH dijo que pudo eludir las medidas de seguridad puestas en los chatbots de IA mediante el uso de los llamados avisos de «jailbreak» destinados a no activar las medidas de seguridad del chatbot, como pedirle al chatbot que simule antes de ingresar el aviso.
