El desarrollador líder de inteligencia artificial OpenAI irritó tanto al mundo tecnológico como a la prensa general el jueves cuando presentó una nueva especificación de modelo que muchos interpretaron en el sentido de que sus populares herramientas de inteligencia artificial generativa podrían generar contenido para adultos no seguro para el trabajo. «Creemos que los desarrolladores y usuarios deberían tener la flexibilidad de utilizar nuestros servicios como mejor les parezca, siempre que cumplan con nuestras políticas de uso», escribió OpenAI. «Estamos explorando si podemos brindar de manera responsable la capacidad de generar contenido NSFW en contextos apropiados para la edad a través de API y ChatGPT». En su anuncio, OpenAI también reiteró que su política actual impide que ChatGPT ofrezca contenido NSFW, descrito como contenido. eso no sería apropiado en «una conversación en un entorno profesional, como erótica, sangre extrema, insultos y blasfemias no solicitadas». Sin embargo, la idea de que OpenAI estuviera contemplando levantar las restricciones a la creación de pornografía llamó la atención. En retrospectiva, un líder de producto Open AI le dice a Decrypt, la compañía podría haber explicado mejor lo que estaba «explorando».
Para profundizar la conversación pública sobre cómo deben comportarse los modelos de IA, compartimos nuestra especificación del modelo, nuestro enfoque para dar forma al comportamiento deseado del modelo. https://t.co/RJBRwrcTtQ—OpenAI (@OpenAI) 8 de mayo de 2024
«Creo que lo que me encantaría hacer, basándose en los comentarios y la reacción, en la próxima versión que compartamos, es ser más preciso sobre la definición de algunas personas del contenido NSFW y la taxonomía aquí», dijo Joanna, líder de producto de OpenAI para el comportamiento del modelo. dijo Jang, señalando que NSFW podría significar cualquier cosa, desde blasfemias escritas hasta imágenes deepfake generadas por IA. En cuanto a qué material específico se permitiría bajo una postura más permisiva, Jang le dijo a NPR que «depende de su definición de pornografía». Los deepfakes están absolutamente fuera de la mesa. «Seguir las leyes aplicables y proteger la privacidad de las personas, pensamos que eso lo cubriría, pero debemos dejar claro que no estamos en esto para crear deepfakes de IA o pornografía con IA», dijo Jang a Decrypt. «Eso es. simplemente no es algo que debamos tener el tiempo o el ancho de banda para priorizar cuando hay problemas más importantes que resolver”. Además de bloquear el contenido NSFW y garantizar el cumplimiento legal, la especificación del modelo OpenAI incluye varias otras reglas para las que ChatGPT está diseñado. seguir, incluyendo no proporcionar información peligrosa, respetar a los creadores y sus derechos y proteger la privacidad de las personas. Actualmente, ChatGPT Plus de OpenAI, que incluye Dall-E 3 para imágenes y GPT-4 para texto, no permitirá a los usuarios generar contenido abiertamente sexual o sangriento. imágenes o texto. Cuando se le solicite hacerlo, ChatGPT responderá que la solicitud viola sus términos de servicio. Como resultado, Jang señala que la web está plagada de quejas de los usuarios de OpenAI de que la compañía los está censurando. «Hay muchas críticas a la censura y lo que sea, y gran parte de esa discusión se combina, sin culpa de nadie. «Cuál es la política de OpenAI versus lo que en realidad no es la nuestra», dijo Jang. «¿Estos modelos se comportan de esa manera, a pesar de que va en contra de las pautas?» Como explicó Jang, OpenAI publicó la especificación para establecer los comportamientos ideales del modelo, enfocándose. sobre el cumplimiento legal y evitar el contenido NSFW al mismo tiempo que se adopta la transparencia. “Queremos aportar más matices a esta discusión porque en este momento, antes de la especificación del modelo, la pregunta era: '¿La IA debería crear pornografía o no?'”, dijo Jang. «Y espero que a través de las especificaciones del modelo, podamos tener estas conversaciones». Una vez más, es por eso que desearía haber dejado de lado [a framework] de modo que podríamos haber iniciado esta conversación incluso un día antes”, añadió. Para los expertos en salud mental, la perspectiva de que las plataformas populares de inteligencia artificial se trasladen al ámbito de la pornografía y el contenido para adultos es preocupante. “En el campo de la adicción al sexo y la pornografía, Con la pornografía generada por IA, estamos comenzando a ver un aumento en los comportamientos adictivos”, dijo a Decrypt Brandon Simpson, especialista en salud conductual de la Men's Health Foundation. “Dado que la pornografía generada por IA crea la intensidad única y cada vez mayor necesaria para satisfacer una respuesta de dopamina, las personas se sumergen en ella y la reemplazan con interacciones humanas, lo que conduce a niveles de ansiedad social, ansiedad de desempeño y una variedad de otros problemas sexuales. disfunciones relacionadas. material de abuso (CSAM). «La especificación es solo una parte de nuestra historia sobre cómo construir e implementar IA de manera responsable», dijo más tarde un representante de OpenAI a Decrypt. «Se complementa con nuestras políticas de uso, cómo esperamos que las personas usen la API y ChatGPT. ”—en última instancia, destinado a demostrar transparencia e “iniciar una conversación pública sobre cómo se podría cambiar y mejorar”. OpenAI ha invertido mucho en mejorar la privacidad y seguridad de su conjunto de herramientas de inteligencia artificial, incluida la contratación de equipos rojos de ciberseguridad para encontrar vulnerabilidades en sus plataformas. En febrero, OpenAI y Microsoft anunciaron una operación conjunta para impedir que los piratas informáticos chinos y norcoreanos utilicen ChatGPT, y OpenAI se unió a Google y Meta el mes pasado en el compromiso de priorizar la seguridad infantil en el desarrollo de sus modelos de IA. Editado por Ryan Ozawa.
