Tras las protestas de los jugadores, Epic Games está eliminando las imágenes racistas generadas por IA subidas por los usuarios al popular juego Battle Royale Fortnite, según un informe de Kotaku. Una de las características que convirtió a Fortnite en el exitoso juego en línea que es hoy es la capacidad de Los usuarios pueden crear sus propios mapas y compartir experiencias jugables con el mundo. Sin embargo, esta salida para la creatividad significa que los usuarios pueden potencialmente subir contenido problemático, que es lo que sucedió aquí. Recientemente, los usuarios comenzaron a notar mapas de islas que presentaban imágenes toscas generadas por IA que perpetran estereotipos racistas. Como informó Kotaku, los ejemplos de mapas incluyen aquellos con nombres como “Guerras de zonas árabes”, “Guerras de zonas nigerianas” y “Guerras de zonas de China”. Los mapas presentaban imágenes racistas y aparentemente generadas por IA que perpetúan estereotipos, incluidos hombres del Medio Oriente sosteniendo bombas y negros. hombres comiendo pollo frito. Si bien la mayoría de estos mapas tenían poblaciones de servidores pequeñas, un mapa, “Jamaica Zonewars”, tenía más de 35.000 jugadores activos a principios de este mes.Imagen: Obra de arte de una isla prohibida del usuario «flaming» en Fortnite Creative. «Muchas de las islas a las que se hace referencia ya han sido eliminadas y los creadores tomaron medidas», dijo Epic Games a Kotaku en un comunicado. «Ya hemos abordado más de 100 islas con violaciones de contenido que utilizan este formato de miniatura similar y continuaremos haciéndolo». Epic Games agregó que el contenido discriminatorio no tiene lugar en Fortnite y viola las reglas de creación de islas de la compañía, y agregó que los usuarios que violar estas pautas podría provocar que sus cuentas sean prohibidas permanentemente. “Nuestro equipo de moderación humana revisa todo el contenido antes de su publicación y estamos actualizando activamente las reglas de nuestros creadores de islas y los programas de capacitación de moderación para minimizar la cantidad de mapas infractores que llegan a los jugadores”, dijo Epic Games. . «Alentamos a los jugadores a informar sobre cualquier isla que vean que pueda violar nuestras reglas». En una declaración proporcionada al GG de Decrypt, Epic Games dijo que todas las islas creadas por los usuarios son revisadas por moderadores antes de su publicación, pero dijo que el equipo toma una ligera decisión. tocar.
Imagen: Obra de arte de una isla prohibida del usuario «drzen» en Fortnite Creative». Le pedimos a nuestro equipo de moderación que asuma buenas intenciones en nombre del creador si no está seguro de una infracción de contenido para no censurar demasiado. «, dijo Epic Games. «A veces esto significa que se publican cosas que no deberían, y trabajamos rápidamente para eliminar cualquier contenido ofensivo y escribir nuevos materiales de capacitación para nuestros moderadores. Los creadores que violan nuestras reglas para creadores enfrentan una variedad de acciones de cumplimiento, incluidas prohibiciones permanentes de publicación y monetización». El editor agregó que está trabajando para actualizar sus «reglas para creadores de la isla y programas de capacitación en moderación». Uniéndose a la moda generativa de la IA, Epic Games Store comenzó a permitir juegos y presentaciones que incluyeran arte de IA y otros elementos en septiembre. Esto se produjo después de que Steam, el mercado rival de juegos para PC, inicialmente adoptara una postura contra el contenido de IA, pero desde entonces ha suavizado sus reglas en medio de un aumento en este tipo de presentaciones. “No prohibimos los juegos por usar nuevas tecnologías”, dijo el fundador y director ejecutivo de Epic Games, Tim Sweeney. escribió en Twitter en ese momento, señalando que Epic Games había abierto la autoedición completa a principios de ese año. Si bien los desarrolladores de inteligencia artificial han invertido mucho en eliminar imágenes ofensivas de sus modelos, los usuarios han encontrado formas de «hacer jailbreak» a los modelos utilizando indicaciones especializadas. En octubre, las imágenes generadas por IA de Bob Esponja o Kirby de Nintendo volando aviones de pasajeros hacia el World Trade Center se volvieron virales. Editado por Andrew Hayward
