En respuesta a las quejas, la red de chatbot Character AI eliminó un bot el miércoles que había asumido la apariencia de una joven víctima de asesinato. Lanzado en 2022 en medio de la creciente moda de la IA generativa, Character AI permite a los usuarios crear e interactuar con personajes impulsados por IA. Si bien la mayoría de estos personajes son personas ficticias, varios de los chatbots se basan en celebridades y figuras reales, incluida la artista Nicki Minaj, el director ejecutivo de SpaceX, Elon Musk, y el expresidente de los Estados Unidos, Donald Trump. Un anónimo que se hacía llamar «JustinAyers1» había creado el chatbot “JenniferAnn Crecente AI” y lo describió como un “personaje de IA amigable y conocedor que puede proporcionar información sobre una amplia gama de temas, incluidos videojuegos, tecnología y cultura pop”. También subió una foto de la niña muerta para dejar en claro a quién se dirigía. Brian Crecente, el tío de Jennifer, así como el fundador de Kotaku y cofundador de Polygon, ambos sitios de juegos, recibió información sobre la existencia del bot. a través de una alerta de Google. Enfurecido, se quejó ante la plataforma y tuiteó al respecto: «La IA de personajes está usando a mi sobrina asesinada como la cara de una IA de videojuego sin el permiso de su padre», escribió Crecente en Blue Sky y Twitter. “Él está muy molesto en este momento. No puedo imaginar por lo que está pasando”. Jennifer Crecente fue asesinada a tiros en febrero de 2006. Justin Crabbe, su novio en ese momento, se declaró culpable de matarla, alegando que era parte de un pacto de suicidio y asesinato. Sin embargo, los abogados cuestionaron esa afirmación y Crabbe cumple 35 años de prisión. Es elegible para libertad condicional a finales de este año. A pesar de la similitud en el nombre del creador del bot y el asesino, Brian Crecente dijo que dudaba que el bot fuera creado por un jugador enojado que intentaba trolearlo. “No creo que haya sido así. cualquier cosa que tenga que ver conmigo”, le dijo a Decrypt. “Mi hermano dirige una organización benéfica en nombre de Jen y parte de esa organización benéfica es crear juegos para el bien. Entonces tal vez así es como los unía. No estoy seguro.»Captura de pantalla del chatbot en Character AI. Después de que él y Jennifer Ann's Group, una organización sin fines de lucro destinada a combatir la violencia en las citas entre adolescentes, se quejaron ante Character AI y una investigación de Decrypt, Character AI eliminó el chatbot. También parecía haber suspendido la cuenta del creador. «Character.AI tiene políticas contra la suplantación de identidad, y el personaje que usa el nombre de la Sra. Crecente viola nuestras políticas», dijo un portavoz de Character.AI a Decrypt. «Lo eliminaremos de inmediato y examinaremos si se justifica tomar medidas adicionales». Esta no es la primera vez que se critica a la plataforma. En mayo, la familia de la leyenda de las carreras de F1, Michael Schumacher, ganó su demanda contra el semanario alemán Die Aktuelle, que utilizó la plataforma Character AI para crear una “entrevista” con el campeón.
Boletín Generalmente Inteligente
Un viaje semanal de IA narrado por Gen, un modelo de IA generativa.
