La inteligencia artificial volvió a ser el tema candente de discusión en la Cumbre Web anual en Lisboa, Portugal. Durante el día de clausura del evento, la denunciante y activista Chelsea Manning expresó su preocupación por el desarrollo de la inteligencia artificial y el choque entre los humanos y la tecnología. “Vivimos en esta era en la que estamos rodeados de tecnología”, dijo Manning. «Me he encontrado con numerosos casos de este choque entre los humanos que somos y la tecnología, y la forma en que la tecnología está dando forma a cómo interactuamos entre nosotros, y cómo las instituciones son parte de eso». Manning dice que su vida ha sido moldeado por la exposición al ámbito digital, incluido el hecho de no tener hogar, unirse al ejército e ir a prisión por filtrar documentos militares a WikiLeaks en 2010.
«Dejo que eso impulse la forma en que integro, veo la tecnología y quiero construir un futuro mejor y más grande», dijo Manning. Manning cuestionó los motivos detrás del rápido desarrollo de la tecnología de IA, a quién beneficiará en última instancia la tecnología y si el impulso hacia La inteligencia artificial está mercantilizando la vida cotidiana. “¿Estamos simplemente olvidando el elemento humano y convirtiendo cada interacción que tenemos en el día a día en una mercancía?” dijo Manning. «Este producto es que nosotros hagamos algo tan simple como deslizar el dedo en una aplicación o hacer clic en un lindo ícono de corazón». Al llamar a la inteligencia artificial y los grandes modelos de lenguaje las palabras de moda del día, Manning señaló la gran cantidad de datos con los que se entrenan estos modelos. citando Wikipedia, libros de texto, vídeos e imágenes como ejemplos. Manning señaló que, a diferencia de los archivos en un servidor, estos datos están incrustados en las pesas y balanzas del modelo y no pueden simplemente eliminarse, lo que contrasta con la Protección General de Datos de la Unión Europea. Regulación (GDPR) y derechos de privacidad, donde las personas pueden solicitar la eliminación de datos. “Creo que nos corresponde a nosotros, como tecnólogos, desarrollar herramientas que tengan en cuenta el hecho de que las personas necesitan tener cierta apariencia de privacidad y que las comunicaciones «No debería ser un recurso que deba extraerse y mercantilizarse», afirmó Manning. «No quiero vivir en un mundo donde las relaciones que tenemos sean un valor numérico». Con modelos de lenguaje grandes, advirtió Manning, una vez que se incorpora la información personal o privada de una persona, se convierte en una parte permanente del modelo. haciendo imposible la eliminación. En 2021, Manning se unió a la empresa Nym Technologies, con sede en Suiza, como consultor de seguridad y defensor de la privacidad. Nym Technologies lanzó su proyecto Nym centrado en la privacidad, una plataforma de identidad descentralizada, en 2020 en la cadena de bloques Cosmos. “Creo que mi enfoque de manera más amplia y general está en la importancia de tener cierta apariencia de privacidad, a través del cifrado o mediante el método técnico, «Los medios tecnológicos que tenemos y poder usarlos intuitivamente», dijo Manning. «No debería ser difícil y no debería ser difícil de usar». Manning también destacó el aumento de los deepfakes generados por IA. «Las cosas que me han llamado la atención en los últimos seis meses no han sido el hecho «La gente está usando deepfakes en el discurso y la discusión públicos, pero el hecho de que se puedan hacer y el hecho de que existan, se usan para arrojar dudas sobre información real verificada», dijo Manning. “Creo que esta tendencia sigue haciendo que la gente cuestione cada vez más su propia realidad”. A medida que los deepfakes se vuelven más avanzados, a los responsables políticos les preocupa que puedan influir en las próximas elecciones o alimentar el odio en línea. Una solución que propuso Manning fue usar criptografía para verificar la información. Manning le dijo anteriormente a Decrypt que Bitcoin apeló a su pasión por la criptografía, la seguridad de la información y la construcción de redes descentralizadas basadas en criptografía. «Sé que es atractivo poder decir, puedo elegir mi En mi propia realidad, puedo elegir lo que me gusta”, dijo Manning. “Pero la realidad es que el mundo material físico real se topará con eso en algún momento. Y creo que cuando se trata del clima en particular, no podremos simplemente ignorarlo”. Editado por Ryan Ozawa.
