En un mundo donde las noticias falsas se difunden a una velocidad vertiginosa, cada vez es más difícil distinguir los hechos de la ficción. Y a pesar de las incontables horas de trabajo y los millones de dólares invertidos en proyectos y políticas destinados a promover el periodismo veraz, la situación dista mucho de ser ideal, y eso fue antes de que se pudiera utilizar la inteligencia artificial para crear imágenes falsas de apariencia realista. las noticias se consideran libertad de expresión, según el Supervisor Europeo de Protección de Datos, y luchar contra la desinformación es casi imposible porque «la gran cantidad de noticias falsas difundidas en las redes sociales no se puede manejar manualmente». en desenmascarar noticias falsas, sin importar cómo se generen. Este poder proviene principalmente del crecimiento explosivo de los grandes modelos de lenguaje como GPT-4. Por ejemplo, los desarrolladores anónimos lanzaron AI Fact Checker, una herramienta creada para usar IA para verificar información. Una vez que un usuario ingresa un reclamo en el verificador, la plataforma busca fuentes confiables en Internet, analiza los datos y compara esa información con el reclamo proporcionado. Luego determina si la afirmación o el hecho es verdadero, falso o poco claro y proporciona fuentes para respaldar sus conclusiones. Decrypt probó la funcionalidad de la herramienta y demostró un nivel de precisión del 100% al verificar noticias recientes, eventos históricos e información diversa. . Sin embargo, cuando se trataba de consultar noticias sobre los precios de bienes, servicios y vehículos de inversión, la herramienta tropezaba y comenzaba a confundir las noticias de predicción con el comportamiento real de los precios. Fact y FactInsect se encuentran entre los más reconocidos. Incluso hay alternativas descentralizadas como Fact Protocol y el ya desaparecido Civil. Pero una alternativa está comenzando a destacarse entre la multitud debido a su facilidad de uso y precisión: el navegador y el motor de búsqueda con tecnología de inteligencia artificial de Microsoft. . A diferencia de ChatGPT (que no puede buscar información en la web y tiene un conjunto de datos fijo de antes de 2021), el nuevo Bing con GPT-4 puede navegar por la web, por lo que puede proporcionar respuestas precisas y actualizadas al instante, proporcionando enlaces a fuentes confiables para cualquier pregunta, incluida la confirmación o desacreditación de un hecho dudoso. Para verificar noticias falsas usando GPT-4 con Bing, simplemente descargue la última versión del navegador Edge y haga clic en el ícono del logotipo de Bing en la esquina superior derecha. Se abrirá un menú de barra lateral con tres opciones. Luego, selecciona la opción Chat, pregunta lo que quieras saber y la IA de Microsoft te dará la respuesta. La IA impulsada por GPT de Microsoft valida el titular de Decrypt. No difundimos noticias falsas. Los usuarios también pueden hacer clic en la opción Insights, y la IA impulsada por GPT de Microsoft proporcionará información relevante sobre el sitio web que publica las noticias, incluidos los temas cubiertos, los temas relevantes, el tráfico de la página y la aclaración de las críticas comunes. A diferencia de AI Fact Checker Tool, no proporciona una respuesta concreta que diga «esto es cierto» o «esto es falso», pero brinda suficiente información para llegar a una conclusión.
La otra cara de la moneda
Si bien la IA puede rastrear y comparar múltiples fuentes de información en cuestión de segundos, también existen riesgos asociados con el uso de algoritmos de IA para verificar noticias. Algunas deficiencias de la IA incluyen: Entrenamiento en modelos defectuosos: si un algoritmo de IA se entrena con datos inexactos o sesgados, su rendimiento podría verse afectado negativamente y producir resultados incorrectos. Asegurarse de que los datos utilizados para entrenar los algoritmos de IA sean precisos y representativos es crucial. Alucinaciones de IA: los algoritmos de IA pueden generar información que parece plausible pero que no tiene una base real. Estas alucinaciones pueden conducir a conclusiones falsas al verificar noticias. Vulnerabilidad a la manipulación: los algoritmos de IA pueden ser susceptibles a ataques y manipulaciones, como inyectar datos falsos o sesgados en su proceso de aprendizaje. Estos son algo equivalentes a un ataque del 51%, pero en un contexto de IA. Se utiliza un mayor número de refuerzos incorrectos, lo que hace que el modelo asuma que los datos incorrectos son verdaderos.
Los sistemas de inteligencia artificial como ChatGPT son susceptibles a ataques de envenenamiento. Estos tipos de ataques son relevantes cuando los actores de amenazas atacan conjuntos de datos de entrenamiento, una cadena de prueba eliminará tales escenarios. — Gummo (@GummoXXX) 23 de marzo de 2023
Esto es especialmente preocupante en modelos que se basan en la interacción humana o en modelos que están sujetos a una entidad central que los gestiona… que es exactamente lo que sucede con OpenAI y ChatGPT.
