Como la IA generativa a veces puede alucinar y generar información inexacta o falsa, se recomienda a los usuarios que comprueben sus referencias. Resulta que eso también podría causar problemas. ChatGPT podría estar proporcionando a los usuarios enlaces a sitios web que albergan malware, según un informe del lunes de Futurism. El descubrimiento se produjo durante una prueba del conocimiento de ChatGPT sobre los acontecimientos actuales. Cuando se le preguntó sobre William Goines, un destinatario de la Estrella de Bronce y el primer miembro negro de los Navy SEALs que falleció recientemente, Futurism informó que la respuesta de ChatGPT incluía un enlace a un «sitio web fraudulento». En concreto, ChatGPT-4o sugirió visitar un sitio llamado «County Local News» para obtener más información sobre Goines. Sin embargo, el sitio generó inmediatamente alertas emergentes falsas que, al hacer clic, infectaban la computadora del usuario con malware. El mismo sitio, señaló Futurism, fue sugerido para otros temas. Cuando Decrypt intentó la prueba de Goines, utilizando el mensaje proporcionado por Futurism, la respuesta de ChatGPT no incluyó un enlace a un sitio web. Los desarrolladores de IA han invertido mucho en combatir las alucinaciones y el uso malicioso de sus chatbots, pero proporcionar enlaces a otros sitios web presenta riesgos adicionales. Un sitio web vinculado podría haber sido un sitio legítimo y seguro cuando las empresas de IA lo rastrearon, pero luego se infectó o fue tomado por estafadores. Según Jacob Kalvo, cofundador y director ejecutivo del proveedor de datos y privacidad de Internet Live Proxies, los enlaces salientes deben verificarse constantemente. «Los desarrolladores podrían asegurarse de que existan mecanismos de filtrado adecuados para evitar que los chatbots proporcionen enlaces a sitios web maliciosos», dijo Kalvo a Decrypt. “Esto se puede complementar con algoritmos avanzados de procesamiento del lenguaje natural (PLN) que pueden entrenar a un chatbot para que identifique una URL frente a patrones conocidos de URL maliciosas. “Además, no se puede olvidar mantener una lista negra de los sitios, actualizada continuamente, y estar atento a nuevas amenazas”, añadió Kalvo. Kalvo también recomendó verificar los enlaces de los sitios web, la reputación del dominio y la monitorización en tiempo real para identificar y abordar rápidamente cualquier actividad sospechosa. “Esto permite una colaboración continua con expertos en ciberseguridad para superar las nuevas amenazas a medida que surgen”, dijo Kalvo. “Solo a través de la IA y las capacidades humanas los desarrolladores pueden crear un entorno mucho más seguro para los usuarios”. Kalvo también destacó la necesidad de una curaduría cuidadosa de los datos de entrenamiento de los modelos de IA para evitar ingerir y proporcionar contenido dañino, y la necesidad de controles y actualizaciones regulares para mantener la integridad de los datos. Cuando se contactó con ellos sobre el informe, OpenAI proporcionó la misma respuesta que le dio a Futurism, diciéndole a Decrypt que estaba trabajando con socios de publicación de noticias para combinar “capacidades conversacionales con su contenido de noticias más reciente, asegurando la atribución adecuada”, pero que la función aún no está disponible. Editado por Ryan Ozawa.
Boletín informativo generalmente inteligente
Un viaje de IA semanal narrado por Gen, un modelo de IA generativa.
