Si se ha sentido cómodo con la idea de que su amigable chatbot de IA, ChatGPT, prepare su trabajo final de tesis, es hora de una revisión de la realidad. Si bien la escritura generada por IA ha cautivado a las masas, los investigadores de la Universidad de Kansas acaban de subir la apuesta al desarrollar un método para identificar la escritura científica académica generada por IA con más del 99 % de precisión. La investigación, publicada en la revista científica Cell Reports, explica cómo llegó a ser. “La necesidad de discriminar la escritura humana de la IA ahora es crítica y urgente, particularmente en dominios como la educación superior y la escritura académica, donde la IA no había sido una amenaza significativa o un contribuyente a la autoría”, escribieron los investigadores. Los intentos anteriores de detectar contenido generado por IA han tenido diversos grados de éxito. Los propios esfuerzos de OpenAI, por ejemplo, no han sido confiablemente efectivos. Pero estas herramientas de detección se han centrado tradicionalmente en un amplio espectro de estilos de escritura, en lugar de centrarse en el tono y el propósito específicos que caracterizan la escritura científica académica. El método del equipo, por el contrario, se ajustó para la escritura académica. Al comparar 64 perspectivas escritas por humanos y 128 artículos generados por ChatGPT sobre los mismos temas de investigación, identificaron marcadores clave de la escritura de IA. Por ejemplo, la inclinación de ChatGPT por usar las palabras «otros» e «investigadores» en lugar de palabras como «sin embargo», «pero» y «aunque» demostraron ser un claro indicativo. Además, la predilección de los humanos por las estructuras de párrafo complejas, la variedad de longitudes de las oraciones y el cambio en el número de palabras fue otra huella digital que faltaba en la escritura de la IA. Cuando se puso a prueba, el modelo logró identificar los artículos generados por la IA de los humanos con una precisión del 100 %. tasa y distinguió párrafos escritos por IA dentro de artículos humanos con una tasa del 92%. En pruebas similares, el modelo del equipo incluso eclipsó a un detector de texto de IA existente en el mercado. Según un artículo enviado por Cell a Techxplore, el siguiente paso es ampliar los límites de la aplicabilidad del modelo, probándolo en conjuntos de datos más amplios y de diferentes tipos. de la escritura científica académica. A medida que ChatGPT y sus similares se vuelven más sofisticados, queda por ver si el modelo mantendrá su efectividad. Además, los usuarios podrían potencialmente ajustar los modelos de lenguaje grande (LLM) de código abierto y manipular el lenguaje para evadir este y otros métodos de detección. . Sería otra carrera armamentista tecnológica más: una entre «jailbreakers» que buscan crear las herramientas de IA más avanzadas e investigadores que buscan desarrollar los mejores detectores para el contenido generado por IA. Pero, ¿esta herramienta está disponible para que los educadores la usen en los trabajos de los estudiantes? Desaire dice que el modelo aún no ha llegado. Sin embargo, sus métodos se pueden replicar fácilmente para diferentes aplicaciones. Mientras tanto, recuerde: antes de indicarle a ChatGPT que «escriba mi tesis», tenga en cuenta que su amigo de IA podría ser más predecible de lo que piensa, por lo que es mejor hacer lo suyo. Trabajos de investigación). En cuanto a ChatGPT, podría ser hora de volver a la escuela de inteligencia artificial para aprender algunas lecciones sobre matices y variedad.
