Si introduces la Constitución de 1787 de Estados Unidos en una herramienta que detecta texto escrito por modelos de inteligencia artificial (IA) como ChatGPT, te dirá que el documento legal está escrito por dicha tecnología. Pero a menos que James Madison fuese un viajero en el tiempo, esta afirmación no puede ser cierta. Por lo tanto, ¿cómo es posible que dichas herramientas den falsos positivos?
Ars Technica habló con el creador de GPTZero para saber cómo estos programas pueden 'mentir', sacando como conclusión que si insertas parte de la Constitución estadounidense en GPTZero, la inteligencia artificial indica que el texto "probablemente está escrito enteramente por IA".
Ante dicha afirmación, Edward Tian (creador de GPTZero) señala que "la Constitución de Estados Unidos es un texto que se introduce repetidamente en los datos de entrenamiento de bastantes modelos lingüísticos. Como resultado, muchos de estos grandes modelos lingüísticos están entrenados para generar textos similares a la Constitución y otros textos de entrenamiento utilizados con frecuencia. GPTZero predice el texto que probablemente generarán los grandes modelos lingüísticos, y así se produce este fascinante error".
Por otro lado, un estudio de los investigadores de la Universidad de Maryland demostró que los detectores de texto no son confiables en escenarios prácticos. Asimismo, otro estudio de los investigadores de la Universidad de Stanford mostró que "la detección de escritura por inteligencia artificial está sesgada contra los hablantes no nativos de inglés, debido a que arroja altas tasas de falsos positivos para su trabajo escrito por humanos y potencialmente penalizándolos en el discurso global".
En última instancia, los detectores pueden hacer una conjetura sólida, pero el margen de error es demasiado grande para confiar en ellos para obtener un resultado preciso.
Apúntate a nuestra newsletter y recibe en tu correo las últimas noticias sobre tecnología.
Comentarios
Hemos bloqueado los comentarios de este contenido. Sólo se mostrarán los mensajes moderados hasta ahora, pero no se podrán redactar nuevos comentarios.
Consulta los casos en los que 20minutos.es restringirá la posibilidad de dejar comentarios