Detectores de IA: qué pueden decir y qué no

Puede ocurrir. En un estudio de 2023, siete detectores marcaron como IA más de la mitad de 91 redacciones de estudiantes no nativos de inglés, mientras que acertaban casi todas las de 88 alumnos de 13 y 14 años de Estados Unidos. La muestra era pequeña y otros estudios no encuentran este sesgo con detectores hechos a medida para un examen concreto: depende del detector, de la lengua y de los textos. Por eso, todavía menos pueden usarse como prueba.

No hemos encontrado ninguna evaluación independiente y publicada sobre la fiabilidad de estos detectores en catalán. Las webs que se anuncian como «detector de IA en catalán» dan porcentajes de acierto propios sin explicar cómo los han medido. Turnitin documenta el inglés, el castellano y el japonés; el catalán no figura.

Es una señal invisible que algunos proveedores añaden a lo que genera su IA. Google la incluye en las imágenes, el vídeo, el audio y el texto de Gemini, y otras empresas, como OpenAI, han empezado a adoptarla.

Tiene límites que la propia Google explica: la app de Gemini solo reconoce el contenido creado con herramientas de Google; si no encuentra la marca, significa que no lo ha hecho la IA de Google, «pero podría haberlo hecho otro sistema»; y en el texto la marca pierde fuerza cuando se reescribe a fondo o se traduce. No sirve, por tanto, para comprobar el trabajo de un alumno.

Son metadatos que explican cómo se ha creado una imagen, y OpenAI y Google los usan. Pero se pierden con facilidad: la mayoría de las redes sociales los borran al subir la imagen, y una captura de pantalla también. OpenAI lo resume así: una imagen sin estos metadatos «puede haber sido generada o no» con sus herramientas.

Las orientaciones de 2024 lo dicen claro: «Actualment no hi ha cap detector completament fiable de productes creats per aplicacions d'IA» (p. 14). Y piden a los docentes que replanteen las actividades de aprendizaje y la evaluación (p. 21).

El marco de competencia digital docente en IA de 2025 pide explorar estas herramientas y valorar «la fiabilitat, així com el respecte a la privacitat» (indicador 3.A.3.3), centrar la evaluación en el proceso (3.B.3.1) y establecer con el alumnado los usos permitidos y fomentar «la declaració d'ús» (3.B.3.2).

Desde el 2 de agosto de 2026, el artículo 50 obliga a los proveedores de IA generativa a marcar lo que generan en un formato legible por máquina y detectable como generado artificialmente. Los sistemas que ya estaban en el mercado antes de esa fecha tienen plazo hasta el 2 de diciembre de 2026.

La obligación es de los proveedores (y, para los deepfakes y los textos de interés público, de quien los publica), no del alumnado ni de los centros. Y hay un detalle práctico: subir el trabajo de un alumno a un detector externo supone tratar datos personales de un menor.