OpenAI empezará a incorporar una señal invisible al texto de ChatGPT y Codex para usuarios elegibles de la UE. La API ya permite activarla en determinados modelos, pero el detector de texto no será público inicialmente.
OpenAI ha presentado textGrain, un sistema que introduce una señal invisible en las palabras que elige el modelo al generar texto. Un detector específico busca ese patrón para estimar si un fragmento contiene una marca de OpenAI. No se trata de un sello visible ni de una etiqueta que se añada al final del documento.
Desde el 5 de octubre, los clientes de la API pueden optar por activar esa marca en determinados modelos. En la API permanecerá desactivada por defecto. Para las personas que usan ChatGPT y Codex en la Unión Europea, OpenAI prevé incorporarla durante las próximas semanas a las salidas de texto elegibles de todos los planes; no afirma que ya esté activa para todas las cuentas.
El detector de texto no se abrirá al público de momento. OpenAI acepta solicitudes de investigadores y organizaciones especializadas y dará acceso inicialmente caso por caso. Las herramientas existentes de verificación de imágenes y audio continúan disponibles por separado.
La marca tiene límites importantes. OpenAI explica que los textos cortos o con poco margen para variar las palabras son más difíciles de detectar. Editar o traducir un texto puede debilitar la señal: en una prueba con pasajes de 400 tokens, sustituir el 10 % de las palabras por sinónimos redujo la detección aproximada del 92 % al 66 %.
Encontrar la marca no indica quién escribió las instrucciones, cuánto trabajo humano hubo ni si el contenido es correcto. Tampoco identifica al usuario o su conversación. Y no encontrarla no demuestra que el texto haya sido escrito por una persona: puede ser demasiado breve, estar editado, proceder de otro modelo o haberse generado antes del despliegue.
La medida se limita inicialmente a las salidas elegibles de ChatGPT y Codex en la UE y a la opción voluntaria para ciertos modelos de la API. OpenAI no la establece como comportamiento global por defecto en este lanzamiento.
