OpenAI prepara una marca invisible para identificar textos creados con ChatGPT

OpenAI prepara una nueva herramienta para identificar algunos textos generados por sus modelos de inteligencia artificial. La tecnológica anunció que incorporará marcas de agua invisibles en determinadas respuestas producidas con ChatGPT y Codex para usuarios elegibles dentro de la Unión Europea, como parte de las medidas de transparencia contempladas por la Ley de Inteligencia Artificial del bloque.

La compañía explicó que la función comenzará a incorporarse durante las próximas semanas a usuarios de ChatGPT y Codex de todos los planes que sean elegibles en la Unión Europea. La tecnología, denominada textGrain, busca introducir una señal estadística imperceptible en la manera en que el modelo selecciona las palabras, sin modificar aparentemente el rendimiento del texto.

A diferencia de una marca de agua tradicional, que puede verse como un logotipo, una leyenda o algún elemento gráfico superpuesto, esta señal permanece oculta. Un detector especializado puede analizar posteriormente el texto para determinar si contiene el patrón asociado con un modelo de OpenAI.

¿Cómo funciona la marca de agua invisible?

La tecnología textGrain interviene en las elecciones de palabras realizadas por el modelo. En lugar de añadir una señal visible al contenido terminado, incorpora una señal estadística invisible en la distribución de las palabras utilizadas por la inteligencia artificial.

El objetivo es que el texto conserve su apariencia habitual para el lector, pero que un sistema especializado pueda identificar posteriormente determinadas características estadísticas que indiquen que fue generado por un modelo de OpenAI.

Este mecanismo forma parte del creciente interés de la industria tecnológica por desarrollar herramientas que permitan conocer la procedencia de los contenidos generados con inteligencia artificial. A medida que los modelos producen textos cada vez más naturales, distinguir entre material escrito por una persona y contenido generado por una máquina se ha vuelto más complicado.

OpenAI señaló que la función estará dirigida inicialmente a determinados usuarios y contextos, mientras continúa trabajando para ampliar su disponibilidad.

La función llegará primero a usuarios de la Unión Europea

La incorporación de la marca de agua en ChatGPT y Codex estará enfocada inicialmente en usuarios elegibles de la Unión Europea, donde la Ley de Inteligencia Artificial establece obligaciones relacionadas con la transparencia de determinados contenidos generados mediante sistemas de IA.

OpenAI indicó que el despliegue se realizará durante las próximas semanas y abarcará usuarios de todos los planes que cumplan con las condiciones establecidas para recibir la función.

La medida no significa, sin embargo, que todos los textos generados por ChatGPT vayan a incorporar automáticamente una marca detectable en cualquier circunstancia. La empresa también está desarrollando la tecnología para clientes que utilizan sus modelos mediante la interfaz de programación de aplicaciones, conocida como API.

En este caso, la situación será diferente: los clientes de la API de todo el mundo podrán activar voluntariamente las marcas de agua para determinados modelos. La función estará desactivada de manera predeterminada, por lo que cada organización podrá decidir cómo utilizarla de acuerdo con sus propias necesidades y obligaciones de transparencia.

OpenAI también quiere llevar la tecnología a servicios en la nube

La compañía explicó que trabaja con proveedores de computación en la nube para que la marca de agua pueda incorporarse a las salidas de modelos de OpenAI a las que se accede mediante esos servicios.

La intención es ampliar gradualmente el alcance de la tecnología más allá de la interfaz directa de ChatGPT y ofrecer mecanismos de procedencia que puedan utilizarse en distintos entornos donde se implementen los modelos de la empresa.

Esta estrategia responde a un problema cada vez más relevante: los textos generados mediante IA pueden copiarse, compartirse y reutilizarse en múltiples plataformas, por lo que identificar su origen únicamente a partir de una herramienta integrada en un servicio específico puede resultar insuficiente.

El detector no será una prueba infalible

OpenAI reconoce que la tecnología tiene limitaciones importantes. El sistema de detección puede generar falsos positivos, es decir, identificar como generado por IA un texto que no lo está, y también falsos negativos, cuando no consigue reconocer una marca que sí fue incorporada originalmente.

La eficacia también disminuye cuando el contenido es muy breve. Esto representa una dificultad considerable, ya que cuanto menor es la cantidad de texto disponible, menos información estadística existe para que el detector pueda identificar el patrón.

Además, la señal puede debilitarse cuando un texto marcado es editado, reescrito o traducido. Una persona que modifica considerablemente el contenido puede alterar las características estadísticas que el sistema necesita para reconocer la marca de agua.

Por esta razón, la propia OpenAI advierte que un resultado positivo no debería interpretarse automáticamente como una prueba absoluta sobre la autoría de un texto.

El detector no dirá quién escribió el contenido

Otra limitación importante es que la marca de agua no funciona como un registro de propiedad intelectual ni como un mecanismo para identificar a una persona.

La tecnología puede ayudar a determinar si un texto presenta características compatibles con contenido generado por un modelo de OpenAI, pero no permitirá saber quién escribió originalmente el texto ni quién es su propietario.

Esto significa que la procedencia tecnológica y la autoría son dos cuestiones diferentes. Un detector podría señalar que un texto contiene la marca estadística asociada con un modelo, pero no podría establecer por sí mismo qué usuario realizó la solicitud, quién editó posteriormente el contenido o quién posee los derechos sobre el resultado.

La distinción resulta particularmente relevante en ámbitos como la educación, los medios de comunicación y el trabajo profesional, donde la utilización de herramientas de IA puede combinarse con edición y aportaciones humanas.

¿Quién podrá utilizar el detector?

Mientras OpenAI desarrolla y amplía la tecnología, el detector no estará disponible de manera general para cualquier persona. La compañía informó que el acceso estará limitado a investigadores y organizaciones expertas aprobados, quienes podrán comenzar a realizar solicitudes.

La decisión busca permitir que especialistas evalúen el funcionamiento de la herramienta y sus limitaciones antes de una posible disponibilidad más amplia.

Este enfoque también puede ayudar a estudiar qué tan resistente es la marca de agua frente a modificaciones, traducciones y diferentes tipos de edición, así como la frecuencia con la que el detector puede equivocarse.

OpenAI planea liberar textGrain como código abierto

Uno de los aspectos más relevantes del anuncio es que OpenAI planea poner textGrain a disposición del público como código abierto.

La empresa sostiene que esta apertura permitirá que otros investigadores y desarrolladores estudien la tecnología y trabajen a partir de ella. La decisión podría favorecer la creación de nuevas herramientas para analizar la procedencia de contenidos generados mediante inteligencia artificial y contribuir a la investigación independiente sobre marcas de agua digitales.

El código abierto también permitiría que especialistas externos examinen con mayor detalle cómo funciona el sistema y cuáles son sus fortalezas y debilidades.

La iniciativa llega en un momento en el que la generación automática de textos se ha integrado rápidamente en actividades académicas, empresariales, periodísticas y creativas. Con millones de contenidos producidos mediante modelos de IA, conocer su procedencia se ha convertido en uno de los principales desafíos tecnológicos y regulatorios.

La propuesta de OpenAI busca ofrecer una respuesta mediante una señal que no sea visible para el lector, pero que pueda ser identificada mediante herramientas especializadas. Sin embargo, sus propias limitaciones dejan claro que una marca de agua no equivale a una prueba definitiva de autoría.

Por ahora, el desarrollo de textGrain plantea un nuevo escenario en el que los textos generados por IA podrían llevar una especie de huella digital estadística. El verdadero reto será determinar qué tan resistente resulta esa huella cuando el contenido pasa de un modelo a una persona, de una persona a otra plataforma o de un idioma a otro.