La función de las marcas de agua de OpenAI es ayudar a averiguar si un texto fue generado por ChatGPT o Codex
La tecnológica OpenAI anunció que planea incorporar marcas de agua invisibles en algunos textos generados con sus productos ChatGPT y Codex para cumplir con la Ley de Inteligencia Artificial (IA) de la Unión Europea (UE).
“Durante las próximas semanas, incorporaremos la marca de agua de texto para usuarios elegibles de ChatGPT y Codex de todos los planes, únicamente en la UE”, especificó la empresa en un blog donde explica su nuevo enfoque sobre la “procedencia de contenido“.
OpenAI destacó que a partir de hoy los clientes de su interfaz de programación de aplicaciones (API) de todo el mundo podrán activar voluntariamente las marcas de agua en textos para determinados modelos.
No obstante, la función estará desactivada por defecto en la API para que sus clientes decidan cómo aplicarla en función de sus “obligaciones de transparencia”.
OpenAI dijo que trabaja con proveedores de computación en la nube para “poner la marca de agua a disposición de las salidas de los modelos de OpenAI a las que se accede mediante sus servicios durante las próximas semanas”, añadió.
La tecnología, llamada textGrain, incorpora una “señal estadística invisible” en las elecciones de palabras del modelo, aparentemente sin alterar su rendimiento, y que después un detector puede buscar para evaluar si hay una marca de agua.
OpenAI reconoció que la detección puede cometer errores, como un falso positivo o un falso negativo, que funciona peor con textos breves y que además puede debilitarse si el contenido se edita, reescribe o traduce.
Por eso, la empresa ha decidido que el “detector” estará disponible solo para “investigadores y organizaciones expertas aprobados” que pueden empezar hoy a hacer solicitudes.
La función de la marca de agua es ayudar a averiguar si el texto ha sido generado por un modelo de OpenAI, pero no indicará “quién escribió originalmente el texto ni quién es su propietario”, además de otras limitaciones.
OpenAI subrayó que planea poner la tecnología de textGrain a disposición del público como código abierto “para que otros puedan desarrollarla”.
Con información de EFE
Minuto a minuto
