OpenAI ha anunciado que, en las próximas semanas, incorporará marcas de agua invisibles en las respuestas de texto de ChatGPT y Codex para los usuarios elegibles de la Unión Europea. La medida busca cumplir con los requisitos de transparencia de contenido de la Ley de IA de la UE.
La tecnología se llama textGrain. Funciona insertando una señal estadística imperceptible mientras el modelo elige las palabras. Después, un detector puede identificar si un texto lleva la marca de agua de OpenAI, sin que el usuario note nada extraño.
En principio, esta función se aplicará solo en la UE y no será una opción global por defecto. Los clientes de API podrán activarla de forma opcional para algunos modelos. Además, OpenAI está colaborando con socios en la nube para ofrecer esta capacidad en los próximos meses.
OpenAI también dará acceso al detector a investigadores y organizaciones expertas, que podrán solicitarlo desde ya. El acceso se concederá caso por caso. El detector solo indicará si hay marca de agua, pero no revelará la identidad del usuario, los prompts ni el contenido de las conversaciones.
Con esta decisión, OpenAI da un paso hacia una mayor transparencia en el uso de la IA y se anticipa a las normas europeas. La medida podría marcar un precedente para futuras regulaciones en otros mercados.
Descubre más desde CIBERED
Suscríbete y recibe las últimas entradas en tu correo electrónico.
