OpenAI anunció que planea incorporar marcas de agua invisibles en algunos textos generados con ChatGPT y Codex dentro de la Unión Europea, como parte de las medidas de la compañía para cumplir con la Ley de Inteligencia Artificial del bloque comunitario.
La tecnológica explicó que el despliegue se realizará durante las próximas semanas y estará dirigido a usuarios elegibles de ChatGPT y Codex, sin importar el plan que utilicen, pero únicamente dentro de la Unión Europea.
“Durante las próximas semanas, incorporaremos la marca de agua de texto para usuarios elegibles de ChatGPT y Codex de todos los planes, únicamente en la UE”, indicó la empresa en una publicación sobre su nuevo enfoque de procedencia de contenido.
La API tendrá una opción voluntaria
Además del cambio previsto para los usuarios europeos, OpenAI informó que los clientes de su interfaz de programación de aplicaciones, conocida como API, podrán activar voluntariamente las marcas de agua en los textos producidos por determinados modelos desde cualquier parte del mundo.
Sin embargo, esta función permanecerá desactivada de manera predeterminada en la API. De esta manera, cada cliente podrá decidir si la utiliza y cómo la implementa, de acuerdo con sus propias obligaciones de transparencia.
OpenAI también señaló que trabaja con proveedores de servicios de computación en la nube para que la marca de agua pueda aplicarse a las respuestas de sus modelos cuando estos sean utilizados mediante las plataformas de dichas compañías. Esta disponibilidad también está prevista para las próximas semanas.
¿Cómo funciona textGrain?
La tecnología utilizada por OpenAI se denomina textGrain. Su funcionamiento consiste en incorporar una señal estadística invisible mediante las elecciones de palabras realizadas por el modelo al momento de generar una respuesta.
Según la compañía, este mecanismo aparentemente no modifica el rendimiento del modelo. Posteriormente, una herramienta de detección puede analizar el contenido para evaluar si contiene la señal asociada con la marca de agua.
El objetivo es ofrecer un elemento adicional para determinar si un texto fue producido por alguno de los modelos de OpenAI. No obstante, la empresa aclaró que esta herramienta no permite establecer quién escribió originalmente el contenido ni identificar a su propietario.
OpenAI reconoce limitaciones
La compañía advirtió que la detección no es infalible. El sistema puede producir falsos positivos, al señalar como generado por inteligencia artificial un texto que no lo es, o falsos negativos, cuando no reconoce contenido que sí fue producido por uno de sus modelos.
El desempeño del detector también puede ser menor cuando se analizan textos breves. Asimismo, la señal puede debilitarse cuando el contenido original es editado, reescrito o traducido, lo que limita la capacidad de la herramienta para ofrecer una conclusión definitiva.
Debido a esas condiciones, OpenAI decidió que el detector no estará disponible inicialmente para cualquier usuario. El acceso se restringirá a investigadores y organizaciones expertas que sean aprobados por la empresa. Los interesados podrán presentar solicitudes para utilizarlo.
La tecnología será de código abierto
OpenAI subrayó que tiene previsto poner textGrain a disposición del público como código abierto. Con ello, otros desarrolladores e instituciones podrán examinar la tecnología y trabajar sobre ella.
La incorporación de marcas de agua forma parte de los esfuerzos de la industria tecnológica para mejorar la identificación y procedencia del contenido generado con inteligencia artificial. En este caso, la medida tendrá una aplicación específica en la Unión Europea, mientras que los clientes de la API en otros países decidirán voluntariamente si activan la función.
Aunque textGrain busca aportar mayor transparencia, las propias advertencias de OpenAI muestran que la marca de agua deberá considerarse como una señal de evaluación y no como una prueba absoluta sobre el origen, la autoría o la propiedad de un texto.
