OpenAI ha desarrollado una herramienta que podría identificar a los estudiantes que utilizan ChatGPT para hacer sus tareas. Sin embargo, la compañía aún está pensando si lanzarla oficialmente.
En una declaración a TechCrunch, un portavoz de OpenAI confirmó que están investigando un método de marca de agua para textos. Sin embargo, la empresa está siendo cautelosa debido a «las complejidades involucradas y su probable impacto en el ecosistema más allá de lo educativo».
Un Método Prometedor pero Arriesgado
El portavoz explicó que aunque el método de marca de agua es técnicamente prometedor, existen riesgos importantes que están evaluando. Entre estos riesgos se encuentran la evasión por parte de usuarios malintencionados y el impacto desproporcionado en grupos como los hablantes no nativos de inglés.
Este enfoque es distinto a los intentos previos de detectar texto generado por IA, que han sido mayormente ineficaces. De hecho, OpenAI cerró su detector de texto de IA anterior debido a su «baja tasa de precisión».
Cómo Funcionaría la Marca de Agua
La marca de agua en el texto se centraría en detectar textos generados por ChatGPT, no de otros modelos. Esto se lograría haciendo pequeños cambios en la selección de palabras por parte de ChatGPT, creando una marca de agua invisible que una herramienta independiente podría detectar.
Después de la publicación del artículo del Journal, OpenAI actualizó una entrada de blog sobre su investigación en detección de contenido generado por IA. La actualización señala que las marcas de agua de texto han demostrado ser «muy precisas y efectivas contra manipulaciones localizadas, como la paráfrasis», pero menos robustas contra manipulaciones más sofisticadas, como el uso de sistemas de traducción o la reformulación con otros modelos generativos.
Preocupaciones Adicionales
Además, OpenAI menciona que este método puede ser «trivial y difícil de eludir por parte de usuarios malintencionados». Sin embargo, también hay preocupaciones de que las marcas de agua puedan «estigmatizar el uso de la IA como una herramienta de escritura útil para hablantes no angloparlantes nativos».
En resumen, aunque la herramienta de marca de agua de texto de OpenAI podría ser un avance significativo en la detección de trampas académicas, la empresa está evaluando cuidadosamente sus implicaciones antes de tomar una decisión final sobre su lanzamiento.
También te puede interesar:
