Tendencias

OpenAI lanza herramienta para detectar textos creados con ChatGPT

Frente a la preocupación de muchas instituciones, OpenAI, presenta un proyecto para evitar que los estudiantes usen ChatGPT para copiar.
Por Jahir Trelles
3 minutos

Desde el lanzamiento de ChatGPT, las fronteras de las inteligencias artificiales se han ampliado. Desde que las habilidades de redacción y programación le permitieron aprobar distintos exámenes las alarmas académicas se activaron. Ya que esta herramienta podría ayudar a los estudiantes a copiar y a mejorar en sus plagios. Entérate de cuál es la solución que propone OpenAI en la siguiente nota de Infomercado.

¿Qué exámenes aprobó ChatGPT?

La inteligencia Artificial de OpenAI obtener una licencia médica en Estados Unidos, un prestigioso máster en ciencias empresariales y 4 cursos en una facultad de Derecho.

¿Cuál es el problema con la inteligencia artificial?

El inconveniente es principalmente para los profesionales de la educación. Ya que al generar textos de calidad podría ayudar a los estudiantes a copiar.

Microsoft y OpenAI trabajan en una solución

Esta semana, OpenAI, informó a través de su página web un programa titulado «AI Text Classifier». En español, Clasificador de textos generados por inteligencia artificial. Esta herramienta clasificará los textos seleccionados, según el nivel que se determine que está producido por un inteligencia artificial en:

  • Muy improbable
  • Improbable
  • No queda claro
  • Poco probable
  • Muy probable»

AI Text Classifier aún está en desarrollo

La compañía liderada por Sam Altman reconoce que esta herramienta aún no es perfecta. Esta necesitaría un mínimo de 1.000 caracteres para identificar si el texto ha sido generado por IA. Y aún así, sería susceptible a cometer errores.

«Estas herramientas producirán tanto falsos negativos, cuando no identifiquen el contenido generado por IA como tal, como falsos positivos, cuando marquen el contenido escrito por humanos como generado por IA»

«Además, los estudiantes pueden aprender rápidamente a eludir esta detección modificando algunas palabras o frases del contenido generado»

¿ChatGPT puede superar el Turnitin?

Sí, al generar sus propios textos con un alto nivel de coherencia la IA puede superar fácilmente al conocido detector de plagios.

Sin embargo, actualmente, Turnintin ya se encuentra trabajando en una herramienta similar a «AI Text Classifier». Para detectar textos generados por la tecnología de OpenAI.

¿Cómo una inteligencia artificial detectaría los textos generados por otra I.A.?

Estos son solo algunos criterios que la inteligencia artificial podría tener en cuenta para detectar textos de otras inteligencias artificiales:

  1. Análisis de estadísticas lingüísticas: Una AI podría analizar la frecuencia de uso de ciertas palabras o patrones lingüísticos específicos en un texto para determinar si es probable que haya sido generado por otra AI.
  2. Modelos de lenguaje entrenados: Una AI podría entrenarse en textos humanos y textos generados por AI para reconocer las diferencias en su estilo y estadísticas lingüísticas.
  3. Análisis de contenido: Una AI podría utilizar técnicas de procesamiento de lenguaje natural para analizar el contenido de un texto y determinar si es coherente y coherente con la experiencia humana.
  4. Detección de patrones: Una AI podría utilizar técnicas de aprendizaje automático para detectar patrones en un texto que indican que ha sido generado por otra AI, como la repetición frecuente de ciertas palabras o frases.