La empresa de inteligencia artificial Sama, cortó lazos con el gigante del mismo rubro, OpenAI. ¿La razón? Según la revista Times, OpenAI habría solicitado y recibido 1.400 imágenes de contenido ilegal que incluían abuso sexual infantil, zoofilia y violaciones. Esto con el fin de entrenamiento de la herramienta de IA, ChatGPT.
Además, OpenAI ha confirmado que para el entrenamiento de su herramienta conversacional ChatGPT, utilizaron a trabajadores kenianos para etiquetar contenidos peligrosos para los usuarios del ‘chatbot’. Con ello, quedaron expuestos a imágenes ilegales que incluyen abusos físicos y sexuales.
La subcontratación abusiva de OpenAI
Este modelo de trabajo utilizó la subcontratación de la empresa Sama, quien pagaba entre US$1.32 y US$2 dependiendo de la antigüedad y desempeño del trabajador. Esto según cuatro trabajadores anónimos que trabajaban bajo el régimen de Sama y OpenAI.
Según los contratos firmados por la empresa, esta encargaba a los etiquetadores de datos kenianos que catalogaran, desde sus respectivos equipos, textos que tenían que ver con abusos sexuales, incitación al odio y violencia, según documentos internos obtenidos por Time.
«Clasificar y filtrar (textos e imágenes) dañinos es un paso necesario para minimizar la cantidad de contenido violento y sexual incluido en los datos de entrenamiento y crear herramientas que puedan detectar contenido dañino», sostuvo OpenAI en un comunicado recogido por la revista.
La preocupación crece por el salario de los etiquetadores y por los contenidos a los que se encuentran expuestos. Además, los trabajadores llevan mucho tiempo quejándose de la carga que supone eliminar el contenido tóxico de los sistemas tecnológicos.
En un caso específico, un empleado calificó su trabajo como «una tortura» después de que le asignaran la lectura de un fragmento sobre un hombre que realizaba un acto sexual con un perro en presencia de un niño. Este es el tipo de experiencias que hacen dudar del beneficio de la herramienta de OpenAI.