Exempleados y trabajadores actuales de OpenAI y Google DeepMind ha abierto una nueva discusión al asegurar que las empresas están ocultando los peligros de la IA.
¿Qué dice la carta firmada por todos los trabajadores?
La carta titulada «Un derecho a advertir sobre la inteligencia artificial avanzada», los firmantes sostienen que la IA tiene el potencial de generar beneficios sin precedentes para la humanidad.
Si bien estos han sido reconocidos por las compañías de tecnología, para los expertos en la materia y gobiernos de todo el mundo, existe mucha opacidad sobre el tema.
Falta de transparecia en la industria de la IA
Los antiguos y actuales trabajadores de OpenAI y Google mencionan que las empresas disponen de una vasta cantidad de datos sobre cómo funcionan sus sistemas de IA, qué medidas de seguridad se les aplican y cuáles son los daños a los que se expone la sociedad al usarlos.
«Las empresas de IA poseen [una cantidad] sustancial [de] información no pública sobre las capacidades y limitaciones de sus sistemas, la idoneidad de sus medidas de protección y los niveles de riesgo de diferentes tipos de daños. Sin embargo, actualmente solo tienen obligaciones débiles de compartir parte de esta información con los gobiernos, y ninguna con la sociedad civil. No creemos que se pueda confiar en que vayan a compartirla voluntariamente»
Protección para los informantes
Los autores de la carta sostienen que los acuerdos de confidencialidad que les obligan a firmar las empresas son demasiado restrictivos al respecto. Y que las protecciones ya existentes para informantes no son suficientes. Esto se debe a que están enfocadas en actividades ilegales, cuando mucho de lo que sucede en torno a la IA ni siquiera está regulado.
«Reconocemos que cualquier esfuerzo por informar inquietudes relacionadas con riesgos debe evitar la divulgación innecesaria de información confidencial. Por lo tanto, una vez que exista un proceso adecuado para plantear inquietudes de forma anónima al directorio de la empresa, a los reguladores y a una organización independiente adecuada con experiencia relevante, aceptamos que las inquietudes se planteen inicialmente a través de dicho proceso. Sin embargo, mientras no exista dicho proceso, los empleados actuales y anteriores deben conservar la libertad de informar sus inquietudes al público», se comenta en la carta.