Mozilla, la organización sin fines de lucro conocida por su popular navegador web Firefox, ha anunciado el lanzamiento de una nueva startup que estará enfocada en la inteligencia artificial confiable. Aquí los detalles.
La startup, llamada Mozilla.ai, tiene como objetivo desarrollar tecnologías de IA que sean éticas, responsables y de código abierto, según Mark Surman, presidente ejecutivo de Mozilla y director de Mozilla.ai.
“Al trabajar en una IA confiable durante casi cinco años, sentí constantemente una mezcla de emoción y ansiedad”, dijo al portal digital TechCrunch en una entrevista por correo electrónico. “El último mes o dos de anuncios rápidos de inteligencia artificial de grandes tecnologías no ha sido diferente. Está surgiendo una nueva tecnología realmente emocionante: nuevas herramientas que inmediatamente han motivado a artistas, fundadores… todo tipo de personas a hacer cosas nuevas. La ansiedad surge cuando te das cuenta de que casi nadie está mirando las barandillas”.
Surman es consciente de que la oleada de modelos de IA tienen capacidades impresionantes, pero tienen implicancias preocupantes en el mundo real.
Tal es el caso de ChatGPT cuando en sus primeros días de lanzamiento se le pidió que escribiera malware o identifique vulnerabilidades en el código de fuentes abiertas y cree sitios web de phishing. Asimismo, la IA de texto a imagen, como Stable Diffusion, ha sido usada para crear deepfakes pronográficos y representaciones ultragráficas de violencia.
Por ello, los creadores de estos modelos dicen que están tomando medidas para frenar este abuso, pero Mozilla considera que no se estaba haciendo lo suficiente.
“Hemos estado trabajando en IA confiable en el lado de la investigación de interés público durante aproximadamente cinco años, con la esperanza de que otros actores de la industria con más experiencia en IA se intensifiquen para construir tecnología más confiable”, dijo Surman.
«No lo han hecho. Así que decidimos a mediados del año pasado que necesitábamos hacerlo nosotros mismos y encontrar socios con ideas afines para hacerlo junto a nosotros. Luego nos propusimos encontrar a alguien con la combinación adecuada de experiencia en inteligencia artificial académica y de la industria para liderarlo”, finalizó.
Financiado por una inversión inicial de 30 millones de dólares de la Fundación Mozilla, la organización matriz de Mozilla, Mozilla.ai es una subsidiaria de propiedad total de la Fundación Mozilla, al igual que Mozilla Corporation (la organización responsable del desarrollo de Firefox) y Mozilla Ventures. Su director gerente es Moez Draief, quien anteriormente fue científico jefe en el laboratorio de IA Noah’s Ark de Huawei y científico jefe global en la consultora Capgemini.