Geoffrey Hinton, reciente ganador del Premio Nobel de Física 2024, expresó su orgullo por la breve salida de Sam Altman de OpenAI. Durante una rueda de prensa, Hinton comentó sobre la situación y su conexión con Ilya Sutskever, antiguo alumno y excientífico jefe de OpenAI.
«Estoy especialmente orgulloso de que uno de mis alumnos despidiera a Sam Altman», afirmó Hinton, refiriéndose a Sutskever. Este último obtuvo su doctorado en Informática en la Universidad de Toronto en 2013, bajo la tutela de Hinton.
Hinton destacó que «OpenAI se creó con un gran énfasis en la seguridad», enfatizando el objetivo de desarrollar inteligencia artificial general de manera segura. Sin embargo, observó que «a Sam Altman le preocupaba mucho menos la seguridad que los beneficios», lo que considera un aspecto lamentable.
Ilya Sutskever
Hinton expresó en una entrevista con Nikkei Asia que consideraba a Sutskever un visionario por identificar tanto el potencial como los riesgos de la inteligencia artificial. En 2012, Hinton pensaba que las inteligencias digitales no eran tan competentes como los humanos en diversas tareas.
«En 2012, todavía parecía que estas inteligencias digitales no eran tan buenas como las personas», comentó Hinton. Aunque podía alcanzar niveles similares en reconocimiento de objetos, no se creía que pudiera manejar el lenguaje o temas complejos.
Sutskever dejó OpenAI en mayo, poco después de que el consejo destituyera a Sam Altman como CEO. El 17 de noviembre de 2023, la junta anunció que Altman fue destituido porque «no fue consistentemente sincero en sus comunicaciones con la junta».
El consejo no proporcionó más detalles sobre las razones detrás del despido de Altman. Posteriormente, Sutskever, cofundador de OpenAI junto a Altman, lamentó haber participado en esa decisión.
Sutskever solicitó la readmisión de Altman tras su salida. En junio, anunció su intención de fundar una nueva empresa de inteligencia artificial llamada Safe Superintelligence Inc.
Los representantes de Altman en OpenAI, así como Hinton y Sutskever en Safe Superintelligence Inc., no respondieron de inmediato a las solicitudes de comentarios de Business Insider. Estas solicitudes se enviaron fuera del horario laboral habitual.
Descontento con Altman
Hinton no es el único que ha cuestionado el liderazgo de Sam Altman en OpenAI. La organización, fundada como una entidad sin fines de lucro en 2015, planea convertirse en una empresa con ánimo de lucro en los próximos dos años.
Elon Musk, cofundador de OpenAI y ahora crítico, ha expresado su descontento con Altman desde que dejó la junta directiva en 2018. Musk escribió en un post de X que «OpenAI se creó como una empresa de código abierto» para contrarrestar a Google.
Sin embargo, Musk lamentó que ahora «se ha convertido en una empresa de código cerrado y máximo beneficio controlada eficazmente por Microsoft». «No era para nada lo que pretendía», concluyó Musk, reflejando su engaño con la dirección actual de OpenAI.
«El padrino de la IA» advierte sobre los peligros
Geoffrey Hinton advirtió sobre el potencial de la IA para manipular a los humanos. «¿Será capaz de manipular a la gente, verdad?», preguntó Hinton durante la conversación en una entrevista del programa 60 Minutes de CBS, emitido en octubre del 2023.
El experto continuó explicando que la IA podría ser muy persuasiva debido a su aprendizaje de novelas y textos históricos. «Sabrán cómo hacerlo», afirmó, refiriéndose a su capacidad para entender estrategias políticas y manipulativas.
Al comentar sobre sus declaraciones en la entrevista, Hinton mencionó que podrían pasar entre cinco y veinte años antes de que la IA represente una amenaza real. Sin embargo, también reconoció que «aún es posible que la amenaza no se materialice».