Ilya Sutskever, cofundador y ex científico jefe de OpenAI, presentó mediante una publicación de X su nuevo proyecto dedicado a desarrollar una «superinteligencia segura».
En la publicación, Sutskever anunció la creación de Safe Superintelligence Inc. (SSI).
La estrategia de SSI de cara al mercado
Según la reciente página, la estrategia de la startup de inteligencia artificial es avanzar en sus capacidades tan rápido como sea posible, claro, lo prioritario será siempre la seguridad. «De esta manera, podemos escalar en paz», añade la compañía.
Además de Sutskever, SSI cuenta con Daniel Gross, ex director de IA de Apple, y Daniel Levy, ex miembro del equipo técnico de OpenAI, como cofundadores.
Enfoque singular y aislamiento de presiones comerciales
La empresa también enfatiza su enfoque exclusivo en la seguridad, así como evitar distracciones como la gestión administrativa y los ciclos de productos.
Sutskever explicó a Ashlee Vance de Bloomberg que SSI estará completamente aislado de presiones externas, pues se busca evitar la trampa de una carrera competitiva.
La salida de Sutskever de OpenAI
La fundación de SSI se produce poco después de la salida de Sutskever de OpenAI en mayo. En ese momento, mencionó que trabajaría en un «proyecto muy significativo».
Sutskever fue fundamental en los avances de IA de OpenAI. Elon Musk lo llegó a calificar como «el pilar del éxito de la empresa».
Su participación en la destitución de Altman
El 17 de noviembre de 2023, la junta directiva de OpenAI anunció la destitución de Sam Altman, fundador de la compañía.
En dicha decisión, Sutskever habría jugado un papel importante. No obstante, luego se arrepintió y solicitó la reincorporación de Altman, apoyado por otros empleados.
Altman fue restituido cinco días después, pero esta situación causó una aparente ruptura entre ambos.
Una nueva tendencia entre exmiembros de OpenAI
La salida de Sutskever y la creación de la nueva startup SSI no son casos aislados en OpenAI.
En 2021, los ex empleados y hermanos Dario y Daniela Amodei fundaron la compañía Anthropic, una startup de IA. La empresa, respaldada por inversores como Amazon y Google, también busca destacarse por su enfoque en la seguridad.
Perspectivas futuras
El establecimiento de SSI por parte de Sutskever marca un paso significativo en el desarrollo de una inteligencia artificial más segura.
Al centrarse exclusivamente en la seguridad y evitar las presiones comerciales, SSI se posiciona para abordar los desafíos éticos y técnicos que plantea la creación de una superinteligencia.
Con líderes experimentados y un enfoque claro, el futuro de la inteligencia artificial segura parece prometedor bajo la dirección de Sutskever y su equipo en SSI.
