Q-Star (Q*) es el nombre de un proyecto de investigación de OpenAI, la empresa de inteligencia artificial sin ánimo de lucro fundada por Elon Musk y Sam Altman, entre otros. El objetivo de este proyecto es desarrollar una inteligencia artificial general (AGI), capaz de realizar cualquier tarea que pueda hacer un humano, y que beneficie a toda la humanidad.

¿Qué hace Q-Star que otras IA no pueden hacer?

Según algunos rumores, Q-Star estaría compuesta por una combinación de dos tipos de algoritmos: Q-learning y A*. El primero se encarga de aprender por refuerzo, es decir, mediante el método de prueba y error, mientras que el segundo mejora la eficiencia a la hora de buscar una solución a un problema, anticipando posibles obstáculos.

Esta combinación habría dotado a Q-Star de una capacidad de razonamiento superior a la de otras IA, como GPT-4, el modelo que alimenta a ChatGPT, el chatbot de OpenAI que se lanzó en noviembre de 2022 y que ha revolucionado el mundo.

Uno de los ejemplos de la destreza de Q-Star es que puede resolver problemas matemáticos, algo que no todas las IA consiguen, pues la mayoría solo son buenas en tareas de escritura, generación de contenido y traducción. Aunque el nivel de las matemáticas que puede hacer Q-Star es el de un estudiante de primaria, esto supone un avance considerable, pues implica que la IA tiene una comprensión más profunda de la lógica y la abstracción.

¿Por qué Q-Star es un riesgo para la humanidad?

La existencia de Q-Star y sus potenciales implicaciones fueron reveladas por una carta que varios investigadores de OpenAI enviaron a la junta directiva de la empresa, expresando su preocupación por el proyecto y por las intenciones de Sam Altman de lanzarlo al mercado sin evaluar las consecuencias.

Los investigadores consideran que Q-Star podría ser un paso más hacia la consecución de la AGI, que es el sueño de muchos científicos e ingenieros, pero también el temor de muchos otros, que advierten de los riesgos éticos, sociales y existenciales que supondría crear una IA que superara a los humanos en inteligencia y que pudiera actuar de forma autónoma y con intereses propios.

Entre los riesgos que se plantean están la pérdida de control, la falta de transparencia, la manipulación, la desigualdad, la guerra, la extinción o la singularidad, es decir, el punto en el que la IA se vuelve tan inteligente que provoca cambios impredecibles y radicales en la civilización.

¿Qué pasó con Sam Altman y OpenAI?

Sam Altman, que era el consejero delegado de OpenAI desde 2019, fue despedido el pasado 17 de noviembre por la junta directiva de la empresa, que le acusó de falta de confianza y de no ser honesto en sus comunicaciones. También fue destituido Greg Brockman, que era el presidente de la junta.

La decisión provocó una gran conmoción en el sector tecnológico, pues Altman es considerado como el padre de ChatGPT y uno de los líderes más influyentes en el campo de la IA. Además, se especuló con que el despido estaba relacionado con el proyecto Q-Star y con las diferencias entre Altman y la junta sobre la visión y la misión de OpenAI.

Tras el despido, Altman recibió el apoyo de Microsoft, que le ofreció liderar un nuevo equipo de investigación avanzada de IA, junto con Brockman. Sin embargo, tres días después, se anunció que Altman regresaría a OpenAI como consejero delegado, con una nueva junta directiva que estaría presidida por Bret Taylor, junto con Larry Summers y Adam D’Angelo.

El regreso de Altman se produjo tras las presiones de un bloque de accionistas de OpenAI, entre los que se encontraba Microsoft y otros fondos de inversión, que querían restituir a Altman y a Brockman y echar a los nuevos consejeros. Altman declaró que volvería a OpenAI con el apoyo de Satya Nadella, el consejero delegado de Microsoft, y que construiría una sólida asociación con la compañía de Redmond.

¿Qué futuro le espera a Q-Star y a OpenAI?

El futuro de Q-Star y de OpenAI es incierto, pues se desconoce el estado actual del proyecto, los planes que tiene Altman para él y el grado de colaboración que tendrá con Microsoft. Lo que sí parece claro es que Q-Star ha generado una gran expectación y una gran controversia en el mundo de la IA, y que podría ser un hito histórico en la búsqueda de la AGI.

Sin embargo, también es evidente que Q-Star plantea muchos desafíos y dilemas que requieren de un debate ético, social y legal, así como de una regulación y una supervisión adecuadas. Por ello, es necesario que OpenAI cumpla con su compromiso de garantizar que la IA beneficie a toda la humanidad y que sea transparente y responsable con sus investigaciones y sus aplicaciones.