LUICA LARIOS

Investigador de seguridad de Google DeepMind renuncia: "la IA podría matarnos a todos"

Fecha
Quién
Bilal Chughtai, exinvestigador del equipo de seguridad y alineación de AGI de Google DeepMind
Empresa
Google DeepMind

Qué pasó

Bilal Chughtai trabajaba en Google DeepMind, el laboratorio de IA de Google, en el equipo de seguridad de la AGI (así se le dice a una IA tan capaz como una persona en casi todo) y de "alineación" (lograr que la IA haga lo que de verdad queremos). Salió de la empresa en julio de 2026 sin decir nada en público.

El 14 de septiembre publicó un comunicado en su blog y en X. Dice que vio de cerca cómo se desarrolla la IA, que le preocupa mucho hacia dónde va y que las capacidades avanzan mucho más rápido que nuestra forma de controlarlas. Pide que las empresas se coordinen para frenar la carrera entre ellas. Según la prensa, después se fue a BlueDot Impact, una organización que capacita a personas para trabajar en seguridad de la IA.

Por qué importa

La prensa lo señala como el primer empleado de Google DeepMind que renuncia y dice en público, con su nombre, que la IA podría acabar con la humanidad. Cuando alguien que trabajaba justo en hacer segura la IA se va con esa advertencia, es una señal de que dentro de los laboratorios hay gente muy preocupada.

Lo que dijeron, textual

“Hace poco renuncié a Google DeepMind, donde trabajaba en investigación de seguridad y alineación de AGI. En Google vi de primera mano el desarrollo de la IA. Yo también estoy muy preocupado por el rumbo que lleva esta tecnología si nada cambia. Creo sinceramente que la IA tiene el potencial de matarnos a todos, y que podría estar acabándosenos el tiempo para evitarlo.”

Original: “I recently resigned from Google DeepMind, where I worked on AGI safety and alignment research. At Google, I witnessed AI development first hand. I too am extremely concerned by the default trajectory of this technology. I earnestly believe that AI has the potential to kill us all, and that we might be running out of time to avoid this outcome.”

— Bilal Chughtai, en su post en X, reproducido por The Next Web · The Next Web ↗

“para evitar esta carrera desenfrenada entre las empresas de IA”

Original: “to avoid this manic race between AI companies”

— Bilal Chughtai, en su comunicado "Statement on leaving Google DeepMind", en su blog · Blog de Bilal Chughtai ↗

Fuentes

Ver todo el radar