Algunas de las personas que están construyendo los sistemas de inteligencia artificial más avanzados del mundo creen que existe un riesgo real de que algún día perdamos el control sobre ellos, otras consideran que estamos adelantándonos demasiado a lo que la tecnología puede hacer. ¿Qué sabemos realmente?

Hace unos días, Jacob Coxon dejó su trabajo en Anthropic, una de las empresas de inteligencia artificial más importantes del mundo. Había trabajado también en OpenAI y, al explicar su salida, utilizó una frase difícil de ignorar: dijo que los grandes laboratorios estaban “apostando con nuestras vidas”, pero no fue el único.

Evan Hubinger, responsable de investigación de alineación en Anthropic, el área que estudia cómo conseguir que una IA haga realmente lo que queremos que haga, fue todavía más lejos, ydijo que personalmente considera superior al 10% la posibilidad de que la inteligencia artificial termine matando a todos los seres humanos durante la próxima .

Si. Embargo, ese 10%  no es una probabilidad calculada científicamente, es una estimación personal de riesgo.

No hay cientos de casos anteriores de inteligencias superiores a los humanos que nos permitan calcular cuántas veces perdimos el control. Por eso esos porcentajes expresan la preocupación de algunos especialistas, no una predicción comparable, por ejemplo, con la probabilidad de lluvia.

Pero entocnced, deberíamos olvidarnos del asunto?,  yo creo que no.

¿Qué tendría que pasar para que realmente perdiéramos el control?

El International AI Safety Report 2026, dirigido por Yoshua Bengio, investigador canadiense reconocido por sus estudios en redes neuronales artificiales, y elaborado con la participación de más de cien especialistas, ayuda a separar los escenarios de ciencia ficción de los riesgos que sí podemos observar.

En el reporte sobresale que, para que una IA pudiera provocar por sí sola una catástrofe tendría que reunir varias capacidades al mismo tiempo: planear durante periodos prolongados, utilizar herramientas, superar obstáculos, evitar que la detuvieran y actuar de manera autónoma sobre sistemas reales.

Las inteligencias artificiales actuales todavía no pueden hacer todo eso de manera suficientemente confiable, siguen equivocándose, pierden información, fallan en tareas largas y tienen dificultades cuando aparece un problema que no habían previsto. El informe concluye que los sistemas actuales no poseen la combinación de capacidades necesaria para provocar una pérdida generalizada de control.

Esto nosnpermite acercarnos mas a la conclusión de que la IA está desarrollando algunas de las capacidades que preocuparían si algún día fueran mucho más avanzadas, pero no que pueden acabar con nosotros en 10 años.

Desde 2019, el tiempo durante el cual los agentes pueden realizar determinadas tareas autónomamente se ha venido duplicando aproximadamente cada siete meses. Además, en pruebas de seguridad algunos modelos han conseguido reconocer que están siendo evaluados, encontrar huecos en las pruebas o intentar evitar mecanismos de supervisión bajo condiciones diseñadas específicamente para estudiar esos comportamientos.

Pero, eso no significa que una IA haya desarrollado deseos de escapar, sobrevivir o dominar a los seres humanos, significa que, conforme les damos más capacidades y autonomía, aparecen comportamientos que necesitamos entender antes de entregarles todavía más capacidad de acción.

Ni siquiera los expertos están de acuerdo.

Dario Amodei, CEO y cofundador de Anthropic, ha pedido disminuir el ritmo con el que se desarrollan los modelos más avanzados. Lo curioso es que está lejos de ser enemigo de esta tecnología: también cree que la IA podría acelerar extraordinariamente la investigación científica, contribuir al tratamiento de enfermedades y generar una enorme prosperidad económica, por lo poderosa que puede llegar a ser.

En cambio, Yann LeCun, otro de los grandes pioneros de la inteligencia artificial moderna, sostiene que estamos atribuyendo demasiado poder a los modelos actuales. Una IA puede hablar brillantemente sobre un tema y, al mismo tiempo, tener enormes dificultades para comprender y actuar en el mundo físico.

Andrew Ng, científico e informático británico,  también considera exagerados muchos escenarios de extinción y recuerda que, para pasar de los sistemas actuales a la desaparición de la humanidad, tendría que cumplirse una larga cadena de acontecimientos que hoy no sabemos si ocurrirán.

Y quizá ése sea el dato más importante: quienes más saben sobre inteligencia artificial tampoco saben con certeza hasta dónde puede llegar.

Mientras tanto, hay riesgos que no son hipotéticos, por ejemplo, la inteligencia artificial ya puede utilizarse para fraude, desinformación, ciberataques, vigilancia o manipulación. También está aumentando la capacidad de automatizar decisiones y actuar sobre sistemas digitales.

Esos riesgos no necesitan una máquina consciente ni una IA que decida rebelarse, sino algo mas simple: una herramienta muy poderosa en las manos equivocadas, mal utilizada o insuficientemente controlada.

La evidencia disponible no permite afirmar que la inteligencia artificial vaya a extinguir a la humanidad, mucho menos que vaya a hacerlo dentro de diez años, aunque tampoco permite concluir que no existe ningún riesgo.

Estamos construyendo sistemas cada vez más capaces y autónomos, y todavía existen preguntas importantes sobre cómo mantenerlos bajo control conforme aumente su poder.

No necesitamos escoger entre creer que la IA va a salvarnos o pensar que va a destruirnos, ni que una tecnología puede extinguir a la humanidad para tomarnos en serio sus riesgos.

La inteligencia artificial es una herramienta extraordinariamente poderosa, y solo eso, ya  explica por qué quienes la están construyendo discuten con tanta seriedad hasta dónde debemos permitirle llegar.

Pero tal vez lo más revelador de esta discusión no sea que algunos de ellos tengan miedo, es que no se ponen de acuerdo.

Personas que llevan años construyendo y estudiando inteligencia artificial observan la misma tecnología y encuentran futuros completamente distintos: unos hablan de enfermedades que podrían curarse y descubrimientos que hoy parecen imposibles; otros advierten sobre pérdida de control y, en el extremo, sobre nuestra propia supervivencia.

Estamos avanzando muy rápido con una tecnología extraordinariamente poderosa, mientras incluso quienes mejor la conocen siguen discutiendo hasta dónde puede llegar.

Y aunqur eso no es una razón para entrar en pánico, tampoco parece una buena razón para dejar de hacer preguntas.