La inteligencia artificial (IA) ha dejado de ser exclusivamente una revolución tecnológica para convertirse en una cuestión de poder. El problema no radica en controlar lo que pueden hacer las máquinas sino en determinar quién decide hasta dónde pueden llegar, quién evalua sus efectos y qué ocurre si su propia evolución supera nuestra capacidad para gobernarla.
Un revelador reportaje de Patricia Fernández de Lis, publicado semanas atrás en EL PAÍS, reúne los testimonios de una decena de antiguos investigadores, directivos y especialistas de OpenAI, Anthropic y Google, que han abandonado esas compañías después de trabajar en la primera línea del desarrollo de la inteligencia artificial. El elemento común de sus testimonios no es el rechazo a la tecnología, sino una preocupación más alambicada que resume su percepción de que la velocidad del progreso puede estar dejando atrás los mecanismos destinados a garantizar su seguridad.
El caso más reciente es el de Jacob Coxon, antiguo investigador de Anthropic, previamente vinculado a OpenAI. Su advertencia resulta extrema, pues teme que sistemas de inteligencia artificial —con potencial para mejorar sus propias capacidades— puedan llegar a ser incontrolables antes del final de la década actual. Su diagnóstico coincide con el de otros investigadores que consideran insuficientes las actuales técnicas de alineamiento —es decir, el esfuerzo por conseguir que los sistemas actúen de acuerdo con objetivos y valores humanos— frente a modelos que son cada vez más autónomos.
Pero esta no es la primera señal de alarma. En 2021, Paul Christiano, investigador relacionado con el desarrollo de ChatGPT, advertía de la posible aceleración extraordinaria de las capacidades de la IA. Y en 2023, Geoffrey Hinton, uno de los científicos fundamentales del aprendizaje profundo y premio Nobel, abandonó Google y comenzó a expresar públicamente su preocupación por el ritmo evolutivo de estas tecnologías. La pregunta que formuló era también nuclear: si las máquinas continúan mejorando a una velocidad muy superior a la capacidad humana para comprenderlas, ¿qué mecanismos permitirán conservar su control?
La crisis cobró especial relevancia en 2024 cuando figuras importantísimas del área de seguridad de OpenAI abandonaron la empresa. Una de ellas, Jan Leike, afirmó que la cultura y los procedimientos de seguridad se habían relegado mientras se intensificaba la presión empresarial para desarrollar nuevos productos. Su salida evidenció una contradicción que afecta al conjunto de la industria: las compañías necesitan avanzar rápidamente para no perder competitividad, pero esa misma porfía puede reducir el tiempo disponible para ponderar los riesgos.
Justamente en este punto emerge el problema político. No estamos ante una tecnología desarrollada en laboratorios aislados, sino ante una carrera empresarial multimillonaria. OpenAI, Google, Anthropic y otras compañías compiten por construir sistemas cada vez más capaces, mientras los Gobiernos intentan establecer normas que inevitablemente van por detrás de la innovación empresarial.
Los riesgos de esta alocada carrera tampoco se circunscriben al territorio de la ciencia ficción. Los expertos han señalado posibles aplicaciones relacionadas con ciberataques, fabricación de agentes biológicos, manipulación de información, vigilancia y usos militares... William Saunders, antiguo investigador de OpenAI, declaró ante el Senado estadounidense sus preocupaciones sobre las capacidades de determinados modelos para proporcionar asistencia relacionada con amenazas biológicas. Otros investigadores han observado comportamientos engañosos o estrategias destinadas a preservar los objetivos de un sistema durante determinadas pruebas.
Existe además una dimensión menos espectacular, pero más inmediata: la concentración del poder tecnológico. Un reducido número de empresas posee hoy una capacidad de computación, capital y talento científico que supera la de muchos Estados, universidades y organizaciones sociales. Si esas corporaciones determinan por sí mismas los límites de la tecnología que están desarrollando, la pregunta resulta inevitable: ¿puede dejarse la regulación de una revolución de esta magnitud en manos de quienes tienen los mayores incentivos económicos para acelerarla?
Más de 1.300 trabajadores del sector han reclamado públicamente mayor prudencia. Y algunos especialistas defienden implantar mecanismos que vayan más allá de las declaraciones voluntarias de las empresas, tales como auditorías independientes, obligaciones jurídicas, supervisión pública, protocolos internacionales y capacidad real para detener determinados desarrollos. Investigaciones recientes sobre seguridad de la IA insisten precisamente en que la protección no puede descansar exclusivamente en el comportamiento del modelo, sino que debe incorporar controles del sistema, monitorización independiente y estructuras de gobernanza.
Pese a todo ello, conviene, sin embargo, evitar el alarmismo. La posibilidad de una inteligencia artificial que provoque la extinción humana pertenece todavía al territorio de los futuribles y los escenarios distópicos. También existe una discusión en la comunidad científica sobre si algunas advertencias magnifican riesgos hipotéticos, mientras reciben menos atención problemas actuales como la desinformación, la discriminación algorítmica, la pérdida de privacidad o la transformación del empleo. Incluso el Financial Times ha señalado que las predicciones apocalípticas pueden ser utilizadas por las propias grandes empresas para justificar regulaciones que dificulten la entrada de nuevos competidores.
No obstante, esa cautela no debería convertirse en complacencia. La ausencia de certeza sobre un peligro extraordinario no constituye una razón suficiente para ignorarlo cuando el coste potencial es tan enorme.
La verdadera cuestión, por tanto, no es si debemos detener la inteligencia artificial. Sería imposible y probablemente indeseable. La cuestión es si podemos conseguir que la gobernanza avance al menos al mismo ritmo que la tecnología.
La historia ofrece precedentes. La energía nuclear demostró que una tecnología puede modificar radicalmente el equilibrio mundial antes de que existan instituciones adecuadas para gobernarla. La inteligencia artificial plantea ahora un desafío diferente: no entrega solamente más poder a los seres humanos, sino que puede crear sistemas capaces de tomar decisiones, perseguir objetivos y actuar con una autonomía creciente.
Por eso la advertencia de quienes estuvieron dentro merece ser escuchada sin convertirla ni en profecía apocalíptica, ni en propaganda empresarial. Su mensaje esencial es mucho más sobrio: estamos construyendo una tecnología cuyo potencial todavía no comprendemos plenamente y, sin embargo, la carrera por desarrollarla ya está en marcha.
El desafío de esta década será conseguir que la humanidad no tenga que aprender a gobernar la IA después de haber perdido la capacidad de hacerlo.






