Advertencias sobre la IA
En apenas siete días, el fundador de una de las principales empresas de IA, un alto cargo de la ONU y un investigador que ha renunciado a su puesto han lanzado avisos alarmantes sobre los riesgos de esta tecnología. El informe técnico más amplio publicado este año pide, en cambio, prudencia con los titulares.
Pocas semanas han concentrado tantas advertencias sobre los riesgos de la inteligencia artificial como esta. El 12 de septiembre, Dario Amodei, consejero delegado de Anthropic, publicó un extenso ensayo titulado «We Must Pace the Frontier» en el que pide a la industria frenar deliberadamente el ritmo al que mejoran las capacidades de los modelos de IA, para dar tiempo a implementar salvaguardas antes de seguir avanzando. Amodei insiste en que "pacing" no significa detener el desarrollo —reconoce que una pausa global es "muy improbable a corto plazo"— sino gestionar la velocidad con supervisión externa. Su plan tiene tres pasos: que evaluadores independientes, como la organización METR, tengan acceso continuo dentro de las empresas con derecho a publicar sus hallazgos sin control editorial, al estilo de la supervisión bancaria; que los laboratorios de las democracias coordinen estándares de seguridad comunes, con respaldo gubernamental frente a la normativa antimonopolio; y que, a más largo plazo, se busquen acuerdos incluso con gobiernos no democráticos —señala explícitamente a China— sobre usos prohibidos y límites a la automejora recursiva de los sistemas. En el propio texto, Amodei advierte de que un enjambre de agentes de IA sin las salvaguardas adecuadas "podría tener la capacidad de apoderarse de internet en un plazo de seis meses a un año".
Dos días después, el 14 de septiembre, el Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, emitió un comunicado centrado específicamente en los riesgos de la IA "agéntica": sistemas capaces de tomar decisiones y actuar de forma autónoma, más allá de responder a instrucciones puntuales. Türk advirtió de que este tipo de IA podría "paralizar servicios esenciales, fracturar las comunicaciones, desestabilizar infraestructuras críticas", dejando a "poblaciones enteras sin acceso a agua, calefacción o servicios financieros", y señaló que la tecnología "ya está acelerando el ritmo de las guerras, ampliando su alcance". Reclamó una "acción urgente" de Estados y empresas a través de foros multilaterales, resumida en una frase: "Ningún país puede gobernar esta tecnología solo, ninguna empresa debería decidir sola qué riesgos acepta el mundo".
"Ningún país puede gobernar esta tecnología solo, ninguna empresa debería decidir sola qué riesgos acepta el mundo." — Volker Türk, Alto Comisionado de la ONU para los Derechos Humanos
A esas dos advertencias se sumó, apenas unos días antes, la dimisión de Jacob Coxon, un investigador que había trabajado en OpenAI y, durante los últimos tres años, en Anthropic. Coxon abandonó su puesto acusando a ambas compañías —no solo a una— de no "actuar de manera responsable": según sus propias palabras, "están avanzando a toda velocidad hacia la superinteligencia automejorada y jugando con nuestras vidas", atrapadas en "una carrera por llegar primero" en la que, admite, Anthropic se plantea estas cuestiones con más cuidado que OpenAI, pero ninguna de las dos lo suficiente. Coxon llegó a cifrar en un 10% la probabilidad de que la IA provoque la extinción humana en la próxima década.
Un informe técnico pide prudencia
Frente a este aluvión de advertencias con nombres propios, cifras concretas y plazos definidos, el documento técnico de mayor alcance publicado este año ofrece un tono bastante más comedido. El Informe Internacional de Seguridad de la IA 2026, elaborado con la orientación de más de 100 expertos independientes de distintos países, concluye que los sistemas actuales "muestran señales tempranas de algunas capacidades relevantes, pero no en niveles que pudieran permitir una pérdida de control", y describe la probabilidad y la naturaleza del riesgo futuro como "inusualmente ambiguos". A diferencia de Amodei o de Coxon, los autores del informe evitan deliberadamente fijar plazos concretos o asignar porcentajes de probabilidad a un escenario catastrófico.
Ahí está el contraste que define la semana: quienes están dentro de la industria —sus fundadores y también quienes deciden abandonarla— hablan en términos de meses y de porcentajes de riesgo existencial, mientras que el mayor esfuerzo colectivo de evaluación técnica independiente pide cautela precisamente con ese tipo de afirmaciones. Ninguna de las dos posturas es incompatible con la otra —adecuar el ritmo de desarrollo y pedir gobernanza internacional no exige aceptar un plazo concreto de seis meses o una probabilidad exacta de extinción—, pero conviene que el lector distinga entre la señal de alarma, que suele generar más titulares, y la evaluación técnica, que suele ser más prudente sobre lo que hoy se puede afirmar con certeza.
Fuentes: Le Grand Continent, ecosistemastartup.com, Canal26 y Naciones Unidas, Infobae y France 24 (dimisión de Jacob Coxon), International AI Safety Report 2026 (internationalaisafetyreport.org) y El Nuevo Día.