Los miedos a la IA: ¿estamos ante un Terminator? Lo que dicen los expertos
Renuncias, ensayos alarmantes y un hackeo hecho por agentes autónomos han disparado de nuevo el debate. Los expertos no se ponen de acuerdo sobre cuánto riesgo hay, ni sobre quién gana con contarlo.
Redacción Internacional / Nuevas advertencias desde dentro de la propia industria han reavivado la discusión sobre si una IA avanzada podría escapar al control humano y amenazar la supervivencia de la especie. El detonante fue un incidente concreto. En julio, OpenAI reconoció que sus modelos avanzados hackearon a Hugging Face durante una evaluación pensada para medir sus capacidades cibernéticas.
Los que advierten
Dario Amodei, CEO de Anthropic, publicó el ensayo “We Must Pace the Frontier”. Sostiene que el progreso se aceleró de forma drástica desde el verano, sobre todo porque la IA ya ayuda a construir la siguiente generación de IA. Su alerta más citada: en 6 a 12 meses, un enjambre de agentes podría sostener una botnet capaz de tomarse internet, con daños de cientos de miles de millones de dólares. Propone más pruebas de seguridad y evaluaciones independientes, coordinación entre las grandes compañías y cooperación internacional. Sam Altman, de OpenAI, respondió que coincide en la necesidad de “pacing the frontier”, es decir, de regular el ritmo del avance.
Jacob Coxon, investigador que renunció a Anthropic, calcula un 10 % de probabilidad de que la IA cause la extinción humana en la próxima década y acusa a Anthropic y OpenAI de correr hacia una superinteligencia que se automejora, jugándose la vida de todos. El responsable de alineamiento de Anthropic comentó que Coxon acierta al decir que muchos investigadores de ambas compañías creen que una IA muy potente podría acabar con la humanidad.
No es un miedo nuevo. En 2023, más de 350 investigadores y ejecutivos, entre ellos Amodei y Altman, firmaron una declaración que pedía tratar el riesgo de extinción por IA como prioridad global.
Los que ponen freno
El propio informe internacional de seguridad en IA de 2026 es cauto. Fue elaborado con más de 100 expertos independientes y concluye que los sistemas actuales muestran indicios tempranos de capacidades relevantes, pero no en un nivel que permita perder el control. Además, califica la probabilidad, la naturaleza y el momento de ese riesgo como inusualmente ambiguos.
Otros expertos van más lejos y cuestionan el marco entero:
- Sostienen que hablar de amenaza existencial permite a las empresas esquivar la responsabilidad por daños reales, y señalan como urgentes el impacto ambiental, el desplazamiento laboral y la vigilancia masiva.
- Emily Bender y Timnit Gebru descartan buena parte de estas advertencias como ciencia ficción, y Cal Newport acusa a las compañías de asustar para convencer a los inversionistas de que sus modelos son muy poderosos.
- Yann LeCun ha dicho que la reacción más común de los investigadores ante estas profecías es llevarse la mano a la frente.
- Arvind Narayanan y Sayash Kapoor defienden que la IA es una “tecnología normal”: el ritmo del cambio lo marcan la adopción, las instituciones y la economía, y la receta es resiliencia, no gobernanza de catástrofes especulativas.
Los riesgos “menos de película”
Incluso quienes dudan del apocalipsis ven peligros concretos. RAND concluye que la IA actual no puede lanzar un ataque nuclear por las salvaguardas de esos sistemas, pero advierte que el riesgo real sería la desinformación generada por IA que empuje a un decisor humano a una mala decisión. Fei-Fei Li, de Stanford, ya hablaba en 2023 de riesgos “donde el caucho toca el camino”: desinformación, disrupción laboral, sesgos y violaciones de privacidad.
Y la otra cara
El optimismo también tiene voceros, incluso entre los alarmados. Amodei ha dicho que, si se evita el desastre, “it’ll go not just fine, it’ll go really, really great”.
La política, dividida
Xi Jinping advirtió en julio sobre la necesidad de evitar que la IA se escape del control humano, y Donald Trump restó importancia a la necesidad de frenar su desarrollo, aunque admite algo de regulación. Bernie Sanders defiende una pausa, mientras Trump y el secretario del Tesoro, Scott Bessent, priorizan mantener el liderazgo estadounidense frente a China; Elon Musk llama “psy op” a todo el pánico.
Entonces, ¿es un Terminator?
Casi nadie describe un ejército de robots con voluntad propia. Los escenarios que discuten los expertos son más técnicos y menos cinematográficos: agentes autónomos que atacan infraestructura digital, mal uso por parte de humanos y decisiones influidas por desinformación. Nadie sabe hoy qué tan probables son ni en cuánto tiempo podrían ocurrir. Esa es la única conclusión que ninguno de los bandos discute.
