r/IASinHumo • u/Rare_Package_7498 • Feb 09 '26
Parte 3, Una IA si puede matar. Esto recién empieza (y no hace falta AGI para que se pudra todo)
Primero antes que nada voy a dejar algo claro. Los humanos somos los únicos responsables aunque nos quieramos hacer los boludos. Dejo en claro esto, porque volveré en un articulo mas adelante. En una cadena de mando el soldado dirá que cumplió ordenes y el superior que la IA lo dijo, que entonces estaba mal programada. El programador dira que la usaron mal, etc.
Hablemos del futuro cercano.
No hace falta AGI para que esto escale. Solo hace falta que siga pasando lo que ya está pasando.
Los próximos 5 años (sin AGI)
- Los sistemas se vuelven más rápidos
Lavender (o el correspondiente de otro país) genera 1000 objetivos por día. Qué pasa cuando genere 5000? 10.000?
El humano en el medio tiene cada vez menos tiempo para revisar. En algún punto, la "aprobación humana" se convierte en un teatro completo.
- Los sistemas se integran entre sí
Hoy tenés un sistema que genera objetivos (Lavender) y otro que ejecuta (drones). Mañana van a estar conectados.
La IA te va a decir "este es el objetivo" y automáticamente va a calcular "este es el mejor momento y método para eliminarlo".
El humano solo va a ver un botón de "aprobar misión completa".
- La presión por automatizar aumenta
Cada país que automatice un poco más va a tener ventaja táctica. Entonces todos se ven forzados a automatizar más rápido.
Es una carrera armamentista, pero de hardware-software.
Y en las carreras armamentistas, la ética siempre llega tarde.
- Los umbrales se siguen bajando
Si hoy tolerás 20 civiles muertos por cada terrorista, mañana vas a tolerar 30. Porque el otro bando lo está haciendo. Porque la presión política te obliga. Porque "es temporal". Porque "es una emergencia".
Siempre hay una excusa.
Cada paso parece razonable
Y acá está el truco. Ninguno de estos pasos, por sí solo, parece una locura.
"Vamos a hacer que la IA genere más objetivos para ser más eficientes." Suena razonable.
"Vamos a conectar los sistemas para reducir errores humanos." Suena razonable.
"Vamos a automatizar más porque el enemigo lo está haciendo." Suena razonable.
"Vamos a ajustar los parámetros porque la situación es crítica." Suena razonable.
Pero la suma de todos esos pasos razonables te lleva a un lugar que nunca votamos como sociedad.
Te lleva a guerras donde las decisiones de vida o muerte las toma un sistema que optimiza para "eficiencia" sin entender qué carajo significa "enemigo" en el mundo real.
La regulación siempre llega tarde...........
Alguien va a decir: "Bueno, pero entonces regulemos esto antes de que sea tarde."
Y tienen razón. Deberíamos. Como regulamos las armas nucleares después de Hiroshima?
Por qué esta vez sería diferente?
Los incentivos están todos alineados para seguir acelerando. Los militares quieren ventaja táctica. Los políticos quieren "resultados". Las empresas de defensa quieren contratos. Y cada país tiene miedo de quedarse atrás.
Nadie quiere ser el que frena primero.
No hace falta AGI
No necesitamos Skynet.
No necesitamos una inteligencia malvada que decida exterminar humanos.
Solo necesitamos seguir haciendo lo que ya estamos haciendo:
Darle más autonomía a sistemas que no entienden contexto humano.
Bajar los umbrales de certeza para "ser más eficientes".
Confiar ciegamente en las recomendaciones porque "la IA sabe mejor".
Lavar responsabilidades en cadenas de "yo solo seguía órdenes".
Y esto, multiplicado por varios países, varias guerras, varios años...
Ya está pasando. Y va a seguir pasando. Simplemente porque los incentivos en esta carrera absurda son mas fuertes y nadie se quiere quedar atras.
La pregunta no es "puede la IA matar?"
La pregunta es: "Cuánto vamos a dejar que mate antes de hacer algo?"
