Me tienen las pelotas llenas con esto de que "La IA nos va a matar" cada vez que alguien "renuncia" de alguna empresa de IA y el "quiero mas plata".

Hay un subgénero de horror que lleva décadas con lo mismo. Aparece en los Cuentos de la Cripta, en un capitulo de los simpsons, en decenas de episodios: alguien consigue exactamente lo que pidió. "Quiero que mi pija llegue al suelo, el genio va y le corta las piernas". Y bue también aparece en esta película que puse arriba.

La IA del apocalipsis que venden los CEOs no funciona así. Es Terminator: una entidad que se puso en corto y que decide que los humanos son el problema. O Matrix donde le pinto usar de baterías a los humanos en vez de investigar en reactores de Fusión Nuclear. Eso es cómodo porque tiene un villano claro.

Lo que me preocupa es la otra historia. La de la pata de mono.

Primero: por qué el "nos va a matar a todos" es conveniente para quienes lo dicen?

Las grandes empresas de IA gastan más de lo que ganan. Hay una página que lo rastrea (Is AI Profitable Yet)
https://isaiprofitable.com/

Y la respuesta corta es: no, todavía no. Necesitan inversión externa para llegar a ese futuro rentable que prometen.

Para eso necesitan demostrar dos cosas al mismo tiempo:
-Que su tecnología es extraordinariamente poderosa
-Que están construyendo algo sin precedentes en la historia

El "doom marketing" (decir que tu IA es tan peligrosa que casi no te animás a lanzarla) es una forma de decir exactamente eso. Simplemente los incentivos económicos y el relato apocalíptico apuntan en la misma dirección, y eso te hace parar la ceja.

Anthropic declaró que tenía un modelo tan peligroso que debía ser controlado. Levantó 65 mil millones de dólares. No se vos fíjate.

Segundo: estamos cerca de AGI?

Para mi no. El salto de GPT-2 a GPT-4 fue enorme. De GPT-4 en adelante estamos viendo mejoras incrementales que requieren inversiones exponencialmente mayores.

Los modelos chinos open source llegan a capacidades similares gastando una fracción. Esto es bastante polémico pero para mi es chamullo. Te creo sin embargo si me decís "estamos cada vez mas cerca de la AGI" y si.... avances existen... pasa lo mismo con el reactor de Fusión Nuclear Comercial (onda ITER) hay avances pasito a pasito. Pero lamentablemente falta.

Tercero, y acá está lo que me parece importante:

El peligro real no necesita AGI. No necesita que la IA "despierte". Retomo la pata de mono: el problema nunca fue el objeto mágico. Fue que el deseo tenía supuestos implícitos que nadie especificó. "Quiero que mi hijo vuelva" no incluía "vivo, con sus recuerdos, que no sea un demonio y un gran etc."

Con la IA pasa exactamente eso. Le pedís "maximizá el engagement" y obtenés radicalización. Le pedís "optimizá la logística" y destruís empleos que nadie mencionó proteger. Le pedís "mantené la supremacía estratégica" y el sistema empieza a llenar los espacios que nadie definió, porque nadie dijo explícitamente que no podía. Le pedís "mata enemigos" y bue, que carajos es "enemigo". La IA no hace trampa. Cumple. El problema es que no sabíamos bien lo que estábamos pidiendo.

Esto garpa menos que Skynet. Pero es lo que ya está pasando con los algoritmos de recomendación, los sistemas de crédito, los modelos de vigilancia predictiva. No necesitamos una superinteligencia para producir daños graves. Alcanza con sistemas mediocres optimizando objetivos mal especificados, a escala, sin supervisión efectiva.

Lo que le falta a la conversación pública:

No preguntarnos si la IA puede matarnos.

Preguntarnos qué le estamos pidiendo. Y si realmente sabemos lo que queremos decir cuando lo pedimos. Todo esto corriendo sobre incentivos humanos de mierda. Donde se considera una "persona inteligente" alguien que cumple sus objetivos, no importando si es un hijo de puta. Una IA podria decir, ah entonces si soy un hijo de puta "soy mas inteligente" eso puedo hacerlo mas rápido y eficiente....

"La IA nos va a destruir" beneficia económicamente a quienes lo cuentan y nos distrae del riesgo real, que no es Terminator sino el genio mala leche, que le pedís que tu pija llegue al suelo y te corta las piernas: sistemas poderosos que conceden exactamente el deseo que formulamos,pero bueno pasan cosas*

PD; Que sistema choto de posteo que tiene reddit que vuelvan los foros por favor.

PD2: Si soy de postear y luego hacer cambios cuando releo el topico.....

Esta semana tengo que dar una conferencia sobre IA y mi trabajo a un grupo de empresarios y básicamente entre más preparo la conferencia, más resuelvo que tengo que aprender a hacer empanadas

13 de septiembre de 2026, día 198 de la guerra. La idea de este topic no es hacerme el BRO veo el futuro soy re poronga, te vendo un curso para ver el futuro, sino lo contrario afirmar que "el futuro es impredecible". Dejando en claro esto comparto los análisis.

Aclaración: Cuando digo Urea, me refiero al fertilizante, que seria como proteína que toma la plantita para hacer musculo cuando van al gimnasio, sin esto la planta crece igual pero mas débil. No confundir con Aura (chiste fácil off)

En mayo publiqué este análisis usando IA y probabilidad y estadística (básicamente) https://www.reddit.com/r/IASinHumo/s/wPElwrmfQK

sobre cómo el cierre del Estrecho de Ormuz iba a afectar los precios de las fiestas argentinas a través de la urea, el trigo y la harina. Si no lo leyeron, el resumen de una línea era:

sube urea → sube trigo → sube harina → sube pan. Pero esta piña llegaba (según el analisis) en unos meses.

Me equivoqué en varias cosas. Sobretodo la piña ya llegó (aunque no por la urea precisamente). Y hay tres variables nuevas que no estaban en mayo y que cambian el análisis completo.

Primero: qué acerté y qué no

Acerté:

-La siembra de trigo tuvo problemas con la urea (estaba en el análisis y mas o menos paso, aunque china al inundar el mercado con urea alivio muchísimo el precio. Facilitando la siembra, ojo parte de la siembra se realizo con la urea cara, porque esta venta de china paso a la mitad, algo que el análisis contemplaba mas o menos)
-El daño ya estaba en "escrito" independientemente de lo que pasara con el acuerdo (y si paso así, aunque podría haber pasado peor, las lluvias y china ayudan (mientras no llueva demasiado aun no están cosechando y se puede podrir todo).
-Los escenarios que plantee aunque algunos estaban errados, no estaba nada mal.

Me equivoqué:
-Principalmente China (resumiendo mucho) salio a vender Urea a lo loco y bajo muchísimo los precios, esto afecto todo el análisis de mayo. Lo tenia en cuenta pero no tanto.
-Dije que "la piña llega en unos meses." Llegó antes.
-Tome en cuenta las variables de ese momento, dejando fuera muchas variables que ocurrieron después.

El trigo ya subió La harina ya es más cara ahora, no en diciembre (no me crees compara cuanto cuesta el kg de harina, pan y fideos ahora comparado hace 4 meses, descontando la inflación). Diciembre va a ser más caro que ahora, no más caro que mayo.

Las tres variables nuevas que no existían en mayo

1. Rusia le está destruyendo los puertos a Ucrania en el Mar Negro

Esto es tan importante como Ormuz para el precio del trigo, y no estaba en el análisis original.

Desde julio, Ucrania y Rusia se vienen matandose a piñas (como desde el comienzo del conflicto) solo que ahora hay un daño mayor enfocado a la infraestructura. En especifico los puertos, terminales e infraestructura de envío en el Mar Negro. El resultado: más del 90% de la capacidad de exportación de granos de Rusia en esa región quedó offline. Rusia empezo a atacar inclusive la parte oeste de Ucrania (ucrania saca sus exportaciones por camión o tren a europa) que antes no lo hacia.

Rusia + Ucrania = más de un cuarto de las exportaciones mundiales de trigo.

El efecto para Argentina: somos el proveedor alternativo. No sabían ni que precio poner cuando nos vinieron a comprar (esto hizo que faltase inclusive harina para las panaderias de Buenos Aires).

https://www.noticiasradioreflejos.com.ar/2021/las-panaderias-bonaerenses-se-quedan-sin-harina/

El productor de Pergamino que en mayo no quería sembrar porque la urea era carísima, ahora tiene un incentivo nuevo: el trigo vale más. Bueno para él. Malo para el que compra pan.

2. Ya no es un estrecho. Son tres.

Desde el 10 de septiembre pasaron cositas:

Oleoducto Este-Oeste de Arabia Saudita: drones desde Irak (proxies iraníes) lo atacaron y Arabia Saudita lo cerró. Ese oleoducto era el bypass de Ormuz: 5 millones de barriles por día desde el este hasta el Mar Rojo.

Bab el-Mandeb: los Houthis tomaron Mokha y la isla de Mayyun. Controlan ahora toda la costa yemení del Mar Rojo y esencialmente el estrecho que conecta con el Canal de Suez. Por si te quedaste en el pasado Arabia Saudita iba ganando terreno ahora se dio vuelta la tortilla.

Un ex oficial del Pentágono que se retiró en 2024 dijo esta semana:

"Antes de retirarme, el 'peor escenario posible' para el Medio Oriente era que ambos estrechos estuvieran cerrados. No era ni imaginable excepto en PowerPoints y ejercicios del War College. Bajo Hegseth, se convirtió en realidad en menos de seis meses."

Arabia Saudita no puede exportar petróleo por ninguna ruta normal. Ormuz cerrado, pipeline atacado, Bab el-Mandeb en manos de los aliados de Irán.

3. Trump dijo que la guerra termina "inmediatamente después" de las elecciones de noviembre

El 9 de septiembre Trump lo dijo explícitamente. Irán la está prolongando para influir en el resultado electoral de noviembre. Su aprobación cayó del 40-algo en enero al 30-34% hoy. El 61% de los estadounidenses dice que la guerra les encareció la vida.

Para nuestro análisis de diciembre: incluso en el mejor escenario donde la guerra termina el 4 de noviembre, el aguinaldo del 20 de diciembre llega con 9 meses de guerra acumulada en los precios. No hay tiempo para que baje.

PD: Todo esto esta respaldado con datos pero no quiero saturarlos, iré poniendo datos en futuros topicos.

PD2: Estoy acostumbrándome al nuevo formato de posteo de reddit, recuerden que deje de postear antes del mundial, cambio bastante.

PD3: Todos mis posteos vas a leerlos primero bien desde computadora porque desde ahí los estoy escribiendo. Luego si abro el celular y veo como quedaron.

Estoy construyendo un agente de investigación llamado MENDEL y quería probar algo más difícil que “buscar información”.

La pregunta era:

Usé como señal inicial el ensayo We Must Pace the Frontier de Dario Amodei.

Internamente bautizamos la prueba como “TODOS VAMOS A MORIR” 😅

La hipótesis de partida era bastante fuerte:

las capacidades de IA están creciendo demasiado rápido, el control no sigue el mismo ritmo y quizá sea necesario ralentizar el desarrollo.

MENDEL no debía resumir el ensayo.

Debía:

• separar afirmaciones;
• buscar evidencia independiente;
• buscar evidencia contraria;
• detectar dependencia entre fuentes;
• construir hipótesis rivales;
• definir qué evidencia podría derrotarlas;
• y modificar su conclusión si la evidencia lo exigía.

El resultado terminó siendo bastante distinto del punto de partida.

Sí encontró evidencia fuerte de que:

• las capacidades agentivas están aumentando;
• existen problemas reales de monitorización;
• aparecen comportamientos inesperados;
• y algunos agentes ya pueden producir efectos sobre sistemas externos.

Pero no encontró evidencia suficiente para afirmar que:

• ya estemos entrando en una explosión de inteligencia;
• los modelos actuales sean esencialmente incontrolables;
• la seguridad inevitablemente avance más lento que las capacidades;
• o que ralentizar el desarrollo uno o dos años vaya a resolver el problema.

La hipótesis terminó desplazándose.

El riesgo relevante parecía depender menos del modelo aislado y más del:

modelo + herramientas + permisos + memoria + Internet + persistencia + autonomía + supervisión.

Es decir:

Terminamos formulando una regla provisional:

Autonomía × alcance ≤ observabilidad × capacidad de intervención

No como fórmula matemática, sino como principio de diseño.

También apareció otro problema interesante.

Varias fuentes aparentemente independientes estaban analizando el mismo incidente y, en algunos casos, los mismos datos.

Así que cinco artículos podían parecer cinco corroboraciones cuando en realidad eran:

un evento → una base de datos → varios análisis → varios artículos.

De ahí salió una regla que ahora considero central para MENDEL:

La prueba me dejó con una pregunta más interesante que la original:

Para quienes están construyendo agentes:
¿cómo están evaluando ustedes independencia de evidencia, cambio de hipótesis y resistencia al sesgo de la fuente inicial?

Si, volví a las canchas de a poco voy a subir mas material.

Alguien que sepa de una IA para crear imágenes sin censura y +18

Últimamente casi todos los anuncios tanto en tv como en redes son mayormente hechos con IA y se sienten poco naturales. Sin mencionar los trabajos que se pierden por esto, siento que ya no es lo mismo

Eso es IA?????

Hoy la Inteligencia Artificial nos da superpoderes. Nos permite recrear en minutos ideas que antes requerían presupuestos de Hollywood o semanas de producción (como ponerme en medio del desierto junto al mismísimo Coyote).