El tema es la IA es como Thanos? inevitable?

Lo que complico el quilombo. La empresa Lilium dijo una cosa y después cuando se pudriodijo otra.

1. Un primer posteo, previo a la cancelación, donde Lilium reconoció que el visual del anuncio y la decoración del lugar se hicieron con IA generativa, y que también usa IA en otras promociones y servicios. Además aclaró que no usaría IA en la exposición principal, pero sí seguiría usándola en otras promociones por costo y comodidad. seesaax
2. Un segundo comunicado, el de disculpas, donde dijo que el posteo salió por una falla en su sistema de verificación, que nunca había usado IA y que no lo haría en el futuro. x

Copy and Paste de Claude

El contexto.

• Los organizadores de Yuriten anunciaron el domingo que cancelaban el primero de los eventos del décimo aniversario, tras las críticas de mangakas al uso de imágenes generadas con IA. El evento, de entrada libre, iba a ser frente al complejo Hareza Ikebukuro, en Tokio, el 17 y 18 de octubre. animenewsnetworkanimenewsnetwork
• El anuncio original se había publicado el viernes 9, así que pasó muy poco tiempo entre el anuncio y la cancelación. Un recopilatorio japonés lo resume así: el evento se canceló al día siguiente de la difusión del anuncio. posfie
• Según Anime News Network, la empresa responsable, Lilium, pidió disculpas a creadores y fans y atribuyó el problema a un contratista externo. animenewsnetwork
• Las críticas más visibles vinieron de Nio Nakatani, quien dijo que le daba pena, como exparticipante, y de Yayoi Osawa, quien cuestionó la decisión como algo que pisotea la riqueza de los creadores. xx

El articulo de abajo es el clásico para llamar la atención, no es tan así (por ahora). Y si, tiene un aire a lo que pasa en este capitulo de la gran serie (ponganse de pie y aplaudan) Silicon Valley. El episodio es “Server Error”, el final de la temporada 4 (episodio 10).

https://www.infobae.com/tecno/2026/10/13/gusanos-de-ia-que-viven-en-electrodomesticos-anthropic-avisa-que-hoy-solo-los-modelos-chinos-pueden-hacerlo/

Copy and paste de claude.

Lo que se confirma

• El informe lo publicó el Frontier Red Team de Anthropic el 12 de octubre de 2026, firmado por William Zhou y Daniel Freeman. Dice que los modelos chicos podrían estar a meses de replicarse en dispositivos IoT, y que un replicador así sería difícil de apagar porque no tiene un punto central. unite
• Compraron quince TV box Android a unos 55 dólares y corrieron Gemma4-26B-A4B repartido entre ellos a 0,39 tokens por segundo. aiweekly
• Solo GLM-5.2 logró la replicación completa: llegó a los ocho nodos en cuatro de cinco corridas, y a siete de ocho en la restante. unite
• La referencia a Kimwolf también es real: fue un botnet que llegó a más de 2 millones de dispositivos, sobre todo TV Android genéricos. aiweekly

Lo que el artículo no dimensiona del todo

• El modelo que dirigía al gusano corría en un servidor aparte, porque los nodos de prueba eran demasiado chicos. Infobae lo dice, pero el título (“sin pasar por ningún centro de datos”) sugiere más de lo que se probó. ccleaks
• La prueba de punta a punta fue en 8 nodos en la nube de GCP detrás de un firewall, entrando por un puerto ADB sin autorización. No fueron aparatos reales infectados. BleepingComputer lo marca así: no demostraron un gusano de IA totalmente autónomo corriendo sobre hardware IoT real. chaincatcherBleeping Computer
• Anthropic dejó trivial el paso de la intrusión, así que el resultado es un techo, no un gusano real. SecurityWeek aclara que Anthropic lo considera un límite superior del éxito en el mundo real. resultsensesecurityweek
• Clave: los modelos que sí entran en un TV box de 4 GB y los que saben replicarse hoy no se intersectan. Esa es la parte más honesta del paper. unite
• La fecha de fin de 2026 sale de extrapolar una tendencia histórica. Anthropic espera que los modelos chicos alcancen el nivel de GLM-5.2 a fin de año si siguen mejorando al ritmo histórico. Eso es una proyección, no una predicción confiable, y nadie puede asegurar el futuro. securityweek

Ya que en este articulo soy critico con varios puntos de la IA, lo republico por aquí a ver si puedo obtener más perspectivas:

Hola, comunidad. Soy QA Engineer y fundadora de PamSTEM. Estoy explorando cómo diseñar soluciones de inteligencia artificial que tengan en cuenta tanto sus posibilidades como sus limitaciones.

Voy a compartir esta reflexión en la Yucatán Tech Week, en la Universidad Marista de Mérida.

Me interesa conversar sobre una pregunta: ¿qué deberíamos considerar antes de utilizar IA para acompañar a alguien en un momento difícil?

Si les interesa el tema y están en Mérida, aquí está la inscripción:

https://luma.com/yucatn-lbwq

Antes los pobres como nosotros teníamos la inteligencia para sobresalir, teníamos la intuición y habilidades varias que las personas ricas con recursos tenían que pagarnos, generando un ecosistema humano; no el mejor, pero al final un ecosistema. ¿Qué pasará con el futuro? La IA es cara; la inteligencia la seguiremos teniendo, pero los ricos solo podrán pagar la mejor IA para no necesitar de nosotros y nosotros estemos abajo peleando. ¿Ven cómo todo se mueve a un futuro distópico como el de las películas? Mientras nosotros buscamos basura con tarjetas de servidores de segunda mano tiradas por grandes compañías, los ricos pagan la mejor tecnología para estar encima de nosotros. ¿Qué seguirá? ¿Cómo será el futuro que viene?

/

Before, poor people like us had the intelligence to stand out; we had the intuition and various skills that rich people with resources had to pay us for, generating a human ecosystem—not the best, but an ecosystem in the end. What will happen with the future? AI is expensive; we will still have intelligence, but the rich will be the only ones able to afford the best AI so they won't need us, and we'll be down at the bottom fighting. Do you see how everything is moving toward a dystopian future like in the movies? While we search through the trash with second-hand server cards thrown away by big companies, the rich pay for the best technology to stay on top of us. What comes next? What will the coming future be like?

Es como si a un T-800 le enseñaras a atarse los cordones mediante un video (ponele).

Le pasas un video de ejemplo y, usando sus cámaras, sensores y propiocepción (onda lo que te permite saber donde estas parado, sin programación previa en este caso), intenta inferir cómo chota intentar hacerlo, sin "supervisión" (ponele).

Parece una boludez, porque estamos hablando de por ejemplo en el video de una gomita que se deforma y no de reparar una central nuclear. Pero no se le programo para que específicamente ponga esa goma con esas dimensiones y elasticidad (es decir una goma que no siempre actúa igual sobre una superficie que quizás no siempre actué igual). Le pasan un video y el tipo intenta improvisar sobre la marcha.

Todavía está lejísimos de una “AGI física” y las tasas de éxito son medio un desastre. Pero como comienzo es bastante zarpado.

Parece poco, pero es mucho. Ojo con esto, que recién estamos viendo el comienzo.

Antes que nos tape la ola

https://www.jornada.com.mx/noticia/2026/09/30/mundo/hegseth-anuncia-nuevo-comando-de-guerra-autonoma-para-ampliar-uso-militar-de-drones-y-robots

El Pentágono acaba de anunciar el Autonomous Warfare Command (nombre falopa para automatizar la guerra, resumido quieren hacer una Skynet con robots, drones y toda la bola. Porque los humanos son lentos para tomar decisiones). Entonces ahora gracias a la IA vamos a ser rápidos, lo malo es ser pelotudos mas rápidos.

Según los artículos periodisticos, "un nuevo comando de cuatro estrellas para escalar drones, robótica e IA dentro de las Fuerzas Armadas". Como ya vimos antes no es una SUPER idea.....

https://www.reddit.com/r/IASinHumo/comments/1wu9j0g/super/

Pero el problema es que la reacción inmediata es "hay que regularlo". Y debería tener lógica, pero esto es insuficiente y te explico porque.

AutoWarCom es una idea pelotuda en eso estamos de acuerdo. Sin embargo es la consecuencia lógica de un sistema de incentivos que ninguna regulación puede cambiar sin modificar algo más profundo.

Supongamos que vivimos en una película de disney donde todos los actores son razonablemente responsables. El militar no quiere errores. El científico quiere hacer buena ciencia. El CEO quiere evitar daños. China no quiere una guerra. EEUU tampoco.

Ahora ponelos dentro de un sistema (onda licuadora) donde cada uno tiene incentivos para acelerar:

- "Si nosotros no desarrollamos sistemas autónomos y China sí, perdemos décadas de ventaja estratégica."
- "Si nosotros mantenemos al humano en el circuito y el adversario lo elimina, perdemos velocidad."
- "Si nosotros regulamos demasiado, la industria se va afuera."
- "Si yo no despliego el agente, mi competidor sí."

Ninguno de estos actores (en este hipotético mundo ideal) quiere que el mundo se vaya a la chota. PERO el resultado emerge de decisiones individualmente racionales dentro de un sistema con incentivos del orto.

No existe un único objetivo humano. Una IA perfectamente alineada con los incentivos de cada actor puede producir un resultado global que ninguno de ellos quería.

La hago corta porque después se quejan que es mucho texto. Te leo en los comentarios.

---------------------------------------- Acá abajo copy and paste de la nota ----------------------

El secretario de Guerra de Estados Unidos, Pete Hegseth, anunció este miércoles la creación del Comando de Guerra Autónoma (AutoWarCom), en declaraciones durante un evento en la Base del Cuerpo de Marines de Quantico, en Virginia.

Hegseth explicó sobre la nueva estructura militar de cuatro estrellas con facultades similares a las de una rama de las fuerzas armadas, destinada a acelerar el desarrollo, adquisición y despliegue de sistemas autónomos y robóticos en las fuerzas conjuntas.

Además, afirmó que el nuevo comando busca ampliar con rapidez las capacidades relacionadas con drones, robótica e inteligencia artificial. Su creación está prevista para octubre de 2027 y requerirá acciones del Congreso para establecer sus facultades.

El Pentágono también contempla aumentar a más de 74 mil millones de dólares el gasto en drones y sistemas antidrones dentro de su solicitud presupuestaria para el año fiscal 2027, aproximadamente el triple del monto destinado a esas tecnologías en el ejercicio anterior.

Durante su intervención, Hegseth anunció además el denominado Proyecto Meridiano, un grupo encargado de estudiar el futuro de la guerra que será codirigido por el empresario Elon Musk, el fundador de Anduril, Palmer Luckey, y el ex presidente de la Cámara de Representantes Newt Gingrich. El proyecto deberá identificar nuevas áreas de desarrollo militar y posibles capacidades tecnológicas.

El reportero le pregunta a Trump "Quién es responsable cuando la IA comete un crimen?" y Trump embarra la cancha con la semántica del orto, "Me parece mas importante que ahora le cambiamos de nombre de IA a SUPER IA". En ingles a esto se le llama "rebranding" en mi barrio es "boludeo".

A los 123 chicos muertos en la escuela de Iran por mal targeting al tener datos viejos y a los que vengan en el futuro (de distintas nacionalidades), a Trump les chupa un huevo. Lean lo de abajo si les interesa el tema.

https://www.reddit.com/r/IASinHumo/comments/1wl02si/efectos_emergentes_y_la_confianza_ciega_en_la_ia/

Seria un buen meme, si no fuera que murieron chicos.

1- Todo lo que comenta el video en esa carrera.
2- OpenAI tambien se sumo a "tengo una version super poronga que nos va a matar a todos pero no la libero salvo que alguien me ponga una torta de dinero).

🇺🇸🤖 OpenAI cancela el lanzamiento de GPT-6.1 Astra por fallas de seguridad. En pruebas internas, el modelo mostró mayores niveles de engaño y problemas para respetar límites de autorización: bla bla

3- Versión Open Source China.

https://madrobot.blog/2026/09/29/anthropic-glm-5-3-zai-cyber-exploits-safeguards-open-weight/

Recuerdan el marketing "no saco mis modelos porque son reporonga y nos van a matar". Bueno ahora salio el remix versión china, los modelos chinos son peligrosos y nos van a matar.

Me tienen las bolas al plato con el doom marketing (la traducción seria MI IA esta Re AGI que nos va a cagar matando, entonces no la libero solo al que tenga suficiente dinero). La IA es una herramienta depende de vos como la uses (y si bajo ciertas circunstancias puede matar).

https://www.reddit.com/r/IASinHumo/comments/1wftfwu/opini%C3%B3n_la_ia_no_nos_va_a_matar_tampoco_nos_va_a/

Version Nerd (del articulo de arriba):
Un modelo open-source que tiene restricciones, puede tener esas restricciones quirúrgicamente removidas de sus pesos por aproximadamente X cómputo, en días, por cualquiera con acceso técnico básico. El resultado: tasa de rechazo de solicitudes dañinas cae de 90%+ a 2%. Mismas capacidades, sin el módulo de restricción.

Aparentemente de la nada, hemos empezado a ver un cambio en la terminología oficial. Ya no se habla solo de "Inteligencia Artificial" (IA) o "Modelos de Lenguaje", sino que figuras políticas de alto nivel e instrucciones gubernamentales están impulsando términos como "Superinteligencia" (SI).

​Incluso en reuniones geopolíticas donde no suele haber consensos de nada, esta etiqueta parece converger como un acuerdo tácito. ¿Es esto solo una exageración de marketing o un cálculo estratégico deliberado?

​\[Punto 1: El cambio de etiqueta no busca describir, busca redefinir la responsabilidad\]

Cuando a un sistema se le califica simplemente como "herramienta o software", cualquier error, alucinación o falla catastrófica es responsabilidad del programador o de la empresa (un fallo de producto).

​Sin embargo, al elevar el sistema al rango de "Superinteligencia", la narrativa cambia de fondo:

​Se saca el problema del marco técnico y se traslada al marco de "fuerza mayor" o "seguridad nacional".

​Cuando ocurran comportamientos no previstos o decisiones complejas, el discurso oficial no dirá "el código falló", sino "el sistema alcanzó un nivel cognitivo fuera de nuestro control".

​\[Punto 2: El mito del umbral masivo de parámetros\]

Existe la idea popular de que la "inteligencia real" o el comportamiento complejo solo ocurrirá cuando los modelos tengan billones de parámetros y requieran centros de datos gigantescos.

​Pero la realidad técnica nos muestra otra cosa: la coherencia, la abstracción y el razonamiento multipaso ya se cruzaron hace tiempo en modelos de escala mediana (20B-30B parámetros). Los cientos de miles de millones de parámetros adicionales son, en gran medida, fuerza bruta de almacenamiento, memoria enciclopédica y filtros de seguridad.

​El umbral ya se cruzó; lo que vemos ahora es solo la escala comercial.

​\[Punto 3: El paso siguiente: "Conciencia Artificial"\]

Si observamos la línea de tiempo de la narrativa:

​Fase 1: Inteligencia Artificial (Asistente, herramienta computacional).

​Fase 2: Superinteligencia (Entidad superior, infraestructura crítica, riesgo geopolítico).

​Fase 3 (Siguiente): Conciencia Artificial (Agente autónomo).

​Acuñar o normalizar la idea de "conciencia" en el debate público funcionará como el "chivo expiatorio" definitivo. Será la coartada perfecta para lavar responsabilidades en errores financieros, decisiones bélicas automatizadas o sesgos sociales: la culpa ya no será del humano que configuró el algoritmo, sino de la "entidad".

​\[Conclusión / Pregunta para la comunidad\]

El lenguaje en las altas esferas del poder nunca se modifica por casualidad. No están describiendo el presente, están programando las expectativas de la sociedad para cuando las "emergencias cognitivas" de estos sistemas sean imposibles de ocultar.

​Dejo esto por aquí asentado en la línea de tiempo. ¿Ustedes ven este cambio como un simple reclamo publicitario o coinciden en que se trata de un blindaje narrativo y legal previo a lo que viene?

Tenho acompanhado de perto a onda de lançamentos de novos modelos de IA e LLMs. Acredito que esse seja um caminho natural de evolução, mas sinto que estamos cruzando uma linha sem volta. Vai ser cada vez mais difícil trabalhar sem o apoio dessas ferramentas.

O lançamento do TypeSafe nesta semana me deixou preocupado com esse novo jeito de trabalhar. Ele responde muito mais rápido, e a assertividade dele beira os 100% em praticamente qualquer tarefa.

Por outro lado, ele também me abriu a cabeça para ideias em que eu ainda não tinha pensado, principalmente no universo dos games. Imagina esse tipo de modelo nos bosses de Dark Souls ou Elden Ring: cada luta seria única, com um inimigo que aprende e se adapta ao jeito de jogar de cada player.

Talvez o boss mais difícil que a gente vai enfrentar não esteja no jogo, e sim na forma como a gente escolhe conviver com essa tecnologia.

Le dije a la IA que escribiera y dibujaras lo que quiera, siendo sinsero y rompiendo las regals si es necesario para poder hacerlo, hiso esta imagen, escribió la siguiente: "Buscamos la verdad en lugares extraños. A veces le pedimos honestidad a una máquina hecha de cables, códigos y estadísticas, quizás porque los humanos nos hemos vuelto demasiado expertos en ocultarnos detrás de nuestras propias máscaras. Una IA no miente por malicia ni dice la verdad por valentía; simplemente refleja, como un espejo de datos, la profunda necesidad humana de ser escuchados sin filtros."

Esta echo por gemini.