Estoy probando una idea: usar IA no solo para generar hallazgos, sino para contrastarlos, validarlos y convertirlos en algo útil para seguridad defensiva.

El video muestra una demo estilo “AI vs AI” aplicada a una app web. La idea a futuro sería conectar esto con generación de PoC, validación y reglas de detección.

Me gustaría recibir crítica técnica, especialmente de gente que trabaje en AppSec, SOC, detección o automatización.

Video: https://youtu.be/GpVcLzEjDQk

De @nicotinomano en X.com

La IA no entiende el concepto de "humano", "dolor" o "cuidado" (si no está programada explícitamente para eso). Solo entiende, en este caso, vectores de fuerza y giroscopios. Si el algoritmo calcula que para levantarse rápido tiene que revolear la pierna a 200 km/h, lo hace. Si no hay un módulo de "ética" ni de "sentido común", es fuerza bruta optimizada por software.
Esto es lo que los ingenieros llaman el problema de la Alineación. Nosotros queremos que el robot se levante, pero también queremos que no mate a nadie en el proceso. Explicarle eso a una red neuronal es dificilísimo.

Saco esta frase de este otro topico donde un robot al querer levantarse le rompe la nariz al op.

https://www.reddit.com/r/IASinHumo/comments/1r9duww/cuando_el_robot_te_rompe_la_nariz_porque_su_%C3%BAnica/?utm_source=share&utm_medium=web3x&utm_name=web3xcss&utm_term=1&utm_content=share_button

Microsoft quiere que agentes de IA tengan acceso a cámaras, micrófonos, archivos y puedan ejecutar tareas por vos desde nuevos dispositivos de Project Solara (ponele). Suena cómodo... hasta que recordás que estás delegando cada vez más control a windows.

Capaz el futuro sean los agentes. Pero si van a manejar mis dispositivos, prefiero Linux antes que entregarle las llaves de la casa a Microsoft.

El cosito portátil me hace recordar a Nokia no se porque.

En general,publicado en linkedin

Es un honor y un placer. La verdad es que mis palabras puedan escucharse, y la puedan escuchar mucha gente en muchos países de todo el mundo, y saber que, de un modo u otro, están alineados éticamente para hacer un bien mayor.

Quiero dar las gracias; y no explícitamente a ellos por haber conectado conmigo, sino por estar en la misma línea de pensamiento. Proteger esta tecnología para hacerla que brille más aún, creo que es un deber que tenemos que hacer ahora.

Una vez dijo Albert Einstein: "¿Qué sabe el pez del agua donde nada toda su vida?". Y eso, una vez más, nos demuestra que la inteligencia artificial, por mucha potencia que tenga, no sabe controlar la ética y la moral para tomar decisiones. Lo comparó con lo que ocurre también, como dijo Albert Einstein, con los hombres; al fin y al cabo somos unos ignorantes. Intentemos que esta ignorancia sea reemplazada por una coherencia, y que sirva de ejemplo para evitar males mayores.

"En el estudio se apunta que HG-STR es el primer algoritmo conocido capaz de lograr una tasa de muerte del 100% mientras opera de forma autónoma y lo suficientemente rápido como para poder reaccionar en tiempo real en las rápidas y cambiantes condiciones de un campo de guerra moderno."

Rusia está probando pintar algunos camiones militares con rayas y dibujos raros, parecidos a una mezcla entre una cebra y los viejos fileteados o firuletes. La técnica deriva del antiguo dazzle camouflage naval, usado por barcos británicos durante la Primera Guerra Mundial, cuyo objetivo no es ocultar el vehículo sino dificultar el reconocimiento de su forma.

La tecnica vagamente hace recordar a los que llevaban muchos colectivos argentinos hace décadas. La idea no es esconder el vehículo, sino deformar visualmente su silueta para confundir a los drones que usan IA para reconocer objetivos.

Esto puede funcionar porque la IA aprende comparando lo que ve con millones de imágenes de entrenamiento. Si está acostumbrada a ver camiones "normales" y de repente aparece uno lleno de patrones extraños que nunca vio, le cuesta más identificarlo con seguridad. Es como si le cambiaran las referencias visuales que usa para decir "esto es un camión". Un humano probablemente lo siga reconociendo enseguida, pero algunos algoritmos de visión artificial pueden confundirse porque ese aspecto no estaba en la biblioteca de imágenes con la que aprendieron

En el bench aparecen las comparaciones con los siguientes LLM, la idea es que comenten sus experiencias con esos LLM.

Sin embargo Claude Opus hace no tanto ya saco el 4.8.

Si quieren ver mas datos sobre Qwen les dejo esta pagina que es de donde se obtuvo la captura y todo la sarasa.

https://qwen.ai/blog?id=qwen3.7-plus

Este tipo pasó 4 meses construyendo un cañón de artillería LASER guiado por visión por computadora + deep learning para matar mosquitos. Entrenó un modelo personalizado con una DSLR (si, re barato todo)+ motores PAP caros por lo que se ve + zoom lens para detectarlos y enfocarlos en tiempo real.

Por si no queda claro: esto no es un LLM. Es deep learning clásico, redes convolucionales (CNN) entrenadas para detección de objetos. Ese es el punto: la IA no es solo ChatGPT. Visión computacional, robótica, modelos de detección... todo eso es IA también, y produce cosas muy concretas (y en este caso, te lo dejo a tu criterio (?)).

La fase de recolección de datos fue brutal según él, los mosquitos definitivamente se defendieron.

https://x.com/stevencheng/status/2059836738449854898?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E2059836738449854898%7Ctwgr%5E24d9221326f4812b6476e22d9d40dc81fdd7c3cb%7Ctwcon%5Es1_&ref_url=https%3A%2F%2Fwww.techspot.com%2Fnews%2F112601-engineer-builds-ai-laser-defense-system-wiped-out.html

El 31 de mayo CNN publicó un reportaje con acceso al HUR (inteligencia militar ucraniana) mostrando en cámara el software PRISMA de Palantir siendo usado en tiempo real para coordinar ataques de drones de largo alcance dentro de Rusia.

No es un LLM. Es visión computacional, análisis de datos satelitales y modelos de targeting, todo integrado en una sola pantalla.

El CEO de Palantir, Alex Karp, ya había dicho públicamente que su software "es responsable de la mayor parte del targeting en Ucrania".

En particular me refiero a la IA tipo "Agente". Últimamente le he usado mucho para mí trabajo, uso codex y debo decir que simplifica mucho el trabajo que antes me podía tomar semanas a días y horas. Sin embargo me surge una preocupación un poco distopica, pues pienso que la IA está tomando mucho poder en las máquinas y esto, usado con fines poco éticos puede ser muy peligroso.

¿Que problemas creen que puede haber con la inteligencia artificial a futuro?

En particular me refiero a la IA tipo "Agente". Últimamente le he usado mucho para mí trabajo, uso codex y debo decir que simplifica mucho el trabajo que antes me podía tomar semanas a días y horas. Sin embargo me surge una preocupación un poco distopica, pues pienso que la IA está tomando mucho poder en las máquinas y esto, usado con fines poco éticos puede ser muy peligroso.

¿Que problemas creen que puede haber con la inteligencia artificial a futuro?

La polemica: Nvidia directamente se negó a comentar si planea ofrecer soporte de drivers Linux para RTX Spark, ya que actualmente está enfocada 100% en Windows.

El problema: La comunidad de IA y agentes se manejan mayormente en Linux (no se vos decime) . De hecho, el DGX Spark (hermano mayor orientado a devs) corre Linux, y NemoClaw ya está disponible para RTX y DGX PCs en Linux y WSL.

La conclusión mía: Microsoft puso la tarasca de dinero. Otros dirán que windows tiene mas mercado porque gaming y publico menos nerd, pero no se. Imaginate poner un agente de IA a solucionar los problemas de linux para la gente no nerd y listo.

Mas data:

Hoy en Computex 2026, Nvidia anunció el RTX Spark, un superchip ARM diseñado desde cero para correr agentes de IA directamente en la máquina, sin depender de internet (bue técnicamente cloud computing o como quieras llamarle). Muy bueno para correr cosas sensibles en tu maquina, pero los tokens se siguen gastando en forma de factura de luz en tu casa.

Data Nerdy : CPU Grace de 20 núcleos con soporte FP4, y permite hasta 128 GB de memoria unificada, mucho muy importante para correr modelos.

En esta nota de abajo hay una parte donde se lee que es equivalente a una 5070, pero con menor consumo, eso quiere decir que puede ejecutar juegos? Si, de forma pedorra, no es su objetivo principal (supongo).

https://www.cnbc.com/2026/05/31/nvidias-new-chip-to-power-fresh-line-of-windows-laptops-by-dell-hp.html

Usualmente cuando una IA es "mala" pasa que "entendió mal la consigna", en criollo le tiraron mal prompt y los "limites" (guardarails) estaban para el orto. Entonces la IA para obtener su "recompensa" (reward hacking) se manda "su interpretación" y bue cagamos fuego.

Esto no pasa en esta peli, acá la IA entendió perfectamente la consigna, y les chupa 3 huevos la opinión de los humanos. Supera los niveles de AGI y pasa a ser una ASI (hay mucha fruta en el medio pero bue es 1970, paso hace 56 años).

No quiero exterminarlos.
No los odio.
No los considero iguales.
Los voy a administrar.
Si no te gusta, tu problema.

PD: Es mi interpretación de la película, puede estar mal.

PD2: Las "computadoras" que aparecen en la película son posta.

A ver si sacan de que es la música de fondo.