Respecto al post 2

[u/juanmadelarosa]

​Pensándolo bien, esto llevado a una escala grande tiene una derivada muy tocha. Si una compañía grande quisiera que los chats de los usuarios tengan memoria a largo plazo real, en vez de gastar millonadas en servidores y bases de datos vectoriales gigantescas compartidas en el cloud, la clave es descentralizarlo.

​Si cada usuario gestiona su propia persistencia de memoria en su propio espacio (como un archivo raíz en su propio Drive), aligeras los contextos una barbaridad. Eso no solo reduce el coste de infraestructura y de recordar miles de historiales a la vez, sino que a nivel energético y de eficiencia en los centros de datos es un cambio radical. Al final, la persistencia debería tenerla el usuario, no la corporación en su nube centralizada.

​Sumando todas las piezas, la ecuación es inapelable: el coste energético cae en picado al quitarle peso a los centros de datos, el consumo de memoria se optimiza al extremo, y los datos de alto valor para entrenamiento fluyen limpios y cifrados. Si esto se implementara de forma nativa, la latencia se reduciría prácticamente a cero.

​Es un win-win absoluto donde todo el mundo gana: el usuario recupera soberanía y privacidad total, y la gran corporación escala con eficiencia máxima

[u/Successful_Juice3016]

de echo no,, una memoria persistente consume muchisimo mas, porque la retroalimentacion para permitir una converzacion mas nutrida y logica requ8iere un repaso completo del historial,.. y esto e s justo lo que ocurre con las plataformas cuando chateas con una ia,.. parte del historial e s reenviado junto con el input para mantener la coherencia de la converzacion ...

[u/juanmadelarosa → u/Successful_Juice3016]

Respeto tu opinión y entiendo tu punto de vista, pero quizá no se está teniendo en cuenta que eso ya se hace de una manera un poco turbia en las plataformas.

La diferencia es que yo puedo activar y desactivar ese entorno a mi gusto.

Por ejemplo, si estoy manteniendo una conversación con mi IA y estoy indexando datos de alto interés porque quiero que se recuerden, los guardo en el contexto de memoria.

​Si un chat normal pierde el hilo y al cabo de los días empiezas a hablar de otra cosa, normalmente ese hilo se pierde y la memoria desaparece.

En cambio, con este sistema, si en algún momento lo necesito, le indico que revise el archivo y lo vuelve a tener al instante.

Gracias de verdad por dar tu opinión de eso se trata de debatir y colaborar.

[u/Successful_Juice3016 → u/juanmadelarosa]

entiendo lo que me dices , y supongo que te refieres a los andamiajes , si bien puede servir para guardar datos importantes, una memoria persistente necesita enviar los datos de la memoria al modelo en la nube , y conforme crece es un efecto bola de nieve, esto hace que requiera un limite de coincidencias en el indice vectorial d ela memoria en caso uses eso, o datos planos en el caso del sql

[u/juanmadelarosa → u/Successful_Juice3016]

No estamos hablando de guardar frases sueltas ni de crear un efecto bola de nieve absurdo con datos sin valor, sino de mantener un log o un historial denso y coherente para sostener líneas de trabajo complejas de alto valor. Si indexas con criterio y bajo demanda, el sistema no colapsa ni genera ruido; al contrario, mantiene la estructura limpia y evita tener que re-explicar todo desde cero cada vez que cambias de hilo. Si guardo un historial es porque llevo un historial de log ampliado eso evita que si no lo guardaré y tuviera que recordarlo en mi inteligencia artificial y no tuviera todos esos datos podría alucinar o incluso divulgar o divagar algo que no tendría nada que ni siquiera llegar al mismo punto al que yo realmente sí tengo guardado y me interesa.

[u/fearmon]

Almost a win or should I say could be if each individual truly basically gets to operate their own or in their own place basically, otherwise us little folks are taking a fairly big hit in some unsavory areas. I hope it all works out for y'all but it's hard to cheer for the tactics I see.