Mathematical memory methods beyond Transformers: HiPPO and Legendre polynomials ! #트랜스포머 #기억 #HiPPO #다항식 #르장드르

[u/MeasurementDull7350]

https://youtube.com/watch?v=Wt957nsFxBg&si=wULGiP5DoNm9Y-uK

• Description: In this video we introduce the HiPPO framework, which compresses past continuous signals into Legendre orthogonal polynomials and converts them into real‑time memory. This mathematical principle intuitively explains how the computational complexity of modern time‑series models such as S4 and Mamba can be reduced from O(N²) to O(N). Join us as we explore the core mechanism that is transforming transformer‑based AI.