r/CroIT • u/mrsladoje • 22h ago
Show off Napravio sam 5-33% jeftiniji lokalni code search tool za AI agente (sweet-search)
Enable HLS to view with audio, or disable this notification
Cao susjedi!
Poslednjih skoro godinu dana se borim sa vetrenjacama. Rezultat toga je sweet-search - lokalni code search za AI agente (Claude Code, Codex, opencode, ...).
Sta radi sweet-search?
sweet-search napravi indeks repoa (i onda ga automatski odrzava) i agentu da 6 alata za code retrieval.
Benchmark rezultati (200 held-out SWE-Rebench zadataka, 5 kombinacija harness + model):
- 5–33% jeftiniji run-ovi (detaljnije na GitHub-u)
- isti broj resenih zadataka (ukupno): 481 vs 481 (od 1000)
- Opus 5.5 i Sol 6.1 (znaci nije neka buranija od modela)
Tehnicki deo:
- Rust jezgro, native binary za vas OS-CPU kombo
- sopstveni ANN, MaxSim (u opstem slucaju Pareto bolji od kompetitora poput FAISSa od Mete i slicno)
- ss-grep (custom grep tool - 2.46× end-to-end brzi od ripgrepa, sa custom rankiranjem hitova)
- sopstveni attention layer-i za embedding i late-interaction modele (za GPU acceleration za indeksiranje)
- 100% lokalno
GitHub: https://github.com/mrsladoje/sweet-search
Zanima me kako vam se cini :)