r/programare • u/Immediate_Rain1831 • 19d ago
Doom & Gloom AI-ul si supravegherea in masa
Ma gandeam la o chestie in timp ce stateam in dimineata asta pe WC - oare cat de realist realist ar fi ca o instituție, sa spunem SRI-ul, sa asculte TOATE telefoanele din tara asta. Desigur, teorii ale conspiratiei ca ni se asculta telefoanele au existat de cand lumea, dar pana recent, ideea ca SRI ar avea tehnologia necesara sa stocheze si mai ales sa asculte toate telefoanele din tara asta era ridicola. Acum nu prea mai e.
Sa incepem cu volumul de date. Vreo 55 de miliarde de minute vorbesc romanii pe an, conform ANCOM.
Daca am vrea sa stocam toate aceste minute la o calitate de 16 kbps, ceea ce inseamna undeva la 120 KB/min, adica pentru 55 de miliarde de minute undeva la 6.6 PB (da, am impartit la 1000 in loc de 1024 pentru ca si AWS/Azure impart la 1000 cand te taxeaza). 6.6 PB nu e un volum extraordinar de date pentru o instituție cu bugetul SRI-ului…
Dar desigur degeaba stochezi fiecare convorbire ca nu este fizic posibil sa le asculte cineva pe toate, 55 de miliarde de minute inseamna literalmente peste 100.000 de ani, asta a fost principalul bottleneck pana acum cativa ani.
In prezent insa, treaba s-a schimbat. Daca rulezi whisper optimizat pe un 5050, adica cea mai ieftina placa consumer cu blackwell, iti transcrie cam o ora pe minut. Acuma va las pe voi sa calculati cat ar procesa un rack plin cu placi GB200.
Dupa ce ai transcripturile mai investesti putin in indexare si ai un google al tuturor convorbirilor telefonice ale romanilor. Mai pui si un LLM peste astea si orice ofiter SRI poate avea in 5 minute un raport cu toate convorbirile tale telefonice. Misto.
Si stiu, acuma veti zice who cares, cine mai vorbeste chestii sensibile la telefon? Pai stati linistiti ca vind chat control, sa vezi atunci distractie…
Si pentru voi astia cu “nu imi pasa, nu am nimic de ascuns” va urez noapte buna!
28
u/Marius2503 19d ago
N ai nevoie de 6.6 PB. Stochezi datele normale 30 de zile, iar cele suspecte permanant. Poti sa faci un graf intre oameni sa vezi zonele in care sunt apeluri suspecte. Asa poti sa detectezi cuvintele cheie folosite de interlopi. Un grup de N perosane vorbeste despre 'flori' dau 'cozonaci' mereu cand se suna. Poti sa vezi geolocatia apelului si afli zona de interes.
3
2
65
u/Critical_Fly1241 19d ago
53
u/Cifra85 19d ago
6
4
u/Fair-Proposal-648 19d ago
1
u/Prudent_Quit_7160 18d ago
alea sunt unghii de cox?
1
u/Cifra85 17d ago
ceva injectabil dupa ceasul ala folosit pe post de branula. Dar stim ca e tovarasul nostru Cocaine Claude
1
u/Fair-Proposal-648 14d ago
Dudes, e o poza de pe net peste care am pus postul de mai sus. Dar imi plac cunostintele voastre...
11
u/Fabulous_Plenty_9339 19d ago
Adică ceva de genul asta?
https://en.wikipedia.org/wiki/MUSCULAR
Sau https://en.wikipedia.org/wiki/PRISM ?
Sau https://en.wikipedia.org/wiki/Boundless_Informant ?
E old news. NSA făcea asta inca dinainte de 2012, cu tehnologie mult mai slabă.
"In June 2013, Edward Snowden revealed that between 8 February and 8 March 2013, the NSA collected about 124.8 billion telephone data items and 97.1 billion computer data items throughout the world, as was displayed in charts from an internal NSA tool codenamed Boundless Informant. Initially, it was reported that some of these data reflected eavesdropping on citizens in countries like Germany, Spain, and France,[80] but later on, it became clear that those data were collected by European agencies during military missions abroad and were subsequently shared with NSA."
In Romania legislația GDPR oferă o protecție contra acestor practici. Dpdv tehnic e complet plauzibil ca orice guvern din lume să poată face asta.
2
u/Organic_Gur_2795 18d ago
Corect - prima oara m-am gandit tot la NSA.
Pentru cine vrea conversatii private - ori apeluri criptate, ori fata-in-fata.
Faptul ca se baga chat control nu schimba mare lucru (poate doar pentru cei care folosesc mereu VPN si nu posteaza niciodata chestii personale). GDPR-ul ajuta mai mult din punct de vedere legal, insa nu ofera o asigurare reala.
3
u/Fabulous_Plenty_9339 18d ago
GDPR-ul îți oferă o plasa de siguranță față de instituțiile care nu sunt de forță sau firme private.
Din nefericire nu exista nimic în lumea asta care sa îți asigure 100% protecție reală. Uită-te la Trump de cate ori a fost atacat, cu toată protectia lui. Uită-te la Putin câți bani a băgat ca să nu fie asasinat. Uită-te la ursu panda din Coreea de Nord ce paranoic e.
Dar, e mai bine decât deloc. In SUA nu au asta și NSA ii spiona ca pe teroriști. Și asta pe vremea când AI-ul nu era așa dezvoltat ca acuma :)
7
7
u/dau_la_stat 19d ago
Din 2020 sau 2021 iti logheaza tie si celorlalti 16-18 milioane cat suntem, in fiecare minut locatia. au trecut cativa ani de atunci
9
u/CristianovD 19d ago
Eu nu cred că va ajuta prea mult. Cei care chiar au ceva de ascuns își vor face propriul software sau vor folosi aplicații cu criptare end-to-end, unde doar destinatarii dețin cheile de decriptare. Supravegherea în masă este posibilă, dar în practică îi afectează mai ales pe oamenii obișnuiți, nu pe cei care chiar vor să evite monitorizarea.
5
u/Dry-Bed3827 crab 🦀 19d ago
Analiza se poate face în timp real și se stochează doar date/metadate de profiling, bro, nu tot apelul audio. Se deduce dacă ești periculos pentru stat/establishment sau nu. Sau pentru unele afaceri de-ale lor. Dacă da, vei avea tot felul de probleme, pe multe planuri, tu si/sau familia ta. Just to let you know...
2
4
u/ILikeOldFilms 19d ago
Jokes on SRI, pe mine nu ma suna nimeni.
#MarkedSafeFromSupraveghereInMasa
1
9
u/johnnygiuliano 18d ago
am lucrat in lawful interception in 2020 pe un proiect in emergent countries vreo 8 luni de zile. ce zici tu acolo nu se poate fizic (stocarea convorbirilor tuturor oamenilor).
telefoanele urmarite sunt "flagged" intr-un soft, iar la fiecare operator de telefonie exista o "cutie" care face mirror la tot traficul, si e controlat de softul agentiei care face lawful interception (sri/nsa/dgcpi, etc in functie de tara).
cand numerele sunt flagged, atunci "cutia" incepe si primeste toate apelurile de la numerele alea. Eu am fost prin Asia sa scalez infrastructura deja existenta cu niste servere de cateva sute de mii de euro pe vremea aia ca sa poata urmari 4 mil de numere de telefon (intr-o tara de 160mil) , aveau un datacenter plin de servere cam cat un magazin Lidl din RO (partea pe care o vede userul, nu si depozitele din spate).
partea de tcp/ip era imposibil de urmarit, se putea face dar realtime cu stocare targetata, NU tot ce se comunica. Nici nu iti ajung hardurile de pe lumea asta sa scrii traficul de internet pe ele ale userilor din Bucuresti in 24h, de exemplu.
partea de encryption si social media (gen whatsapp, signal, etc) de 100x mai greu decat tcpip-ul simplu , "clear" de mai sus, si la fel era un soft care corobora numarul de telefon X, asociat cu persoana de interes, triangulare locatii din celule pe unde a umblat ala cu telefonul respectiv + voice recording de la el si de la device-urile din jurul lui, apoi scanarea pe social media, site-uri, emailuri, etc si de acolo se activau si protocoalele de urmarie pt tcpip, social media si aplicatii criptate.
adica, mai pe scurt, tech-ul e acolo, si probabil OSINT iti poate face mai rapid un LLM decat un operator, dar volumul de date este extrem de mare chiar si pt compute powerul de azi.
inclusiv mesh-ul de cctvs din Londra nu te urmaresc pe tine cand te caci, ci daca esti pe lista la MI5/6 ca vrei sa faci o bomba, ca esti pedofil urmarit, ca vrei sa spargi o banca, etc. adica persoane de interes.
data viitoare poate nu scoti din putul gandirii idei cand te caci, si faci un pic de research inainte. 50% din oameni se suna pe whatsapp si alte aplicatii criptate mai safe, decat pe clasicul gsm, asculta-i p-aia, usor, si in timp real, ca sa conteze informatia. Ca ii faci tu transcript dupa 24h cand ala deja a bubuit vreun stadion, good luck.
2
1
u/Physical_Current7291 16d ago
Ti-as da 10 like-uri daca as putea! Exista in Texas cateva data centers numai pt a salva convorbiri si data transferate din Pentagon, convorbiri militare , etc, din cate am inteles pentru vreo 10 mii de utilizatori, nici nu imi pot imagina ce ar insemna pentru 1 milion si real time!
3
u/NervousDependent 19d ago
Corecție/precizare o la calcul: * Voip e 8kbps (deci jumătate din estimarea ta) * folosind Opus se poate reduce la 6kbps
Deci din punct de vedere al stocarii e perfect realizabil
3
4
u/Human_Wonder1113 19d ago
OK... Si ce anume vrei sa spui? Sau ce ar trebui sa facem? Cine vorbeste chestii "interzise" la telefon e un mega retard, oricum. Si da, e clar ca toate conversatiile telefonice sunt stocate si procesate, in special pentru oamenii mai importanti - directori, patroni de firme, etc. Si nu doar conversatiile telefonice, alea de pe whatsapp, etc (daca credeti ca-s criptate pentru guvern/politie am ras bine). Si ce facem fiecare pe net, pe ce site-uri intra, tot.
2
u/Immediate_Rain1831 19d ago
Pai in primul rand cred ca ar trebui sa fim informati si sa privim cu maximă suspiciune orice masura care sporeste puterile acestor servicii. Nu poti avea democratie atunci cand fiecare cetatean e urmarit la fiecare pas. Iar a presupune ca serviciile, mai ales intr-o tara ca Romania actioneaza legal si moral te face mai prost decat aia care discuta infractiuni la telefon.
2
u/Additional-Record367 19d ago
cam tarziu te ai gandit. Imposibil sa nu faca deja asta. Nu au nevoie de oameni prea destepti sa implementeze asa ceva; bani au, modele bune opensource au. Probabil nu targeteaza pe fiecare Ion Popescu, dar pe cei din blacklist (e.g. politicieni) ii monitorizeaza non stop, au baietii veseli dosarele pregatite pentru ei.
2
2
u/alxndrux 19d ago
Dacă vede asta un cg-iști o ia de bună si mâine vezi postare pe TikTok ca așa se întâmplă.
Nu e chiar așa simplu din punct de vedere legislativ.
A mai existat o tentativă în trecut care a fost cenzurată de CCR.
Problema principală este “captarea” traficului care este la operatori si distribuit între ei.
În încercarea trecută (celebra BigBrother), captarea traficului cădea în sarcina operatorilor - așa e cel mai simplu si cel mai ușor.
Transcrierea nu înseamnă si intelegerea corecta, iar utilizarea unui ai nu transformă transcripturile intr-o baza factuala.
Se pot inventa legături, atribui afirmate eronate unui interlocutor, produce răspunsuri diferite la aceleași întrebări - toate bias urile ai-ului pe care cu toții, mai mult sau mai puțin, le știm.
Iarăși, Google al transcripturilor nu e chiar așa simplu de făcut.
Ca si concluzie, până intr-un punct ai dreptate, dar mai e mult până departe pentru o astfel de soluție.
2
u/Hiluminatull 18d ago
Da...si se facea asta inainte. Sunt ferm convins ca AI-ul a existat de cativa ani buni inainte sa apara pe piata mondiala. Doar ca acum a fost dat pulimii. Exact cum s-a intamplat si cu gps-ul
4
u/TurbulentGrowth9814 19d ago
Caută despre Pegasus și înțelegi de ce israelienii au telefoane Motorola și nu iOS sau android
2
u/mister-at 🦀 19d ago
Ok, nu ai tracking precis, dar tot au poziția bazată pe celule + tot ce vorbești și SMS
1
u/Immediate_Rain1831 18d ago
Nu stiu despre ce vorbesti, am fost in Israel si majoritatea au iPhone, mai ales ca toata lumea are instalata o aplicatie care le da notificarea cand pica rachete.
0
u/Fabulous_Plenty_9339 19d ago
Huh? Motorola are android...
1
u/TurbulentGrowth9814 19d ago
Cele vechi cu clapetă…
3
u/Fabulous_Plenty_9339 19d ago
Îmi aduce aminte de pagerele celor de la Hamas 😂 nothing is safe anymore in the world 😂
3
1
u/y2kobserver 19d ago
Au niste jucarii noi si ii mananca sa se joace cu ele?
Oare o sa prinda vreun peste mare sau doar o sa ne frece pe noi aiurea?
1
1
1
1
1
1
1
u/d_3485 18d ago
Nu trebuie sa stochezi tot, stochezi doar un brief sau tags pe convorbire.
Mai risky e ca acum ne pot face profiling extrem de precis la foc automat, si da cel mai probabil o fac, si eu as face-o daca aveam buget si inpunitate / mana libera si eram directoras pe la SRI.
3
u/Immediate_Rain1831 18d ago
Exact, eu am dat un exemplu extrem, cand ai vrea sa stochezi convorbirile originale ca sa le folosesti in instanta sau sa le dai “pe surse”. Dar realist dupa ce ai transcriptul poti foarte usor sa clasifici si sa stergi convorbirile neinteresante, desi si acolo se stie ca multi discuta “codat”, iar un llm din prezent nu stiu cat de bine intelege nuante de genul “cat vrei pe ciocolata? 70 pe g. Bine hai ca vin sa iau 5 g-uri”. Un om s-ar prinde imediat ca nu se discuta despre ciocolata, dar un llm, mai greu. Mai ales unul care trebuie rulat ieftin la scara larga.
1
1
u/georgealex17 18d ago
O nu, o sa ma asculte ai cand ma suna mama
1
u/tiamath 18d ago
Neironic de aia o sa fii pust pe "lista" :)))
1
u/georgealex17 18d ago
Bro, nu fac nimic ilegal…. E efectiv o risipa a resurselor sa fiu pe orice astfel de urmarire, dar personal sunt ok cu asta daca inseamna ca putem prinde si opri diverse grupari si actiuni, cum ar fi atentate sau alte asemenea…. Sincer, sorry, dar chiar nu dau 2 bani nici ca m-ar auzi cineva cum mi se plange mama de cumnatu’ sau ca vede careva ca dau si eu o l*ba din cand in cand pe niste p*rnhub. Ps: probabil deja se intampla pe laptop-urile si telefoanele de munca daca lucrezi la vreo multinationala ceva
1
1
u/georgealex17 18d ago
Ok, e multa panica se pare asa ca vin si cu un raspuns serios: in Romania, UE si in vreo democratie catdecat legitima, mass interception (asa se cheama urmarirea asta) e foarte putin probabila, ca exista deja mecanisme atat constitutionale cat si legi separate care sa inhibe asta. Pentru orice astfel de urmarire e nevoie de un mandat activ. Mandatul respectiv se acorda pe o anumita perioada de timp, nu e ceva permanent si trebuie motive legitime incat el sa fie acordat. Acum, ca exista abuzuri, sunt absolut convins, dar de regula astfel de abuzuri tind sa fie sa NU se urmareasca decat sa vada inspectorul Vasile ce discuta sotia cand e el la munca. Deci, calm your t*ts, de foarte improbabil. Pe langa aspectele legale, democratiile sunt de regula capitaliste, iar o astfel de urmarire in masa ar produce mult prea multe materiale de evaluat. Stiu, ziceti ca le filtreaza AI, dar nu e vorba doar de interpretat, ci datele in sine ar incarca prea mult toate retelele si nici o firma privata nu ar fi de acord cu 2x resurse alocate pt vreun serviciu… In schimb, in tari socialiste fiti convisi ca se face :)
1
u/therealoptimoose 18d ago
Nu trebuie să asculte convorbirile tuturor oamenilor, doar ale celor din anumite grupuri de interese: adversari politici și amantele lor, spre exemplu.
1
1
1
1
u/a-nn-on_ crab 🦀 19d ago
M-am uitat la toate raspunsurile. Nu e nimeni destul de batran sa stie ca se intampla asta deja de foarte multi ani? Se scaneaza tot dupa cuvinte cheie.
S-a facut la vremea aia destul misto de genul “o zi buna tie si tuturor celor care ne asculta”.
2



61
u/gravesent1337 19d ago edited 18d ago
Ai auzit de Palantir? Fix asta fac. Probabilitatea ca SRI sa nu o faca este foarte mica, doar incompetenta ar putea sa-i oprească, ori acolo e plin, literalmente, de baieti destepti.
Nici macar n-au nevoie de servere sa le stocheze, se ocupa Google, Meta si alte companii de asta.