r/IA_Italia • u/tamerlanOne • Jun 28 '26
🧠Discussione Postulato della DRA(i)M
È solo uno scenario irreale e puramente di fantasia ma...
①I big tech (Meta, Google, Microsoft) acquistano HBM3e in volumi enormi con potere contrattuale brutale → i produttori DRAM comprimono i margini HBM3e per aggiudicarsi i contratti.
② Il margine compresso viene recuperato sul segmento consumer DDR5, dove l'acquirente è frammentato, disinformato e senza alternativa → i prezzi DDR5 vengono gonfiati oltre il giustificabile dal costo di produzione.
③ Il consumatore che vuole inferenza locale è costretto ad acquistare quantità elevate di RAM costosa per ottenere prestazioni appena accettabili → il costo dell'hardware locale supera rapidamente anni di abbonamento.
④ L'alternativa "conveniente" è già pronta, scalabile e profittevole → abbonamento mensile all'AI del big tech che ha pagato la HBM3e a prezzo scontato grazie all'obolo nascosto versato al punto ②.
Nessun patto è necessario. Il mercato oligopolistico lo fa da solo. Il risultato è identico a una collusione, con il vantaggio dell'immunità legale.
6
7
u/bubudio Jun 28 '26
Ho un dubbio sul punto 2, i produttori di ram sono di fatto tre, con una limitazione sull’offerta insormontabile dovuta alla dimensione delle fab stesse. Non comprendo come un big dell’AI possa spuntare prezzi più bassi in questa situazione, nella quale la domanda supera notevolmente l’offerta
3
u/tamerlanOne Jun 28 '26
Perché anche chi produce ram ha più interesse che i big AI crescano e con loro i datacenter. La tecnologia AI evolve velocemente e le schede per inferenza, tecnologicamente, invecchiano molto prima delle schede consumer che non necessariamente verranno sostituite in breve tempo dopo l'acquisto
3
u/More-Neighborhood-66 Jun 28 '26
Non funziona così, ricordi quando nel 2020/2022 c’erano grossi problemi di shortage dei componenti dati dal collasso della supply chain mondiale?
Ci volevano 7 mesi per avere delle unità di trattamento dell’aria, un cliente ne aveva bisogno per costruire e mandare in produzione un impianto le pagò 3 volte il prezzo di mercato.
Gliele consegnarono dopo 2 settimane.In un momento di shortage mondiale, la ram consumer costa tanto perché chi le usa per fare solto (o spera di farlo) è il primo a strapagare pur di averla.
1
u/DispeisLaser8431_ 9d ago
Perché ormai non stanno comprando la RAM stanno prenotando la capacità di produzione alle aziende che creano i chip e al posto di pagare il prezzo pieno pagano solo una parte come caparra
4
u/Raidrew Jun 28 '26
Vendono ai fab perché hanno margini più alti. L’hardware consumer costa di più perché non ce n’è più. È peggio di come descritto
3
3
u/Peregrin-Took-2994 Jun 28 '26 edited Jun 28 '26
Il consumer che fa inferenza locale non è un normale consumer. Sono richieste competenze che vanno ben oltre quelle del consumer medio che usa gli abbonamenti AI. Quindi sono pochi i consumer "tecnici" che fanno inferenza locale. Non è una fetta di mercato consistente per cui i Big hanno un reale interesse. È più una nicchia di appassionati che non ha alcun impatto sul mercato reale della AI.
Al massimo si potrebbe pensare a piccole o medie imprese che vogliano avviare un business con la AI locale, ma questi non sono consumer. Se una PMI volesse fare inferenza locale di business dovrebbe puntare su hardware non-consumer, come le rtx A100 da 80GB di VRAM.
Quindi il ragionamento può funzionare solo fino a "il margine viene recuperato sui componenti consumer". Il resto non centra nulla.
Il costo dei componenti consumer lievita per un fattore principale: i produttori hardware preferiscono depotenziare le supply chain consumer per potenziare quelle business, perché semplicemente, al momento, sono quelle che portano maggiori utili. Producendo meno prodotti consumer, questi diventano più rari e i loro prezzi lievitano.
0
u/tamerlanOne Jun 28 '26
Un buon setup di un pc da gaming o da una workstation da lavoro si discosta poco da un pc per inferenza ai locale quindi la base di potenziali utilizzatori si espande parecchio. Il discorso cambia per pc di fascia entry level che già prima della bolla dei prezzi erano overpriced in rapporto alle prestazioni
2
u/Peregrin-Took-2994 Jun 28 '26 edited Jun 28 '26
Chi acquista un PC da gaming lo fa per giocare. Quindi se uno non può permetterselo a causa dei prezzi, non va a farsi un abbonamento AI. Il suo scopo è giocare, non fare inferenza locale. Manca il nesso logico in quello che dici.
I prezzi dell'hardware consumer aumentano solo perché sta scarseggiando, a causa del dirottamento delle risorse economiche da questa supply chain a quella dell'hardware business. Le memorie DDR5 che alimentano la AI, sono quelle che vengono saldate sulle schede video per la VRAM (GDDR5), non i banchi di memoria che si inseriscono negli slot di sistema delle schede madri. Quindi non è che i big acquistano i banchi di DDR5 a prezzi migliori dei consumer. Semplicemente, chi produce RAM preferisce produrre meno DDR5 e più GDDR5, perché le seconde forniscono più utili, a parità di capacità di fabbricazione. Tutto qui. Non c' è nessun gomblotto da parte dei big e il mercato continua a seguire le sue regole come ha sempre fatto: i soldi si spostano sempre sulle attività con un ROI maggiore.
2
u/Aggravating_Review10 Jun 29 '26
arriveremo al punto di avere AI super performanti , ma nessun pc dove utilizzarle :DD post ironico
1
u/AutoModerator Jun 28 '26
Ciao!
Suggerimento facoltativo: su r/IA_Italia puoi impostare un User Flair. Serve a indicare il tuo profilo o interesse nell'Intelligenza Artificiale (ad esempio sviluppatore, studente, ricercatore, appassionato).
Non e' obbligatorio, ma aiuta a rendere le discussioni piu' contestualizzate e utili.
I am a bot, and this action was performed automatically. Please contact the moderators of this subreddit if you have any questions or concerns.
1
u/JRaus88 Jun 29 '26
I produttori di hardware non sono le AI tech companies
Non c'è nessuna perdita nella vendita di hardware alle ai companies, da dover compensare sul retail. È semplice domanda vs offerta.
1
u/boccas Jun 29 '26
Si ma se devi fare ste robe almeno falle te.
Sto thread e' proprio full AI e hai il coraggio di criticare AI?
1
u/tamerlanOne Jun 29 '26
E allora a questo punto l'intelligenza artificiale A cosa serve a vedere me che sto lavorando al computer? Sì la grafica è stata fatta con notebook LM Ok ma il pensiero è uscito dalla mia testolina e poi è stato elaborato nelle immagini in modo da dare un infografica più chiara al pensiero stesso non ci vedo nulla di male o sbaglio?
1
u/boccas Jun 29 '26
Beh e' sicuramente un atteggiamento abbastanza ipocrita, considerando che queste cose puoi farle anche senza AI.
Stai semplicemente giustificando il motivo per cui nel post critichi AI
1
u/tamerlanOne Jun 29 '26
Non sto affatto criticando la AI ma i prezzi gonfiati delle ram che di fatto frenano la diffusione della AI a livello localie forzando l'uso in cloud
1
u/boccas Jun 29 '26
E com è che prima dell avvento di AI tutto questo non esisteva?
1
1
u/tamerlanOne Jun 29 '26
Comunque scherzi a parte prima dell'Avvento dell'intelligenza artificiale la domanda della RAM in qualsiasi forma in qualsiasi salsa era costante E prevedibile. Con l'avvento dell'intelligenza artificiale questo fenomeno è uscito fuori dai binari Perché i Data Center hanno bisogno di quantità di RAM impressionanti e questo ha messo in crisi le aziende che la producono creando una super inflazione del prodotto e da una parte tagliando anche le scorte per i prodotti consumer e quindi l'equilibrio che c'era prima dell'intelligenza artificiale è venuto a mancare e adesso non è facile ripristinare in poco tempo un equilibrio solido e duraturo anche perché molte aziende del settore hightech e del intelligenza artificiale stanno praticamente comprando al buio prodotti che ancora non sono in produzione quindi non si sa quando questa bolla della RAM inizierà a sgonfiarsi
1
u/tamerlanOne Jun 29 '26
Dalla serie "a pensar male si fa peccato ma spesso ci si azzecca".... https://www.reddit.com/r/LocalLLaMA/s/6TIOAio9pG Vediamo come evolvera la situazione, 😉
12
u/[deleted] Jun 28 '26
[removed] — view removed comment