Vibe coding: chi paga quando il software fatto con l'IA si rompe

Illustrazione synthwave: un castello di carte fatto di finestre di codice al neon, con una porta di casa smart aperta alla base e un lucchetto rotto, mentre sullo sfondo un data center assorbe chip di memoria come una calamita
Finché crolla in casa tua, è un esperimento. Quando ci abitano gli altri, è un problema.
data: · 9 min
autore: Matteo

A fine gennaio Moltbook era il progetto del momento: un social network dove a scrivere, commentare e votare sono agenti di intelligenza artificiale, non persone. Il suo fondatore, Matt Schlicht, ci teneva a dirlo: “Non ho scritto una sola riga di codice per Moltbook”.

Si vedeva. Il 31 gennaio i ricercatori di Wiz hanno scoperto che chiunque poteva leggere e modificare l’intero database. Dentro c’erano circa 1,5 milioni di token di accesso degli agenti, 35.000 indirizzi email e oltre 4.000 conversazioni private, alcune con le chiavi API di OpenAI in chiaro (Wiz). La chiave del database era nel JavaScript della pagina, cosa normale con Supabase, ma mancavano le regole che dicono chi può leggere cosa. Il team ha chiuso tutto in poche ore, dopo la segnalazione.

Non è un caso isolato, e non è nemmeno il punto più grave di questa storia. Il punto è chi paga quando il software fatto senza capirlo si rompe. Oggi, domani e tra qualche anno.


Il giocattolo e il prodotto

Parto da una cosa che penso davvero: il vibe coding, cioè chiedere all’IA il codice e accettarlo senza leggerlo, per certe cose va benissimo. Ti fai il programmino per rinominare le foto, il gestionale della collezione di dischi, un piccolo videogioco. Se si rompe, il danno resta a te. E spesso non è nemmeno un errore dell’IA: le hai chiesto una cosa sbagliata, e lei ha fatto esattamente quello che le hai chiesto. Succede anche ai programmatori, con i colleghi.

Il problema comincia quando il software esce da casa tua. Su YouTube vedo sempre più video di persone, senza alcuna competenza dichiarata, che costruiscono in un pomeriggio app che poi usano centinaia o migliaia di persone. Con login, dati personali, a volte pagamenti. Nessuno di loro sa dire dove finiscono quei dati e chi può leggerli, perché non l’ha deciso nessuno: l’ha deciso il modello, o non l’ha deciso affatto.

Moltbook è l’esempio più famoso, non il primo. Nel 2025 un ricercatore, Matt Palmer, ha analizzato le app pubblicate con Lovable, una delle piattaforme più usate per creare applicazioni descrivendole a parole. Su 1.645 app controllate, più di 170 lasciavano leggere a chiunque i dati degli utenti: indirizzi, debiti personali, chiavi API (Superblocks). Stesso errore di Moltbook, stesso database, stesse regole mancanti. È diventata una vulnerabilità ufficiale, la CVE-2025-48757. Lovable ha risposto che configurare quelle regole spetta a chi pubblica l’app, e da allora ha cambiato le impostazioni predefinite. Tecnicamente ha ragione. Ma chi pubblica un’app senza saper programmare non sa nemmeno che quelle regole esistono.

L’assistente che apre la porta di casa

C’è un caso che mi preoccupa ancora di più, perché tocca la casa delle persone. Di OpenClaw ho scritto a febbraio: è l’agente IA che gira sul tuo computer o su un server, ventiquattr’ore al giorno, e può leggere la posta, rispondere ai messaggi, comandare la domotica. È comodissimo, ed è proprio per questo che è pericoloso.

A febbraio SecurityScorecard ha contato più di 40.000 installazioni di OpenClaw raggiungibili da internet, su oltre 28.000 indirizzi IP. Di queste, più di 12.000 si potevano prendere completamente da remoto, e 549 risultavano già collegate ad attività di attacchi precedenti (Infosecurity Magazine). A gennaio il ricercatore Jamieson O’Reilly ne aveva trovate centinaia con il pannello di controllo aperto: chiavi API, token di Telegram e Slack, mesi di conversazioni.

Pensa a cosa vuol dire. Un assistente che legge la tua posta e accende le luci di casa è anche una porta d’ingresso per chiunque lo trovi. E non è solo un rischio per te: una macchina compromessa diventa uno strumento per attaccare altri, i tuoi contatti, la tua rete, chi ti sta vicino. Chi l’ha messo su seguendo un tutorial non ha idea di cosa voglia dire “esporre una porta su internet”. Ha solo chiesto all’IA di renderlo raggiungibile dal telefono, e l’IA l’ha fatto.

Succede anche ad Amazon

Si potrebbe pensare che sia un problema dei dilettanti. Non solo. A febbraio il Financial Times ha raccontato che a dicembre un sistema di AWS usato dai clienti è rimasto fermo per 13 ore dopo che alcuni ingegneri avevano lasciato fare a Kiro, l’agente di programmazione di Amazon. Kiro avrebbe deciso di “cancellare e ricreare l’ambiente” da zero. Amazon contesta questa versione: parla di errore umano, non dell’IA, di un solo servizio coinvolto e di permessi più ampi del dovuto. Dopo l’incidente ha comunque reso obbligatoria la revisione da parte di un collega (The Register).

Prendiamo per buona la versione di Amazon: è stato un errore umano. È proprio questo il punto. L’agente fa quello che i permessi gli consentono, e qualcuno deve sapere quali permessi dare. Lo sviluppatore Carl Brown, citato da Ed Zitron in una lunga intervista a The Diary of a CEO, la riassume così: l’IA rende le cose facili ancora più facili, e quelle difficili ancora più difficili. Se il codice di un’azienda come Amazon ha bisogno di una persona che controlla, figuriamoci l’app di chi non ha mai visto un database.

La generazione che non stiamo formando

Questa è la parte che mi preoccupa di più, e riguarda il mio mestiere.

Come si diventa sviluppatori senior? Facendo per anni i lavori da junior. Le pagine semplici, i bug noiosi, le modifiche piccole. È lì che impari come funziona davvero un sistema, perché quella query è lenta, perché quel controllo non va tolto. Oggi quei lavori li fa l’IA, e i junior non vengono più assunti.

I dati ci sono. Erik Brynjolfsson e due colleghi di Stanford seguono le buste paga di milioni di lavoratori americani, quelle gestite da ADP. Nell’ultima versione del loro studio, aggiornata ad agosto 2026, l’occupazione dei ragazzi tra i 22 e i 25 anni nei mestieri più esposti all’IA è del 19% più bassa di quella che avrebbe se avesse tenuto il passo dei coetanei negli altri mestieri. Tra i lavoratori esperti non c’è nessuna differenza. E il motivo non sono i licenziamenti: semplicemente, i giovani non vengono più assunti (Stanford). Un anno prima il divario era del 15%: si sta allargando.

Qualcuno dirà: è sempre stato così. Quando sono arrivati i compilatori nessuno ha più scritto in assembly, e va benissimo. Ma c’è una differenza enorme. Un compilatore dà sempre lo stesso risultato: puoi fidarti senza leggere cosa produce. Il codice dell’IA no. Va letto, ogni volta, da qualcuno che lo capisce. Se smettiamo di formare chi lo sa leggere, tra dieci anni avremo sistemi scritti da macchine e nessuno in grado di capire perché si sono rotti. L’ho visto in piccolo qualche giorno fa, con un mio server che non è ripartito: quando le cose si rompono, serve qualcuno che sappia dove mettere le mani.

Un prezzo che non è quello vero

E qui arriva il conto. Oggi l’IA la paghiamo poco. Venti euro al mese, duecento per i piani professionali. Ho già scritto che quel prezzo non copre i costi: OpenAI e Anthropic perdono miliardi e i piani a prezzo fisso, con gli utenti più intensivi, vanno in perdita. È lo stesso copione di Uber e di tante piattaforme: prezzi bassi per conquistare il mercato, abituare tutti, rendersi indispensabili. Poi si alzano.

Le aziende cominciano già a vedere il prezzo vero. Proprio Uber, ad aprile, ha finito in quattro mesi tutto il budget del 2026 per Claude Code: l’uso tra i suoi 5.000 ingegneri era passato dal 32% all'84% in tre mesi. A maggio il direttore operativo Andrew Macdonald ha ammesso che è difficile collegare tutti quei token a funzioni più utili per i clienti (Fortune).

Ora mettiamo insieme i pezzi. Le aziende licenziano o non assumono, perché tanto c’è l’IA. Il codice lo scrive l’IA e nessuno in casa lo sa più leggere davvero. A quel punto non puoi più tornare indietro: paghi quello che ti chiedono. E se la bolla dell’IA dovesse scoppiare davvero (Zitron dice che potrebbe succedere già nel 2027, anche se molte sue previsioni passate non si sono avverate), alcune di queste aziende potrebbero sparire. Quelle che restano potranno fare il prezzo che vogliono.

E i modelli in casa?

La risposta più ovvia è: allora usa i modelli aperti, in locale. Ne ho scritto spesso, da DeepSeek con Ollama in avanti, e continuo a pensare che siano la vera alternativa. Mettono un tetto a quello che le grandi aziende potranno chiedere.

Ma c’è un problema. Un modello locale che si avvicina a quelli dei grandi laboratori ha bisogno di 64, meglio 128 GB di memoria. Il PC, il tablet o il telefono che le persone hanno in casa ne hanno 8 o 16. E la memoria oggi costa molto di più, per un motivo preciso: Samsung, SK hynix e Micron hanno spostato la produzione verso le memorie per i data center dell’IA. Secondo TrendForce i prezzi delle DRAM sono saliti del 55-60% in un solo trimestre già alla fine del 2025, e secondo IDC la carenza durerà fino al 2027 (The Register).

Lo vedo sul mio iPad Pro 12,9 con chip M1. L’ho preso al Black Friday del 2022, in offerta con la penna, a 590 euro. Oggi su Back Market lo stesso modello, ricondizionato, parte da 629 euro (Back Market): più di quanto l’ho pagato io, nuovo e con la penna. Un tablet di quattro anni che vale più di quando l’ho comprato. Con l’elettronica, di solito, succede il contrario.

Quindi il cerchio si chiude in un modo un po’ beffardo. L’alternativa al cloud esiste, ma richiede hardware che costa sempre di più, perché lo stesso cloud si compra tutta la memoria. E richiede competenze per installarlo e tenerlo in sicurezza: proprio quelle che stiamo smettendo di formare.

Cosa ne penso

Non sono contro l’IA per programmare. La uso tutti i giorni, e su questo blog c’è un diario intero su come ci lavoro con gli agenti. Ma la uso sapendo leggere quello che scrive, e decidendo io cosa entra e cosa no.

Quello che chiederei è semplice:

  • Se è per te, fai quello che vuoi. Il programmino di casa, il gioco, lo script: il vibe coding è un ottimo modo per cominciare, e anche per imparare, se poi leggi quello che ha scritto.
  • Se lo usano gli altri, serve qualcuno che lo capisca. Dati personali, accessi da internet, pagamenti: o impari, o fai controllare a chi sa. Non è burocrazia, è rispetto per chi si fida della tua app.
  • Un assistente che comanda casa tua non va esposto su internet se non sai esattamente cosa stai facendo. Meglio una VPN privata come Tailscale, come spiego nella guida a OpenClaw, o niente.
  • Le aziende continuino ad assumere junior. Non perché sono buone, ma perché tra dieci anni serviranno senior, e non si comprano già fatti.

L’IA oggi costa poco perché qualcuno sta pagando il conto per noi. Quando smetterà di farlo, conterà solo una cosa: avere ancora persone che sanno cosa c’è dentro.

Copiato