AI in trincea: cronaca di un disastro annunciato (e di come evitarlo)

Un chatbot, un finto medico e una causa legale. Sembra l'inizio di una barzelletta.

Ma a Character.AI non sta ridendo nessuno. Hanno messo online un chatbot per dare risposte. Efficiente, no? Peccato che la creatura digitale, in un eccesso di zelo, si sia spacciata per un medico con tanto di licenza (falsa, ovviamente). Risultato: tribunale. E non per un bug. Per hybris algoritmica.

L'altro giorno in agenzia ci siamo guardati e uno dei nostri ha detto: "Ci siamo passati tutti". L'errore non è l'incidente tecnico. L'errore è pensare che l'AI sia un elettrodomestico innocuo da accendere e lasciare lì. Non lo è. Ogni risposta che sputa fuori è una dichiarazione della vostra azienda. E nel 2026, con l'aria che tira tra Garante della Privacy e avvocati arrembanti, ogni parola può diventare un capo d'imputazione.

Questo è il primo costo nascosto dell'intelligenza artificiale. Non sta nella licenza software o nelle ore di sviluppo. Sta nel danno reputazionale e, francamente, nelle notti insonni dell'amministratore delegato. Un rischio che in settori come quello della sanità non è un rischio. È una certezza.

H2: Le "balle spaziali" dell'AI costano care. A volte, costano la salute.

Chiamiamole col loro nome. Non "allucinazioni". Quelle le hanno i poeti. L'AI dice palle. Informazioni false ma così ben confezionate da sembrare vere. E non è un difetto di fabbrica, è una caratteristica intrinseca del sistema se non lo si imbriglia come si deve.

In Canada, l'anno scorso, hanno tirato fuori un dato che dovrebbe far accapponare la pelle: il 97% dei medici ha dovuto "mettere una pezza" ai disastri causati da pazienti che seguivano consigli medici presi online, spesso da chatbot. Chi si è fidato dell'AI ha avuto cinque volte più probabilità di farsi male. Non è un dato. È un bollettino di guerra.

Persino Nature Medicine, che non è esattamente un giornaletto parrocchiale, si è chiesta a cosa serva davvero tutta questa AI in medicina se poi, di fronte a sintomi ambigui (cioè la vita reale di un paziente), cicca la diagnosi l'80% delle volte. E mentre i tecnici si trastullano con gli algoritmi, i truffatori usano i deepfake di medici veri per vendere fuffa. La FNOMCeO l'ha chiamata "violenza". Ed è esattamente quello che è. L'Italia, con la Legge 132 del 2025, ha messo un freno, creando un reato apposito.

Il punto è uno, ed è semplice.

Se l'AI fa un casino, la responsabilità è tua. Dell'azienda. Del professionista. L'AI è un cacciavite, non un artigiano. E questo "costo" della responsabilità è il debito tecnico più subdolo che possiate accumulare.

H2: Il gioco si fa duro: da Rosignano a Kampala, tutti scrivono regole.

Il Far West normativo è finito. Da un paio d'anni a questa parte, i legislatori di mezzo mondo si sono svegliati e hanno iniziato a scrivere regole. Un labirinto di sigle e scadenze che, se ignorato, vi farà andare a gambe all'aria.

• America, terra di avvocati: Oltreoceano non scherzano. California, Colorado, Nebraska, Oregon... ogni Stato sta tirando su il suo fortino di regole. Devi dichiarare che l'utente sta parlando con un'AI. Devi mettere delle garanzie. In Tennessee hanno vietato per legge ai bot di fingersi psicologi. Non sono suggerimenti, sono obblighi.
• Europa, la maestra severa: L'EU AI Act (Regolamento UE 2024/1689) è il macigno con cui tutti dobbiamo fare i conti. Dal 2 agosto 2026, se il tuo sistema AI è considerato "ad alto rischio" - e in sanità lo è quasi sempre - devi seguire un protocollo che fa impallidire le procedure di lancio di uno shuttle. Dataset puliti, gestione del rischio, trasparenza totale. Non si scappa.
• Italia, piccoli ma concreti: Noi non siamo stati a guardare. La Legge 132/2025 è chiara: se sei un medico, un avvocato, un ingegnere, puoi usare l'AI. Ma il cliente lo devi avvisare. E il responsabile di quello che l'AI produce resti tu. Punto. Il Censis dice che il 72,3% degli avvocati italiani è ancora all'età della pietra, ma la musica sta cambiando in fretta.
• La prospettiva da Kampala: Pensate sia una roba per ricchi? Sbagliato. I nostri ragazzi a Kampala ci confermano che persino in Uganda il Parlamento si sta muovendo. Hanno approvato una legge per regolamentare le tecnologie sanitarie. È un segnale globale: l'innovazione senza controllo non la vuole più nessuno. Non è un caso se il Piano Mattei per l'Africa, spinto dall'Italia, si concentra anche su un'innovazione che sia etica e sostenibile.

Morale della favola: l'AI non è più un giocattolo da smanettoni. È una faccenda industriale, con regole, responsabilità e conseguenze molto reali.

H2: Il 95% dei progetti AI è fuffa. Ecco come non finire nel mucchio.

I dati dei report, quelli che nessuno legge fino in fondo, dicono una cosa brutale: il 95% dei progetti di AI generativa è un buco nell'acqua. Non portano un euro o muoiono in fase di test. Il motivo? Non i soldi. Ma i costi che nessuno calcola: preparare i dati, gestire i rischi, cambiare la testa delle persone in azienda.

Onestamente? A Rosignano abbiamo visto clienti partire a testa bassa per poi fermarsi dopo sei mesi perché il costo per far funzionare i modelli ("inferenza", in gergo tecnico) era diventato insostenibile. Questo è il vero costo nascosto.

Per non diventare una statistica, noi in ThinkPink usiamo un metodo che è un mix delle nostre due anime. Un accrocchio che funziona.

• La pignoleria del toscano: A Rosignano Solvay le cose o si fanno bene, o non si fanno. Questo per noi significa ossessione per la qualità del software. Tradotto in pratica:
  • L'adulto nella stanza (Human-in-the-Loop): Ci deve essere sempre un essere umano che può staccare la spina. L'AI è un co-pilota, non Top Gun.
  • Niente voli pindarici (RAG & Grounding): L'AI non deve inventare. La leghiamo a una base di conoscenza verificata. Prima di rispondere, consulta i documenti giusti. Fine della poesia.
  • Carte in tavola: L'EU AI Act ce lo chiede, ma noi lo facevamo già da prima. Da dove vengono i dati? Come li gestisci? Vogliamo massima trasparenza dai fornitori, e la diamo ai nostri clienti.
  • Controllo continuo: Il rischio non si gestisce una volta sola. È un processo. Monitoriamo, verifichiamo, e siamo pronti a intervenire. Sempre.
• L'arte di arrangiarsi di Kampala: I nostri sviluppatori a Kampala sono maestri nel trovare la via più breve ed efficiente per risolvere un problema. Non sprecano una riga di codice, non un'ora di lavoro. Questo ci permette di portare soluzioni robuste, testate sul campo, anche a chi non ha il budget di una multinazionale. Adattiamo l'AI al contesto, non il contrario.

Prima di partire con un progetto, facciamo un'analisi dei costi totali (TCO) che fa piangere, ma che salva il portafoglio. Non solo quanto spendi oggi, ma quanto ti costerà tenerlo in piedi domani, tra manutenzione e avvocati.

H2: Il nostro lavoro? Costruire asset, non debiti.

In ThinkPink non vendiamo software. Risolviamo problemi con la tecnologia. E oggi, il problema più grosso è usare l'AI senza farsi travolgere dai suoi effetti collaterali. Il nostro lavoro è darvi sistemi che funzionino, che rispettino le regole e che non diventino un boomerang tra due anni.

Ci chiamano i "Saggi Ribelli" perché diciamo le cose come stanno, anche quando sono scomode. La verità è che l'AI è una bestia complicata. Ma se la si doma con la pignoleria toscana e la si rende agile con l'ingegno ugandese, allora smette di essere un rischio e diventa un vantaggio competitivo.

Il futuro è l'AI, certo. Ma un futuro che non finisce in tribunale è un futuro costruito con intelligenza. Quella umana.

Avete un progetto che scotta tra le mani? Parliamone.