Home / Rischi AI e privacy Educazione stradale

L'AI corre veloce. Anche verso il burrone.

Non vogliamo spaventarti. Vogliamo che tu sappia cosa può andare storto, così puoi decidere con la testa. Un solo errore, un solo ordine capito male, e cinque minuti bastano a distruggere mesi di lavoro.

Gli errori tipici

Otto buchi che troviamo quasi sempre.

Nel software scritto con l'AI e mai rivisto da un esperto. Il codice qui sotto è un esempio di cosa vediamo.

Chiavi segrete nel codice

L'AI scrive la chiave di pagamento o del database direttamente nel file. Il file finisce online e qualcuno la usa a tue spese.

const STRIPE_KEY = "sk_live_51H...";

Password in chiaro

Le password dei clienti salvate così come sono. Chi entra nel database le legge tutte, e le prova sulla loro email.

INSERT INTO utenti VALUES ('mario', 'Mario1980!');

Nessun backup

Un comando sbagliato, un ransomware o un disco rotto e non c'è niente da cui ripartire.

$ ls backups/ → nessun file

Porte aperte a tutti

Pannello di amministrazione raggiungibile da chiunque indovini l'indirizzo, senza doppia verifica.

GET /admin → 200 OK (nessun login)

Dati che chiunque può modificare

Basta cambiare un numero nell'indirizzo per vedere gli ordini di un altro cliente.

/ordini?id=1042 → /ordini?id=1043

Pacchetti inventati o vecchi

L'AI a volte suggerisce librerie che non esistono: qualcuno le crea apposta con dentro un virus. Oppure usa versioni piene di falle note.

npm install utils-helper-pro # chi l'ha scritto?

L'AI con le chiavi di casa

Agenti AI collegati direttamente al database vero, con il permesso di cancellare. Basta un'istruzione ambigua.

agent.tools = [db.query, db.delete] # produzione

Privacy dimenticata

Nessuna informativa, consensi già spuntati, dati spediti a servizi esteri senza contratto. È lì che arriva il Garante.

<input type="checkbox" checked> Accetto il marketing

Sanzioni vere

Non sono esempi. Sono successe.

Il Garante per la protezione dei dati personali è tra le autorità più attive d'Europa sull'intelligenza artificiale. Tre decisioni da ricordare.

Sanzioni del Garante Privacy citate qui sotto, in milioni di euroFonti ufficiali

Totale delle tre sanzioni

40mln €

Il tetto GDPR è 20 milioni o il 4% del fatturato mondiale, e per una piccola impresa le sanzioni si calcolano in proporzione.

15 mln €OpenAI · ChatGPT

Dati personali usati per addestrare il modello senza una base giuridica adeguata, informazione carente agli utenti, nessuna verifica dell'età.

Garante Privacy · dicembre 2024

5 mln €Luka Inc. · Replika

Il chatbot "amico virtuale" trattava dati senza base giuridica adeguata e senza un sistema efficace di verifica dell'età.

Garante Privacy · 2025

20 mln €Clearview AI

Riconoscimento facciale con immagini raccolte dal web, senza consenso. Ordinata anche la cancellazione dei dati.

Garante Privacy · 2022

Le aziende citate sono grandi, ma le stesse regole valgono per una piccola impresa: le sanzioni si calcolano in proporzione alla gravità e alle dimensioni. Per stimare il rischio del tuo caso usa il simulatore multe.

Le regole del codice della strada

GDPR, AI Act, NIS2. In tre righe ciascuno.

GDPR · dal 2018

Dati personali

Devi dire cosa raccogli e perché, proteggerlo bene e avvisare il Garante entro 72 ore se qualcosa va storto.

Fino a 20 mln € o 4% del fatturato

AI Act · in vigore a tappe dal 2025

Intelligenza artificiale

Chi usa l'AI deve essere trasparente: le persone devono sapere quando parlano con una macchina. Alcuni usi sono vietati, altri ad alto rischio con obblighi pesanti.

Fino a 35 mln € o 7% del fatturato

NIS2 · in Italia dal 2024

Cybersicurezza

Molte più aziende di prima, anche medie, devono avere misure di sicurezza, gestione degli incidenti e responsabilità dei vertici.

Fino a 10 mln € o 2% del fatturato

Pensa a queste leggi come al codice della strada. Nessuno ti chiede di essere un pilota di Formula 1. Ti chiedono cintura, freni a posto, assicurazione e di fermarti se fai un incidente. Noi ti consegniamo il software con tutto questo già montato.

Informazioni divulgative, non sostituiscono una consulenza legale.

Glossario

Parole difficili, spiegate due volte.

Una volta per tutti, una volta per i tecnici.

Cifratura post-quantistica (PQC): FacileUn lucchetto che nemmeno i computer del futuro sanno aprire.; TecnicoAlgoritmi resistenti all'algoritmo di Shor, come ML-KEM (FIPS 203) e ML-DSA (FIPS 204).

Ransomware: FacileUn virus che chiude a chiave i tuoi file e ti chiede soldi per riaverli.; TecnicoMalware che cifra i dati e spesso li esfiltra prima, per una doppia estorsione.

Backup immutabile: FacileUna copia dei dati che nessuno può cancellare o cambiare, nemmeno il capo.; TecnicoStorage WORM o con object lock, conservazione a tempo, separato dalle credenziali di produzione.

GDPR: FacileLa legge europea che dice come trattare i dati delle persone.; TecnicoRegolamento UE 2016/679, con sanzioni ai sensi dell'art. 83.

AI Act: FacileLa legge europea sull'intelligenza artificiale: più è rischioso l'uso, più regole ci sono.; TecnicoRegolamento UE 2024/1689, approccio basato sul rischio.

DPA: FacileIl contratto con cui chi lavora sui tuoi dati promette di trattarli bene.; TecnicoAtto di nomina a responsabile del trattamento, art. 28 GDPR.

Chiave API: FacileUna password che usano i programmi per parlarsi. Se la perdi, qualcuno parla al posto tuo, e paghi tu.; TecnicoCredenziale di accesso a un servizio; va tenuta in un secret manager e ruotata.

Staging: FacileUna copia di prova del software dove si può sbagliare senza fare danni.; TecnicoAmbiente pre-produzione con dati fittizi o anonimizzati.

Doppia verifica (2FA): FacileOltre alla password, un codice sul telefono. Una password rubata non basta più.; TecnicoAutenticazione a più fattori, meglio con passkey o app TOTP che via SMS.

Allucinazione dell'AI: FacileQuando l'AI si inventa una cosa e te la dice con la massima sicurezza.; TecnicoOutput plausibile ma falso; nel codice si traduce in API o pacchetti inesistenti.

Quanto rischi tu?

Dieci domande sì o no, un semaforo, tre cose da sistemare subito.

Fai il check-up Simula la multa

Gratis e senza impegno

Parliamone un'ora. Gratis.

Scegli tu giorno e ora: ti spieghiamo cosa si può fare, quanto costa e quanto tempo serve. Nessun impegno, nessuna carta di credito, nessun venditore insistente.

Prenoti online in 30 secondi
Invito sul tuo calendario
Ti mostriamo dal vivo le protezioni incluse

Prenota la call gratuita Stima il costo in 1 minuto