AI e dati aziendali: le domande di sicurezza da fare (prima)

Quando si parla di AI e dati aziendali vedo due atteggiamenti opposti, entrambi sbagliati. C'è chi blocca tutto per paura ("i nostri dati non escono di qui") e intanto i dipendenti incollano listini e contratti in chatbot gratuiti dal telefono personale. E c'è chi collega il gestionale al primo servizio AI trovato online senza leggere una riga di condizioni d'uso.

La via di mezzo non richiede una laurea in giurisprudenza: richiede una manciata di domande fatte al momento giusto, cioè prima di firmare e prima di collegare qualcosa. Te le elenco come le uso io. Nessun allarmismo: sono le stesse domande che faresti a chiunque ti chiedesse le chiavi del magazzino.

Dove vanno a finire i dati?

Prima domanda, la più concreta: quando il sistema AI legge un mio documento o interroga il mio database, quei dati dove vanno fisicamente? Restano sui miei server? Passano dai server del fornitore? Vengono mandati a un servizio terzo (i grandi modelli AI girano quasi sempre su cloud di altri)?

E la domanda gemella, ancora più importante: i miei dati vengono usati per addestrare i modelli? Molti servizi in versione gratuita si riservano questo diritto; le versioni a pagamento per aziende di solito no, ma va verificato per iscritto, non supposto. La differenza tra "il modello elabora il dato e lo dimentica" e "il dato entra nel modello" è tutta qui, e sta scritta nelle condizioni d'uso.

Chiedi anche in quale Paese stanno i server: per i dati personali di clienti e dipendenti, con il GDPR, non è un dettaglio.

Chi li vede (e chi li potrebbe vedere)?

Seconda domanda: quali persone, in concreto, possono accedere ai miei dati? I tecnici del fornitore? Solo su richiesta o quando vogliono? E dentro la tua azienda: chi può interrogare il sistema AI, e su quali dati?

Questo punto è più pratico di quanto sembri. Se costruisci un assistente interno che risponde pescando dai documenti aziendali, e tra quei documenti ci sono gli stipendi o le marginalità per cliente, chiunque sappia fare una domanda ottiene una risposta. Il sistema va costruito con i permessi giusti fin dall'inizio: ognuno vede solo quello che vedrebbe già oggi con le cartelle e gli archivi normali. È un lavoro di progettazione, non un accessorio da aggiungere dopo.

Cosa dice il contratto, davvero?

Terza domanda: cosa c'è scritto, nero su bianco? I punti da cercare (o da farsi indicare col dito) sono pochi:

• Titolarità dei dati: i dati restano tuoi, sempre, senza ambiguità.
• Uso consentito al fornitore: può usarli solo per erogarti il servizio, non per addestramento, statistiche o rivendita.
• Riservatezza: un impegno esplicito, con responsabilità se viene violato.
• Subfornitori: chi altro tocca i dati per conto del fornitore, e con quali garanzie.
• Cosa succede in caso di problema: se c'è un accesso non autorizzato, entro quanto ti avvisano e cosa fanno.

Se il fornitore su queste domande risponde a voce ma non vuole scriverle, hai già la tua risposta. Un fornitore serio queste clausole le ha pronte, perché gliele chiedono tutti quelli che fanno le cose per bene.

Backup e piano di uscita

Quarta domanda, quella che quasi nessuno fa: e se le cose finiscono? Se il fornitore chiude, se il servizio cambia prezzi, se semplicemente vuoi passare ad altro?

Le cose da sapere prima: esiste un backup dei dati, con che frequenza, e chi lo tiene? Puoi esportare tutto in un formato leggibile (non solo i dati grezzi, anche le configurazioni e lo storico)? Quanto tempo hai per portare via tutto dopo la disdetta? E i dati che restano dai fornitori, vengono cancellati davvero, con conferma scritta?

Il momento giusto per provare un'esportazione completa è quando tutto va bene, non quando stai litigando. Io la faccio fare come test durante il progetto: se l'uscita funziona, la porta non è chiusa, e paradossalmente resti più volentieri.

Come usare questa checklist senza bloccare tutto

Il rischio, con le checklist di sicurezza, è trasformarle in un motivo per non fare mai niente. Non è lo scopo. Lo scopo è graduare: per un esperimento su dati non sensibili (un assistente che riassume documentazione tecnica pubblica, per dire) bastano risposte ragionevoli alle prime due domande. Per collegare l'AI all'anagrafica clienti o alla contabilità, servono tutte e quattro, per iscritto.

I dati aziendali vanno trattati come la cassa: non li chiudi in una cassaforte murata per non usarli mai, ma nemmeno li lasci sul bancone. Regole chiare, e poi si lavora.

Se stai valutando un progetto AI e vuoi una seconda opinione su queste domande — o vuoi capire quali fare al fornitore che hai davanti — mezz'ora al telefono con me di solito basta a mettere in fila i punti che contano.