IA aziendale e vector database: perché trasformare i dati in numeri non basta per il GDPR

Molte imprese stanno collegando ai propri assistenti di intelligenza artificiale un archivio dei documenti aziendali — contratti, manuali, schede clienti — per farseli "interrogare" in linguaggio naturale. La tecnologia che rende possibile questa ricerca si chiama vector database: ogni testo viene trasformato in una sequenza di numeri (embedding) che rappresenta il suo significato. È la base dei sistemi RAG (Retrieval-Augmented Generation), sempre più diffusi nei software gestionali e negli assistenti virtuali aziendali.

Il punto su cui gli esperti di protezione dati richiamano l'attenzione è semplice: trasformare un testo in numeri non lo rende anonimo. Se il documento di partenza conteneva dati personali — il nome di un cliente, una diagnosi, un curriculum — l'embedding che lo rappresenta resta un dato personale a tutti gli effetti del GDPR, con tutti gli obblighi che ne derivano: base giuridica del trattamento, informativa, diritto di cancellazione, misure di sicurezza.

Il rischio tecnico: ricostruire il testo dal vettore

La ricerca sulla sicurezza dei sistemi RAG ha documentato tecniche, note come "embedding inversion", in grado di risalire al testo originale partendo dal solo vettore numerico. Le linee guida tecniche internazionali per questi sistemi indicano quindi di trattare gli embedding come dati sensibili soggetti agli stessi controlli di accesso dei documenti di origine e di cifrarli quando sono a riposo, oltre a limitare l'esposizione delle interrogazioni di similarità, restringendo i risultati e applicando soglie di rilevanza. In pratica, un database di embedding compromesso equivale, ai fini della sicurezza, a un database di documenti in chiaro compromesso.

Cosa cambia per chi adotta IA in azienda

Per un'impresa che affida a un fornitore esterno la generazione degli embedding — passaggio comune quando si usano servizi cloud di IA generativa — il testo dei documenti aziendali transita fuori dai propri sistemi: è un trasferimento di dati personali che richiede un accordo di trattamento dati con il fornitore e una verifica di dove e per quanto tempo i testi vengono conservati prima e dopo la trasformazione in vettori.

Il tema non è solo teorico: nel mercato della sicurezza informatica sono già comparsi strumenti dedicati a scansionare gli embedding esportati per individuare dati personali nascosti, anche in vettori non più collegati a un sistema attivo, segno che il problema della "memoria residua" dei vector database è considerato concreto dagli operatori del settore.

Per i titolari del trattamento la conseguenza pratica è che l'adozione di un assistente IA basato su documenti aziendali va preceduta da una valutazione dei rischi che includa l'intera catena — raccolta dei documenti, generazione degli embedding, conservazione nel vector database, interrogazione — e non si fermi al software di front-end con cui l'utente dialoga.