AI
Provenienza digitale AI
Provenienza digitale: come dimostrare che un contenuto o una decisione viene dall'AI
Un commerciale apre un lead in Dynamics 365 e vede: “Priorità: Alta”.
Il punteggio lo ha calcolato un modello di AI.
Sei mesi dopo, in un audit interno, qualcuno chiede:
- Perché quel lead è stato classificato così?
- Chi ha guardato quel dato?
- È stato un umano o l’algoritmo a decidere di contattarlo per primo?
Se la risposta è “il campo dice Alta, il resto non lo sappiamo”, c’è un problema.
E non è un problema futuro: con l’AI Act, la tracciabilità dei sistemi di AI ad alto rischio è già un requisito.
Non serve dimostrare che l'AI avesse ragione. Serve dimostrare come ci è arrivata!
Nessuno si aspetta che un modello sia infallibile.
In un audit, in una gara o in un contenzioso, la domanda non è “l’AI aveva ragione?”, ma “il processo che ha portato a questa decisione è ricostruibile, verificabile, difendibile?”.
Questa traccia si chiama Digital Provenance (provenienza digitale).
Oggi, nella maggior parte dei CRM, semplicemente non esiste.
Provenienza digitale AI
Cosa manca davvero nei progetti CRM con AI
- Quale versione del modello ha fatto il calcolo
- Quali dati ha usato come input
- Quale prompt o configurazione era attivo in quel momento
- Se il punteggio originale era diverso e un commerciale l’ha corretto
- Chi ha validato (o ignorato) il suggerimento
Non è più solo buon senso: è un requisito
Provenienza digitale AI
“L'articolo 12 dell'AI Act richiede che i sistemi AI ad alto rischio registrino automaticamente gli eventi durante tutto il loro ciclo di vita, per rendere tracciabile il funzionamento del sistema. Non è una raccomandazione: è un requisito tecnico”
L’articolo 12 dell’AI Act richiede che i sistemi di AI ad alto rischio registrino automaticamente gli eventi durante tutto il loro ciclo di vita, per garantire la tracciabilità del funzionamento.
Non è una raccomandazione: è un obbligo tecnico.
Per i contenuti generati (testi, immagini, video) esistono già standard come C2PA e Content Credentials, che agganciano al file metadati verificabili su origine e modifiche.
Per le decisioni operative in CRM serve invece un approccio simile, ma progettato sui processi aziendali.
Come si costruisce, concretamente
L’errore più comune è pensare che basti l’audit nativo di Dataverse. Non basta: traccia il “cosa”, non il “perché”.
La soluzione pratica è una tabella custom in Dataverse, dedicata alle esecuzioni AI, collegata ai record CRM con un lookup. Ogni volta che il modello viene chiamato (per scoring, generazione di testi, suggerimenti, ecc.), si scrive una riga.
Chi la popola? Di solito un flusso Power Automate o un plugin, attivato nel punto esatto in cui avviene la chiamata al modello.
Se i volumi sono alti (migliaia di lead al giorno), si può tenere in Dataverse solo un riferimento leggero e spostare il dettaglio pesante su Application Insights o su uno storage esterno. L’importante è che il collegamento resti sempre ricostruibile.
Provenienza digitale AI
I dieci punti da poter spuntare
Un progetto è “audit-friendly” se puoi rispondere sì a tutto questo:
- Hai un inventario dei casi d’uso AI attivi nel CRM
- Ogni caso d’uso ha un owner tecnico e un owner di business
- Tracci modello, versione, prompt e configurazione
- Ogni esecuzione AI è collegata al record CRM che ha toccato
- Registri input, output e regole di business applicate
- La revisione umana è documentata, non solo presunta
- Errori, correzioni e fallback sono gestiti, non ignorati
- I log hanno un controllo accessi proprio
- Retention e cancellazione dei dati sono definite, non improvvisate
- Esiste un processo per contestare o far verificare una decisione
Se anche solo tre o quattro di questi punti sono un “no”, non hai un sistema AI davvero sotto controllo. Hai un sistema che gira, ma ti stai affidando più alla fortuna che al controllo.
La domanda sta cambiando
Fino a ieri si chiedeva “Usate l’intelligenza artificiale?”. Da qui in avanti si chiederà: “Potete dimostrare come ha prodotto questo risultato?”
Chi mette in piedi questo log delle esecuzioni AI non lo fa per spuntare una casella normativa.
Daria Dall'Acqua
Microsoft Dynamics 365 PM & Consultant
Se vuoi maggiori informazioni
Se vuoi maggiori informazioni
