Sei domande da porre a un fornitore di soluzioni di intelligenza artificiale

Nelle trattative viene spesso trascurato un punto: l'AI Act non assegna obblighi soltanto a chi sviluppa il sistema. Alcuni ricadono su chi lo utilizza, e il regolamento li assegna direttamente, senza passare dal contratto. Quali siano dipende dal sistema: un software che genera contenuti, uno che tratta dati personali e uno classificato ad alto rischio comportano adempimenti diversi.

Questo cambia la natura dell'acquisto. Chi compra una soluzione di intelligenza artificiale assume un ruolo che il regolamento definisce, con adempimenti che restano in capo all'azienda anche quando il fornitore lavora correttamente.

Le domande che seguono non valutano la qualità tecnica di una soluzione, che si misura in altro modo. Servono a capire se il fornitore ha chiaro dove finisce la sua responsabilità e dove comincia quella del cliente, e se è in grado di consegnare quello che servirà per dimostrarlo.

01Le sei domande

Non tutte le domande pesano allo stesso modo per ogni software. Alcune sono sempre utili; altre corrispondono a obblighi che si applicano solo in determinati casi: quando il sistema tratta dati personali (regolamento (UE) 2016/679, noto come GDPR), quando è classificato ad alto rischio (AI Act) o quando genera testi, immagini, audio o video (obblighi di trasparenza). Accanto a ogni domanda è indicato a quale caso si riferisce.

1. 01
   RuoliSempre utile

   In questo progetto, chi è il fornitore e chi è il deployer (utilizzatore) ai sensi del regolamento?

   Va posta per prima perché condiziona tutte le altre. I due ruoli hanno obblighi diversi, e il confine non coincide sempre con quello commerciale. L'articolo 25 dell'AI Act prevede i casi in cui l'utilizzatore diventa fornitore: appone il proprio nome o marchio su un sistema ad alto rischio già immesso sul mercato, ne modifica in modo sostanziale il funzionamento, oppure modifica la finalità prevista di un sistema non ad alto rischio in modo da renderlo tale. Un fornitore che non sa rispondere, o che risponde che il tema non lo riguarda, lascia un punto essenziale da chiarire prima dell’acquisto.

2. 02
   ClassificazioneSempre utile

   Il sistema rientra fra quelli ad alto rischio? Su quale base lo escludete?

   Non conta il sì o il no. Conta il ragionamento, e che sia messo per iscritto. Una classificazione motivata ai sensi dell'articolo 6 è un documento che l'azienda potrà esibire. Una rassicurazione verbale non lo è.

3. 03
   DocumentazioneAlto rischio

   Che cosa ci consegnate come documentazione, in quale formato, e che cosa resta a noi alla fine del contratto?

   Per qualsiasi sistema conviene sapere che cosa viene consegnato e in quale formato. Per i sistemi ad alto rischio non è una cortesia: l'articolo 13 impone al fornitore istruzioni per l'uso con le informazioni su prestazioni, limiti e sorveglianza umana. È un requisito per l'alto rischio, quindi dopo l'Omnibus sarà esigibile dal 2 dicembre 2027 per i sistemi dell'allegato III e dal 2 agosto 2028 per quelli integrati in prodotti dell'allegato I: ragione in più per fissarlo a contratto adesso. Il punto delicato resta la seconda metà della domanda: se la documentazione vive dentro un portale del fornitore, alla scadenza del contratto l'azienda resta senza la prova di quello che ha fatto negli anni precedenti.

4. 04
   TrasparenzaContenuti generati

   Gli output sono marcati in modo leggibile da una macchina?

   Riguarda solo i sistemi che generano testi, immagini, audio o video. Per questi l'articolo 50, paragrafo 2, chiede al fornitore di marcare gli output in modo leggibile da una macchina; per i sistemi immessi sul mercato prima del 2 agosto 2026 l'obbligo è esigibile dal 2 dicembre 2026. L'obbligo di dichiarare il contenuto grava invece sul deployer (articolo 50, paragrafo 4): riguarda i deepfake e i testi generati o manipolati pubblicati per informare il pubblico su questioni di interesse pubblico, salvo che il contenuto sia stato sottoposto a revisione umana o a controllo editoriale e qualcuno ne abbia assunto la responsabilità editoriale. Sapere se la marcatura esiste, e in quale forma, serve a stimare quanto lavoro manuale ricadrà sulle funzioni di comunicazione.

5. 05
   DatiDati personali

   Dove vengono trattati i dati che immettiamo, e vengono usati per addestrare il modello?

   Diventa un obbligo quando il sistema tratta dati personali. In quel caso il fornitore agisce di norma come responsabile del trattamento per l'erogazione del servizio, serve un accordo ai sensi dell'articolo 28 del GDPR e vanno verificati gli eventuali trasferimenti fuori dall'Unione europea, agli articoli 44 e seguenti. Se però riutilizza i dati per addestrare o migliorare il proprio modello, per quella finalità ne determina scopi e mezzi e diventa titolare autonomo: l'accordo ex articolo 28 non copre quel trattamento, che richiede una base giuridica propria. La domanda va posta per iscritto e deve comprendere i sottofornitori, perché un servizio costruito sopra un modello di terzi eredita le condizioni di quel modello.

6. 06
   AggiornamentiSempre utile

   Come ci avvisate quando cambia la norma, o quando cambia il modello sottostante?

   Un aggiornamento del modello può modificare il comportamento del sistema senza che nessuno in azienda se ne accorga. Serve sapere se esiste una procedura di notifica, con quale preavviso, e se le versioni precedenti restano disponibili per un periodo. Lo stesso vale per i cambiamenti normativi, su una materia che si è mossa più volte negli ultimi diciotto mesi.

02Due risposte da considerare un segnale negativo

03I limiti di questo elenco

Queste domande non producono conformità e non sostituiscono la valutazione del sistema nel contesto in cui verrà usato. Servono a selezionare l'interlocutore.

Va aggiunto che un fornitore tecnicamente valido può rispondere male a tutte e sei, perché è nuovo a questa materia. Una risposta debole è un segnale, non una sentenza. La differenza la fa il modo in cui reagisce: chi chiede tempo per verificare e torna con una risposta scritta è un interlocutore migliore di chi rassicura subito.