La legge è cambiata, e riguarda anche te
Molti imprenditori pensano che l’EU AI Act, la prima legge al mondo sull’Intelligenza Artificiale, riguardi solo i giganti tecnologici come Google o OpenAI. È un errore di valutazione pericoloso. La normativa europea adotta un approccio “basato sul rischio”: non importa quanto sia grande la tua azienda, ma cosa fa l’IA che utilizzi.
Se la tua impresa utilizza software di automazione per selezionare il personale, valutare l’affidabilità di un fornitore o gestire l’accesso a servizi essenziali, potresti star utilizzando un Sistema ad Alto Rischio (High-Risk AI System). Ignorare questa classificazione non espone solo a sanzioni salate (fino al 7% del fatturato globale per le violazioni più gravi), ma rischia di bloccare l’operatività aziendale.
Cosa sono i Sistemi ad Alto Rischio? Esempi concreti
L’AI Act classifica i sistemi in quattro livelli di rischio. La categoria “Alto Rischio” è quella che impatta maggiormente le PMI strutturate, perché include software che sono già di uso comune in molti uffici.
Secondo la normativa, rientrano in questa categoria i sistemi che impattano significativamente sulla vita o sui diritti delle persone. Ecco i due esempi più frequenti in ambito aziendale citati nei report di settore:
1. Risorse Umane e Recruiting (HR Tech)
Se utilizzi un software che:
- Filtra automaticamente i Curriculum Vitae.
- Classifica i candidati in base a parole chiave.
- Analizza le video-interviste per valutare le soft skill. Stai usando un sistema ad Alto Rischio. L’Europa vuole evitare che un algoritmo discriminatorio escluda candidati validi senza controllo umano.
2. Valutazione del Credito e Scoring
Se la tua azienda (o la tua banca partner) usa algoritmi per:
- Decidere se concedere un prestito o una dilazione di pagamento.
- Valutare l’affidabilità creditizia di un cliente. Anche questo è Alto Rischio, poiché un errore può negare l’accesso a risorse economiche fondamentali.
I Nuovi Obblighi per le Aziende Utilizzatrici
Se utilizzi uno di questi sistemi, l’AI Act impone una serie di obblighi precisi. Non basta “comprare il software”, devi garantire la governance.
- Sorveglianza Umana (Human Oversight): Non puoi lasciare che la macchina decida da sola. Deve esserci sempre una persona fisica competente in grado di supervisionare, intervenire e, se necessario, sovrascrivere la decisione dell’IA.
- Qualità dei Dati: Devi assicurarti che i dati usati per far funzionare il sistema siano pertinenti, rappresentativi e privi di errori.
- Tenuta dei Registri (Recordkeeping): Devi mantenere un registro automatico (Log) di tutto ciò che il sistema fa, per poter ricostruire le decisioni in caso di contestazione.
Infrastruttura e Compliance: Perché il Cloud non basta
Qui entra in gioco una scelta strategica fondamentale: l’infrastruttura IT. Come puoi garantire la “Sorveglianza Umana” e la “Tenuta dei Registri” se il tuo sistema IA è una scatola chiusa nel Cloud pubblico di un fornitore extra-europeo?
Per i sistemi ad Alto Rischio, l’infrastruttura On-Premise (server in azienda) o Ibrida diventa spesso una scelta obbligata per la compliance.
- Controllo Totale: Mantenere il sistema “in casa” ti permette di dimostrare agli auditor esattamente dove sono i dati e come vengono processati.
- Trasparenza: Ti consente di avere accesso diretto ai log di sistema, senza dipendere dai tempi di risposta di un provider esterno.
L’obbligo di “AI Literacy” (Articolo 4)
C’è un ultimo obbligo che tocca tutti, indipendentemente dal rischio: l’alfabetizzazione all’IA. L’Articolo 4 dell’AI Act stabilisce che le aziende devono garantire che il proprio personale abbia un livello sufficiente di competenza (AI Literacy) per comprendere i sistemi che utilizza. Non puoi mettere un’arma potente come l’IA in mano a dipendenti che non ne capiscono i limiti e i rischi.
La Compliance come vantaggio competitivo
Adeguarsi all’EU AI Act non è solo burocrazia. Avere processi di selezione del personale trasparenti o sistemi di credito equi migliora la reputazione aziendale e riduce i rischi legali.
Non sei sicuro se i tuoi software rientrano nell’Alto Rischio? In Business.Edulavoro offriamo un servizio di assessment normativo e tecnologico per mappare i tuoi sistemi IA e metterli in regola, formando il tuo personale come richiesto dalla legge.
