Il settore dei trasporti è stato forse il primo nel quale l’intelligenza artificiale è sbarcata per via di una certa facile assonanza con la gestione delle flotte e fors’anche per questo sta assumendo un ruolo sempre più centrale nella pianificazione e nella gestione delle attività operative. Algoritmi di routing, sistemi di assegnazione dinamica delle consegne, piattaforme per la gestione delle flotte e strumenti di previsione della domanda consentono d’altronde oggi di elaborare in tempo reale quantità di dati impossibili da gestire con approcci tradizionali e tornare indietro sarebbe difficile.
L’efficienza, tuttavia, non è più l’unico parametro in gioco: con l’entrata in vigore del Regolamento (UE) 2024/1689, noto come AI Act, unitamente alla diffusione della ISO/IEC 42001:2023 (entrambe ampiamente presentate in questo precedente articolo), emerge una nuova esigenza: garantire che le decisioni generate o supportate dagli algoritmi siano comprensibili, verificabili e riconducibili a precise responsabilità organizzative.
In altre parole, la questione non riguarda più soltanto ciò che un sistema di IA è in grado di fare, ma la capacità dell’azienda di renderne conto.
Quando l’algoritmo entra nella cabina di regia
Le moderne piattaforme di transport management utilizzano modelli sempre più sofisticati per ottimizzare i percorsi, ridurre i chilometri percorsi a vuoto, migliorare il carico dei mezzi e reagire agli imprevisti della distribuzione. In molte organizzazioni le decisioni proposte da questi sistemi incidono direttamente sulla programmazione quotidiana delle attività.
Un algoritmo può infatti suggerire di modificare una rotta, riassegnare una consegna, ridefinire la sequenza delle fermate o individuare il veicolo ritenuto più efficiente per una determinata missione. Sebbene la decisione finale resti formalmente in capo all’organizzazione, è evidente che il peso delle elaborazioni automatiche tende ad aumentare.
È proprio in questo scenario che assume rilevanza il principio di Accountability, concetto ormai centrale sia nell’AI Act sia nella ISO 42001. Le aziende devono essere in grado di dimostrare quali criteri vengono utilizzati dai sistemi, quali controlli sono stati adottati e quali soggetti mantengono la responsabilità delle decisioni generate o influenzate dall’intelligenza artificiale.
Leggi anche:
AI nella Supply Chain: prepararsi agli obblighi
L’AI Act e il principio della supervisione umana
L’AI Act è stato progettato attorno a un principio fondamentale: le decisioni automatizzate non devono sottrarsi al controllo umano. Pur adottando una classificazione basata sul rischio, il regolamento dedica particolare attenzione ai requisiti di trasparenza, tracciabilità e supervisione che consentono alle organizzazioni di mantenere il controllo delle tecnologie utilizzate.
Per i sistemi classificati come ad ‘alto rischio’, gli obblighi previsti per gli utilizzatori professionali comprendono misure di monitoraggio, corretto impiego e supervisione umana, come previsto dall’articolo 26 del regolamento.
C’è da dire che, anche quando una soluzione impiegata nella logistica non rientra formalmente tra i sistemi ad alto rischio, questi principi costituiscono ormai un riferimento per l’intero mercato.
Sul piano pratico, una società di trasporto dovrebbe poter spiegare perché il sistema ha suggerito una determinata assegnazione delle consegne, quali dati sono stati utilizzati e quali verifiche sono state effettuate prima dell’esecuzione della decisione. La disponibilità di queste informazioni rappresenta una delle condizioni essenziali affinché la supervisione umana sia realmente efficace.
Dalla scatola nera alla documentazione
Uno dei principali rischi associati all’adozione dell’IA nei trasporti è la progressiva trasformazione degli algoritmi in una sorta di ‘scatola nera’. Col passare del tempo, infatti, molte organizzazioni finiscono per affidarsi ai risultati prodotti dal sistema senza mantenere una reale conoscenza dei processi che li generano.
La ISO/IEC 42001 interviene proprio per evitare questa deriva. Lo standard, pubblicato nel dicembre 2023 come primo sistema di gestione certificabile dedicato all’intelligenza artificiale, introduce specifici requisiti relativi alla valutazione, al trattamento dei rischi e alla documentazione delle attività svolte. In particolare, le clausole 8.2 e 8.3 richiedono processi strutturati di valutazione e gestione dei rischi associati ai sistemi di IA, mentre la clausola 8.4 introduce il concetto di valutazione degli impatti dei sistemi sulle persone e sulle organizzazioni.
Applicati alla logistica, questi requisiti implicano la necessità di documentare non solo le prestazioni degli algoritmi, ma anche gli effetti che le loro decisioni possono avere sugli operatori, sui fornitori, sui clienti e sull’organizzazione stessa. Un modello predittivo che genera squilibri sistematici nell’assegnazione delle attività o un algoritmo che produce errori ricorrenti nella pianificazione dovrebbero essere individuati, analizzati e corretti attraverso procedure formalizzate.
Leggi anche:
AI Literacy: la nuova competenza logistica
Accountability come vantaggio competitivo
La maggior attenzione verso la governance dell’intelligenza artificiale non deve essere interpretata esclusivamente come una conseguenza dell’evoluzione normativa. Sempre più frequentemente le grandi committenze richiedono ai propri partner garanzie sulla qualità dei processi decisionali e sulla capacità di controllare le tecnologie utilizzate.
In questo contesto, l’Accountability assume una valenza strategica, reputazione e commerciale. Un operatore logistico in grado di dimostrare come vengono governati gli algoritmi che incidono su tempi di consegna, assegnazione delle risorse e pianificazione delle attività gode di un vantaggio sempre più evidente.
La combinazione tra AI Act e ISO 42001 sta contribuendo a ridefinire il concetto stesso di affidabilità aziendale. In passato bastava dimostrare la qualità del servizio o l’efficienza della flotta. Oggi, e sempre più nei prossimi anni, sarà necessario dimostrare anche la capacità di comprendere, governare e rendicontare le decisioni prodotte dall’intelligenza artificiale.
