Holistic ha presentato una libreria open-source che aiuta a contrastare i rischi dello sviluppo dell’IA e a costruire sistemi più equi e responsabili.

La libreria, denominata Holistic AI OSL, arriva in un momento cruciale in cui le organizzazioni stanno impiegando sempre più spesso sistemi di IA in settori sensibili, come il reclutamento, la sanità e i servizi finanziari. Studi recenti suggeriscono che il 65% dei ricercatori e degli sviluppatori di IA considerano ancora i pregiudizi una sfida significativa nel loro lavoro.

Holistic AI OSL affronta i cinque principali rischi tecnici associati allo sviluppo dell’IA attraverso una suite completa di strumenti. Particolarmente degne di nota sono le capacità di mitigazione dei bias della libreria, che offre oltre 35 metriche di bias per cinque attività di apprendimento automatico e 30 strategie di mitigazione distinte.

Oltre al rilevamento e all’eliminazione delle distorsioni, il toolkit offre solide funzioni per la spiegabilità dei modelli, aiutando gli sviluppatori a capire e comunicare come i loro sistemi di IA arrivano alle decisioni. La libreria si occupa anche della robustezza del sistema, garantendo prestazioni costanti anche in caso di attacchi avversari o variazioni dei dati.

“La nostra nuova libreria fornisce alle organizzazioni strumenti per tutti i rischi dell’IA, tra cui la spiegabilità, la robustezza e la parzialità”, spiega Adriano Koshiyama, Co-CEO di Holistic AI. “Supporta la misurazione, il reporting e la mitigazione in ogni fase del ciclo di vita dell’IA, offrendo una delle soluzioni più avanzate per migliorare la qualità delle applicazioni di IA”.

La libreria pone un’enfasi significativa sulla sicurezza, incorporando caratteristiche che preservano la privacy, come le tecniche di anonimizzazione e le difese contro gli attacchi di inferenza degli attributi. Inoltre, aiuta gli sviluppatori a bilanciare le esigenze spesso contrastanti di accuratezza, correttezza, robustezza e sicurezza attraverso scenari di test completi e reali.

Il gigante mondiale delle assicurazioni MAPFRE, che opera in quasi 40 paesi e serve oltre 30 milioni di clienti, ha già integrato la libreria nel suo stack di sviluppo dell’intelligenza artificiale.

César Ortega, Expert Data Scientist di MAPFRE, ha commentato: “Ciò che distingue questa libreria è la sua profondità: non si tratta solo di identificare i rischi dell’IA, ma di affrontarli attivamente con tecniche di mitigazione collaudate e pronte per il settore, il che la rende una parte essenziale di qualsiasi kit di strumenti per lo sviluppo dell’IA etica”.

La libreria Python è disponibile gratuitamente e senza requisiti di licenza.