Privacy Archivi - Webbare

Gli strumenti open-source di Holistic contrastano i rischi dello sviluppo dell’IA

admin — Wed, 23 Oct 2024 12:48:10 +0000

Holistic ha presentato una libreria open-source che aiuta a contrastare i rischi dello sviluppo dell’IA e a costruire sistemi più equi e responsabili.

La libreria, denominata Holistic AI OSL, arriva in un momento cruciale in cui le organizzazioni stanno impiegando sempre più spesso sistemi di IA in settori sensibili, come il reclutamento, la sanità e i servizi finanziari. Studi recenti suggeriscono che il 65% dei ricercatori e degli sviluppatori di IA considerano ancora i pregiudizi una sfida significativa nel loro lavoro.

Holistic AI OSL affronta i cinque principali rischi tecnici associati allo sviluppo dell’IA attraverso una suite completa di strumenti. Particolarmente degne di nota sono le capacità di mitigazione dei bias della libreria, che offre oltre 35 metriche di bias per cinque attività di apprendimento automatico e 30 strategie di mitigazione distinte.

Oltre al rilevamento e all’eliminazione delle distorsioni, il toolkit offre solide funzioni per la spiegabilità dei modelli, aiutando gli sviluppatori a capire e comunicare come i loro sistemi di IA arrivano alle decisioni. La libreria si occupa anche della robustezza del sistema, garantendo prestazioni costanti anche in caso di attacchi avversari o variazioni dei dati.

“La nostra nuova libreria fornisce alle organizzazioni strumenti per tutti i rischi dell’IA, tra cui la spiegabilità, la robustezza e la parzialità”, spiega Adriano Koshiyama, Co-CEO di Holistic AI. “Supporta la misurazione, il reporting e la mitigazione in ogni fase del ciclo di vita dell’IA, offrendo una delle soluzioni più avanzate per migliorare la qualità delle applicazioni di IA”.

La libreria pone un’enfasi significativa sulla sicurezza, incorporando caratteristiche che preservano la privacy, come le tecniche di anonimizzazione e le difese contro gli attacchi di inferenza degli attributi. Inoltre, aiuta gli sviluppatori a bilanciare le esigenze spesso contrastanti di accuratezza, correttezza, robustezza e sicurezza attraverso scenari di test completi e reali.

Il gigante mondiale delle assicurazioni MAPFRE, che opera in quasi 40 paesi e serve oltre 30 milioni di clienti, ha già integrato la libreria nel suo stack di sviluppo dell’intelligenza artificiale.

César Ortega, Expert Data Scientist di MAPFRE, ha commentato: “Ciò che distingue questa libreria è la sua profondità: non si tratta solo di identificare i rischi dell’IA, ma di affrontarli attivamente con tecniche di mitigazione collaudate e pronte per il settore, il che la rende una parte essenziale di qualsiasi kit di strumenti per lo sviluppo dell’IA etica”.

La libreria Python è disponibile gratuitamente e senza requisiti di licenza.

L'articolo Gli strumenti open-source di Holistic contrastano i rischi dello sviluppo dell’IA proviene da Webbare.

Apple richiederà agli sviluppatori di spiegare l’utilizzo delle API

admin — Wed, 02 Aug 2023 12:21:38 +0000

Nel tentativo di rafforzare la privacy degli utenti e di ridurre le impronte digitali, Apple ha annunciato che gli sviluppatori dovranno presto fornire spiegazioni dettagliate sull’uso di determinate API da parte delle loro applicazioni prima di sottoporle all’App Store.

Le API in questione sono ora classificate come “API a motivazione obbligatoria”, il che significa che gli sviluppatori dovranno spiegare lo scopo di queste API nelle loro app quando le sottoporranno alla revisione. Attualmente sono circa 30 le API a cui si applica la nuova regola.

La mossa rientra negli sforzi continui di Apple per migliorare la privacy degli utenti e garantire che le app siano conformi alle linee guida dell’azienda.

Secondo le informazioni fornite sul sito web Apple Developer, a partire dal rilascio al pubblico di iOS 17, tvOS 17, watchOS 10 e macOS Sonoma, gli sviluppatori riceveranno notifiche relative alla necessità di presentare una spiegazione per l’uso delle API con motivo obbligatorio.

Entro la primavera del 2024, le app che utilizzano queste API senza un motivo valido saranno respinte.

Apple ha dichiarato: “Per evitare l’uso improprio di alcune API che possono essere utilizzate per raccogliere dati sui dispositivi degli utenti attraverso le impronte digitali, dovrete dichiarare le ragioni dell’utilizzo di queste API nel manifesto sulla privacy della vostra app. Questo aiuterà a garantire che le app utilizzino queste API solo per lo scopo previsto”.

Sebbene l’iniziativa abbia buone intenzioni e si concentri sulla salvaguardia della privacy degli utenti, alcuni sviluppatori hanno espresso preoccupazione per il potenziale aumento dei tassi di rifiuto delle app.

UserDefaults, un’API comunemente utilizzata per la memorizzazione delle preferenze degli utenti, rientra nella categoria delle “API a motivazione obbligatoria”, il che fa temere che le app vengano rifiutate a causa di una svista nel fornire una spiegazione per l’utilizzo di questa funzionalità di base.

Gli sviluppatori, tuttavia, potranno ricorrere in caso di rifiuto. Apple consentirà loro di appellarsi a un rifiuto e di presentare una richiesta di approvazione nei casi non coperti dalle linee guida esistenti. Ulteriori dettagli sulla procedura di ricorso sono disponibili sul sito web Apple Developer.

I sostenitori della privacy hanno generalmente accolto con favore la mossa, considerandola un passo nella giusta direzione per limitare il tracciamento intrusivo e proteggere i dati degli utenti. Ciononostante, permangono preoccupazioni circa le potenziali difficoltà nell’implementazione efficace di questo nuovo requisito, in quanto gli sviluppatori potrebbero trovare relativamente facile fornire giustificazioni generiche per l’utilizzo di API come UserDefaults.

Apple ha sempre sottolineato il suo impegno a salvaguardare la privacy degli utenti e queste nuove misure rafforzano la sua dedizione a questa causa. Tuttavia, gli sviluppatori dovranno adattarsi al processo di revisione sempre più rigoroso ed essere meticolosi nel fornire motivazioni esplicite per l’utilizzo di determinate API per evitare inutili rifiuti di app.

L'articolo Apple richiederà agli sviluppatori di spiegare l’utilizzo delle API proviene da Webbare.

Lo strumento InAppBrowser rivela le JavaScript injection nascoste

admin — Fri, 02 Sep 2022 07:50:46 +0000

Uno strumento creato dallo sviluppatore Felix Krause rivela le JavaScript injection nascoste tramite i browser in-app.

I browser in-app offrono agli sviluppatori un modo conveniente per consentire agli utenti di navigare in siti Web specifici senza uscire dalle proprie app. Tuttavia, possono essere utilizzati per invadere la privacy degli utenti.

Una JavaScript injection può essere utilizzata tramite un browser in-app per raccogliere dati sugli utenti, inclusi i loro tocchi su una pagina Web, input da tastiera e altro.

Grazie a questi dati, è possibile creare un'”impronta digitale” di un individuo specifico che può essere utilizzata per pubblicità mirata.

Krause ha creato uno strumento chiamato InAppBrowser in grado di generare un rapporto sui comandi JavaScript che uno sviluppatore esegue tramite un browser in-app.

Per utilizzare lo strumento, devi solo aprire l’app che desideri analizzare e utilizzare il browser in-app per aprire l’URL “https://InAppBrowser.com“.

Krause ha già testato alcune app popolari utilizzando il suo strumento, tra cui TikTok e Instagram.

È stato scoperto che TikTok monitora tutti gli input della tastiera e i tocchi dello schermo quando si utilizza il browser in-app. Instagram, nel frattempo, è stato in grado di rilevare tutte le selezioni di testo sui siti web.

In un disclaimer sui limiti del suo strumento, Krause ha scritto:

“Questo strumento funziona sovrascrivendo le funzioni JavaScript più comuni, tuttavia l’app host potrebbe comunque iniettare altri comandi.

A partire da iOS 14.3, Apple ha introdotto un nuovo modo di eseguire il codice JavaScript in un “mondo isolato”, rendendo impossibile per un sito Web verificare quale codice viene eseguito.

Inoltre, questo strumento non è in grado di rilevare il tracciamento di altre app che potrebbero verificarsi, come il riconoscimento di gesti personalizzati, il rilevamento di schermate o il monitoraggio di eventi di richiesta Web”.

Non tutte le app che iniettano codice JavaScript lo fanno per scopi dannosi, ma InAppBrowser può aiutare a scoprire quelle che lo stanno facendo senza una buona ragione e dissuadere gli altri.

L'articolo Lo strumento InAppBrowser rivela le JavaScript injection nascoste proviene da Webbare.

Cookie, le nuove linee guida del Garante Privacy: suggerimenti per le aziende

admin — Tue, 08 Feb 2022 10:32:10 +0000

Con l’entrata in vigore delle nuove linee guida del Garante Privacy su cookie e strumenti di tracciamento online, è utile effettuare un self assessment per verificare la conformità del proprio sito web e apportare le necessarie modifiche onde evitare l’applicazione di sanzioni da parte dell’Autorità. Ecco la checklist

Dal 10 gennaio scorso sono in vigore le nuove linee guida sull’utilizzo di cookie e di altri strumenti di tracciamento dell’Autorità Garante per la Protezione dei Dati Personali che vincolano chiunque abbia un sito web, indipendentemente dall’attività esercitata con esso.

Rispetto al passato, cambiano le modalità con cui i titolari dei siti web devono gestire la raccolta del consenso all’installazione dei cookie da parte degli interessati e le modalità con cui somministrare loro l’informativa.

In realtà, come si vedrà in seguito, chi negli scorsi anni ha rispetto le vecchie linee guida del Garante e quelle dell’EDPB del 05 maggio 2020, oltre ad aver rispettato il principio di accountability del GDPR, è quasi sicuramente compliant con le nuove disposizioni.

Ad ogni modo, è opportuna una breve disamina, a mo’ di checklist, di modo che con un self assessment si possa verificare la conformità del proprio sito web ed eventualmente apportare le necessarie modifiche onde evitare l’applicazione di sanzioni da parte dell’Autorità.

L’informativa privacy sui cookie

Le nuove linee guida suggeriscono anche dei miglioramenti per la redazione delle informative privacy che dovranno essere conformi ai requisiti di trasparenza previsti dagli artt. 12 e 13 del GDPR.

In particolare, l’informativa, oltre a contenere tutti i requisiti previsti espressamente dal GDPR:

dovrà essere redatta con un linguaggio semplice ed accessibile;

deve essere multilayer, ossia dislocata su più livelli;

può essere resa tramite più canali e modalità (deve essere, cioè, multicahannel), con il ricorso a pop-up informativi, interazioni vocali, chatbot e via discorrendo.

È, quindi, onere del titolare decidere come implementare l’informativa e con che modalità, sulla scorta dei servizi offerti.

Infine, secondo quanto disposto dal Garante, dovrà contenere l’indicazione espressa dei cookie installati, della loro tipologia, della data retention di ciascuno di essi e, come novità, anche l’indicazione degli altri strumenti di tracciamento utilizzati diversi dai cookie, indicando i criteri di codifica di ciascuno di essi.

Conclusioni

Dunque, i titolari dovranno procedere, ove non l’abbiano già fatto, ad una approfondita analisi dei loro processi legati ai propri siti web e alle app, aggiornare le informative e gli strumenti di raccolta dei consensi, di modo che questi siano sempre dimostrabili e incontestabili.

Ovviamente, come sempre, l’avvertenza è quella di comprendere una volta per tutte che la mera pubblicazione di una informativa privacy e cookie aggiornata non rende il sito conforme alle nuove linee guida, dato che essa è, di fatto, il frutto di un lavoro di analisi ed adeguamento approfondito.

Compila il form se vuoi l’analisi gratuita del tuo sito!

Il tuo sito web è a norma?

Vieni a scoprirlo!

Iscriviti alla nostra newsletter, e resta sempre aggiornato sulle novità del monto IT!

L'articolo Cookie, le nuove linee guida del Garante Privacy: suggerimenti per le aziende proviene da Webbare.