La progettazione di sistemi di intelligenza artificiale etici inizia dalla qualità e dall’equità dei dati. Dataset sbilanciati o distorti possono portare l’AI a replicare o amplificare disuguaglianze sociali, spesso senza che il problema sia evidente a chi utilizza o sviluppa i modelli.

Questo progetto di ricerca nasce per affrontare questi rischi, rendendo l’analisi dei bias e la mitigazione delle distorsioni un’attività accessibile anche a utenti non esperti.

Il progetto si confronta con alcune criticità centrali nello sviluppo di AI responsabile:

  • I sistemi di AI possono riprodurre o amplificare bias presenti nei dati
  • I bias nei dataset sono spesso difficili da individuare per profili non tecnici
  • Gli strumenti esistenti risultano complessi o poco trasparenti
  • Il quadro normativo europeo (AI Act) richiede misure adeguate per individuare, prevenire e mitigare i bias

Era quindi necessario progettare uno strumento che rendesse questi aspetti comprensibili, verificabili e operativi.

BitBang ha progettato la user interface di un ambiente sperimentale di ricerca, con l’obiettivo di rendere l’analisi dei bias sui dataset intuitiva e utilizzabile da profili diversi.

La piattaforma permette di:

  • Caricare dataset propri o esplorare dataset di esempio
  • Identificare attributi sensibili e possibili proxy
  • Applicare metriche di fairness e test di bias
  • Generare dati sintetici per riequilibrare i dataset
  • Lavorare in un’interfaccia chiara, orientata anche a utenti non tecnici

Il ruolo dell’interfaccia è centrale: guidare l’utente nella comprensione dei risultati e nel processo di mitigazione dei bias, senza richiedere competenze avanzate di data science.

  • Accesso semplificato agli strumenti di fairness e bias analysis
  • Promozione di un approccio fair by design allo sviluppo dell’AI
  • Maggiore consapevolezza su etica, trasparenza e responsabilità dei dati
  • Possibilità di test locali e privacy preserving
  • Integrazione prevista nella piattaforma europea AI on Demand
  • Disponibilità come strumento standalone per un’adozione più ampia