Quando l’AI sbaglia e non sa spiegare perché: la sfida della trasparenza negli algoritmi

Uno studio dell'Università di Surrey invita a interrogarsi sulla trasparenza delle risposte dell'IA e sulla capacità di correggersi

L'IA sta diventando sempre più importante per tantissime persone. Le applicazioni dell'intelligenza artificiale sono tantissime e in molti casi l'IA interviene in settori delicati come la sanità e la finanza.

Alcuni prendono come oro colato le risposte dell'IA e le considerano la verità assoluta. Tuttavia, uno studio dell'Università di Surrey, pubblicato su Applied Artificial Intelligence, ha evidenziato come bisognerebbe avere dei dubbi in alcuni casi quando si interroga l'intelligenza artificiale.

Gli autori dello studio hanno evidenziato come potrebbero esserci rischi quando l'IA potrebbe creare dei sistemi "black box", a scatola nera, che prendono decisioni senza fornire spiegazioni chiare e trasparenti agli utenti.

Ciò potrebbe portare a problemi specialmente quando l'IA agisce in settori critici come quelli già menzionati. Quali potrebbero essere i pericoli e quale potrebbe essere invece una soluzione? Ecco tutto quello che c'è da sapere a questo proposito.

IA, ecco quali sono i dubbi dell'Università di Surrey

Nel loro studio, i ricercatori dell'Università di Surrey hanno evidenziato diversi rischi che potrebbero esserci con le attuali IA. Per esempio, nel settore della sanità, potrebbero esserci errori di diagnosi da parte dell’IA che possono avere conseguenze potenzialmente fatali. L'IA applicata alle banche invece potrebbe generare allarmi antifrode fasulli, allertando inutilmente gli utenti e creando dei disservizi.

Allo stesso modo, l'IA potrebbe avere problemi con le frodi finanziarie. Questo perché i dataset sono fortemente sbilanciati (solo lo 0,01% delle transazioni è fraudolento), rendendo difficile per l’IA identificare schemi senza errori. Quale potrebbe essere la soluzione? Il team di ricerca universitario è riuscita a realizzare SAGE, un framework che punta a migliorare la trasparenza dell’IA. Questo sistema permette di dare agli utenti delle risposte chiare, rilevanti rispetto al contesto ed etiche, rispettose dei principi di trasparenza e affidabilità.

Un'applicazione pratica

Lo studio dell'Università di Surrey non si è limitato soltanto a evidenziare i problemi e proporre una soluzione ma è andato avanti optando anche per un'eventuale applicazione pratica. Quale? Quello dell'uso del Scenario-Based Design (SBD), un metodo che considera le esigenze degli utenti finali per sviluppare IA più intuitive ed empatiche.

Secondo il dottor Wolfgang Gren, co-autore dello studio, è essenziale che in futuro l'IA fornisca spiegazioni comprensibili e affidabili. Questo perché i modelli attuali spesso mancano di consapevolezza contestuale e dovrebbero essere migliorati. In questo modo, gli utenti potrebbero prendere decisioni in campi critici supportati da strumenti IA che siano affidabili al 100%, con una percentuale di errore ridotta ai minimi termini.