Il progetto AI-RESCUE nasce dalla crescente rilevanza dell’intelligenza artificiale, in particolare del Deep Learning, in applicazioni critiche dove sicurezza e affidabilità sono fondamentali. La motivazione alla base del progetto risiede nella necessità urgente di comprendere e mitigare le vulnerabilità dei sistemi di IA quando impiegati in contesti ostili, in cui attori malevoli possono tentare di ingannare o manipolare tali sistemi. Il progetto si inserisce pienamente negli obiettivi più ampi del consorzio SOS AI, in particolare nei compiti focalizzati sulla ricerca di base e sulla sperimentazione pratica per garantire la sicurezza dei sistemi di IA.

AI-RESCUE mira ad estendere l’ambito di applicazione del progetto SOS AI esplorando la sicurezza dell’IA in tre domini applicativi strategici: la multimedia forensics, il rilevamento di frodi e anomalie nei sistemi critici (con particolare riferimento a quelli finanziari), e il riconoscimento di obiettivi in contesti neuro-simbolici. Questi ambiti sono stati scelti per la loro rilevanza sociale e per le sfide peculiari che presentano in termini di minacce avversarie.

Il progetto è organizzato in tre pacchetti di lavoro principali, che riflettono sia l’approfondimento teorico che la sperimentazione pratica. Il Task 1.3 si concentra sugli aspetti teorici legati alla sicurezza in ciascun dominio, inclusi la modellazione delle minacce, l’apprendimento avversario e la robustezza dei rilevatori basati su IA. Il Task 2.3 è dedicato allo sviluppo e alla validazione di strumenti di difesa, testati in scenari reali attraverso attacchi avversari di tipo white-box, grey-box e black-box. Infine, il Task 3.3 mira a sintetizzare le conoscenze acquisite in una guida completa di buone pratiche per l’uso sicuro dell’IA in applicazioni critiche.

Il piano di svolgimento enfatizza la collaborazione interdisciplinare tra cinque istituzioni accademiche, ciascuna con competenze complementari—dalla sicurezza multimediale alla teoria dell’IA, dalla cybersecurity al ragionamento automatico. La metodologia adottata è rigorosa e combina modellazione teorica, tecniche di addestramento avversario, apprendimento online e sistemi neuro-simbolici. Sono previste campagne sperimentali per valutare l’efficacia dei meccanismi di difesa, utilizzando dati reali e scenari di minaccia realistici.

AI-RESCUE aspira, infine, non solo ad avanzare la conoscenza scientifica sull’IA in ambienti avversi, ma anche a fornire strumenti concreti e linee guida adottabili da professionisti del settore, contribuendo così allo sviluppo di tecnologie di IA robuste, sicure e affidabili.