Cyber Crime Conference 2024 - Tavola Rotonda: Sistemi di Intelligenza Artificiale e Machine Learning: Rischi, Vulnerabilità e Strategie di Difesa

Sistemi di Intelligenza Artificiale e Machine Learning: Rischi, Vulnerabilità e Strategie di Difesa

Stefano Bistarelli, Professor of Computer Science at the Department of Mathematics and Computer Science at the University of Perugia
Gian Luca Foresti, Professore di Cybersecurity e Computer Vision, Direttore del Master in Intelligence and Emerging Technologies, Università di Udine
Marco Mellia, Professore presso il Dipartimento di Automatica e Informatica, Politecnico di Torino (DAUIN)
Angelo Spognardi, Professore associato presso il Dipartimento di Informatica dell'Università Sapienza di Roma
Moderatore: Gianni Amato*, Senior Security reasearch at the CERT for the Digital Italy Agency (CERT-AgID)

Questa tavola rotonda esaminerà l'evoluzione delle minacce informatiche e il ruolo cruciale dell'intelligenza artificiale nella difesa cibernetica. Attingendo alle linee guida "NIST AI 100-2 E2023: Adversarial Machine Learning", si approfondiranno le vettorialità di attacco e le strategie di mitigazione, evidenziando l'importanza delle tecniche di Machine Learning supervisionato e non supervisionato nella sicurezza delle reti. Verrà sottolineata la criticità di dataset di addestramento ben strutturati per l'efficacia dell'apprendimento automatico, esplorando il potenziale del Continuous Learning nel migliorare l'adattabilità e la sicurezza dei dati.
Si indagheranno le capacità dell'AI nel rilevare nuove minacce attraverso esempi come il contrasto degli attacchi di "sound-squatting" con metodi generativi e l'analisi dei log degli incidenti tramite Large Language Models come "LogPrecis". Verranno affrontati i rischi e le sfide inerenti all'integrazione di soluzioni basate sull'AI nei framework di sicurezza, evidenziando la necessità di sforzi collaborativi nello sviluppo di modelli di training affidabili e condivisi.
Il panel multidisciplinare metterà in luce l'importanza di differenziare le applicazioni dell'AI nei diversi domini - dalla Computer Vision al Natural Language Processing - e le loro esigenze uniche in ambito cybersecurity, delineando la tensione tra gli avanzamenti dell'AI e la tutela della privacy, in particolare il rischio legato ai dati di training. La tavola rotonda contemplerà i molteplici ruoli che l'AI può svolgere nella sicurezza, evidenziandone sia le straordinarie possibilità sia le derivanti complessità.