AI red teaming: testare un’AI non è fare un penetration test
L’AI red teaming non è un penetration test: collauda il comportamento probabilistico dei modelli e degli agenti. Metodo, framework OWASP e MITRE ATLAS, metriche.
L’AI red teaming non è un penetration test: collauda il comportamento probabilistico dei modelli e degli agenti. Metodo, framework OWASP e MITRE ATLAS, metriche.
C’è un paradosso al cuore della rivoluzione dell’intelligenza artificiale generativa: più un modello linguistico è capace di comprendere istruzioni complesse espresse in linguaggio naturale, più è vulnerabile a chi quelle istruzioni le sa costruire in modo malevolo. La potenza degli LLM (la stessa che li rende utili in mille contesti aziendali) è anche la radice…
Una volta al mese riceverai gratuitamente la rassegna dei migliori articoli di ICT Security Magazine