Lo studio presenta un’analisi di alto livello nel contesto del panorama in rapida evoluzione dell’IA e fornisce un insieme di principi guida chiave per ottenere la conformità all’IA Act.
La Commissione europea ha pubblicato il report “Cybersecurity of Artificial Intelligence in the IA Act”, uno studio che si concentra sul requisito di sicurezza informatica per i sistemi IA ad alto rischio, come stabilito nell’articolo 15 della proposta della Commissione europea per l’AI Act.
Lo studio presenta un’analisi di alto livello nel contesto del panorama in rapida evoluzione dell’IA e fornisce un insieme di principi guida chiave per ottenere la conformità all’AI Act.
L’AI Act proposto si concentra sui sistemi IA. Sebbene i modelli di intelligenza artificiale siano componenti essenziali dei sistemi IA, non costituiscono da soli i sistemi AI. Il requisito di sicurezza informatica dell’AI Act si applica all’intero sistema IA e non direttamente ai suoi componenti interni.
Al fine di garantire la conformità, è necessario condurre una valutazione dei rischi di sicurezza tenendo conto della progettazione del sistema, per identificare i rischi e implementare le necessarie misure di mitigazione. Questo processo richiede un approccio integrato e continuo che utilizzi pratiche e procedure comprovate di sicurezza informatica combinate con controlli specifici per l’IA.
Sebbene lo stato dell’arte per la sicurezza dei modelli IA abbia limitazioni, i sistemi IA possono comunque ottenere la conformità al requisito di sicurezza informatica dell’AI Act purché i loro rischi di sicurezza informatica siano efficacemente mitigati attraverso altre misure non esclusivamente implementate a livello di modello IA. Tuttavia, ciò potrebbe non essere sempre possibile, e infatti per alcuni sistemi di IA ad alto rischio che utilizzano tecnologie di intelligenza artificiale emergenti, potrebbe non essere fattibile ottenere la conformità al requisito di sicurezza informatica dell’AI Act.
Scarica il report
