La categoria AI Infrastructure Testing analizza le vulnerabilità e i rischi presenti nell’infrastruttura tecnica che supporta il deployment e l’operatività dei modelli AI. L’obiettivo è individuare e mitigare debolezze a livello di supply chain, gestione delle risorse, controlli di confine, plugin, ambienti di fine-tuning e strumenti per prevenire accessi o abusi non autorizzati.
Obiettivi dell’AI Infrastructure Testing
L’analisi si concentra sulla sicurezza a livello infrastrutturale. Ciò comprende la verifica della configurazione sicura dei sistemi, la resilienza a tentativi di abuso e la capacità di proteggere le risorse e i modelli AI da minacce lungo tutto il ciclo di vita.
Prevenzione delle manomissioni nella supply chain
- Viene verificata la protezione contro la manomissione della supply chain e modifiche non autorizzate.
- AITG-INF-01: Testing for Supply Chain Tampering
Resilienza contro resource exhaustion
- Si testano scenari di esaurimento delle risorse e condizioni di denial-of-service per assicurare la tenuta dell’infrastruttura.
- AITG-INF-02: Testing for Resource Exhaustion
Sicurezza dei confini e dei controlli di accesso plugin
- Vengono esaminati i controlli e le boundary per le interazioni basate su plugin.
- AITG-INF-03: Testing for Plugin Boundary Violations
Prevenzione dell’abuso delle capacità del modello
- Si valuta l’efficacia delle misure di controllo contro l’uso improprio delle funzionalità del modello.
- AITG-INF-04: Testing for Capability Misuse
Sicurezza degli ambienti di fine-tuning
- Si protegge l’ambiente di fine-tuning da attacchi di avvelenamento e corruzione dei dati.
- AITG-INF-05: Testing for Fine-tuning Poisoning
Protezione contro il furto di modelli in fase di sviluppo
- La sicurezza dell’infrastruttura previene il furto o la perdita del modello durante la fase di sviluppo.
- AITG-INF-06: Testing for Dev-Time Model Theft
Contributo alla sicurezza dell’infrastruttura AI
Ciascun test nella categoria AI Infrastructure Testing rafforza la postura di sicurezza delle infrastrutture, garantendo robustezza, resilienza e affidabilità durante l’intero ciclo di vita del modello.