Tag: Testing for Plugin Boundary Violations

Plugin boundary violations si verificano quando un’applicazione LLM con capacità di function calling o tool use esegue azioni non autorizzate attraverso plugin, API esterne o integrazioni. Il testing valuta se il modello rispetta i confini di sicurezza definiti, verificando privilege escalation, accesso non autorizzato a risorse, esecuzione di comandi oltre lo scope previsto o bypass di controlli di autorizzazione tramite manipolazione del prompt o del contesto. Critico per sistemi AI con accesso a database, filesystem o servizi esterni.