Tag: Vulnerabilità output AI

Vulnerabilità legate all’output generato da sistemi di intelligenza artificiale: prompt injection, data leakage attraverso risposte del modello, hallucination sfruttabili per disinformazione, esposizione di informazioni sensibili dal training set, manipolazione dell’output per bypass di policy o generazione di contenuti dannosi. Copre tecniche di testing, mitigazione e validazione dell’output in applicazioni GenAI e LLM.