Tag: Over-Reliance

Eccessiva dipendenza da sistemi automatizzati, modelli AI o strumenti di sicurezza senza adeguata supervisione umana o validazione critica. Nel contesto AI security, indica il rischio di accettare output di modelli generativi o decision-making automatizzato senza verifiche, portando a decisioni errate, bias non rilevati o vulnerabilità non identificate. Rilevante per AI red teaming, human-in-the-loop design e governance di sistemi autonomi.