SALUSby CloudSalus ← Torna al sito
Demo

Quando un assistente AI può vedere troppo

SALUS · controllo degli accessi nelle risposte basate su documenti aziendali
Il rischio: usare, per rispondere, parti di documenti che questa persona non dovrebbe leggere.
Chi sta chiedendo
SALUS blocca la sezione prima che arrivi all'assistente. Non la recupera e non deve nasconderla dopo.

Può un assistente AI mostrare informazioni che non dovresti vedere?

Questa demo mostra un problema semplice: un assistente aziendale cerca informazioni nei documenti interni per rispondere alle domande. Ma alcuni documenti, o alcune parti degli stessi documenti, possono essere riservati.

Il rischio

Se il sistema controlla male i permessi, può usare una parte riservata per rispondere a una persona che non dovrebbe leggerla.

Cosa confrontiamo

La stessa domanda viene fatta in tre modi.

Senza protezione: prende ciò che trova.

Controllo sul documento: verifica se il file è accessibile, ma può non accorgersi che dentro quel file c'è una parte riservata.

SALUS: controlla ogni singola sezione prima di recuperarla.

Cosa devi guardare

Guarda prima i tre numeri in alto, poi le righe rosse: mostrano informazioni che non dovrebbero arrivare all'assistente. Alla fine dovrebbe esserti chiaro perché controllare solo il documento intero può non bastare.

Che cosa ci serve sapere da te — se dopo un minuto riesci a dirlo con parole tue, la demo funziona. Se non ci riesci il difetto è suo, non tuo: scrivici a info@cloudsalus.com con le parole che ti sono risultate oscure.

SALUS è il prototipo di ricerca di CloudSalus, sviluppato in una tesi di laurea magistrale in Sicurezza informatica. Dietro questa pagina non c'è un sistema attivo: mostra esecuzioni reali del prototipo, registrate e già calcolate. I documenti sono inventati: ricalcano procedure aziendali reali, ma nomi, prezzi e casi no.