Controllo prima dell'esecuzione

Classi di decisione

S, D e H indicano che cosa un flusso di lavoro dell'IA può fare dopo. L'organizzazione fissa le regole. Il sistema le applica. Una persona detiene l'autorità.

S

Automazione consentita

Operare entro i limiti

La richiesta procede in modo automatico solo quando rispetta le regole e i permessi che l'organizzazione ha fissato in anticipo.

L'organizzazione decide
Quali azioni si svolgono senza una persona ed entro quali limiti. L'organizzazione fissa queste regole in anticipo.
Il sistema fa
Verifica che la richiesta rispetti le regole e i permessi. Poi agisce entro i limiti e registra il risultato.
La persona fa
La persona non approva a mano ogni azione. Le registrazioni restano aperte al riesame.
Esempio
Aggiornare gli indicatori di un distretto quando la fonte pubblica nuovi dati.

D

Bozza per revisione umana

Preparare, poi fermarsi

Il sistema prepara una risposta o una raccomandazione. Una persona la esamina prima di ogni azione con conseguenze.

L'organizzazione decide
Quale lavoro prepara il sistema e chi lo esamina.
Il sistema fa
Compone una risposta o una raccomandazione. Poi si ferma e consegna la bozza al revisore. Non compie alcuna azione finale.
La persona fa
Il revisore legge la bozza e decide. Ogni azione con conseguenze è una decisione della persona.
Esempio
Preparare un rapporto sul rischio di siccità. Un agronomo o un analista bancario lo legge e decide.

H

Approvazione umana

Serve una persona

Una persona designata, con autorità, approva o rifiuta l'azione. L'esecuzione attende questa decisione.

L'organizzazione decide
Quali azioni richiedono una persona con autorità, quale ruolo le approva e secondo quale politica.
Il sistema fa
Sospende l'esecuzione e passa la richiesta alla persona autorizzata. Per questa richiesta non interroga da solo alcuna fonte esterna.
La persona fa
La persona autorizzata approva o rifiuta l'azione. Il sistema registra la decisione.
Esempio
Modificare le condizioni di un prestito. Inviare un documento a un'organizzazione esterna.

Regole per ogni classe

Che cosa non cambia

Le stesse regole valgono per S, D e H.

  • Il livello di confidenza di un modello non amplia i suoi permessi.
  • Una politica mancante o un'approvazione mancante non sono mai un permesso di agire.
  • Un contesto incerto o incompleto porta la richiesta a una classe più rigorosa.
  • Una richiesta non approvata non passa a una classe inferiore.
  • Quando la verifica dell'autorità fallisce o non può essere eseguita, la richiesta si ferma.
  • Solo l'organizzazione amplia l'autonomia. Lo fa con una modifica esplicita della politica e con un'approvazione.
Come una richiesta riceve la sua classe