Control înainte de execuție

Tehnologie

SentientROUTER este stratul de control. Stă înaintea acțiunilor IA și face autoritatea vizibilă pentru oamenii care operează și revizuiesc sistemul.

Arhitectură

Politica este separată de rezultatul modelului

Un model produce un rezultat. Politica decide ce se întâmplă cu el. SentientROUTER ține aceste două lucruri separate.

Politică

Reguli și versiuni

Fiecare clasificare indică versiunea politicii și domeniul ei de aplicare.

Autoritate

Puncte de decizie umană

O acțiune cu impact ridicat așteaptă până când persoana autorizată înregistrează o decizie.

Stare

Escaladare prudentă

O divergență, un context lipsă sau o problemă de guvernanță restrânge automatizarea. Nimic nu o extinde pe tăcute.

Dovezi

Evenimente pentru revizuire

Clasificarea și contextul ei trec la un strat de dovezi pentru verificări ulterioare.

Mecanisme

Patru mecanisme de control

  • Constituția este verificată prima

    Regulile sunt compilate în program ca o constituție cu versiune. SentientROUTER verifică fiecare solicitare în raport cu ea înaintea oricărei acțiuni autonome și înaintea interogării oricărei surse externe.

  • Consensul surselor

    O decizie prin consens folosește cel puțin trei surse independente. Sistemul înregistrează fiecare vot împreună cu hash-ul lui. Nicio sursă nu decide singură.

  • Detectarea abaterilor

    SentientROUTER urmărește cât de des ajung solicitările în S, D și H, cât de mult diverg sursele și cum variază starea de control. Abaterea restrânge autoritatea.

  • Lucru fără conexiune

    Controlul continuă în timpul unei pierderi de conexiune. Înregistrările se sincronizează când legătura revine.

Modele de IA

O singură cale guvernată către modele de IA diferite

SentientROUTER oferă o cale comună către modele de IA diferite. Aceleași reguli de solicitare se aplică fiecărui model și fiecărui instrument.

Gateway-ul conține
Adaptoare pentru furnizori, procesarea solicitărilor și verificări ale contractului de execuție.
Fiecare caz de utilizare indică
Accesul la date, furnizorii permiși și comportamentul în caz de eroare.

Control și dovadă

Controlul și dovada au roluri diferite

SentientROUTER decide dacă o acțiune a IA poate continua. ProvableCORE face o înregistrare a fiecărei decizii.

Stratul de control

SentientROUTER

Direcționează o solicitare conform regulilor organizației și autorității umane.

Stratul de dovezi

ProvableCORE

Leagă fiecare decizie de contextul ei, de politica ei, de aprobările ei și de dovezile ei de integritate. Înregistrarea este semnată. O terță parte o poate verifica.

provablecore.com

În nucleul SoulGCI

O singură buclă de control închisă

SoulGCI este nucleul de inteligență guvernată al grupului. În nucleu, SentientROUTER este stratul de control, iar ProvableCORE este stratul de dovezi.

Autoritatea umanăStabilește limitele. Aprobă sau oprește.

Strat de control

SentientROUTEREste permisă această acțiune?

Execuție guvernată

Acțiune permisăAcțiunea rulează în limitele ei.

Strat de dovezi

ProvableCORECe s-a întâmplat și după ce reguli?
Rezultatele verificate stabilesc limitele autonomiei viitoare.

Cei șapte pași ai nucleului

  1. Preia datele
  2. Leagă datele
  3. Construiește înțelegerea
  4. Formează o decizie
  5. Verifică autoritatea
  6. Acționează și înregistrează
  7. Verifică și învață

Pasul 5 este sarcina SentientROUTER: acțiune automată, oprire pentru verificare sau așteptarea aprobării.

Nucleul SoulGCI

Context instituțional

Conceput pentru guvernanța instituțională a modelelor

Aprobarea umană, trasabilitatea și o revizuire eficientă contează pentru instituțiile din Americi. SentientROUTER este conceput ținând cont de aceste trei nevoi. Fiecare implementare are propria evaluare juridică și de risc.

  • Responsabilitate definită

    Instituția stabilește ce roluri aprobă o acțiune cu consecințe și în temeiul cărei politici.

  • Istoric care poate fi revizuit

    Un evaluator vede politica, clasa și decizia umană pentru fiecare eveniment.

Întrebări

Ce întreabă organizațiile

Înlocuiește SentientROUTER procesul de aprobare al unei organizații?

Nu. Regulile de aprobare rămân ale organizației. SentientROUTER păstrează traseul permis pentru fiecare solicitare și predă solicitarea persoanelor autorizate.

Poate încrederea unui model să îi mărească autonomia?

Nu. Încrederea nu extinde autoritatea delegată. Autonomia se schimbă numai printr-o politică explicită și printr-un proces de aprobare.

Cum începe o organizație să folosească SentientROUTER?

Fiecare caz de utilizare începe cu o evaluare a controalelor tehnice, a securității, a obligațiilor juridice și a integrărilor. Apoi organizația definește politica, pragurile, rolurile autorizate și cerințele privind dovezile.

Care este rolul ProvableCORE?

ProvableCORE este stratul de dovezi. SentientROUTER decide dacă o acțiune poate continua. ProvableCORE face o înregistrare semnată a deciziei, iar o terță parte poate verifica înregistrarea.