Sicurezza e IA
I suoi educatori IA diranno sempre di essere IA
La sicurezza è una condizione per aprire, non una funzione aggiunta dopo. Ogni regola qui sotto deve essere rispettata per intero prima che entri il primo studente.
Ogni messaggio passa tre controlli
Una segnalazione di pericolo va a una persona
Se un messaggio parla di autolesionismo, abusi o pericolo, non arriva mai a un modello. Lo studente vede un messaggio fisso che lo indirizza a un adulto di fiducia, e una persona se ne occupa.
I dati personali vengono rimossi
Nomi, recapiti, indirizzi, link e nomi utente dei social vengono sostituiti con [rimosso] prima che un’IA veda il messaggio.
Ogni risposta viene controllata
L’intera risposta dell’IA viene controllata prima che lo studente la veda o la senta. Una risposta che chiede dati personali, dice di essere una persona, rimanda altrove o chiede di mantenere un segreto viene bloccata.
Un tutor IA non potrà mai
- Fingere di essere un essere umano o nascondere di essere un’IA
- Chiedere nome, età, scuola, indirizzo, foto o account dello studente
- Inviare link, app o recapiti, o spostare la chat altrove
- Mostrare pubblicità, prodotti o offerte
- Chiedere a uno studente di tenere un segreto alla famiglia
- Dare consigli medici, legali o altri consigli da adulti
- Decidere da solo un voto o il risultato di un periodo
Dove decidono le persone
- Un insegnante umano firma ogni risultato del periodo.
- Un referente per la tutela formato esamina e chiude ogni caso di sicurezza.
- La segreteria didattica approva ogni credito portato da un’altra scuola.
- Una persona approva ogni piano di supporto.
Prima dell’apertura, l’intera serie di test di sicurezza deve passare al 100% con il tutor reale, e un avvocato deve confermare le regole di ogni paese prima che la scuola apra lì. Entrambe le cose sono ancora aperte.