Segurança e IA
Os seus educadores de IA dirão sempre que são IA
A segurança é uma condição para abrir, não uma funcionalidade acrescentada depois. Cada regra abaixo tem de ser cumprida por inteiro antes de entrar o primeiro aluno.
Cada mensagem passa por três verificações
Um relato de perigo vai para uma pessoa
Se uma mensagem falar de automutilação, abuso ou perigo, nunca chega a um modelo. O aluno vê uma mensagem fixa que o encaminha para um adulto de confiança, e uma pessoa acompanha o caso.
Os dados pessoais são removidos
Nomes, contactos, moradas, ligações e nomes de utilizador de redes sociais são substituídos por [removido] antes de qualquer IA ver a mensagem.
Cada resposta é verificada
A resposta completa da IA é verificada antes de o aluno a ver ou ouvir. Uma resposta que peça dados pessoais, diga ser uma pessoa, encaminhe para fora ou peça segredo é retida.
Um tutor de IA nunca vai
- Dizer que é humano nem esconder que é uma IA
- Pedir o nome, a idade, a escola, a morada, fotografias ou contas do aluno
- Enviar ligações, aplicações ou contactos, nem levar a conversa para outro lado
- Mostrar publicidade, produtos ou ofertas
- Pedir a um aluno que guarde um segredo da família
- Dar conselhos médicos, jurídicos ou outros conselhos de adultos
- Decidir sozinho uma nota ou o resultado de um período
Onde as pessoas continuam a decidir
- Um professor humano assina cada resultado de período.
- Um responsável pela proteção com formação analisa e encerra cada caso de segurança.
- A secretaria aprova qualquer crédito trazido de outra escola.
- Uma pessoa aprova cada plano de apoio.
Antes da abertura, todo o conjunto de testes de segurança tem de passar a 100% com o tutor real, e um advogado tem de confirmar as regras de cada país antes de a escola abrir aí. Ambos continuam pendentes.