Seguridad e IA
Sus educadores de IA siempre dirán que son IA
La seguridad es una condición para abrir, no una función que se añade después. Cada regla de abajo debe cumplirse por completo antes de que entre el primer alumno.
Cada mensaje pasa tres controles
Una revelación de daño va a una persona
Si un mensaje menciona autolesiones, abusos o peligro, nunca llega a un modelo. El alumno ve un mensaje fijo que le orienta hacia un adulto de confianza, y una persona hace el seguimiento.
Se eliminan los datos personales
Nombres, datos de contacto, direcciones, enlaces y usuarios de redes sociales se sustituyen por [eliminado] antes de que ninguna IA vea el mensaje.
Cada respuesta se revisa
La respuesta completa de la IA se revisa antes de que el alumno la vea u oiga. Se retiene cualquier respuesta que pida datos personales, diga ser una persona, enlace a otro sitio o pida guardar un secreto.
Un tutor de IA nunca
- Dirá ser una persona ni ocultará que es una IA
- Pedirá el nombre, la edad, el colegio, la dirección, fotos o cuentas del alumno
- Enviará enlaces, aplicaciones o datos de contacto, ni llevará la conversación a otro sitio
- Mostrará publicidad, productos u ofertas
- Pedirá a un alumno que guarde un secreto ante su familia
- Dará consejos médicos, jurídicos u otros consejos para adultos
- Decidirá por sí solo una nota o el resultado de un trimestre
Dónde mandan las personas
- Un profesor humano firma cada resultado de trimestre.
- Un responsable de protección formado revisa y cierra cada caso de seguridad.
- Un responsable de secretaría aprueba cualquier crédito traído de otro centro.
- Una persona aprueba cada plan de apoyo.
Antes de abrir, todo el conjunto de pruebas de seguridad debe superarse al 100 % con el tutor real, y un abogado debe confirmar las normas de cada país antes de que la escuela abra allí. Ambas cosas siguen pendientes.