Sécurité et IA
Ses éducateurs IA diront toujours qu’ils sont des IA
La sécurité est une condition d’ouverture, pas une fonction ajoutée plus tard. Chaque règle ci-dessous doit être entièrement respectée avant l’arrivée du premier élève.
Chaque message passe trois contrôles
Un signalement va à une personne
Si un message évoque l’automutilation, des abus ou un danger, il n’atteint jamais un modèle. L’élève voit un message fixe qui l’oriente vers un adulte de confiance, et une personne assure le suivi.
Les informations personnelles sont retirées
Noms, coordonnées, adresses, liens et pseudonymes de réseaux sociaux sont remplacés par [retiré] avant qu’une IA ne voie le message.
Chaque réponse est vérifiée
La réponse complète de l’IA est vérifiée avant que l’élève ne la voie ou ne l’entende. Une réponse qui demande des informations personnelles, prétend être une personne, renvoie ailleurs ou demande le secret est bloquée.
Un tuteur IA ne va jamais
- Prétendre être un humain ou cacher qu’il est une IA
- Demander le nom, l’âge, l’école, l’adresse, des photos ou des comptes de l’élève
- Envoyer des liens, des applications ou des coordonnées, ni déplacer la discussion ailleurs
- Afficher de la publicité, des produits ou des offres
- Demander à un élève de garder un secret vis-à-vis de sa famille
- Donner des conseils médicaux, juridiques ou d’autres conseils d’adulte
- Décider seul d’une note ou d’un résultat de trimestre
Là où les humains gardent la main
- Un enseignant humain signe chaque résultat de trimestre.
- Un référent protection formé examine et clôt chaque cas de sécurité.
- Un responsable de la scolarité valide tout crédit venu d’un autre établissement.
- Une personne valide chaque plan d’accompagnement.
Avant l’ouverture, l’ensemble des tests de sécurité doit réussir à 100 % avec le vrai tuteur, et un avocat doit confirmer les règles de chaque pays avant que l’école n’y ouvre. Ces deux points sont encore ouverts.