安全と AI
AI の先生は、いつも自分が AI だと伝えます
安全は後から加える機能ではなく、開校の条件です。最初の生徒が参加する前に、以下のすべてのルールを完全に満たす必要があります。
すべてのメッセージが3つのチェックを通ります
危険の打ち明けは人へ
メッセージに自傷、虐待、危険について書かれていた場合、モデルには届きません。生徒には信頼できる大人を案内する定型メッセージが表示され、人が対応します。
個人情報は取り除かれます
AI がメッセージを見る前に、名前、連絡先、住所、リンク、SNS のアカウント名は［削除済み］に置き換えられます。
すべての返答を確認します
AI の返答は、生徒が見たり聞いたりする前に全文が確認されます。個人情報を求める、人間だと名乗る、外部へ誘導する、秘密を求める返答は止められます。
AI チューターが決してしないこと
- 人間だと名乗ったり、AI であることを隠したりすること
- 生徒の名前、年齢、学校、住所、写真、アカウントを尋ねること
- リンク、アプリ、連絡先を送ったり、会話を別の場所に移したりすること
- 広告、商品、セールを見せること
- 家族に秘密にするよう生徒に頼むこと
- 医療、法律、その他の大人向けの助言をすること
- 成績や学期の結果を単独で決めること
人が責任を持つところ
- 学期の結果にはすべて人間の教師が署名します。
- 訓練を受けた子どもの保護責任者が、すべての安全案件を確認して完了させます。
- 他校から持ち込まれた単位は、教務担当者が承認します。
- サポート計画はすべて人が合意します。
開校前に、実際のチューターで安全テスト一式に 100% 合格する必要があり、各国で開校する前には弁護士がその国の規則を確認する必要があります。どちらもまだ完了していません。