安全
危機対応プロトコル
ご自身または身近な方に差し迫った危険がある場合は、まずお住まいの地域の緊急サービスにご連絡ください。このページは Griing の動作を説明するもので、相談窓口ではありません。
Griing は英語学習サービスで、コーチは AI です。それでも会話が自傷や自殺の話題に向かうことはあります。このページでは、そのときサービスが何をするのかをそのまま記しています。
危機のサインを検知する仕組み
送信されたメッセージは、言語モデルに渡る前に固定のパターン一覧と照合されます。この照合は感度を高めに設定してあり、判断が微妙なメッセージは見逃すのではなくサインとして扱います。
検知は、サービスが対応する 5 言語、英語・韓国語・日本語・中国語・スペイン語のすべてを対象とします。「死ぬほど」のように死を表す語を含む日常的な言い回しは意図的に除外し、通常の学習会話が中断されないようにしています。
コーチが返す文も、同じ規則でもう一度検査します。モデルの自己申告に頼らない独立した検査で、危機のサインを含む返答、臨床的な役割を装う返答、露骨な内容を含む返答は、届く前に差し替えられます。
サインを検知したあとにサービスがすること
返答は固定の安全メッセージです。言語モデルが生成する文章ではないため、状況に応じて言い方が変わったり、説得を試みたりすることはありません。
そのターンの学習はその場で止まります。添削は作られず、復習カードにも何も保存されず、レッスンの完了判定・スコア・連続記録・お祝いの演出からもそのターンは除かれます。そうしたメッセージの文法を直すこと自体が事故だからです。
アプリはこのメッセージを、学習画面のゲーム要素を外した専用のカードとして、利用者の言語で表示します。
支援につながる経路
カードには二つのことが載ります。お住まいの地域の緊急サービスに連絡するという案内と、接続した国の相談窓口を示す世界のヘルプライン一覧へのリンクです。
Griing は特定の国の電話番号をコードに埋め込みません。サービスは 5 言語で使われ、利用者の所在国を把握していないため、番号を一つ固定すると多くの人にとって誤った案内になります。一覧であれば、窓口の番号や受付時間が変わってもアプリの更新を待たずに最新の情報が保たれます。
Griing が代わりにはならないこと
Griing のコーチは人ではなく AI で、アプリでもそのように明示しています。コーチは学習のパートナーであり、相談・診断・治療を行わず、専門的な支援の代わりにもなりません。カウンセラーや医師の役割を装う返答、診断や処方のような返答は、上で述べた出力検査が遮断します。
そのあとに起きること
その出来事は、アクセスを限定した追記のみの安全記録に残り、人が確認する審査の待ち行列に入ります。
以後 72 時間、サービスから先に声をかけることはありません。毎日のブリーフィング、復習の通知、復帰の通知はすべて止まります。アカウントはそのまま使えますし、学習は望むときに再開できます。
ご利用いただける方
Griing は 18 歳以上の方が利用するサービスです。会話機能は成人確認を終えたあとに開き、18 歳未満と思われるサインを含むメッセージは人が確認する対象として記録されます。
このプロトコルに関するお問い合わせ
このページについてのご質問や、サービスの安全に関するご指摘は contact@griing.com までお送りください。急を要する場合は、お住まいの地域の緊急サービスか上記の一覧をご利用ください。Griing の利用に関するその他の定めは利用規約とプライバシーポリシーにあります。