【生成AI】福祉施設で生成AIを安全に使う3つのルール|施設の取り決めと任せ方の線引き

職員の中に、生成AIを使い始めた人と、まだ使っていない人が混ざっていませんか。使い方のルールがないままだと、個人情報を入れてしまったり、AIの文章を確かめずに出してしまったりすることがあります。
この記事では、福祉施設で生成AIを使うときの3つのルールと、AIに任せる仕事・人が決める仕事の線引き、施設で決めておく取り決めを説明します。
手順の要点:3つのルールを知る → 任せる仕事と、人が決める仕事を分ける → 取り決めをA4一枚にする → 職員に伝えて、見直す日を決める。
この記事でできること
- 3つのルールを、職員に説明できる
- AIに任せる仕事と、人が決める仕事を分けられる
- 施設の取り決めを、A4一枚にまとめられる

「名前は使わないで」とAIに指示すれば、実名の入った文章を貼っても大丈夫ですか?



指示が効くのは、AIが返す答えだけです。貼り付けた時点で、文章はAIの会社に送られています。実名は、貼る前に自分で消すか、置き換えます。


前提
- 対象:生成AI(ChatGPT・Claude・Geminiなど)を、施設の業務で使い始める、または使い始めた施設
- 取り決めを決める人:施設長・管理者と、現場のリーダー
- 所要時間の目安:取り決めづくり1〜2時間
- 先に、各AIで学習に使わない設定をしておきます(最初にやる設定)
個人情報保護委員会は、生成AIサービスの利用について、事業者に向けて次のように注意をうながしています。
| 個人情報保護委員会の注意喚起 | この記事での扱い |
|---|---|
| 個人情報を含む指示(プロンプト)を入力する場合は、利用目的を達成するために必要な範囲内であることを十分に確認する | ルール1:個人情報は入れない。仮名と属性に置き換えて頼む |
| 本人の同意を得ずに個人データを入力し、それが応答の出力以外の目的で取り扱われる場合、個人情報保護法に違反する可能性がある | 学習に使わない設定と仮名化をセットで行う |
ルール1:個人情報は入れない
ご利用者・ご家族・職員の個人情報は、AIに入れません。病歴や心身の状態は、個人情報の中でも特に配慮が必要な「要配慮個人情報」にあたります。
入れない情報の例は、次のとおりです。
- 氏名・住所・電話番号・顔写真
- 病名・服薬・心身の状態・要介護度
- 家族の関係や、経済的な事情
頼む内容に、実名は要りません。名前は「Aさん」、年齢は「80代」、住まいは書かない、のように、仮名と属性に置き換えてから頼みます。
山田花子様(86歳・要介護3・○○町在住)のご家族への説明文を作って
デイサービスを利用している80代の女性の、ご家族への説明文を作ってください。
ルール2:うのみにしない
生成AIは、もっともらしく間違えることがあります。存在しない制度名や数字、日付を、自信のある書き方で出すこともあります。
次の5つが出てきたら、元の資料(公式のサイト、要綱、主治医の指示など)で確かめます。
- 制度・法律
- 医療
- 金額
- 日付
- 固有名詞
ルール3:そのまま出さない
AIの文章は、形式的で他人事に読めたり、現場の事実と少し違う書き方が混ざったりします。下書きはAIに任せ、仕上げは人が行います。
- 追加で頼んで直す:「もっとやわらかく」「現場の言葉で」「半分の長さに」
- 最後は自分の言葉に直す:事実を確かめ、施設らしいひと言を足す
- 外に出す文書(ご家族へのお知らせ、広報誌など)は、出す前に人が読む
AIに任せる仕事と、人が決める仕事を分ける
迷ったときは、「間違えたときに、ご利用者の生命・身体・権利にどのくらい影響するか」で分けます。3つの色で分けると、職員の間でそろえやすくなります。
| 色 | 意味 | 例 |
|---|---|---|
| 緑 | AIに任せてよい(下ごしらえ) | 記録の誤字脱字の確認、レクリエーションの案出し、長い文書の要約 |
| 黄 | AIの案を、人が確かめて使う | 申し送りの優先順位づけ、ご家族向けの説明文、ケアプランのための情報の整理や初めの案 |
| 赤 | 人が決める(AIに決めさせない) | ケアプランの決定、救急要請をするかどうか、ご利用者・ご家族への最終的な説明、人事の評価 |
施設の取り決めをA4一枚にする
次の7つを決めて、A4一枚にまとめます。リーダーから現場に伝え、見える場所に貼っておきます。
| 取り決め | 決めること |
|---|---|
| 1. 使ってよいAI | まずは1つにしぼる。個人の無料アカウントを業務に使うかどうか |
| 2. 入れない情報 | 実名・住所・健康の情報・写真など。迷ったら入れない |
| 3. 仮名にする方法 | 「Aさん・80代女性」の形。施設名との組み合わせにも気をつける |
| 4. 確かめる人 | 外に出す文書は、だれが読んでから出すか |
| 5. AIを使った記録 | 「下書きAI・確認○○・確定△△」のように残す |
| 6. 間違い・ヒヤリの報告先 | 責めずに共有する。報告する相手を決める |
| 7. うまくいった頼み方の共有 | 共有のノートに、使えた頼み方をためていく |
職員に伝えて、見直す日を決める
取り決めは、作って終わりにせず、使いながら直します。
- 小さく始める:まず1つの業務(お知らせ、議事録など)から試す
- 使っていることを隠さない:使う人と使わない人で分かれないように、使い方をオープンにする
- 見直す日を決める:1〜3か月ごとに、うまくいった頼み方と困ったことを持ち寄り、取り決めを直す
頼み方の例は、【生成AI】福祉施設で生成AIに頼めることで紹介しています。
できたか確かめる
次の4つで確かめます。
- 3つのルールを、職員に説明できる
- 任せる仕事と人が決める仕事を、緑・黄・赤で分けた
- 7つの取り決めをA4一枚にまとめ、職員に伝えた
- 取り決めを見直す日を決めた
よくあるつまずき
| 症状 | 考えられる原因 | 直し方 |
|---|---|---|
| 使う人と使わない人で分かれる | ルールがなく、個人に任せている | 取り決めを一枚にして、全員に同じ説明をする |
| 隠れて使う人がいる | 使ってよいかどうかが、はっきりしていない | 使ってよいAIと使い方を決め、使っていることをオープンにする |
| 実名や健康の情報を入れてしまう | 仮名にする方法が決まっていない | 置き換え方の例を取り決めに入れ、貼る前に見直す |
| AIの文章を確かめずに出し、事実と違っていた | 確かめる人が決まっていない | 外に出す文書は、確かめる人を決める |
まとめ
やること:「個人情報は入れない・うのみにしない・そのまま出さない」の3つのルールを決め、任せる仕事と人が決める仕事を分けて、取り決めをA4一枚にします。
確かめ方:職員が3つのルールを説明でき、取り決めが見える場所にあるかを見ます。
つまずいたら:まず1つの業務にしぼり、見直す日に、困ったことを持ち寄って直します。
次の一歩
生成AIを施設で使い始めるときの記事も公開しています。
施設のルールづくりや、職員の皆さんへの説明を一緒に進めたいときは、DPD(Duo Partner Design)の「福祉施設のためのAI活用研修」をご覧ください。初回のセミナーは無料です。









