【生成AI】福祉施設で生成AIを安全に使う3つのルール|施設の取り決めと任せ方の線引き

【生成AI】福祉施設で生成AIを安全に使う3つのルール|施設の取り決め

職員の中に、生成AIを使い始めた人と、まだ使っていない人が混ざっていませんか。使い方のルールがないままだと、個人情報を入れてしまったり、AIの文章を確かめずに出してしまったりすることがあります。

この記事では、福祉施設で生成AIを使うときの3つのルールと、AIに任せる仕事・人が決める仕事の線引き、施設で決めておく取り決めを説明します。

手順の要点:3つのルールを知る → 任せる仕事と、人が決める仕事を分ける → 取り決めをA4一枚にする → 職員に伝えて、見直す日を決める。

この記事でできること

  • 3つのルールを、職員に説明できる
  • AIに任せる仕事と、人が決める仕事を分けられる
  • 施設の取り決めを、A4一枚にまとめられる

「名前は使わないで」とAIに指示すれば、実名の入った文章を貼っても大丈夫ですか?

指示が効くのは、AIが返す答えだけです。貼り付けた時点で、文章はAIの会社に送られています。実名は、貼る前に自分で消すか、置き換えます。

この記事の進め方(所要時間 取り決めづくり1〜2時間):1. 3つのルールを知る、2. 任せる仕事と、人が決める仕事を分ける、3. 施設の取り決めをA4一枚にする、4. 職員に伝えて、見直す日を決める、最後に「できたか確かめる」
目次

前提

  • 対象:生成AI(ChatGPT・Claude・Geminiなど)を、施設の業務で使い始める、または使い始めた施設
  • 取り決めを決める人:施設長・管理者と、現場のリーダー
  • 所要時間の目安:取り決めづくり1〜2時間
  • 先に、各AIで学習に使わない設定をしておきます(最初にやる設定)

個人情報保護委員会は、生成AIサービスの利用について、事業者に向けて次のように注意をうながしています。

個人情報保護委員会の注意喚起この記事での扱い
個人情報を含む指示(プロンプト)を入力する場合は、利用目的を達成するために必要な範囲内であることを十分に確認するルール1:個人情報は入れない。仮名と属性に置き換えて頼む
本人の同意を得ずに個人データを入力し、それが応答の出力以外の目的で取り扱われる場合、個人情報保護法に違反する可能性がある学習に使わない設定と仮名化をセットで行う

出典:個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」(2023年6月2日)。法律の判断が必要なときは、施設の顧問の専門家に確かめてください。

ルール1:個人情報は入れない

ご利用者・ご家族・職員の個人情報は、AIに入れません。病歴や心身の状態は、個人情報の中でも特に配慮が必要な「要配慮個人情報」にあたります。

入れない情報の例は、次のとおりです。

  • 氏名・住所・電話番号・顔写真
  • 病名・服薬・心身の状態・要介護度
  • 家族の関係や、経済的な事情

頼む内容に、実名は要りません。名前は「Aさん」、年齢は「80代」、住まいは書かない、のように、仮名と属性に置き換えてから頼みます。

山田花子様(86歳・要介護3・○○町在住)のご家族への説明文を作って

デイサービスを利用している80代の女性の、ご家族への説明文を作ってください。

施設名と組み合わせると、個人がわかることもあります。施設名も入れないようにします。学習に使わない設定をしても、入れた情報は送られます。設定と仮名化は、セットで行います。

ルール2:うのみにしない

生成AIは、もっともらしく間違えることがあります。存在しない制度名や数字、日付を、自信のある書き方で出すこともあります。

次の5つが出てきたら、元の資料(公式のサイト、要綱、主治医の指示など)で確かめます。

  • 制度・法律
  • 医療
  • 金額
  • 日付
  • 固有名詞

AIに「この中で、事実として確かめたほうがよいところを挙げて」と聞くと、確かめる場所を見つける手がかりになります。「AIがそう書いた」は、出した文書の理由になりません。

ルール3:そのまま出さない

AIの文章は、形式的で他人事に読めたり、現場の事実と少し違う書き方が混ざったりします。下書きはAIに任せ、仕上げは人が行います。

  • 追加で頼んで直す:「もっとやわらかく」「現場の言葉で」「半分の長さに」
  • 最後は自分の言葉に直す:事実を確かめ、施設らしいひと言を足す
  • 外に出す文書(ご家族へのお知らせ、広報誌など)は、出す前に人が読む

AIに任せる仕事と、人が決める仕事を分ける

迷ったときは、「間違えたときに、ご利用者の生命・身体・権利にどのくらい影響するか」で分けます。3つの色で分けると、職員の間でそろえやすくなります。

色意味例
緑AIに任せてよい(下ごしらえ)記録の誤字脱字の確認、レクリエーションの案出し、長い文書の要約
黄AIの案を、人が確かめて使う申し送りの優先順位づけ、ご家族向けの説明文、ケアプランのための情報の整理や初めの案
赤人が決める(AIに決めさせない)ケアプランの決定、救急要請をするかどうか、ご利用者・ご家族への最終的な説明、人事の評価

AIは案を出し、決めるのは専門職です。迷ったら「この結果に、だれが責任を持つか」で線を引きます。

施設の取り決めをA4一枚にする

次の7つを決めて、A4一枚にまとめます。リーダーから現場に伝え、見える場所に貼っておきます。

取り決め決めること
1. 使ってよいAIまずは1つにしぼる。個人の無料アカウントを業務に使うかどうか
2. 入れない情報実名・住所・健康の情報・写真など。迷ったら入れない
3. 仮名にする方法「Aさん・80代女性」の形。施設名との組み合わせにも気をつける
4. 確かめる人外に出す文書は、だれが読んでから出すか
5. AIを使った記録「下書きAI・確認○○・確定△△」のように残す
6. 間違い・ヒヤリの報告先責めずに共有する。報告する相手を決める
7. うまくいった頼み方の共有共有のノートに、使えた頼み方をためていく

施設として本格的に使うときは、入力した内容を学習に使わない契約の、法人向けのプランも検討します。

職員に伝えて、見直す日を決める

取り決めは、作って終わりにせず、使いながら直します。

  • 小さく始める:まず1つの業務(お知らせ、議事録など)から試す
  • 使っていることを隠さない:使う人と使わない人で分かれないように、使い方をオープンにする
  • 見直す日を決める:1〜3か月ごとに、うまくいった頼み方と困ったことを持ち寄り、取り決めを直す

頼み方の例は、【生成AI】福祉施設で生成AIに頼めることで紹介しています。

できたか確かめる

次の4つで確かめます。

  • 3つのルールを、職員に説明できる
  • 任せる仕事と人が決める仕事を、緑・黄・赤で分けた
  • 7つの取り決めをA4一枚にまとめ、職員に伝えた
  • 取り決めを見直す日を決めた

よくあるつまずき

症状考えられる原因直し方
使う人と使わない人で分かれるルールがなく、個人に任せている取り決めを一枚にして、全員に同じ説明をする
隠れて使う人がいる使ってよいかどうかが、はっきりしていない使ってよいAIと使い方を決め、使っていることをオープンにする
実名や健康の情報を入れてしまう仮名にする方法が決まっていない置き換え方の例を取り決めに入れ、貼る前に見直す
AIの文章を確かめずに出し、事実と違っていた確かめる人が決まっていない外に出す文書は、確かめる人を決める

まとめ

やること:「個人情報は入れない・うのみにしない・そのまま出さない」の3つのルールを決め、任せる仕事と人が決める仕事を分けて、取り決めをA4一枚にします。

確かめ方:職員が3つのルールを説明でき、取り決めが見える場所にあるかを見ます。

つまずいたら:まず1つの業務にしぼり、見直す日に、困ったことを持ち寄って直します。

次の一歩

生成AIを施設で使い始めるときの記事も公開しています。

施設のルールづくりや、職員の皆さんへの説明を一緒に進めたいときは、DPD(Duo Partner Design)の「福祉施設のためのAI活用研修」をご覧ください。初回のセミナーは無料です。

参考

自社だけで進めるのが難しいときは

DPD(Duo Partner Design合同会社)は、中小企業のWeb制作・運用・集客を支援しています。
記事の内容を自社で進めるのが難しいとき、どこから手をつけるか迷うときは、お問い合わせフォームからご連絡ください。状況をうかがい、できることをお伝えします。

よかったらシェアしてね!
  • URLをコピーしました!
  • URLをコピーしました!

この記事を書いた人

Duo Partner Design合同会社 代表。
デザイン・Web・ブランディングの現場を20年以上にわたり牽引。
中小企業の課題を「見える化」し、Web戦略・集客・採用・広報を一体で支援している。
また教育分野にも注力し、実務に即したWebスキルを学べる「DPDアカデミー」を主宰。現場で通用する“伝わるデザインと戦略思考”を伝えている。

目次