介護の事業所で生成AIの話をすると、「なんだか怖くて手を出せない」と言われることがあります。

では何が怖いですか、と聞くと、はっきり答えられる方は少ないです。やってはいけないことを、知らないままやってしまいそうで怖い。だいたいそういう怖さです。

この怖がり方は、正しいと思います。分からないものは、いったん警戒したほうがいい。

ただ、怖いことは2つしかありません。そこだけ分かれば、あとは使えます。

1つ目。入れたものが、外に出る

AIに文章を入れると、その文章は手元のパソコンやスマートフォンでは処理されません。インターネットを通って、そのAIを提供している会社のコンピュータに送られます。返ってくる答えは、そこで処理された結果です。

送った内容は、しばらくその会社に保存されます。設定によっては、AIを賢くするための材料としても使われます。

つまり、利用者さんのお名前や病気のことを入力すると、その情報は事業所の外に出たことになります。誰かに見られるかどうか以前に、外に出したという事実が残ります。

これが、怖さの正体のひとつです。

対処は簡単です。入れなければいいだけです。

2つ目。出てきたものが、間違っている

AIは、質問に対して「それらしい文章」を作る道具です。書いてある内容が正しいかどうかを、AI自身は判断していません。

制度の名前を少し間違える。加算の要件をもっともらしく説明するけれど、条件がひとつ抜けている。実在しない通知の番号を出してくる。こういうことが起こります。

しかも文章がきれいなので、正しそうに見えます。

これが2つ目の怖さです。対処はこれも簡単で、出てきた文章を、読まずにそのまま使わないことです。記録や、ご家族にお渡しするものなら、なおさらです。

逆に、怖くないこと

この2つ以外は、そこまで心配しなくて大丈夫です。

献立の案を出してもらう。レクリエーションのネタを10個挙げてもらう。研修の案内文を、もう少し柔らかい言い方に直してもらう。会議で決まったことを、箇条書きに整理してもらう。

ここに、利用者さんの情報は出てきません。今日から使って大丈夫な範囲です。

そして、たいていの職員さんがやりたいのは、この範囲の仕事です。文章を書くのが苦手だから手伝ってほしい。時間がないから下書きだけ作ってほしい。そういう動機で使い始めます。

シャドーAI、という言葉があります

事業所が把握していないところで、職員が自分の判断でAIを使っている状態のことです。影のAI、という意味です。

これは、たいていの事業所ですでに起きていると思っておいたほうがいいです。

理由は単純で、便利だからです。記録の下書き、ご家族へのお手紙、行事の案内文。文章を書く場面は多いのに、時間はありません。そして自分のスマートフォンには、無料で使えるAIが最初から入っていることもあります。

問題は、事業所の側から何も見えないことです。

誰が何を入力したのか分かりません。無料のものは、入力した内容がAIを賢くする材料に使われる設定になっていることが多いです。そして職員が退職しても、そのやりとりは職員個人のスマートフォンとアカウントに残ったままです。事業所が消してほしいと頼むことはできても、消させることはできません。

やっかいなのは、本人に悪いことをしている自覚がない点です。だから相談もされません。隠しているのではなく、報告するような話だと思っていないだけです。

だからといって、誰が使っているかを調べにいく必要はないと思います。調べる側も聞かれる側も、気持ちのいい作業ではありません。何より、正直に答えた人が損をする形になります。

先に決めて、先に言う。そのほうが早いです。

ルールにするなら、まず一行

事業所として決めておきたい、という相談もあります。

長い規程を作ろうとすると、たいてい途中で止まります。作っても、誰も覚えていません。

まずは一行で足ります。

利用者さん、ご家族、職員の、名前と体のことは入れない。

これだけです。名前、住所、病気、お薬、けがのこと。ヒヤリハットの内容も、体の写真も入りません。

一行なら、朝礼で伝えられます。新しく入った職員にも、その場で言えます。守られるルールは、覚えていられるルールです。

事業所として決めることは、ほかにもあります。どのサービスを使うか。設定をどうするか。何かあったとき誰に言うか。ただ、それは一行が定着してからで間に合います。順番を逆にすると、たいてい何も始まりません。

怖いのは、分からないからです

何が起きるのかが分かってしまえば、避ける場所ははっきりします。そして避ける場所は、思っているより狭いです。

まずは、利用者さんの情報が出てこない仕事から試してみてください。