生成AIの活用リスク

最近の生成AIはますます進化し、便利になってきています。税務上の疑問をぶつければ無難な回答を示してくれますし、レポートや議事録の作成もできます。また、会計データをCSVやPDFファイルで読み込ませれば、もっともらしい財務分析もしてくれます。若い世代では、ChatGPTなどを躊躇なく使いこなし始めています。

　でも、生成AIを使うことのリスクに注意を払わなければなりません。よく知られているリスクはハルシネーションです。虚または誤解を招く情報を事実であるかのように応答することがあり、それを正しいと信じると大変な目に会うことになります。それより怖いリスクは情報漏洩です。生成AIは、私たちが入力する指示や疑問の内容を生成AI自身の学習対象とするだけでなく、それを保持・記録します。もし、入力データに個人情報や機密情報が含まれていたら、そのデータが他の利用者に対しても示される可能性があります。

　IT大手はそれなりの対策を講じていますが、私たちが安心して使うためにはオプトアウト設定をしておくことが大切です。ChatGPTを利用している場合、設定画面から「データコントロール」を選択し、「全ての人のためにモデルを改善する」のボタンをOFFにすることで、学習させない設定が可能で、個人情報や機密情報が不適切に利用されるリスクを軽減できます。