生成AIのハルシネーション対策〜士業業務における人的チェック体制の構築

株式会社ウェブタイガー 代表取締役
生成AI・ソーシャルメディア コンサルタント
田村 憲孝

---

近年、ChatGPTをはじめとする生成AIの進化により、士業の業務においても業務効率化や情報収集の手段として生成AIの活用が急速に広がっています。特に、会計入力チェックや領収書の読み取り、議事録作成、契約書レビュー、問い合わせ対応の下書き作成など、実務の中核を担う業務での活用事例が続々と登場しており「AIとの協働」が現実的な選択肢として定着しつつあります。

一方で、こうした便利さの裏に潜む重大なリスクとして「ハルシネーション」が問題となっています。

◆ハルシネーションとは何か？
ハルシネーションとは、生成AIが学習データに基づいて、実際には存在しない情報や誤った内容をあたかも正しいかのように生成する現象を指します。これは、特定の質問や曖昧な入力に対してAIが「もっともらしく」回答しようとする特性に起因します。

例えば、税法の条文を誤って引用したり、実際には存在しない裁判例や通達を「それらしく」提示することがあります。こうした誤情報がそのまま提出する書類などに取り入れられてしまった場合、誤った申告やアドバイスにつながり顧客との信頼関係を損なうリスクが生じます。場合によっては法的責任を問われるような事態にも発展しかねません。

◆人間によるチェック体制の必要性
生成AIの出力はあくまで「叩き台」として活用するものであり、最終的な判断や内容の妥当性確認は人間が担うべきです。特に士業のような、正確性・信頼性が重視される業務においては、AIの出力をそのまま使うのではなく、人の目による確認を組み合わせることが不可欠です。具体的なチェック体制の構築方法をご紹介します。

1. チェックリストの作成と運用
まず基本となるのは、生成AIが出力した情報を人間が確認するためのチェックリストを作成・運用することです。以下のような項目をあらかじめ明文化しておくと、確認作業の精度が安定しやすくなります。

• 出力された情報の出典や根拠が明示されているか
• 税法や通達などの公式な情報と一致しているか
• 過去の事例や判例と照らし合わせて矛盾がないか
• 書き方や論理展開が不自然ではないか
• 自分が持っている知識・経験と照らして納得できるか

チェック項目は、税理士・社労士・行政書士など、それぞれの士業の業務内容に合わせてカスタマイズしてください。業態に合ったチェックリストを活用することで、誤情報の業務への取り込みを防ぐことができます。

2. ダブルチェック体制の導入
生成AIの出力を業務に活用する際には、別の担当者も内容を確認する「ダブルチェック体制」の導入を強く推奨しています。AIから出力された内容を顧客へ渡す資料の一部として使用する場合は、人間の二重確認を必須ルールとして設定しましょう。

このひと手間を挟むことによって、誤情報の見落としを防ぎ、業務全体の正確性を高い水準で維持できます。

3. 教育・研修の実施
AIを扱うすべてのスタッフが、生成AIの特性やリスクについて一定の理解を持っていることが安全な活用につながります。そのため、定期的な教育・研修の実施も欠かせません。

例えば、実際に発生した誤情報の事例、チェック方法のワークショップなどを研修に取り入れることで、スタッフのAIリテラシー向上を図ることができます。

また、AIを使う担当者だけでなく、最終成果物をチェックする上司や管理職に対しても、AIの仕組みとリスクについての共通理解を持ってもらうことが必要です。

◆実務での対策事例
実際に私の関わっている顧客企業でも、生成AIのハルシネーション対策として以下のような取り組みが行われています。

• 生成AIの出力内容を専門家がレビューする体制の構築
• 重要な文書に関してはAIを「案出し」にとどめ、文章は人間が再構成

このような取り組みによって、生成AIの活用による業務効率化と情報の正確性の両立が、少しずつではありますが実現されつつあります。

◆生成AIを安全に活用するために
生成AIは、業務の効率化という視点で見ると大きな可能性を持っています。入力から出力までの時間短縮、情報収集の幅の拡大、思考補助ツールとしての活用など、その利便性は今後も拡大するでしょう。

一方で、ハルシネーションによる誤情報のリスクを理解せずに使えば、業務の信頼性を損なう可能性も十分にあります。

人間によるチェック体制を整備し「AI＋人間」のハイブリッドな業務体制を構築することが、これからの士業にとって極めて重要な生成AIとの関わり方になってくるのです。 生成AIの進化とともに、士業業務における活用方法やリスク対策についても継続的なインプットが必要です。最適な運用体制を構築し、時代に合った新しい業務スタイルを確立していきましょう。