目次
生成AIを安全に使用する：公務における信頼と責任
私たちはこれまで、生成AIが持つ無限の可能性を見てきました。
しかし、その強力な力を最大限に引き出し、市民の信頼を損なわないためには、「安全な使用」が何よりも重要になります。公務員として生成AIを利用する際、私たちは単にツールの使い方を学ぶだけでなく、情報セキュリティ、プライバシー保護、倫理的配慮といった多岐にわたる側面を深く理解し、責任ある行動が求められます。
1. 情報セキュリティ：機密情報と個人情報の厳格な管理
公務で取り扱う情報は、市民のプライバシーに関わる個人情報や、行政運営の根幹をなす機密情報が多数含まれています。これらの情報を保護することは、公務員にとって最も重要な責務の一つです。生成AIを利用する際には、以下の点に特に注意してください。
- 入力情報の厳格な選別
- 絶対に生成AIに入力してはいけない情報: 市民の氏名、住所、電話番号、マイナンバー、口座情報などの個人が特定できる情報。未公開の政策情報、入札情報、人事情報、未公開の統計データなどの機密性の高い行政情報。著作権で保護されたコンテンツや、他者の知的財産権を侵害する可能性のある情報。これらは、たとえ一部であっても、絶対に入力しないでください。
- 入力前に匿名化・仮名化を徹底: 調査データやアンケート結果など、個人情報が含まれる可能性のあるデータを扱う場合は、入力する前に氏名や特定の識別子を削除し、個人が特定できない形式に加工してください。
- 公開情報に限定する意識: 原則として、既に一般公開されている情報（市のウェブサイト、公開されている条例、公表された統計データなど）の範囲内でAIを活用する意識を持つことが重要です。
- 使用するツールの選定基準の遵守
- 前章で詳しく解説した通り、入力データがAIの学習に利用されないことを明示的に保証している、政府機関や自治体向けに提供されるセキュアなAIサービス（例：Microsoft Azure OpenAI Service、Google Cloud Vertex AIなど）を優先的に使用してください。
- 無料で手軽に利用できる一般公開のコンシューマー向けAIツール（例：無料版のChatGPT、Geminiなど）は、情報漏洩のリスクが非常に高いため、公務で機密情報や個人情報を取り扱う際には絶対に使用しないでください。これらのツールは、個人の責任において、機密性のない公開情報の検索や一般的なアイデア出しに限定して利用すべきです。
- 組織のセキュリティポリシーの遵守
- 所属する自治体や省庁が定めている「情報セキュリティポリシー」や「AI利用に関するガイドライン」を必ず確認し、それに厳格に従ってください。不明な点があれば、情報システム部門や担当部署に速やかに確認しましょう。
- AIツールの利用に関するログの管理や、アクセス制限についても、組織の指示に従ってください。
2. 生成結果の確認と説明責任：AIはあくまで「アシスタント」
生成AIが生成したコンテンツは、あくまで「たたき台」であり、人間による最終的な確認と判断が不可欠です。
AIの生成物を鵜呑みにすることは、誤情報の拡散や不適切な行政サービスの提供につながり、市民からの信頼を失う重大なリスクとなります。
- ファクトチェックの徹底
- AIが生成した文章に含まれる数値、固有名詞、日付、場所、法律の条文、出典、事実関係などは、必ず信頼できる公的な情報源（公式ウェブサイト、公文書、法令集など）と照らし合わせて、正確性を確認してください。AIは「ハルシネーション（幻覚）」と呼ばれる現象で、もっともらしいが事実ではない情報を生成する可能性があります。
- 特に市民に提供する情報（広報文、FAQ、案内文など）や、意思決定の根拠となる情報については、二重、三重のチェック体制を敷くことが必要です。
- 倫理的・公平性の視点
- 生成されたコンテンツが、特定の個人や集団に対して差別的な表現を含んでいないか、あるいは不公平な情報になっていないかを厳しくチェックしてください。AIは学習データの偏りから、意図せずバイアスを含んだ情報を生成する可能性があります。
- 表現が中立的で、市民全体に公平に理解される言葉遣いになっているかを確認しましょう。
- 最終的な責任は人間に帰属する
- AIはあくまでツールであり、その利用によって生じた結果に対する最終的な責任は、そのAIを利用し、その結果を承認した公務員（人間）にあります。AIが生成した情報をそのまま使用して問題が発生した場合でも、AIが責任を取ることはできません。
- 市民や議会に対して、AIの生成物を元にした行政サービスや決定について説明を求められた場合、その根拠を明確に説明できるように準備しておく必要があります。AIが生成したという事実だけでなく、どのようなプロセスを経てその情報が活用されたのかを説明できるよう、透明性を保ちましょう。
3. 知的財産権と著作権：適切な利用と配慮
生成AIは、既存のコンテンツを学習して新たなものを生み出しますが、その過程で著作権などの知的財産権が関わる場合があります。
- 著作権侵害のリスク
- AIが既存の著作物と酷似したコンテンツを生成した場合、著作権侵害となる可能性があります。特に、AIに特定の著作物の生成を明示的に指示したり、著作権が保護された画像をAIに入力して加工したりする際には注意が必要です。
- 公務で生成AIを利用して作成した広報物や出版物については、著作権法に抵触しないか、法務部門や担当部署に確認することが望ましいです。
- 利用規約の確認
- 各生成AIツールの利用規約やライセンスを必ず確認し、生成されたコンテンツの商用利用や公開利用が許可されているかを確認してください。特に画像や音楽を生成するツールでは、利用範囲が厳しく定められている場合があります。
- 出典の明記（推奨）
- AIによって生成されたコンテンツであることを明記するガイドラインが設けられている場合もあります。透明性の観点から、可能であれば「本資料の一部は生成AIによって作成されました」といった形でAIの利用を出典として明記することも検討してください。
4. 職員の倫理意識と継続的な学習
生成AIを安全に利用するための最も重要な要素は、利用する公務員一人ひとりの高い倫理意識と、継続的な学習意欲です。
- 「責任あるAI利用」の意識
- AIは道具であり、使い方次第で良くも悪くもなります。公務員として、市民の利益を最大化し、行政の信頼を守るという使命に基づき、常に「責任あるAI利用」を意識してください。
- 便利だからといって、安易にAIに依存せず、人間としての判断力や批判的思考力を常に働かせましょう。
- 継続的な情報収集と学習
- 生成AI技術は日々進化しており、関連する法規制やガイドラインも常に更新される可能性があります。最新の情報に常にアンテナを張り、必要な知識を継続的に学習する姿勢が不可欠です。
- 組織内外の研修会や情報共有の場に積極的に参加し、他の職員と知識や経験を共有することも重要です。
- 組織内での情報共有と協力
- AI活用における成功事例だけでなく、失敗事例や課題についても組織内で積極的に共有し、リスクを未然に防ぐための知見を蓄積していくことが、安全な利用の基盤となります。
- 情報システム部門、法務部門、そして各業務部門が連携し、全庁的な視点でAIの安全な利用を推進していく体制を構築しましょう。
生成AIは、公務に計り知れない恩恵をもたらす可能性を秘めたツールです。しかし、その力を最大限に引き出しつつ、同時に市民の信頼と行政の健全性を守るためには、これらの「安全な使用」に関する原則を深く理解し、日々の業務の中で実践していくことが不可欠です。
【資料】生成AIのセキュリティ 10の鉄壁セキュリティ対策
生成AIのセキュリティ 10の鉄壁セキュリティ対策を資料としてまとめていますので、参照ください。