足立区の議会答弁AI、「自信がなければ答えない」ガードを実装
技術関連ITmedia AI+
自治体DXGeminiRAGチャットボット日本
東京都足立区が、富士通Japanと議会答弁AIの実証実験を進めている。質問の所管振り分けと答弁案作成を2つのエージェントが担い、RAGの参照資料を最新のものに絞ったうえで「自信がなければ分かりませんと答える」ガードをかけた。庁内ではGemini Notebook製のチャットbotが40件稼働中。
何が発表されたか
- 東京都足立区は2025年にグーグル・クラウド・ジャパンと包括連携協定を結び、複数のAI活用を進めている。
- 議会答弁AIは富士通Japanとの実証実験で、「担当所管振り分けエージェント」と「答弁案作成エージェント」の2つが、質問の振り分けと答弁案の作成を担う。
- ハルシネーション対策として、担当者は「自信がなければ『分かりません』と答えるよう、ガードをかけています」と説明。RAGで参照する資料を可能な限り最新のものに限定し、回答方法にも制約をかけている。
- AIの役割は「たたき台の作成まで」と明確に区切り、職員が確認したうえで区民に出す運用としている。
- 区民の声への対応では、個人情報を除いた意見をGemini Enterpriseに渡し、要約・担当部署の振り分け・回答案作成・過去回答との齟齬チェックを行う。
- 庁内では「Gemini Notebook」で作成した40のチャットbotが稼働。バイブコーディング研修では、90分後に参加者が自らアプリを作れるようになり、庁内公開されたアプリも複数あるという。
実務への影響
- 「自信がなければ答えない」設計は、クライアント向けのチャットボット案件でそのまま流用できる考え方。回答精度を上げる方向だけでなく、答えない条件を設計する方向にも工数を割く根拠になる。
- RAGの参照先を最新資料に絞る運用は、WordPressサイトにAIチャットを載せる案件でも効く。過去記事を無制限に食わせるより、更新日でフィルタをかけたほうが事故が減る。
- 「AIはたたき台まで、最終確認は人」という線引きを仕様書に明記しておくと、誤回答が出たときの責任範囲の話が揉めにくい。自治体案件に限らず有効。
- 自治体のAI導入が包括連携協定とセットで進む構図は、地域のクライアントへの提案材料にもなる。先行事例として名前を出せる。
補足
- 本記事はITmedia AI+の報道にもとづく。足立区および富士通Japanによる公式発表は未確認。
