HBA × 音更町 × HOTnet：ローカルLLM搭載ロボットを利用した自治体オペレーションの効率化実験

このプロジェクトは、前年度までに行った実験を発展させて取り組んだ、私たちHOTnet主導の実証実験です。

今回は、より広いスペースで、実際の業務レベルで利用可能かどうかという実証を行うべく、引き続きHBAさんにご協力いただきつつ、実験フィールドとして音更町役場を提供いただいたというわけです。

実フィールドでの展開を考えた時に、真っ先に浮かんだのが担当の山田さんの顔だったからです（笑）
山田さんはこういった新しい取り組みに対して非常に柔軟な考えをお持ちで、必ず話を聞いてくれるんです。

音更町役場のみなさんも非常に協力的で、実験の期間中待機するための部屋を用意してくださったり、とてもスムーズに実験に取り組むことができました。

実際の実験内容はこうです。まず音更町の役場に来庁された方が、入口を入ってすぐの場所でロボットに出迎えられます。
その際に、どこに行きたいかや何をしたいかを伝えると、ロボットに搭載されたローカルLLMが役場内のホームページ情報に基づいて、必要な窓口へと先導して案内するというものです。
実際にどの程度正確に案内が出来るのか、職員の省人化に寄与できるのかといった部分を中心に、5日間に渡ってデータを取っていくことにしました。

私はAIの部分、ローカルLLMの調整やプログラミングなど、ソフトウェア部分を担当しました。
そもそも、なぜ通信回線やデータセンターの提供などを主なサービスとしている弊社が、ロボットやローカルLLMの実証実験を行っているのかというと、そこに我々にしかできない強みがあるからなんです。
一般的に現在のAIには、オープンなクラウド型と、クローズドなローカルLLMの二種類が存在します。前者はChatGPTやGeminiとして知られる、インターネット上の膨大な情報を学習させた、汎用的なAIです。
変わって後者のローカルLLMとは、外部には出したくない情報、例えば企業や自治体が持っている個人情報や、門外不出のノウハウなどを、外部から遮断したサーバの中でAIに学習させ、限定的な範囲で利用するAIです。

その点、ローカルLLMであれば、生成AIへの質問やその回答内容が外部に漏れることはありませんので、自由に利用することが出来るというわけです。とはいえ、ローカルLLMには明確なデメリットがあります。それは場所に縛られるということです。

門脇さん、今回のプロジェクト中は一回も音更町に来なかったよね？（笑）

これが我々の強みです。弊社は、これまで長い年月を掛けて構築した北海道内の独自の回線網を持っています。その回線網を利用して、我々のデータセンターと音更町を秘匿回線で繋ぐことによって、専門家である門脇がいる札幌のデータセンターに構築した、音更町専用のローカルLLMを、音更町役場という遠隔地で利用することができたわけです。

町民の皆さんの反応はいかがでしたか？

まずはレスポンスの問題ですね。通常AIが思考するのには時間がかかります。
今回のルート案内は、当初10秒ほどの思考時間がかかっていました。

そうですね。実際に現場で見ていても、そう感じました。

あとは、AIの精度の問題もありました。自分の希望する場所にたどり着くことが出来なかった方がいたんです。

他にも、「町長室に行きたい」とズバリと言われてしまうと、ホームページ内に「町長室」という言葉がほとんど出てこないため、深く考えすぎてしまい案内が出来なかったと言うこともありました。

でも、今回一番の課題は、なかなか来庁者が利用してくれなかったということですね。

やはり、窓口のカウンターに直接話しかけることができる職員がいる状況で、敢えてロボットに話しかけるというのはハードルが高かったですね。特に日本人は、公の場所で声を出すということに抵抗を感じる人が多いと思うので、難しかったんだと思います。

そうですね。私たちが求めているのは、役場に来た方たちへの対応の最適化であって、ロボットやAIを使うこと自体ではありません。
笑顔の職員がいて、お客さまがそちらに来てくれるなら、今すぐにロボットが必要なわけではないんです。もちろん、人手が不足している自治体であれば、重宝される場所もあると思います。

例えば、職員と来庁者の会話をAIが横で聞いていて、来庁者を案内するための情報をどんどん目の前のモニターにサジェストしていくような使い方はあり得ると思います。
そうすれば最終のジャッジは人間が行うので、精度の問題もクリアできますし、十分な知識を持たずに配置された場合でも、適切な案内ができるようになります。AIの助けで職員の成長曲線も早められると嬉しいですね。

私たちも、今回の実証実験によって、さまざまなフィードバックデータを得ることが出来ました。
ロボットには様々なカメラやセンサーが取り付けられているので、話しかけた人と話しかけなかった人のデータとか、点字ブロックなどの地面に凹凸のある場所での走行データなど、よりお客さまに寄り添ったロボットの挙動を研究することができそうです。

また更なるご提案、楽しみにしています。