AIのリスク ―AIは自治体職員の敵か味方か

誰も教えてくれなかった!公務員の仕事術トップページへ

※この記事は、「地方行政」(時事通信社)での連載「自治体広報の落とし穴」の第10回「AIのリスク ―AIは自治体職員の敵か味方か」(第10889号/2019年5月23日発行)をHTML化し掲載しています。

AI活用の現状

ブロック崩しゲームに興じていた3歳児が、その3年後に世界的な囲碁のプロ棋士を破り、さらに2年後には医師と同水準で目の疾患を検出する――これは、「ディープラーニング活用の教科書」(編集:日経クロストレンド/発行:日経BP社)の冒頭の一節だ。AI(人工知能)を天才児に例えはしているものの、すべて現実の話だ。今やAIが社会のいたるところで活躍している。

同書によれば(以下、同書の目次から抜粋)、〔Step1人の「眼」となり単純作業から解放するAI〕として、「画像認識で自動精算を実現する無人レジ」、「SNSの投稿画像を解析して、消費シーンを把握」、「養殖マグロの数の把握」などが挙げられている。〔Step2「五感」を担い行動予測や異常検知を実現するAI〕としては、「校閲AIが驚異的な効果 検出率は人を超え数秒で完了」、「新人ドライバーが中堅に勝った! AIタクシーの威力」、「バナー広告クリック率の高低予測精度 専門家の53%に対しAIは70%」などといった、すでにAIが人を超えた事例も挙げられている。〔Step3現実社会に柔軟に対応する「ロボット」「自動運転」〕の事例としては、ロボットによるバラ積み部品の取り出しや、難題である「パスタをつかむ」ことへの挑戦、油圧ショベルでの自動掘削などがある。

自治体でのAI活用事例

AIマッシュくんとのやりとりの画面化キャプチャー
図1  AIを活用した
問い合わせへの
自動応答サービス
(福島県会津若松市)

AIを活用しているのは、企業だけではない。自治体での導入・活用事例も決して少なくない。総務省によれば(※1)、AIを活用した問い合わせへの自動応答サービスとして、福島県会津若松市の事例が挙げられている。具体的な取り組み内容は、「休日診療医療機関案内」、除雪車の位置情報を可視化する「除雪車ナビ」、ごみの出し方や収集日などを案内する「ごみ出しの疑問教えて」、住民票や戸籍などの証明書の手続き方法を案内する「各種証明書の案内」をAIが対話形式で自動応答するものだ(図1)。成果としては、市民アンケートの結果、80%以上の人から好意的な反応が得られたという。また、職員は対面の対応が必要な人に時間をかけることが可能になることや、問い合わせ内容などのデータを分析することで行政サービスに反映できることが挙げられている。

約80の大使館が立地する東京都港区では、多言語AIチャットサービスやホームページ(以下、HP)AI翻訳システムを導入し、サービス向上を図る。また、AIによる議事録作成やAI-OCRで紙のデータを電子データ化するなど業務を効率化し、削減された時間を区民サービス向上のための業務に充てるという。実際、保育所AIマッチングシステムの導入により、職員約15人が3日間程度をかけて行っていた選考業務が、AIにより数分で完了したそうだ。

年間約100万人もの観光客が訪れる福井県永平寺町では、観光案内多言語AIコンシェルジュを設置した。これは、観光案内所に設置されたタッチパネル式サイネージ(表示装置)で質問をすると、日・英・中・韓など多言語で永平寺町や隣接市の観光案内をするものだ。これにより、人手不足の解消と経費節減につながっているという。
このほか、道路管理、農作業の最適化、特定検診の受診推奨、自立支援の促進、保育所利用の調整、国民健康保険のレセプト点検など、様々な分野でのAI活用が報告されている。詳細は、総務省の資料(※1)をご覧いただきたい。

自動応答AIで職員は不要になる?

HPや無料通信アプリ「LINE(ライン)」での自動応答サービスのAIは、「ルールベース型」と呼ばれるものが多いようだ。「ルールベース」とは、事前に利用者からの質問とそれに対する答えを用意し、AIに教えておくようなイメージだ。つまり、AIが利用者からの問い合わせを理解し、判断しているのではなく、事前に用意されたキーワードに合致する場合は、それに対応する回答文章または該当する情報が掲載されているページへのリンクを表示しているだけだ。逆に言えば、事前に適切なルールが与えられていなければ、「わかりません」といった回答しか返ってこない。したがって、職員の側が、適切な問い合わせ内容と回答を用意できるかどうかが重要になる。適切な回答ができなかったケースやキーワードを追加していくことで、回答の精度は上がっていくが、これも職員の力が必要だ。

例えば、自治体Aの自動応答AIは、回答できる内容が少なかった。「AIがカバーしている分野」として、「広報」とあったため、「広報 」と入力してみたが、回答できなかった。試しに、「広報 」も入力してみたが、やはり回答できなかった。「広報とうざい」など固有名詞を知らなければ調べられないようでは、実用に耐えない。窓口や電話で利用者が使う言葉や、サイト内検索で使われるキーワードをあらかじめ盛り込むなど、職員の側での準備が重要だ。

それよりも、自治体Bの自動応答AIのほうが使いやすかったが、逆に、AIを使わずにサイト内を探してみたところ、とてもわかりづらく、なかなか情報が見つけられなかった。また、この自動応答AIは、おそらく、Q&Aを使って情報をセットするのであろう。そのせいか、基本情報がサイトの中にはなくて、AIが説明するというケースもあった。例えば、印鑑証明の申請方法をたずねたところ、その情報が書かれているページが存在せず、「証明書のコンビニ交付サービス」のページだけが存在していたという状態だ。自治体の持つ情報量は膨大で、利用者が自力で探し出すことは困難だとしても、情報自体が存在しなければ、AIを使っても利便性はあまり変わらない。必要な情報は何か、利用者の立場に立って考えることが職員に求められる。

自治体Cの自動応答AIは、何を聞いても、ひたすら用意されたページへのリンクを紹介するものだった。サイト内検索をして大量の検索結果が並んでいるより便利かもしれないが、一方で、検索結果を見て適切なキーワードがわかることもあるため、一概にどちらが良いとは言い切れない。また、AIに紹介されたリンク先ページに書かれている文章がわかりにくければ、利用者は情報を得られず、役所に電話などで問い合わせるしかない。結局のところ、職員の文章力が重要になる。

また、ある自治体では、自動翻訳の精度が低いと嘆いていた。これも港区のようにAI翻訳を導入すれば解決するのだろうか。筆者はそうは考えていない。なぜなら、職員が書いた日本語の文章がわかりにくければ、AIがどう頑張っても、理解しやすい文章にはならないからだ。

AIは言葉の意味を理解しない。そして、人間界の常識を知らない。そのため、言語の理解と総合的な判断が苦手だ。この部分を担うのは職員なのだ。

AI VS 教科書が読めない子どもたち

スマートホンに向かって「Hey Siri! イタリア料理のレストラン!」と言うと、いくつかのイタリア料理のお店が表示される(※2)。しかし、「イタリア料理以外の レストラン!」と言っても、やはり、同じイタリア料理のお店が表示される。今後、「以外の」や「じゃない」といった語彙を学習させれば、正しい答えを返せるようになるかもしれないが、今の時点(2019年5月9日現在)では期待した答えが返ってこない。

これと似たような傾向が、人間の子どもたちにも見られるようだ。少し前に話題になった、『AI vs 教科書が読めない子どもたち』(新井紀子著/東洋経済新報社)によれば、子どもたちの読解力は危機的状況にあるという。以下に、全国読解力調査の例をご紹介しよう。

「Alexは男性にも女性にも使われる名前で、女性の名Alexandraの愛称であるが、男性の名Alexanderの愛称でもある」 この文を読んで次の穴埋めをさせる。 Alexandraの愛称は(     )である。 (1)Alex (2)Alexander (3)男性 (4)女性
図2 全国読解力調査の問題例

図2をご覧いただきたい。この問題の正答率は、全国の中学生235人のうち38%。半分以下だ。正解は(1)だが、(4)を選んだ子どものほうが39%と少し多かったようだ。なぜ(4)を選んでしまうのかというと、「愛称」という言葉の意味がわからなかったからではないかと同書では推測している。今どきの子どもは、「わからない言葉は読み飛ばす」という習性があるそうなので、

「Alexandraの愛称は (     )である」

と「の愛称」がないものとして、( )に当てはまる言葉を捜すと、確かに、(4)の「女性」がしっくりくる――これでは、先ほどのSiriと同じレベルの読解力だ。

本書によれば、AIは、「文の意味を理解している」のではなく、数式に従って答えを導き出しているに過ぎないため、完全に文の意味を理解するのは不可能であろうとのことである。しかし、人間が「自分のデータベースにない言葉を読み飛ばす」ことを続けていると、文章理解においてもAIに負けてしまう。

AIは東大に受かるか

同書の著者、新井氏は、2011年に「ロボットは東大に入れるか」と名付けたAIプロジェクトを始めた。これは「東ロボくん」の愛称でメディアに取り上げられ、多くの人に知られることとなった。しかし、結論から言ってしまうと、東大に合格することは不可能であるとしてプロジェクトは終了した。
同書によれば、AIは、「係り受け」(修飾語と被修飾語の関係)と「照応」(「この」「その」などの、いわゆる「コソアド言葉」が何を指すか)を判断するのは得意だ。現代の自然言語処理の技術をもってすれば、機械的に判断できるからであろう。しかし、意味の理解を必要とする「同義文判定」は苦手で、「推論」はおそらく不可能だとか。「同義文判定」と「推論」の例は以下の通りだ。

■「同義文判定」の例

「同義文判定」とは、例えば、

(1)幕府は、1639年、ポルトガル人を追放し、大名には沿岸の警備を命じた
(2)1639年、ポルトガル人は追放され、幕府は大名から沿岸の警備を命じられた

という2つの文が表す内容が、同じかどうかを問うものである。

これについては、ネット上で、「幕府が大名から命じられるわけないだろ!」など、「そもそも問題文がおかしい」という指摘もかなりあったようだ。確かに、常識的に考えて、問題文がおかしいのだが、それは常識のないAIにはわからない。逆に人間は、「違う」と気づきやすいはずだ。しかし、調査結果は、中学生の正答率が57%、高校生が71%。同じか異なるか、二者択一問題なので、サイコロを振って適当に答えても正答確率は50%程度のはず。つまり、「中学生の正答率はサイコロ並み」と著者は嘆いている。

■「推論」の例

(3)エベレストは世界で最も高い山である
(4)エルブルス山はエベレストより低い

(3)を読んで、(4)が正しいかどうかを問うのが「推論」の問題だ。

「エベレストが一番高いなら、他の山は全部、エベレストよりも低いんだな」と、書かれていることを元に、書かれていないことも推測できれば答えられるわけだ。著者によれば、これは、常識のないAIにとって、とても難しいことで、おそらく永遠に不可能だとのこと。

では、人間が圧勝かというと、そうではなく、このような「推論」の問題の正答率は、中学3年生で64.6%、高校2年生で68.5%。ちなみに、このような推測ができないと、「エルブルス山はエベレストより低い」、「富士山はエベレストより低い」、「高尾山はエベレストより低い」……とあらゆる例を覚えなくてはならなくなる。年代や地名などの丸暗記勝負になれば、人間はAIに勝てない。

シンギュラリティは到来する?

では、人間はAIに負けてしまうのだろうか。前述の書籍の帯には、次のように書かれている。

AIが神になる?
……なりません!
AIが人類を滅ぼす?
……滅ぼしません!
シンギュラリティが到来する?
……到来しません!

「シンギュラリティ」とは、AIが人の知能を超えることで、2045年に到来するとの予測もある。専門家の中でも意見が分かれているが、到来すると予測する根拠は、近年、脚光を浴びている「ディープラーニング」(深層学習)にあるようだ。

「ディープラーニング」とは、<脳の仕組みを模倣して作られた、機械学習の一種であり、AIを実現する手法の一つ>(※3)である。「機械学習」とは、<あるデータの中から一定の規則を発見し、その規則に基づいて未知のデータに対する推測・予測等を実現する学習手法の一つである>(※4)。前述の千葉市のAIによる道路管理などがこれにあたる。同市は、車載カメラで撮影した画像や「ちばレポ」(※5)で投稿された画像と、市の専門職による損傷判定結果を「教師データ」(導き出したい結果、正解)とする機械学習により、画像から路面の損傷程度を自動分類する研究を実施した。これは、東京大学生産技術研究所・関本研究室との共同研究による実証実験で、90%を超える精度で路面損傷の程度を判定できる成果を得たという(※6)。

このように、「教師データ」が用意されている機械学習は、「教師あり学習」と呼ばれ、あくまで人間が教師データを用意する必要がある。しかし、「教師なし学習」と呼ばれ、人間が正解を用意せず、結果も予測できない状態で、AIが結果を導き出す手法もある。これが特にディープラーニングが注目される原因となっているようだ。

例えば、<2016年、グーグルが買収した英ディープマインド社が開発した囲碁AI「アルファ碁」が、同年3月に韓国のイ・セドル九段との5局勝負で圧勝した>。そして、この「アルファ碁」も、その次世代囲碁AI「アルファ碁ゼロ」に100戦全敗した。この「アルファ碁ゼロ」は、囲碁の達人の指し手から学んだ「アルファ碁」とは異なり、独学で学んだ。つまり、<囲碁の基本的なルールだけ教えて、自己対戦を繰り返すことで実力を上げ>たのだという。「アルファ碁」に100戦全勝したのは、実験開始の3日後だ。このような事例を目の当たりにし、「やはりシンギュラリティは到来するのではないか」と考える人も少なくないのではないだろうか。

AI VS 自治体職員?

実際、AIアナウンサー「荒木ゆい」(株式会社 Spectee)は、機械音声とは思えない、アナウンサー並みに滑らかに話し、適切な抑揚をつけたり「間」をとったりもするという。東京の「にほんばし」と大阪の「にっぱんばし」(日本橋)、「じっぷん」と「じゅうぶん」(十分)、「からい」と「つらい」(辛い)などを、前後の文脈から判断して正確に読み分ける。ドラマ字幕の自動翻訳をするAI(楽天株式会社の子会社VIKI)は、人間のプロの翻訳家の精度を超えてしまった(※7)。人間の表情や声色などから感情を理解してコミュニケーションをとるAI「ユニボ」(ユニロボット株式会社)も登場した。

これらのAIに、どうしたら人間は勝てるのだろうか。「AI時代に求められる人材」の著者で、多摩大学大学院名誉教授の田坂広志氏によれば、「人間だけが発揮できる力」として、(1) クリエイティビティ―(創造力)(2)ホスピタリティー(接客力)(3)マネジメント(管理力)の3つを挙げている(※8)。

確かに、自治体職員に関しても同じことが言えるだろう。決められたルール通りに業務をこなせば良いのなら、ルールベースで構築されたAIや、教師ありデータで機械学習をしたAIで事足りる。しかしAI、つまり機械は、相手の気持ちや立場をおもんばかることができない。機械にはできない血の通った接客ができるようなコミュニケーション力を職員が持つことが、より重要になってくるだろう。さらに、時代の変化に柔軟に対応し、住民にとって必要なサービスを創造することが必要になってくる。そのための一手段として、AIを活用するのであって、職員はマネジメントをする立場であるべきだ。「AI VS(バーサス) 自治体職員」ではなく、「AI ×(コラボ) 自治体職員」なのだ。創造性の低い仕事をAIが引き受け、自治体職員は自らの能力を最大限に発揮することができるようになる。

AIが意志や感情を持つようになるかどうかも、専門家の中でも意見が分かれるところらしい。もし、AIが住民のことを心から思い、住民のためにならないことは排除するべきだという意志や感情を持ったとしたら、それに反する自治体職員は、排除すべき存在とみなされるであろう。SFアクション映画のように、AIが人間に攻撃を仕掛けてくるかもしれない。しかし自治体職員が、「住民のため」、「地域のため」という目的を見失わず、住民の役に立ちたい、地域の人に喜んでもらいたいという思いを持ち続ける限り、AIは敵とはならず、強力な協力者として、自治体職員をサポートし続けるであろう。AIを活用して、いかに事務効率を、生産性を、創造性を高めるか。前例踏襲ではなく前人未踏の世界を楽しもう。

※1
地方自治体における業務プロセス・システムの標準化及びAI・ロボティクスの活用に関する研究会(第9回)「参考資料1 地方自治体におけるAI・ロボティクスの活用事例」より

※2
「Hey Siri(ヘイ シリ)」と iPhone/iPad に話しかけるだけで、メッセージ送信・会議設定・電話をかけるなど、やりたいことを手伝ってくれるアシスタント機能(Softbankのサイトより抜粋)

※3
「ディープラーニング活用の教科書」(編集:日経クロストレンド/発行:日経BP社)より

※4
経済産業省「AI・データの利用に関する契約ガイドライン」(平成30年6月)より

※5
「ちばレポ」とは、千葉市内で起きている様々な課題を、 ICT(情報通信技術)を使って、市民がレポートすることで、市民と市役所(行政)が、それらの課題を共有し、合理的、効率的に解決することを目指す仕組みである(「ちば市民協働レポート<ちばレポ>のHPより抜粋)

※6
平成29年1月19日記者発表資料「現場の知、市民の知を有機的に組み込んだ次世代型市民協働プラットフォームの開発」より抜粋

※7
日本語版は作成されていない。

※8
2019年4月25日放送「クローズアップ現代+(プラス) AIに負けない人材を育成せよ」(NHK)より

 

 

 

講演・研修のご相談・ご依頼はこちらからお願いします

Copyright(c) 2012~2020 All Rights Reserved.