エビデンスとかAIとかについての雑感
Twitterで興味深いというか、共感する呟きを発見したので、それに関連する私見を簡単に書いておこう。
もっとも、今から書くことの大部分は、既に別の匿名ブログやFacebookにも書いたことがあるから、ただの再整理。
さて、まず、その呟きを貼っておく。
元は連ツイで、改行等、多少編集を入れています。また、強調はブログ主。
日曜討論録画視聴なう
統計は本腰入れて議論したほうがいいよなぁ
「データに基づく政策立案」を中途半端に実装してしまうのがほんと危険で、本気でやるなら例えば「俺の地元に道路引いてくれ」は封印
中途半端にEvidence Basedを標榜すると、その道路のために数字作るという作業が発生しうる一方でその世界観であっても「こういう数値的な効果があるので俺の地元に道路引いてくれ」はOKというか、むしろ推奨されるかもしれない。
すると、その数字を誰が作るのか、という話になってきて、数字を提示できる力のある自治体・議員が力を持つ、という世界になりえる。キャパシティとか人材の問題とかがあるので、じゃあ行政で統一的にデータ作って、それ見て考えましょう、というのが一つの解だとしてそこに入ってくる政治的な力学をどう考えるかという論点があって結局は「資源配分は政治プロセス」という側面もあるので、究極的にはそこがポイントだと思います
つまり、統計重視とかEvidence Basedを徹底すればするほど、行政は単なるアルゴリズムというか、数字を入力したら出力を返す装置になり(陳情は意味なし)政治は、出力は操作できず、アルゴのパラメータを操作するプログラマーになる
そういう根幹の世界観・政治観を問うべき問題ではなかろうか
ただ、一口に「出力」と言ったものの、実際には、政策の中身はいろいろ論点があってそこを考える人がいないといけないので、いずれにせよ仕事からは逃れられなさそう
例えばBIは、そこも無くしていくアイデアの一つみたいな話も国会でやらないかなぁ
鋭い指摘。凄いなー、この人。議論したら盛り上がりそう。
このブログの他記事を読んでくれている人であればもうお馴染みかもしれないが、納得解／最適解、言い換えれば合意形成／専門知とでも言えるが、そういう２つの視点がともに必要だ、というのがブログ主の持論だ。
最近、エビデンスに基づく政治とか、AIによる最適化とかが「ブーム」であるが、これらはあくまで「最適解」や「専門知」の領域のテクノロジーであって、これらを過信することで、政治における納得解や合意形成という側面がないがしろにされている危惧がある。先ほどの連ツイも、同じ問題意識を共有しているものと言えるのではないだろうか。
エビデンスやAIなどは、「声の大きな人」を退場させてくれるとは限らない。
むしろ、扱いを間違えれば「声の大きな人」のスピーカーにすらなり得る。
何度も色んなところで書いてきたが、AI自身は「目的」の設定が出来ない。それを決められるのは人間や社会でしかない。また、AIはプロセスがブラックボックス化されてしまう、ということも、もっと認識されてしかるべきだ。AIは「説明責任」と原理的に相容れない部分がある。
だから、AI等の「技術的」な改善に併せ、意思決定のプロセスなどの「社会的」な改善も必要となる。
もっとも、AIは定型的な「判断」にも対応できるようなので、対応可能な領域は我々が思っているよりも大きいのかもしれないが。
（RPAではできない「判断」がボトルネックになっているが、それを推論型AIで突破せよ、という話↓）
RPAだけでは自動化は進まない--現場の意思決定の自動化こそが業務改善成功の鍵 - ZDNet Japan
余談
ちょっと話は違うが、以前AI研修で、「AIで完璧を目指すのではなく、人力と組み合わせて対応するべき」という趣旨の話を聞いたことがあって、非常に印象的だった。そのときに紹介してもらったのが、このパン屋の事例。備忘として書き留めておく。
「すごすぎる」――地方のパン屋が“AIレジ”で超絶進化 足かけ10年、たった20人の開発会社の苦労の物語 (3/5) - ITmedia NEWS
「何回かに1回、2つのパンがくっついて認識されてしまうことがあって……。そのときはお店で再撮影して対応してもらっていたが、お客さんからすれば、そのパンは自分が口にするもの。スキャナで読み取れないからといって店員さんに何度も触られたら、いい気分はしないはず。『俺が食べるパンどんだけ触るんや』と」（原さん）
とはいえ、お客さんは機械のために、わざわざパンを3センチずつ離して並べてくれたりはしない。「いくら研究を重ねてパン1つ1つの認識精度を高めても、何回に1回かは2つのパンがくっついて認識されてしまうのを避けられなかった」。
技術者たちは、いかに精度を高めて100％に近付けるかを考えていた。「しかしあるとき、うちの社長が開き直ったんです」と原さんは振り返る。「間違えたらお店の人がデータを修正すればいいじゃないか、と」。
人がデータを直す。つまり、スキャナに載せたパンを動かして再撮影するのではなく、誤認識してしまったパンのデータを、店員がPOS端末のタッチパネル上で切り離せばいいということだ。「今どきの若い店員さんはスマートフォンのタッチ操作にも慣れているし、それでいいじゃないかと」。逆転の発想だった。
（中略）
近年、完全自動運転車や“無人コンビニ”など、人の仕事をAIによってほぼ100％代替しようとする取り組みに注目が集まっている。だが少なくとも画像認識の分野では「しばらく100％の認識精度は難しいんじゃないかと思う。人間介在型でいいじゃないか、というのがわれわれの考え」という。 原さんはむしろ、高度な機械との共存によって、人がいま以上に活躍できる未来もあるのではないかと考えている。
「例えば、お店にスタッフが足りなければ、どこか他の地域に住んでいる人がインターネット越しにカウンターに立ち、機械の足りない部分を補いながらお客さんと目を合わせて受け答えしたり……。そんな時代も来るかもしれない」（原さん）
AIにしろRTAにしろ、業務を「代替」するものとして理解されているフシがあるが、そうではなくあくまで「補完」するものとして捉えた方が生産的、ということだ。
逆に言えば、「代替」はできなくても「補完」ができればメリットがある、という考え方もできる。
「△△の部分は出来ないよね」と技術が対処できないごく一部のイレギュラーの存在を強調して「ムリだよね」と結論付けたがる人には、このパン屋の事例を教えてあげるといいと思う。
例えば、自動翻訳は、固有名詞を苦手にしているという。例えば「伊丹（イタミ）空港」をpain（痛み） airport と訳してしまう例があったらしい。こういう問題も、翻訳を使う側が「固有名詞は自動翻訳は苦手」だと理解して、必要な固有名詞を個別に共有しておくなどの工夫ができれば、多少は回避が可能だろう。
