自分のあらゆるデータが捕捉され、社会が「最適化」される世界は、2020年代にくっきりと目の前に現れるだろう。そして、それが起こることに対する選択肢は、あまりないだろう。都市から脱出して、ネットからも離れて、どこかの村に籠らない限りは。意味のある問いは「どのように」その世界が出来上がるかだ。
二つの極で「いま」起こっていること
このThe Economistの映像がよくまとまっている。データ社会の陰陽両面が描かれているが、7割が暗黒面だ。不安先行というのが「いま」なのだろう。
中国では「社会的格付けが低い」と判断され、交通や宿泊、不動産の利用などで制約を受けている人たちが、現時点でも1千万人単位で存在すると言われている。
2020年までに、全国民の「社会的格付け」を導入する計画を発表している。評価は、オンラインでの購買や情報検索だけでなく、現実世界での行動（例えば信号を守っているか）もデータとして日々蓄積・評価される。
このシステムの基盤となっているのは、中国の巨大ICT企業アリババが作り上げた「芝麻信用（Sesame Credit）」と呼ばれる個人信用評価システムだ。
アリババの創業者ジャック・マーの去就がニュースになっているが、このシステムは、近い将来政府に吸収されるのではないだろうか。ちなみに、日本では、ヤフー*1やメルカリが信用スコアシステムの構築を進めている。
「あなたは24時間以内に犯罪を起こす可能性がある」と、警察からアプローチを受けることは、米国で既に行われている。
ロサンジェルス警察がスタートアップ企業PredPolと開発したPredictable Policing（予測可能警察）システムで、匿名化された犯罪情報から、500フィート四方単位で、強盗や車上荒らしを予測し、それに合わせて警察が動く。
米国では、このほかにも法廷で裁判官が利用している、再犯可能性について予測するCOMPASというシステムもある。
これらについては、「人種差別につながる」という抗議の声があがっている。
もちろん、暗黒面ばかりではない。PredPolの効果*2については、米国と英国で実証されている。データ利用の自由度が高い中国では、より広範囲で効果的なシステムが現れるだろう。
単純な「公平」はない
「公平」を考える前提のひとつ、アルゴリズムの透明性は、技術とビジネスの観点で簡単ではない。機械学習については、かなりの部分について、なぜある判断に至ったかを説明できない。もっと言えば、判断の理由を全て説明できないことが、高度な知能の本質とも言える。
また、透明性が進んでも、ことは簡単ではない。法廷で使われているシステムCOMPASについては、外部評価がなされていて、二つの見方がある。ひとつは、「再犯可能性が高い」という予測をして、実際に再犯に至ったケースの確率（真陽性）についての評価。もうひとつは、「再犯可能性が高い」と予測したが、実際には再犯に至らないケースの確率（偽陽性）についての評価。
COMPASについては、真陽性については人種の偏りがないが、偽陽性については黒人の再犯可能性を過大評価している、という分析がでている。
これについては単純な「正解」はなく、どのような基準で「公平性」について社会的な合意を形成するか、開かれた場が必要だろう。
人類の終焉の前にやることはいろいろある
『サピエンス全史』の著者として知られるハラリは、データとアルゴリズムが人類にとって代わる未来を近著『ホモ・デウス』で書いている。
ぞっとするだろうか。あるいは、このまま世界を人間に任せるよりいい、と考えるだろうか。
ハラリの描く未来まで一気に進むことはないだろう。特定用途の知能と人間のような汎用用途の知能の間に何があるのか。あるいは人間のもつ意識と知能の間に何があるのか*3。こういったことの研究が、特定用途のAIの進化と平行して進むだろう。
だから、当面は、特定用途のシステムの社会実装について考えればよい。具体的には、開発・導入・運用のループに社会が参加*4すること。そして、データやアルゴリズムについてのリテラシーを高めていくこと。
*1:ヤフー、信用スコアに年内参入 購買データなど分析 ＩＤ情報を点数化 - SankeiBiz（サンケイビズ）
*2:ビッグデータで犯罪予測、治安を改善したサンタクルーズ市の挑戦 - 日経トレンディネット
*3:この問いは、ハラリも著作の最後の３つの問いのひとつに挙げている。「意識」についての研究はいろいろあるけれど、僕が最近読んだ中では『わたしは不思議の環』ダグラス・ホフスタッターが刺激的だった。
*4:MITメディアラボで検討が盛んだ。社会参加型 (society-in-the-loop) 人工知能 - Joi Ito's Web - JP
