AI技術と全体主義は目指すことが似ている（新井紀子）

クリッピングから
朝日新聞2019年10月11日朝刊
新井紀子のメディア私評
「もしも」から考える　ソ連がAIを駆使したなら

　　歴史学者ユヴァル・ノア・ハラリ氏のインタビュー
　　「AIが支配する世界」（9月21日付本紙オピニオン面）を読んだ。
　　歴史に「もしも」は禁物だ。
　　だが、その禁をあえて犯してみたい。

　　もし、1989年にベルリンの壁が崩壊せず、
　　91年にソ連が踏みとどまり、今日のAI時代を迎えていたなら、
　　どうなっていただろう、と。
　　（略）

　　実は、現在のAIの基盤である確率・統計の理論の多くがソ連発だ。
　　コルモゴロフ、ヒンチンなどキラ星のごとく名前が並ぶ。
　　これほど確率・統計学者が多いのは、
　　計画経済を合理的に進めるための関心の高さゆえかもしれない。

　　適切な刺激を与えることで特定の行動を導く「パブロフの犬」の実験で
　　知られるパブロフも、行動主義心理学に大きな影響を与えた。
　　それらの理論は、現代の巨大テック企業のサービスの礎になっている。

　　その結果、ソ連を中心とした東側諸国は、
　　経済的に西側諸国を圧倒していたかもしれない。
　　なにしろ、ソ連では西側と違って「人の配置の最適化」も厭（いと）わない。
　　だからオリンピックも数学も強かった。
　　（略）

　　加えて、ソ連には、科学リテラシーに欠ける人物が、
　　単に人気取りで大統領や首相に就くリスクがある民主的な選挙は、ない。
　　ソ連だけでなく究極的には世界中の人々を、平等に「幸せ」にするために、
　　データサイエンスを、計画に基づき、段階的に正しく使いこなすことができる
　　最も有能な人物が党大会で選出されるのである。
　　（略）

　　そのとき、東側陣営は西側の敗北を見下してこう言っただろうか。
　　「各人の自由な利益追求を野放しにすることで最適解にたどり着けるなど、
　　『脳内お花畑』な資本主義は格差を拡大し、地球を危機に陥れた。
　　次々とポピュリストが登場し、汚い言葉で罵（ののし）り合っている。
　　知的な政治からは程遠い」と。

　　この「もしも話」の意味は何か。
　　一つは、AI技術が目指していること
　　—あらゆるデータを収集することで未来を予測するという誘惑—は、
　　葬り去られたはずの全体主義、計画経済のそれと
　　驚くほどに似ているということだ。
　　自由の旗を掲げるシリコンバレーがその発祥の地であるのは皮肉だ。

　　もう一つは、「幸せ」のような質に関わることを、
　　数字という量に換算できると考えることの危険性だ。
　　（略）

　　質を数字に置き換え、数字を用いて分析しなければ、近代科学にはならない。
　　近代科学によりテクノロジーは発展したし、社会の矛盾は可視化された。
　　だが、それは手段に過ぎない。
　　手段が目的化したとき、私たちは再び全体主義の足音を聞くことになるだろう。

f:id:yukionakayama:20191012131533p:plain