本の感想：「あなたを支配し、社会を破壊する、AI・ビッグデータの罠」中学受験志望校も自分の指標で。
AIやビッグデータ、IoTの時代と言われて数年がたちます。
でも私はNETFLIXやAmazonのおススメ通りに操られるのがちょっと嫌。
この「ちょっと嫌」の中には、よくわからないモノに支配されたくないという気持ちもあります。サイエンスやデータによるモノだから信じていいのだろうけど・・・
ちょっと待って！！！本当に信じていいの？と警鐘を鳴らしてくれるのが「あなたを支配し、社会を破壊する、AI・ビッグデータの罠」。
世の中にはびこるたくさんの数学モデルを「数学破壊兵器（Weapons of Math Destruction）」と断じて、いかに公平・正確に作られているように見える評価システムが恣意的な考えに基づいており、有害な影響をもたらしているかを具体例を示して説明してくれます。
- アメリカで教師を評価するために作られたシステム。生徒や親の評判が高い先生が非常に低いスコアになってしまう。前年度の先生が自分の評価を上げるために不正に成績を底上げした生徒を受けもてば、当然今年の成績は下がる。
- 大学のランキングシステム。ランキングで示された指標のスコアを上げるために大学は設備にお金を投資する。それは入学者の学費高騰につながる。
- 治安の悪い地域に集中的に警官を投下するシステム。警官が増えれば、軽犯罪でも取り締まりが増え、また警官が増えていく。
「サイエンスやデータがベースだから仕組みは理解できないけど正しいはず。」と考えがちですが、透明性が確保されていないシステムは「誰がデザインしたか、その人物は何を達成しようとしているのか」を見ないでそのまま信じてはいけないのです。
そもそもモデル化した時点で単純化されているので正確さは損なわれているはず。
子供の中学校受験の志望校を選ぶ時、ついランキングに飛びつきたくなりましたが、まず子供に何を重視するかを聞いてみました。
制服、行事、クラブ活動、ということだったので、この三つの指標をもとにそれぞれの中学校の情報を自分で確認して、志望校の順位を決めてもらいました。自分の軸をもとに、自分で調べて決めたから、納得感があったようです。
データは便利ですが、まずは自分の意思を持って当たるべき。
本でも最後に、「人間だけが未来を創造できる。人間の意思決定は欠陥も多いが進化しうるという長所がある。」と述べています。
慌ただしい毎日の中で、それっぽいきれいなグラフを見せられるとすぐ納得しそうになるけれど、意思決定をするときには自分の指標に戻ることを習慣にしたいです。
