AI化する集合知
「今のネット状況を見れば、多くの人が人工知能(AI)のようにパターン認識して善かあくかと即答しているようで、人間の方からAIに歩み寄り、劣化したかのように思えます」
— 北村肇 (@bkhajime) 2018年12月26日
人間の本質はデジタルではなくアナログにあると私も思う。だから何かにつけて思い悩む。でも、思い悩むことで成長する。
今から10年ほど前、人々ががネットワークでつながり意思を共有することで形成される集合知というものに夢を見ていた。
もともとインターネットが普及する前の時代にはヤンキー的なノリがこの社会を支配していて、それに対して鬱屈を感じていた人はたくさんいた。
インターネットが登場して、今まで発言権のなかったヤンキーだけではない色々な人の意思が可視化されれば、そこから表明された新しい価値観と共にみんなにとって自由で暮らしやすい世界が訪れると思っていた。
しかし実際にたくさんの人々がネットワークで相互接続され、10年の時を経て成熟すると、人々は考える事をやめていた。人々がそれぞれ巨大なネットワークの1つのノードとなった時、1人の人間が処理するにしてはネットワーク上に流れる情報量が大きすぎたのだ。
そこで、次々に送られてくる膨大な情報量をさばくために人々は考えるのを止め、パターンマッチで高速に処理するようになった。
このネットワークに与えられている評価関数は「いいね」の数の多さだ。各ノードはパターンマッチにより最も「いいね」が生成されすい出力を行う。
ネットワークの出力をトータルの「いいね」数で評価するのは一見妥当に思えるが、これは歳月が経過するとともに過学習ともいえる状態に陥った。
最も効率よく「いいね」を生産するために、各ノードは「いいね」が発生しやすい別のノードと距離を小さくし、「いいね」し難いノードとは距離を大きくし、各ノードは強固なクラスタに分割され、所属するクラスタ内部で「いいね」が生成されやすい先鋭的な局所解にとらわれてしまった。
今日もパターンマッチで出力された何パターンかの意見がそれぞれのクラスタ内部をぐるぐると駆け巡り、たくさんの「いいね」が生産されている。
ふと考えるのは、我々にこのシステムを与えてたくさんの「いいね」を生み出させ、それを餌にしている胡乱な魔物の存在だ。