人の適正・能力・価値をAIが判定し、その人の能力で職業が決まる。
アニメ「サイコパス」はAIの普及により人間はすべて価値が数字化されている。
しかし、これが現実でも起ころうとしている。
AIに価値を数字化される人間という構図は、すでにはじまっている。
ベトナムの会社員の男性は、2018年、月給に半額近い1000万ドン(5万円)のスマホを買った。使ったのは融資アプリ「ホームクレジット」である。スマホ料金の支払い記録やフェイスブックの友人などのデータが900点満点で評価(スコアリング)され融資条件が決まる。この男性は融資は「とても簡単だった」という。
スコア融資は金融インフラが乏しい東南アジアやインドなどの地域で広まりを見せている。銀行からの融資にかかる書類などの煩雑な方法ではなく、主にスマホからの生活データなどを利用するため手軽に融資が受けられる。
世界銀行によると銀行口座がない層は世界に17億人いるが、その3分の2はスマホを持つ。これからは銀行の役割を全てスマホで完結できるようになるかもしれない。
人間の信用を数値化するスコアリングは、人工知能(AI)を使い個人の信用力を数値で示すサービス。
最も注目を集めているのは中国のアリババ集団系の「芝麻(ゴマ)信用」だ。
「身分属性」学歴や職歴、身分証の情報
「支払い能力」不動産など資産状況
「信用履歴」クレジットカードの返済履歴
「人脈」交友関係や知人の信用状況
「消費行動」買い物やサービスの利用履歴
上の5つの項目をAIが審査し、信用を数値化する。利用者は5億人以上とされる。
ゴマ信用の数値が高いと融資の条件が有利になる上、ホテルの保証金が不要になったり外国のビザが取りやすくなったりする。
しかし逆に、数値が低いと就職や結婚で不利になるともいわれ、生活への影響は計り知れない。
このように、世界は実際にAIが人間をスコアリングし数値化する時代になっている。
何より恐ろしいことは、この数値が世の中に信用されるということだ。つまり、数値が低い人は融資も受けられず、就職・結婚においても不利になり、どんどん数値が下がっていくという負のスパイラルに陥る可能性があるということだ。
AIからいったん低い評価を受けると、そこからの巻き返しは大変厳しい。その低い評価を受けたという経歴が、次からの評価にも必ず影響を及ぼすからだ。
そうなると一生這い上がることができない「バーチャルスラム」という新たな貧困層が現れることが予想されている。たとえ話で説明すると、一度犯罪の経歴を持つとAIからの評価は当然厳しいものとなり、当人がいくら更生しようとも数値は一生低いままで就職も結婚もできないということが起こるということだ。
清廉潔白で、才能があり、資産を持っている人は評価はどんどん高くなり、前科持ちや一回低い数値をつけられた人はどんどん低い評価をつけられ続けるという構図が生まれる。
人間同士の格差は今よりもずっとひどいものとなるだろう。
なによりも腑に落ちないのは、それを決めるのは人工知能(AI)という点だ。彼らに人間の人生をゆだねてしまって本当にいいのだろうか。
人工知能(AI)は人間がよりよく暮らすためのツールではなかったのか。いつのまに人間が判断するべき分野を担うようになったのか。このままでは本当にAIに支配される世界が訪れてもなんら不思議ではない。
私は何もAIを批判したいわけではない。
AIの発達により地方の利便性は上がるし、少子高齢化が深刻な日本での人手不足の解決策にもなる。
しかし、それらは人間のツールとして役割を果たしている。意思決定は全て人間に委ねられる。
しかし人間を数値化するという行為は、すべてをAIに任せている。AIが判断した結果に応じて人間がすることを決められることになる。
これでは立場が逆転している。気づかずに世の中の流れにホイホイとついていってしまっては取り返しのつかないことになりかねない。
是非とも人間のツール(道具)としてのAIという立場を崩さないようにスコアリングのサービスが広まってほしいものである。
コメント