[ミッション]フェイクで汚染されたインターネットの情報流通機能を進歩させる

私はインターネットの情報流通を改善する手段として「スマートノード(Smart Node, 賢い節)」を創りたいと考えています。それが弊社のミッションです。このブログではスマートノードがどのようなものかを説明します。

[ミッション]フェイクで汚染されたインターネットの情報流通機能を進歩させる

English Ver

Mission: “SMART NODES” IMPROVING DISTRIBUTION ON THE INTERNET
We need to create “Smart Node” as a means to improve information distribution on the Internet. Smart Node is also a means of achieving Axion’s vision of “get humanity free from any constraints, optimize their pursuit of happiness”. This blog explains what a smart node is like.

私は2010〜2015年の間、新聞記者としてインドネシア・ジャカルタで働いていました。私が居住している間に、インドネシアではスマートフォンの普及がものすごい勢いで進みました。同国では元々ブラックベリーが普及していたことが下地となり、低価格帯のスマートフォンが一定の品質を満たすようになると、それは洪水となりました。

「スマートフォンがもたらした『接続』(コネクティビティ)が新興国/発展途上国を力強く発展させる」というビジョンを多くの人が持った時期でした。マサチューセッツ工科大学(MIT)メディアラボの創設者、ニコラス・ネグロポンテは、「子供に1人1台ラップトップ(One Laptop per Child)」を配布する計画をぶちあげました。彼は、頑丈で低コスト、低消費電力の、接続されたラップトップを各子供に提供することを目指しました。

しかし、スマートフォンは彼が意図したことをいとも簡単に実現しました。深セン等の中国沿岸地域を中心としたサプライチェーンは安価で品質の高い電話機の形をしたコンピュータを市場に大量に供給し続けています。新興国の人々は増加した所得を使うとき、あらゆる耐久消費財よりも先にスマートフォンを選ぶようになりました。インドネシアではマイクロファイナンスの発達により月収200ドル程度の人々が400ドルのスマートフォンを購入するというようなことが起きていたのです。

もうひとつのゲームチェンジャーはワイヤレスネットワークの発達です。新興国の通信会社はおおむね先進国の通信会社よりも安価なインターネットコネクションを提供しました。最近はインドの財閥リライアンスが非常に安価に「接続」を配布していることが国際的な注目を集めています。安価な接続のためにGoogleは気球を放ち、Facebookは無人飛行機を飛ばしました。SpaceX, OneWeb, それからAmazonは「インターネット衛星」が最終的な解決策であると考えています。

「人々が安価なコンピュータとコンピュータネットワークへのアクセスを手にしたことで、所得水準の低い人々の教育機会が拡大し、途上国が急激に発展する」という楽観的な想定が当時はあったように思います。インターネット接続の拡大を促進する主要因は、教育のような高尚な理由ではなく、友人との会話や画像の投稿と消費のような余暇活動ですが、それでも旧来的な社会特有の情報の偏りを解消する前向きな効果があると私は期待していました。

Googleの元会長であるエリック・シュミットとジャレッド・コーエンの "The New Digital Age: Transforming Nations, Businesses, and Our Lives" は象徴的な書籍でした。その書籍はデジタル技術が世界の最も貧しい地域に広がり続けるにつれて、新しい経済的機会が広がり、デジタル技術が世界のこれらの地域が貧困から脱却するのを手助けすると主張しました。シュミットらはデジタル技術は民主主義を推進するのにも役立つ、とも主張しました。

コネクティビティの急拡大により、オンライン上の「仮想世界」はより「現実世界」と密接に関係するようになり、その結果、仕事の効率はもちろんのこと、健康、教育、生活の質が大きく向上する、と彼らは説明しました。また、スマートフォンのような携帯端末が安価に手に入ることで、いわゆる「経済ピラミッドの底辺」と呼ばれている層の人たちもこの恩恵を享受し、様々なシーンで新たなチャンスをつかみ始めると主張しています。

彼らの主張は「Googleがテック企業として台頭する中でのポジショントーク」と捉えることもできますが、それでも一定の範囲内で、主張されたことは実現されつつあります。近年、新興国ではモバイルインターネットが成長し、富裕国で発達したビジネスを飛び越すビジネスモデルが急速に発展しています。銀行口座を持たない人々にデジタルウォレットを渡したり中間業者に搾取されていた生産者に消費者と直接つながる機会を与えたりしています。

私がよく訪れていたジャカルタの低所得者の村落でも、人々はモバイルを使って重要な情報を驚異的な速度で共有し、ソーシャルやメッセージングアプリを介して物やサービスを売買していました。人々はモバイルで可能にされたヒューマンネットワークを通して即座に新しいビジネス機会と様々な日常生活の知識を知ることができました。出身地が非常に重要な意味合いをもつ社会のなかで、人々は4,000万人の都市圏であるジャカルタに散り散りになりながらも、同郷のたちとのつながりを容易に維持することができました。間違いなく、これはモバイルのアップサイドです。

モバイルの副作用

しかし、私はこの「モバイル革命」には副作用があることに気がつきました。それは低質情報の流布です。私は2014年のインドネシア大統領選挙の選挙戦で膨大な量のフェイクニュースに直面しました。ソーシャルメディアはフェイクニュースや根も葉もない噂を大元にして敵対候補を誹謗中傷する内容で溢れていました。ソーシャルメディアのメッセージ機能、メッセンジャーアプリやSMSでは主に宗教、民族差別の扇動文がひっきりなしに送られてきました。

問題はフェイクニュースが常に人種差別的または宗教差別的であったということです。 それはインドネシア、すなわち少なくとも300の民族と6つの宗教からなる「想像上の共同体」にとって非常に危険でした。 当時私はインドネシア語を流暢に話し、インドネシア人の友人がたくさんいました。 それで、私はインドネシアの有権者とほぼ同じ状況を経験することができました。 それは悪夢でした。

インドネシアでは独裁政権時代(1967〜1998年)には口コミやテレビ、新聞などによって群衆のコントロールが行われていました。98年の民主化以降、統制はある程度抑制されていたわけですが、2014年の選挙では、その伝統的な手法が復活し、モバイルのソーシャルなどの経路を組み合わせることにより、より効果的な大規模扇動が可能になったというのが、私の見立てです。

モバイルは新興国経済に大きなアップサイドをもたらしました。現存型より著しく効率性の高いデジタル・ネイティブなビジネスモデルの発展を引き起こし、確かにユーザーの便益の拡張をもたらしています。その一方で、ダウンサイドもあります。その主たるものは、私がこれまで述べてきたように大量の低質情報の流通です。

モバイルインターネットは社会通念を逸脱した情報をものすごい勢いで流通させ続けており、特に選挙のようなときには非常に危険な効果を生み出してしまいます。当時私が理解したことは、大統領選挙のように人々が2つの異なる結論に感情的になっているときに、誤った情報を配布し人々の感情を刺激することによって、人々の意思決定に影響を与えるのはとても簡単だということです。その後の2016年の米大統領選挙、EU離脱をめぐる英国のレファレンダムでこれらは確信へと変わりました。特定の状況では、第三者がモバイルを介して人々の意思決定に介入することは容易と考えられます。

意思決定の難しさをより難しくする「虚偽情報」

そもそも意思決定はとても難しいものです。

意思決定には「推論」と「決定」のプロセスがあります。私達が意思決定をくだすとき推論するための情報は常に不完全であり、環境は常に動的です。行うであろう行動に対する成功か失敗かの確率が事前には明らかではありません。行った後にその確率が判明するかというと必ずしもそうではありません。事後的に部分的に確率を推測することはできるかもしれませんが、事後的にも有意な情報を全く得られないこともあるでしょう。

将棋や囲碁のように条件を限定しすべての情報がプレイヤーに明らかにされているゲームですら、機械学習モデルはすべてのターンで広大な探索空間のなかから最も勝率が高い手を見つけることができません。ポーカーや麻雀のような不完全な情報しか得られないゲームでは、確率の推定はより複雑化し、プレイヤーはアクロバティックな推論を求められます。プレイヤーは高度な不確実性を織り込んだ戦略を作り、それをすべてのターンで即時的に変更しないといけません。そして我々が属する世界はこれらよりももっと複雑なのです。あなたの人生にはそのような複雑な意思決定の機会が頻繁かつ無数に存在します。

そもそも私達は認知バイアスを持つ生き物でもあります。私達がリスクのある状況下で将来に見込まれる利得と損失を客観的に捉えられない傾向があるのはその典型例です。人間は利益より損失を重く受け止め、損失回避の行動を優先する傾向があると考えられています。

直感、感情の支配下にある速いシステムと、意識的に努力しないと起動せず、発動にエネルギーを必要とする理性に従う遅いシステムが存在します。とっさに下す無意識の判断は、自分自身の中にある無意識の偏見や信念に強く影響されます。自分が一度信じたことが正しいと確認できる証拠探しに意識が向いてしまう傾向があります。好き嫌いがリスクやメリットの算定に影響してしまったり、ランダム事象につきものの変動に因果関係を当てはめてしまったりと、バイアスの種類は多岐にわたります。

さて、このような難しさのなかで、そもそも与えられる情報が誤っていたり、悪意により捏造されているのならば、意思決定がうまくいくはずはないのです。

「メディア」進化の系譜

メディアは「情報を媒介するもの」と理解されています。近現代のメディアの歴史はテレビ、ラジオ、新聞などのマスメディアから始まりました。 このタイプは、権威者が情報を人々に配布するのに非常に効果的な方法です。 権威が誤った意図を持っているか、または一定の質を満たした情報を生成する能力の欠如に苦しんでいるとき、マスメディアはとても危険な装置と化します。 あなたは人間の歴史の中でマスメディアが人々を戦争に駆り立て、独裁体制を築くために使われてきたことを知っています。

商用インターネットが登場した後、ネットワークタイプのメディア消費が台頭しました。 今日の人々はコンテンツを生成し、自分で簡単に配布することができます。 モバイルは人々をメディアの生成と消費に駆り立てています。これは革命的でした。しかし問題がありました。 この情報配信ネットワークはインタラクティブではあるものの、フェイクニュースの流布、ポピュリズム、プライバシー等に対して致命的な脆弱性があります。悪意の攻撃者はこの脆弱性をつき続けており世界中でさまざまな事件が起きてきました。

下の図は「スケールフリーネットワーク」と呼ばれます。一部のノード(節)が膨大なリンクを持つ一方で、ほとんどはごくわずかなノードとしか繋がっていないようなネットワーク構造のことです。膨大なリンクをもつノードが邪悪であったり、情報分析の力に欠けていると、簡単に誤った情報が流通します。同時に行動する多数の邪悪なノードこそフェイクニュースが大量に流通する主要な要因だった、というのは有力な説なのです。

Scale-free network, Image by Simon Cockell, Attribution 2.0 Generic (CC BY 2.0)

解決策は、情報を選択し、それを高付加価値のエッセンスに変換する「スマートノード」をネットワークのなかに構築することです。ノードは広く配布されている情報をコミュニティの言語に翻訳し、情報ネットワークに属する人々の利得を生み出します。

主要なノード群が高度な情報分析と再構成能力をもち、そのノードと結ばれたノード群に伝える情報を高度化することができれば、「好ましい分散型の情報消費」を構築することができます。スマートノードは人々の代理として、フェイクニュースウェブサイトやソーシャルボット、感情的になった群衆、あるいは広告でお金を稼ごうとするスパマーが生み出す多量の虚偽情報を分析します。スマートノードは虚偽情報の流通をせき止め、その虚偽情報が作られた背景を人々に伝えます。

スマートノードこそが扇動に対し脆弱性なネットワーク型でもなく、権威の暴走に脆弱なマスメディア型でもない、「正しい分散型の情報消費」です。これはそれほど新しいことではありません。「デジタル以前」の世界では本、書店、図書館、雑誌などがその役割を果たしてきました。 しかし、情報の流通量や流動性の点で「デジタル以前」に遥かにまさるインターネットでは、この役割を担う効果的な機能は構築されていません。

人々のデジタルメディア利用時間は毎年拡大を続けています。モバイル利用は細やかな空き時間まで埋めるようになりました。その時間が低品質なコンテンツのせいで無駄になっているとしたら、それはあまりにも大きな損失です。しかもその損失を習慣化する仕組みが、サービスの裏側で働いています。さらに選挙のときにはポピュリズムの増幅器となり、プロパガンダマシンとして機能する可能性があります。つまり人類は非常にバカげた装置を作り、その装置によってバカになっています。

人々のコンテンツ消費のあり方も近年はメッセージングやチャットのようなプライベートな場所へと回帰しています。「バイラル(拡散)からトライバル(部族)へ」がトレンドです。バイラルの時代には「ドレスは何色に見えるか」のようなスナックコンテンツがもてはやされましたが、それはほとんどFacebookやTwitterのアルゴリズムのおかげだったでしょう。いまや人々は「部族」を形成し始めていますが、部族は集団思考に陥りやすい傾向があります。

スナックからサプリメントへ

私達はスナックではなく人々の「健康」を改善していく 「サプリメント」を人々に手渡したいと考えています。私たちは、インターネット上のメディアの利用を現在の「消費」から「継続的な学習経験」へとシフトしたいと考えています。背景は私達のビジョンと戦略に詳しく記述されています。

私の思想は、人々をデータ生成装置に変え、ターゲティング広告を人々に浴びせるビジネスモデルの背景にある思想とは異なります。現在の仕組みでは、ユーザーはコンテンツの洪水に溺れ、再び浮かび上がることはありません。「いつ外部の反応がもたらされるか予測できない」状況を継続するソーシャルメディアの仕組みは、報酬が不定期にもたらされるギャンブルと酷似しています。

コンテンツの流通にはあるインターネット経済のダイナミクスが働いています。それは広告モデルです。あなたが利用するアプリケーションやウェブサイトの多くは広告によって運営されています。

インターネット広告で支えられたコンテンツ流通の好ましくないところは、コンテンツ提供者側にクリックや表示へのインセンティブが働いていることです。

今日のインターネットにおいては、瞬発的な興味を引くコンテンツは収益化が容易であり、質は高いが関心を持つ人が限られているコンテンツは収益化が難しいのです。ウェブサイト運営者の最高の戦略は低コストのフェイクニュースを作り、それをソーシャルや広告で拡散することです。これが広告モデルの欠陥なのです。

Axionは利用者からお金をもらいそれを利用者の成功のために還元する仕組みを採用します。この仕組みには影響力のある第三者がいないため、Axionはユーザーの成功、つまりユーザーを「めちゃくちゃに進化させる」(これがわれわれの戦略です)ことに投資を集中させることができます。そしてユーザーのために働き続けるための財務的基盤(キャッシュフロー、経常収益)をしっかりと握りしめることができるのです。

それから新しい世代のコンテンツ流通には「部族」、あるいはコミュニティとの「互換性」が重要だと考えます。

コミュニティはフェイクニュースの流通のような群衆行動の負の側面への安定器になると考えられます。構成員はコミュニティ内部でつながり、いくつものクラスタを形成しています。

そのクラスタのなかには規模に応じた数の影響力の強いノードが存在しています。世界がひとつの大きなネットワークにつながるよりも、このようなクラスタに分化し、お互いに意思疎通している方が人間社会は安定すると私は考えています。それはあたかも器官が細胞に分化し、それぞれに細胞膜に覆われ、取り込むべきものとそうでないものを区別しているようなことです。

「細胞」を形成する要素には様々なものがあります。ひとつは地理条件です。人々は地理的空間やそれが定義するコミュニティに依然として深い興味があります。例えば、居住する地域でお祭が開催されることや、自分の生活に影響を及ぼす事件と事故には、人々は高い興味を示すでしょう。

それから特定の興味関心もコミュニティを形成します。これはインターネットが我々に与えてくれたギフトでしょう。昔のように同人誌を作ったり、手紙を交わしたり、特定の集合地点に依存したりすることなく、同じ興味関心を持つ人々と結ばれることができます。例えばミュージシャンは昔よりも頻繁にライブイベントを開くようになり、その音楽を嗜好する人々が頻繁に訪れるようになりました。これは巨大なネットワークではなく凝集性をもったクラスタが引き起こす現象です。

加えて特定の職能、専門性も重要なコミュニティ形成要素です。これらは社会経済面で重要な役割を果たしており、その専門性が問われる課題が浮上したときには解決策を議論するために有用な人々のつながりです。インターネットのおかげで内部のコミュニケーションの速度、それから外部からのリクエストに対する応答速度が向上していることは間違いがありません。

私たちは私たちのネットワークに存在する多様なコミュニティを支援したいのです。 社会は「インフルエンサー」を生み出しました、しかし実際にはその影響は両義的です。不安定な個人に依存するインフルエンサーシステムではなく、より高度な情報処理能力を持ったノードを信頼するシステムの方が、人々の人生を豊かにできるというのが私達の考え方です。

結論: 情報流通を改善する節をつくる

スマートノードとは、従来型マスメディアによる中央集中型の情報散布機能である「ブロードキャスト」から、人々を結んでいくつながりへと移行する情報世界のなかで、凝集するクラスタと協働する頑強な結節点たちのことです。情報の質がヒトの意思決定の質を底上げし、ヒトの知性の進歩を促すことは最終的な目標です。

情報の流通は「メディア(媒介)」という曖昧な言葉で定義され、この言葉をめぐり、詩的な議論が長期間に渡りされてきたことは否定できません。より実践的なアプローチや科学の手法を採用することで、私たちはメディア消費をもっと確からしい言葉で説明することができるようになるのではないでしょうか。

インターネット接続の世界への浸透はいまも進行している最中です。5Gの採用でさらなる進歩が望まれます。廉価帯のスマートフォンの性能向上は高価格帯のそれよりも劇的であり、それが新興国でコミュニケーションの多様化を著しく促しています。

情報の流通は「分散処理」を求めています。ブロードキャスト型の情報流通は、権威の能力や倫理観に深く依存します。「メディア」にはプロパガンダ装置として暗い側面があります。私は情報の生成とその流通をこれまで述べてきたような手法で分散化することで、リスクを回避できると推定しています。

このプロジェクトのなりたちは、私が中学生のときから新聞をスクラップする習慣を持っていたことから始まります。高校生のときには学校の図書館にある新聞を毎日数紙読んでいました。新聞は読むには政治・経済・社会の知識を必要とします。子どもの学習にかなり好ましいものでした。

しかし、私は新聞社でのインターンと新聞記者としての仕事を経験したあと、新聞が社会でどのように機能しているかについて疑問を抱くようになりました。

マスメディアは、一部の特権的な人々の利益に基づいた情報を普通の人々に一方的に押し付けている、と私は感じています。マスメディアは、さまざまな社会問題に対し、合理性ではなく感情によって反応しているときがあると私は感じています。マスメディアは、許認可に守られた独占的な立場の上で、自分勝手に情報を歪ませる傲慢さを身にまとっているのではないか、と私は感じています。

世界は大きな勢いで変化していますが、情報流通システムは大きな進歩を遂げていないようです。 モバイルインターネットの欠点は、フェイクニュース問題に明らかです。 今こそ、スマートノードを創造し、人々に「幸福の追求の最適化手段」をもたらす時です。

株式会社アクシオンテクノロジーズ

吉田拓史

プロジェクトのウェブサイト

プロジェクト「アクシオン」
プロジェクトの要点 偽情報やフィルターバブルに耐性のある、ウェルビーイングに配慮したハイエンド・ニュース・ツールを作るプロジェクト 大規模の偽情報・誤情報・情報操作による社会への影響を防ぎ、人類の幸福追求と知識の発達を促すニュース・コミュニケーションを目的とする プロジェクト開始の契機は、ジャーナリストの吉田拓史が、2014年のインドネシア大統領選挙を取材していた際にソーシャルネットワーキングサービスを経由した大規模の情報操作に直面したことに依拠する。吉田はその後、2016年の米大統領選挙、ブレグジットの国民投票で行われた同様の混乱を目の当たりにし、プロジェクトの必要性について確信した。201

関連ブログ

モバイルインターネットがあなたをハックするために磨いた知見がもたらす深刻な負の影響
あなたの行動を変えるための技術は日進月歩で進んでいるが、世界はそれをやめるインセンティブを設定できないでいる。テクノロジー企業はお互いに競い合っているし、金融市場の評価を絶えず気にしている。

参考文献

  1. Nicholas Negroponte (2006)"One Laptop per Child"
  2. Eric Schmidt, Jared Cohen (2011) ”The New Digital Age: Transforming Nations, Businesses, and Our Lives”
  3. Jonathan Albright(2018) "The Graph API: Key Points in the Facebook and Cambridge Analytica Debacle"
  4. Philip N. Howard and Muzammil M. Hussain(2013) "DEMOCRACY’S FOURTH WAVE? (Digital Media and the Arab Spring) "
  5. Philip N. Howard, Bence Kollanyi, Samantha Bradshaw, Lisa-Maria Neudert(2017) "Social Media, News and Political Information during the US Election: Was Polarizing Content Concentrated in Swing States?"Oxford Internet Insitute
  6. Alessandro Bessi, Emilio Ferrara (2017) "Social Bots Distort the 2016 US Presidential Election Online Discussion"
  7. Mike Isaac and Daisuke Wakabayashi (2017) "Russian Influence Reached 126 Million Through Facebook Alone", Newyork Times
  8. イツァーク・ギルボア「意思決定理論入門」/ Making Better Decisions: Decision Theory in Practice
  9. Tversky, A., & Kahneman, D. (1974). Judgment under uncertainty: Heuristics and biases. Science, 185(4157), 1124–1131. https://doi.org/10.1126/science.185.4157.1124
  10. Kahneman, Daniel & Tversky, Amos, 1979. "Prospect Theory: An Analysis of Decision under Risk," Econometrica, Econometric Society, vol. 47(2), pages 263-291, March.
  11. Albert-László Barabási, Scale-Free Networks: A Decade and Beyond. Science 325,412-413(2009). DOI:10.1126/science.1173299
  12. Hodent, C. (2017). The Gamer's Brain: How Neuroscience and UX Can Impact Video Game Design (1st ed.). CRC Press. https://doi.org/10.1201/9781315154725COPY
  13. Takushi Yoshida (2018) ”Chaos Monkeys: how ad-tech flourished and reached duopoly eventually" Axion
  14. 吉田拓史 (2018)「『サルたちの狂宴』でアドテクの変遷を振り返る 独占が自由市場を駆逐した理由」、 Axion
  15. Comscore ”Global Digital Future in Focus 2018”
  16. Comscore ”From Viral to Tribal, The Next Frontier in Publishing"
  17. 総務省「スマートフォン経済の現在と将来に関する調査研究」(平成29年)
  18. 総務省「我が国のインターネットにおけるトラヒックの集計・試算 2018 年11 月の集計結果の公表」
  19. 吉田拓史(2016年)、『「少額決済」と「定額制」は、コンテンツ産業の救世主か?』、DIGIDAY[日本版]
  20. 吉田拓史(2014年)、『【ジョコウィ物語】(21) いばらの道抜ける 大統領選、僅差で制す』、じゃかるた新聞
  21. Takushi Yoshida(2016) "Smart Node : 分散自律時代の情報流通、メディアの再発明”

Image via NASA on Unsplash