「Twitterのトレンド」を数時間前に予測、MITのアルゴリズム

マサチューセッツ工科大学(MIT)のチームが、Twitterで話題になる単語やフレーズ、ハッシュタグを、早ければ4~5時間前に95%の精度で予測できるというアルゴリズムを開発した。

マサチューセッツ工科大学MIT)のチームが、Twitterトレンドトピックを事前に予測するアルゴリズムを開発した。そのトピックが話題になる平均1時間半前には予測可能だという。

このアルゴリズムは、MITの情報・意思決定システム研究所に所属するデヴァヴラット・シャー教授と、その生徒スタニスラフ・ニコロフが手掛けたもので、トレンドになる単語やフレーズ、ハッシュタグを「95%の精度」で、早ければ4~5時間前には予測できる という。

従来、このような予測プログラムは、Twitterのトラフィックを特定のモデルと照合するやり方を用いていた。トラフィックを流れる雑多なやり取りの中から、ひとつのトピックが抜きんでる「段階」を見極めるようプログラムするのだ。

今回開発されたアルゴリズムは、ツイッターのトラフィックのサンプルから、あらかじめ決まった特定のパターンを探すのではなく、すべての新しいトピックについて、ツイート数の経時変化を追跡し、それをアルゴリズムのトレーニングセットにある全サンプルの経時変化と比較する

新しいトピックがいずれかのサンプルと統計的に似ていた場合、そのサンプルに重みをつけて、トピックが今後トレンドになるかどうかを予測する。新しいトピックがトレンド化する可能性については、すべてのトレーニングサンプルに「投票」をさせるが、票の重みはサンプルによって異なる。それらすべての票を合計すると、新しいトピックがトレンド化する確率が割り出される。

シャー教授らは、過去にツイッターでトレンド化したトピックとトレンド化しなかったトピック、各200個を集めたトレーニングセットを用いてアルゴリズムを訓練した。 そして実際に予測させてみたところ、アルゴリズムは、トレンド化するトピックとトレンド化しないトピックとを95%の精度で判別した。偽陽性率、すなわちトレンド化すると予測したトピックがトレンド化しなかった確率はわずか4%だ。

このアルゴリズムは、予測対象のトラフィックをフィルタリングしないため、従来のモデル以上の計算能力を必要とする。またシャー教授によると、このアルゴリズムは「データの大きさに比例して規模が変わる」ため、グーグル、フェイスブック、アマゾンなど、最大級のクラウドコンピューティング能力を有する企業を除いて、あまり大きなデータセットでの使用には適さない可能性がある。

このアルゴリズムは、Twitterの広告戦略に利用できるほか、たとえば株価の予測など、さまざまな状況で活用できる可能性がある。

この研究は、11月上旬にMITが開催した「Interdisciplinary Workshop on Information and Decision in Social Networks」で発表された。

TEXT BY IAN STEADMAN

TRANSLATION BY TOMOKO TAKAHASHI/GALILEO