GPT-3生成のブログ、ハッカーニュースで1位に

カルフォルニア大学バークリー校の大学生のLiam Porrが言語生成AIツール「GPT-3」を使って偽のブログ記事を作成したところ、ハッカーニュースで1位になった。Porrは、GPT-3によって生成されたコンテンツが人間によって書かれたものだと信じ込ませることができることを実証した。

吉田拓史 17 8月 2020

カルフォルニア大学バークリー校の学部生Liam Porrが言語生成AIツール「GPT-3」を使って偽のブログ記事を作成したところ、ハッカーニュースで1位になったとMIT Technology Reviewが報じた。Porrは、GPT-3によって生成されたコンテンツが人間によって書かれたものと信じ込ませることができることを実証した。彼は「実際、超簡単だった、それが怖いところだった」と語っている。

彼のブログが完全にAIが生成したものだと気づいた人はほとんどいなかった。何人かは「購読」を押した。これまでで最も強力な言語生成AIツールであるGPT-3がコンテンツ制作にどのような影響を与えるかについては、多くの人が推測してきたが、今回のケースはその脅威を例証した。

GPT-3はサンフランシスコに拠点を置くOpenAIによって設計された機械学習モデルである。GPT-3は、あらゆる種類の情報を網羅した大規模なテキストデータのコーパス上で訓練されているため、機械翻訳、質問と回答、空白の単語を埋めて文章を完成させることができる。基本的な足し算や引き算などの簡単な計算も可能だ。

OpenAIは昨年2月、アルゴリズムの初期バージョンであるGPT-2を発表して話題を呼んだが、これは悪用されることを恐れて公表しなかった。同年11月までに、OpenAIは立場を逆転してモデルを公開し、「これまでのところ悪用の強い証拠は検出されなかった」と述べた。

OpenAIはGPT-3については異なるアプローチをとった。プライベートベータ版を申請した研究者の中から選ばれた研究者にアルゴリズムを与え、彼らのフィードバックを集めて年末までに技術を商品化することを目標とすることにした。

Porrはベータ版への申請をしたもののうまく行かず、それでもベータ版へのアクセスを持っている博士課程の大学院生の協力すをとりつけると、Porrは彼が実行するための小さなスクリプトを書いた。それはGPT-3にブログ記事の見出しと紹介文を与え、いくつかの完成したバージョンを吐き出した。Porrの最初の投稿（Hacker Newsに掲載されたもの）とそれ以降の投稿は、ほとんど編集をせずに、出力されたものをコピー＆ペーストしたものだったという。

GPT-3は、きれいな言語を作るのは得意だが、論理的で合理的であることはあまり得意ではない。そこで彼は、厳密な論理を必要としない人気のあるブログのカテゴリー、つまり生産性と自己啓発を選んだ。

ヒットしたブログのタイトルは 「Feeling unproductive? Maybe you shouild stop overthinking」（非生産的になっている？　深刻に考えすぎないほうがいい） だった。

Porrは、「GPT-3が人間のライターとして成り済ますことができることを証明したかった」 と語っている。実際、アルゴリズムのやや奇妙な書き方や時折のエラーにもかかわらず、Hacker Newsの彼の投稿にコメントした数十人のうち、アルゴリズムによって生成されたのではないかという疑惑を提起したのは3、4人だけだった。「今は参入障壁が非常に低くなっているので、平凡なブログコンテンツが氾濫する可能性がある。オンラインコンテンツの価値は大きく低下すると思う」と彼はMIT Technology Reviewに伝えた。