NLP
GPT-3、掲示板サイトRedditに1週間潜伏してもバレなかった
OpenAIの強力なGPT-3言語モデルを搭載したボットが、Redditにコメントを投稿してから1週間が経過したが、その間、それがボットだと気がつく人がいなかったことが話題になっている。
NLP
自然言語処理は、人間が日常的に使っている自然言語をコンピュータに処理させる一連の技術であり、人工知能と言語学の一分野である。形態素解析、N-gram解析、構文解析、意味解析・意味理解、格文法などの他、近年ではディープラーニングの活用により急速な進歩を遂げている。
AI
アレン研究所、AI言語モデルに蔓延する毒性を発見
アレン人工知能研究所の研究者は、AI言語モデルから人種差別的、性差別的、またはその他の有害な反応を引き出すためのデータセット「RealToxicityPrompts」を作成し、モデルがこれらの反応を好むかどうかを測定する方法として試みた。実験では、現在の機械学習技術では有毒な出力を十分に防ぐことができず、より良いトレーニングセットとモデルアーキテクチャの必要性が強調されていることがわかった。
NLP
マイクロソフト、GPT-3の独占ライセンスを取得
マイクロソフトは22日、GPT-3を、AIスタートアップのOpenAIから独占的にライセンス供与することを発表した。マイクロソフトのEVPであるケビン・スコットは、OpenAIの技術革新を活用して顧客にAIソリューションを開発・提供し、自然言語生成の力を活用した新しいソリューションを生み出すと述べている。
NLP
GPT-3、道徳、歴史、法律のようなトピックで苦戦
コロンビア大学、シカゴ大学、カリフォルニア大学バークレー校の研究者が共著した新しい論文によると、OpenAIのGPT-3のような洗練された言語モデルでさえ、道徳、歴史、法律のような社会的に重要なトピックに苦戦している。
NLP
言語学習アプリDuolingoがどう機械学習を活用しているか
Duolingoは、AIベースの言語学習プラットフォームを提供している。Duolingoは、フランス語やタミル語からハワイ語やナバホ語などの絶滅危惧種の言語まで、32以上の言語コースを提供しており、3億人以上のユーザーに利用されている。
NLP
マイクロソフト、「最先端」の生物医学NLPモデルを提案
マイクロソフトの研究者たちは、「生物医学自然言語処理（NLP）のためのドメイン固有の言語モデル事前学習」というAI技術を提案。データセットから「包括的な」生物医学NLPベンチマークをコンパイルすることで、名前付き実体認識、エビデンスに基づく医療情報抽出、文書分類などのタスクで最先端の結果を得たと主張した。
AI
新しいトレーニング技術でエッジデバイス上の言語モデルを高速化
MITコンピュータサイエンス・人工知能研究所（CSAIL）とMIT-IBMワトソンAIラボの研究者はこのほど、GoogleのTransformerアーキテクチャを組み込んだAIモデルトレーニング技術であるHardware-Aware Transformers（HAT）を提案しました。
NLP
AI研究者がNLPのバグを見つけるテストツールを作成
AI研究者が、Amazon、Google、Microsoftが市販するクラウドAI製品の主要なバグを発見した言語モデルテストツールを作成。CheckListツールを詳述した論文が、Association for Computational Linguistics（ACL）会議の主催者から最優秀論文賞を受賞。
NLP
DeepMind研究者「英語以外で自然言語処理の研究を行うべき」
DeepMindの研究者であるSebastian Ruderが「英語以外の言語で自然言語処理の研究を行なうべき理由」というブログ記事を投稿した。世界中で7000以上の言語が話されているが、NLPの研究ではほとんどが英語に焦点を当てている。Ruderは、この文脈の中で、なぜ英語以外の言語に取り組むべきなのかを概説した。
AI
自然言語処理の劇薬 Transformer
2017年中旬、Googleが発表した論文「Attention is all you need」で提案されたモデル、Transformer（トランスフォーマー）は、深層学習の自然言語処理（NLP）分野でデファクトスタンダードとして使用されている。
AI
自然言語をモバイルUIアクションにマッピングするGoogleのオープンソースAI
Googleは、自然言語の命令のシーケンスをモバイルデバイスのUIでアクションに変換するためのAIモデルをオープンソース化した。このモデルはTransformerディープラーニングアーキテクチャをベースにしており、プロジェクトのために作成された新しいベンチマークデータセットで70%の精度を達成している。
AI
FacebookのチャットボットBlenderが世界最高を主張
Facebookのリサーチエンジニア、スティーブン・ローラーらのチームは4月、新しいチャットボット「Blender」をオープンソース化した。Blenderは、バーチャルアシスタントの欠点の多くを解決するのに役立つだけでなく、AI研究の多くの原動力である「知性の複製」という大きな野望に向けた進展を示している。