AI
自然言語処理の劇薬 Transformer
2017年中旬、Googleが発表した論文「Attention is all you need」で提案されたモデル、Transformer（トランスフォーマー）は、深層学習の自然言語処理（NLP）分野でデファクトスタンダードとして使用されている。
NLP
自然言語処理は、人間が日常的に使っている自然言語をコンピュータに処理させる一連の技術であり、人工知能と言語学の一分野である。形態素解析、N-gram解析、構文解析、意味解析・意味理解、格文法などの他、近年ではディープラーニングの活用により急速な進歩を遂げている。
AI
自然言語をモバイルUIアクションにマッピングするGoogleのオープンソースAI
Googleは、自然言語の命令のシーケンスをモバイルデバイスのUIでアクションに変換するためのAIモデルをオープンソース化した。このモデルはTransformerディープラーニングアーキテクチャをベースにしており、プロジェクトのために作成された新しいベンチマークデータセットで70%の精度を達成している。
AI
FacebookのチャットボットBlenderが世界最高を主張
Facebookのリサーチエンジニア、スティーブン・ローラーらのチームは4月、新しいチャットボット「Blender」をオープンソース化した。Blenderは、バーチャルアシスタントの欠点の多くを解決するのに役立つだけでなく、AI研究の多くの原動力である「知性の複製」という大きな野望に向けた進展を示している。
AI
GPT-3が1750億パラメータで構成される理由
OpenAIの研究者たちはこのほど、1750億個のパラメータで構成された最先端の言語モデル「GPT-3」の開発について説明した論文を発表した。これまでの研究では、より大きなモデルが解決策になる可能性があることが示されており、GPT-3はいくつかの不備を含みながらもそれを実証した。
AI
GoogleのAIにより、自然言語でモバイルアプリを操作できる
Googleは、スマートフォンアプリのアクションを自然言語で行うため、AIの活用方法を調査している。2020年のACL会議で採択された研究は、自然言語を介してアプリを操縦するモデルを訓練するためのコーパスを提案し、視覚障害を持つ人々のために有用である可能性を示した。画面遷移の際に生成される画面を予測できる。
AI
OpenAIが文章生成AIのGPT-3を商用化
OpenAIは、その機械学習技術を使って企業がテキストを生成、分析、処理することで収入を得る初の商用サービスを6月に開始した。マイクロソフトのクラウドプラットフォームAzureからAPI経由で同社が開発したテキスト生成器「GPT-3」を利用できる。現状、実験に興味のある企業や学術関係者にベータ版に過ぎない。