NLP

自然言語処理は、人間が日常的に使っている自然言語をコンピュータに処理させる一連の技術であり、人工知能と言語学の一分野である。形態素解析、N-gram解析、構文解析、意味解析・意味理解、格文法などの他、近年ではディープラーニングの活用により急速な進歩を遂げている。

吉田拓史
無料会員 公開

急速に進歩する言語AIが人々の意見を操る恐れ

新研究は、目覚ましい進歩を遂げている言語AIが、現在インターネット上で活発に行われている世論操作を高度化してしまう恐れについて警鐘を鳴らしている。

吉田拓史
無料会員 公開

大規模言語モデル(LLM)の快進撃

ChatGPTは、大規模言語モデル(LLM)の有用性を多くの人に知らしめた。様々なタスクがLLMの手によって自動化、あるいは高度化していくことはもはや既定路線と言ってもいいだろう。

吉田拓史
無料会員 公開

BigScienceの大規模言語モデルBLOOM

完全な透明性をもって訓練された初の多言語LLMがBLOOM(BigScience Large Open-science Open-access Multilingual Language Modelの略)である。BLOOMは、46の自然言語と13のプログラミング言語で学習した1760億パラメータの言語モデルで、数百人の研究者の共同作業により開発・公開された。

吉田拓史
無料会員 公開

新型AIチャットボットChatGPTの高性能が評判に

30日、OpenAIは、同社の大規模言語モデルGPT-3の対話ベースのAIチャットインターフェイスChatGPTを発表した。現在、テスト期間中で、OpenAIのアカウントで無料で使用できる。

吉田拓史
無料会員 公開

自然言語処理スタートアップがブーム: AIで最も進歩が早い分野

自然言語処理(NLP)スタートアップがブームだ。NLPはAIで最も進歩の早い分野で、基盤的なモデルを様々なユースケースに適応させる点において、既存ビジネスを塗り替える広範なビジネス機会が望まれている。

編集部
無料会員 公開

金融業界への大規模言語AIの応用可能性は大いにある

銀行ではディープラーニングの導入ギャップがあり、その結果、ビジネスニーズを満たすのに十分な速さでAIモデルを構築・導入できていない。これらを解決するための自然言語処理モデルとハードウェアの組み合わせが提案されている。

編集部
無料会員 公開

メタがAI駆動の「世界共通の音声翻訳機」構築計画を発表

メタは、「世界共通の音声翻訳機」を作成する、野心的なAI研究プロジェクトを発表した。機械翻訳がカバーしない言語を話す20%の人々を包含し、メタバースをより包摂的にする狙いがあるようだ。

吉田拓史
無料会員 公開

DeepMind、言語モデルの大規模化は引き続き効果的と判断

DeepMindはさまざまなサイズの変換言語モデルを学習させた。その結果、読解力、ファクトチェック、有害言語の識別など、モデルの規模を大きくすることで継続的にパフォーマンスが向上する分野が明らかになった。

吉田拓史
無料会員 公開

Google BrainのSwitch Transformer言語モデル、16兆個のパラメータに到達

Google Brainの研究者たちは、より大きく、より良いものを追求し続ける中で、新たに提案したSwitch Transformer言語モデルを、計算コストを抑えながら1.6兆個のパラメータにまでスケールアップした。

吉田拓史
無料会員 公開

SpAtten: Attentionの実行に特化したソフトウェアとハードウェア

MITの電気工学・コンピュータサイエンス学科の博士課程の学生であるHanrui Wangらは、計算機の性能に深く依存するAttentionの実行時のDRAMアクセスと計算量の両方を削減するためのテクニックとハードウェアを提案した。

吉田拓史
無料会員 公開

OpenAIとスタンフォードの研究者、大規模な言語モデルの弊害への対処を呼びかける

OpenAIとスタンフォード大学の研究者が先週発表した論文は、GPT-3のような大規模な言語モデルが含んでいるマイノリティへのバイアスに対処するための緊急行動を呼びかけた。

吉田拓史
無料会員 公開

論文を一文要約するAIが登場

科学検索エンジンの作成者は、研究論文の一文要約を自動的に生成するソフトウェアを発表した。この無料ツール「TLDR」は、ワシントン州シアトルの非営利団体であるアレン人工知能研究所(AI2)が作成した検索エンジン「Semantic Scholar」での検索結果を表示するために最近導入された。