BLOG

シンラボメンバーのあれこれ

  1. HOME
  2. ブログ
  3. エクスポネンシャルテクノロジー
  4. 【最新技術紹介】自然言語処理のHugging Face

【最新技術紹介】自然言語処理のHugging Face

こんにちは。草場です。

エクスポネンシャルテクノロジーの一つ、AIですが、自然言語処理はとても盛り上がっています。特に、Transformerというモデルの発明が大きいです。
Transformerを使った言語モデルで有名なライブラリ?がHugging Faceです。ページに行くと、

PyTorchおよびTensorFlow2.0用の最先端の自然言語処理
🤗Transformersは、分類、情報抽出、質問応答、要約、翻訳、テキスト生成などのタスクを100以上の言語で実行するために、何千もの事前トレーニング済みモデルを提供します。その目的は、最先端のNLPを誰にとっても使いやすくすることです。

🤗Transformersは、特定のテキストで事前にトレーニングされたモデルをすばやくダウンロードして使用し、独自のデータセットで微調整してから、モデルハブのコミュニティと共有するためのAPIを提供します。同時に、アーキテクチャを定義する各pythonモジュールをスタンドアロンとして使用し、変更して迅速な調査実験を行うことができます。

🤗Transformersは、最も人気のある2つのディープラーニングライブラリであるPyTorchとTensorFlowに支えられており、それらがシームレスに統合されているため、一方を使用してモデルをトレーニングし、もう一方を推論するためにロードできます。

オンラインでもがたくさんあります。「GPT-2によるテキスト生成」を見てみます。

Text Generation、のところに適当に文章を入れると文章を生成してくれます。例えば、

Input: My wife are sleeping well and
Output: My wife are sleeping well and  everything will be ready once the rain clears, on  June 25 we
will  not hike (besides  finishing the last 2 weekends  in   the   Wattamet.

はてこれをどう評価しよう。使い方をメンバーで考えていきます。

 

 

 

 

関連記事