BLOG

シンラボメンバーのあれこれ

  1. HOME
  2. ブログ
  3. 代表通信
  4. 代表通信~すげーツール、Debuildについて(GPT-3も)

代表通信~すげーツール、Debuildについて(GPT-3も)

こんばんは。代表の草場です。

なんと8月が終わります。早かった。夏休み的なやつがなかったからでしょうか。ここ数日は非常に暑く、夏らしい感じでした。ここから残暑がどこまで来るか。台風はまた時期がずれて秋になるのか。楽しみにしています。

午前中の怒涛のミーティングを実施後、IDC2020ウェビナー#1「点群データを活用しよう」を視聴。点群活用、どんどん進んでいますね。特に、点群からマインクラフトを作っているやつ、点群芸大はとても面白い。明日は比較的ゆったりなので、じっくり勉強しよう。

さて、Debuild、知ってました?Webアプリを高速で作るツールです。最近もっぱら話題のGPT-3を使っています。見た方が早いと思うので、こちらのYoutubeを是非。「Describe a layout」に英語で作りたいアプリの概要を書くと、自動的にコードを生成し、アプリが出来上がります。使いたい旨をsharif shameemさんに連絡しました。裏のロジックが気になる。。もっと勉強します。
サイトによると、
「ソフトウェアはこれまで触れてきたあらゆる産業を劇的に加速させてきました。しかし、エンジニアは人口のわずか0.3%に過ぎません。ソフトウェアの作成をエンジニア以外の人も利用できるようにすることで、他のあらゆる分野での進歩を加速させることができます。」
とのこと。なぜ今かというと
「言語モデルは指数関数的に成長しています。最先端の言語モデルの改善率を考えると、モデルのサイズと性能が3.4ヶ月で2倍になる、つまり2年ごとに100倍になるということになります。」
100倍。。

「典型的な人間の脳には100兆個以上のシナプスがあり、これはOpenAIのGPT-3 175Bモデルの約571倍です。2年ごとに100倍ずつ増えていくので、今後5年以内に脳内のシナプスよりも多くのパラメータを持つ言語モデルができあがる可能性が高い。ムーアの法則が明らかであったにもかかわらず、60年代にコンピュータの用途の一部を予測できなかったのと同じように、2年ごとの100倍のパラメータの増加率がどのようなものかを大幅に過小評価しているのです。」

ああ、GPT-3をキャッチアップしよう。数か月前にAPI使いたい申請したけども、返答なかったなー。

明日もGPT-3。

関連記事