大規模言語モデル「民主化」の動きが辿る先
興味深いのは、誰も大規模言語モデルによって黒字が出る方法に辿り着いてないことだ。OpenAIはクローズドであるにもかかわらず赤字を垂れ流していると言われる。Microsoftのバックアップがあればこそだが、Microsoftとていつまでも赤字を許容できるわけではないだろう。
大規模言語モデルよりも、むしろ画像生成AIの方がより民主化されていると言えるかもしれない。たとえばcivitai.comというサイトでは、世界中の愛好家が作った独自の画像生成モデルやLoRAアダプターが公開されている。
興味深いのは、誰もこれでお金を稼いでいないことだ。
プラットフォーマーはもちろん、アップロードした人もお金を受け取っていない。いくらかの開発者がPatreonやgithubなどを通じてパトロンからの支援を受けているケースはあるだろうが、基本的には無料で頒布されている。
大規模言語モデルの民主化の動きは、画像生成モデルの民主化の動きを綺麗にトレースしている。
画像生成モデルが民主化されたのは昨年8月。Stability.aiがStableDiffusionという画像生成モデルを無償公開したことに端を発する。そこから、世界中のハッカーたちの手によって改良に改良が重ねられ、高速化し、コンパクトになり、より非力なマシンでも動作するようになった。
そして、ここで生まれた工夫の数々が大規模言語モデルに適用されている。生成するものが絵なのか会話なのか、といった違いがあるだけで、本質的にはAIは全て同様の構造を持っているからだ。
画像生成AIは、StableDiffusionまで民主化されていなかった。それ以前に画像生成AIサービを事実上独占し、自由に使えなくしていたのは、他ならぬOpenAIだ。StableDiffusionの登場によってOpenAIの画像生成AIは急速に陳腐化し、今は誰も使わなくなった。
この先、大規模言語モデルにおいても同じことが起きるだろうか？
清水亮
もの言わぬ機械とコミュニケーションをとる手段「プログラミング」。その歴史から簡単な作成、生活に役立つテクニックなどを網羅し、たった一冊でプログラマーの思考法を手に入れることを可能としたのが『教養としてのプログラミング講座』だ。「もはやそれは誰もが学ぶべき教養」というメッセージを掲げたロングセラーをこのたび増補。ジョブズにゲイツ、現代の成功者はどんな世界を見ている?