ク3.5
ってやっぱローカルモデルとしてはトップ
に入るモデルではあるのでちょっと実際どうなんだろうみたいなところは意見と従ってるかなっていうのが現状ではありますとこれさすがにぶっ壊れちゃいますよね。入れたら
無理。ぶっ壊れちゃいますよ。ま、
基本無理。
皆さんこんにちは。え、プログラミング講師の今にです。
いさんク園も最近
3.8
っていうのが出たらしくてどうなんすか?あれは。
うん。結構ね、賛否分てるからいいっていう声もありつつでもちゃんと動かないみたいな声。
もあってX
とかで色々見たりするとその辺が一見分別れてるなっていう感じだから思ってたその期待値やっぱク園って
3.53.6
ぐらいから結構みんなが注目していてでそん中で期待されてた割にはって印象は正直ある。
そうなんですね。特徴というかどんな映画なのか僕何も分かってないんで。あ、
今日もまたお願いし話したことあるよ。ローカル
LLMの動画とかで
そこで聞いたんですけどローカルなんですかそもそもなんかよくわかってあ
あ、なるほどね。確かにそれはいい点かもしんない。
一応オープンウェイトローカルとかの領域
ではあるけれども、確かにその辺
ごちゃごちゃするかもしれないなと思うの
で、今回このクン3.8が出たという
タイミングでクについてちょっと話して
いこうかなとは思いますし、実際どうなの
みたいなところをね、少し触れればなと
思ってますんでスライドを見ながらですね
、一緒にやっていければなと思い[音楽]
ます。ということでやっていきましょう。
はい。ということでスライドそして実際に
ウェブページとか色々見ながらクエ3.8
についてお話していこうかなと思います。
ということで3.8出ましたが、
ごちゃごちゃする情報多いなと思ってい
ます。で、今回は別に細かく実装するとか
ということはしないので、気になる方は
ローカルLLMの動画既でに出してい
[音楽]ますので、そちらでLMスタジオ
であったりとかオラマの使い方、そういっ
たのを見ながらですね、実践って元に
インストールして動かすっていうのをして
みていただけたらいいかなと思います。
基本的にLMスタジオとかを使って
いただくと、それぞれのローカルLLM
インストールすることができて、で、それ
インストールして動かすことができるわけ
ですが、ク円3.8もそれなりに容量を
取ったりとかメモリだったりするので、
今回はですね、スライドと概要的なところ
とか、あとはユーザーの声というか、Xで
上がってるような時線使ってみた人の声と
かをですね、ピックアップしながらお話し
ていこうかなと思います。はい。という
ことでク3.8、これ順次公開されてった
んですよね。要はクエ3.8出ました。
ドンじゃなくて3.8
ドーンと出ました。で、ローカルモデル、いわゆるオープンウェイトモデルと呼ばれるようなものとかは順次出てったみたいな形なので、この今撮影してる
12
週間ぐらいの間でポンポンポンと出てたっていう感じですと。で、そもそもクはっていう話なんですけれども、ク園を作ってるのはアリバです。
出た。かっこいい名前。
アリバ中国のもうビッグ
EC
eマスのね、会社でございますが、アリバがクエントの作ってますと。
それこそ中国は結構オープンウェイト
モデルというか、ローカルLLMはかなり
強くて、ま、アメリカはどちらかというと
クラウドの方なよね。クロードとか
チャットGPTINとかそういった形で
唯一Googleがジマ4を出して
ローカル側に入ってきてはいるところです
が、中国がク
とかま、ディープシークから始まり色々と
出してるなっていう印象です。で、基本的
に多くの中国企業そのビッグテックという
か大きく強いところね。アリバもアリババ
クラウドっての出してるぐらいクラウドに
力入れてたりとかしてた中でそういう
テクノロジー基盤があるようなビッグ会社
が色々と作ってるってのもある中で
アリバbバはやっぱり母体がでかいっての
もあって開発費用とかもかけやすいところ
なのかなとは思ってますと。でこのアリバ
が作ってるのがクエンというモデルで僕も
注目し始めたのはそれこそ今年入って
かなと思うんですけどずっとローカルレ
だって言ってましたよね。今年は来る
んかっていうのでそれこそ3月ぐらいに
動画撮ったからそうですね。
こっから注目して実際スピード感結構早いなってところではありますと。
[音楽]
はい。はい。
で、このクエンはクエンスタジオというですね、一応このブラウザで使えるもの
中国っぱいっすね。GoogleAI
スタジオちょっと
そう、このク園スタジオっていうのがあってチャットとかってコミュニティとか色々あるんですけどもクーダーってのもあってコードいわゆるコードを書くため用のものとか色々用意されてるのですが僕は別にこれ使ったこと正直ないので周りで使ってるみたいな人も聞かないので
基本的には別にクエンスタジオとかこのクードみたいなのを使っていく必要はないかなと思います。ただありますよって感じですね。はい。
なのでブラウザーでそのまま使いましょうみたいな場合とかあとはパターンとしては
APIで呼び出す
なのでクロードAPIとかチョGPT
APIを呼び出すのと同じように一応
API
経由で呼び出すこともできますとなんで
API
で呼び出したらそれそれでお金かかりますよと。でみんなが注目してるのはこの
API
で云々とかじゃなくてやっぱりオープンウェイト公開モデルってところだよね。
はい。
オープンウェイトって何か覚えてる?
キミKと同じっすよね。
そうそうそう。
拾って使えるやつですよ。
拾って使える。まあまあそうね。
オープンモデルということでオープンウェイトっていうのはいわゆるこのおい出した。
おなんだ。
ダウンロードして改造もできますね、確か。
そうね。ダウンロードすることができて、そ、オープンウェイトって何がオープンなのかってたらウェイト重みと呼ばれるのモデル頭脳の部分にはいわゆるパラメーターと呼ばれるものがこれ重みという風に表現してウェイトって言うんだけれどもこれが例えば何千億とか何兆とかってバーとパラメーターがある中でそれを公開してますよ。
数字を公開してますよっていうのがこのオープンウェイトモデルというものですと。
ただ別にオープンウェイトだからと言って何もかもローカル
LM
かってそういうわけではなかったりしていてローカル
LLMってローカル自分の手元の
PC
で動かせるっていう予はあるもののその
PCのスペックにより蹴りだよね、正直。
うん。ふんふん。
スペックがドーンと出かければいいけれどもそんなね、超いいスペックの
PC
なんてほとんどの人は持ってないわけで、なのでオープンウェイトで自分の手元にインストールできるとはいえできるモデルの容量とか大きさみたいなのは正直限られたりしてるかなっていうのはありますと。
はい。はい。
今さんのパソコンも、ま、僕のパソコンも結構いいやつじゃないですか?
そうね。
それでもなんか真ん中ぐらいのモデルでヒーヒーヒってましたよね。
そうね。結構PC熱くなるというか。
はい。なんかボーって言いますもんね。
[笑い]
そう。だからかなり自分の
PC
ではなかなかやるもんじゃないなというか。
それこそローカルLMを動かすためのそれ
専用のPCサーバーとか用意してやって
いくのが現実的かなってのは思うんです
けれども、でもかなりちっちゃなモデルと
かも色々出てきてたりしてるのでローカル
LLMもどんどんどんどん小さなモデル、
軽量化された、高速化されたモデルとかで
自分のPCで動くようなものも増えてきて
はいるようなっていう動かせるけど動かし
にくいものは多いって感じですかね。
で、ちょっと1回戻るとこのク園
3.8MAXとク園3.82.4TのA
95B
とかまあなんか色々出てきてるんだよね、バージョン。これはちょっとおいおいお伝えしていきますが、ク
3.8
っていうのがつい最近出ましたよと。で、さっき言ったようにいくつかのパターンチャットでやるようなものもあれば
API
もしくは自分の手元に落とすパターンもあるっていうので、ま、大きく
3つパターンがありますと。で、そもそも
なんだけれどもというところで、クエ3
みたいな、ま、元々のモデルチャAT
GPT、GPT3みたいなと同じように9
バージョンのモデルがあったわけで、それ
はもう2025年の4月ぐらいからなので
、1年ちょっと前ぐらいに出てきて、で、
そこからどんどんどんどんいわゆる水論、
いわゆるリーズと呼ばれるようなものが
追加されてったりとか、長分処理、ロング
コンテクストっていうのが追加されてっ
たりと、進化を遂げてったわけですが、
そん中でやっぱり1つかなり大きく1歩
済んだなったところとしてはク3.5が出
たあたりかなと思ってます。円3.5
が出たあたりで2026年の2
月これが画像と動画を使えるようにした。いわゆるマルチモーダルだよね。
マルチモーダルってのは画像とか動画とか色々な形式の情報データを使えるようにしたっていうことが
つ大きくてかつ能力的にも結構使えるじゃんみたいなレベルになったのが
3.5とかでそこから3.6
になったのはその4月2ヶ月後で1
ヶ月後に3.7そこから3ヶ月後3.8
と半年で結構進んだんだよね。
もうスピード感が結構早くなってきてるというか。
うん。うん。結構スピードが早くなってき
てるの当時もちろん進化してってるしこと
も増えてってるし、この1個前のクエ3点
なんとかだとエージェントとして動く力が
伸びたよねみたいな形でこの半年の中でも
かなりどんどんどんどん大きくというか
進化をしてってるっていうところ
[咳払い]なので本当に今でもすごい使い
はするしクエ特に僕は3.6の時とかに
実際にローカルで動かして使ったりとか
それこそまたちょっと後でも紹介する
けれどもこのいわゆるチャatGPTの
メインのモデルみたいな中数のモデルじゃ
なくてASRいわゆる音声認識モデルとか
は音
入力ソフトを作った時にク園のモデル使ったりしてたので、そったところとか含めてもク園自体は自分自身も使ってたりしたっていう感じかな。
はい。今さん
はい。
ついに完成したんすね。
そうなんよ。完成しちゃいました。なんとですね、皆さんに有効お見せしていた私の資料作成スキル。これを配布する準備がついに整いました。
ちなみにこのスキルはどうやったらもらえるんですか?
こちらに記載のキーワード。[音楽]
YouTubeの概要欄にお記載のキー
ワードをLINE登録後にご入力いただけ
たら説明動画[音楽]そのスキルの
ファイル類をですねとなっております。
もう今お見せしているのはこんな感じの
資料がですね[音楽]
完成しましたのでぜ非ぜひ皆さんLINE
より受け取っていただけたら嬉しいなと
思います。
でなんかちょっとさっき出きてたじゃん3
つぐらい。
これね、へこしいんだけども、いくつかパターンがあって、クエン
3.8MA
ッのはこれクラウドのみで提供されてますと。
あれじゃないんですか?オープンウェイトモデルじゃないです。
そう、オープンウェイトモデルじゃないの?公開ウェイトじゃないの?だからウェイトだインストールできるみたいな形じゃないんだよね。
で、なんでここに書いてある通り画像動画とか入力できます。ただクラウド上でのみ提供されてるあれローカル
LM
なのにオープンウェイトモデルなのにってところは正直あります。
これの生は僕が混乱してんの?そう。
なんかこの左側のね、このク園
3.8
のマックスと要はここでク園とかで見てあげた時にクンスタジオとかで見ると
なんかこうやって出てきたけどなんか美女画像みたいなちょっと前の部屋みたいな感じで僕生成してないんでさんの履歴ではない。
[笑い]
履歴ではないです。一切生成してませんのでご安心ください。で、ま、こ出てくるクエン
[笑い]
3.8MAXスてあるじゃん。
ここにあるようにこれが1
番いいモデル、今1
番強いモデルではあり、このクラウド上いわゆるこのチャットクエンスタジオとかで使えたりすると。
もちろんこのAPI
プラットフォームってところ見てあげると
ここにも色々書いてある中で今現状はここにずらっとある中で
API経由とかでもAPIクエ3.8MA
みたいな形で一応使える形にはなってるのかなとは思いますがここで
Dて
はいはい
トライコードテキスタンドコードコール
APRかちゃんと使える形になってるかな
更新されてないってだけでここでク
3.8ma
ってのを呼び出せばっていうのでクラウド上つまり
API
という形で呼び出せるという感じですと
[音楽]
は
で、これちょっと置いといて。ここちょっとまだ出てないって感じかな。で、それが
番左ですとクラウド上つまり手元に落とすことができないモデルね。これが
3.8MAX。で、真ん中がクエ3.8の
2.4[音楽]TのA95Bですと。
うん。ふん。
2.4Tって何?
2.4テ。
そう。2.4超。
え?おい。わけわかんないですよ。
2.4兆パラメーターだった気がする。
[咳払い]
死ぬほど多い。
めちゃくちゃ多いパラメーターす。中のアクティブ
95B。どういう意味でしょう?
95ビリオン使う。
そう、95ビリオン。1ビリオンって1
ビリオンは1億、10[音楽]
億かな。10
億か。
だから950億パラメーターを使うと
パラメーターってなんかイメージできないですよね。
なんかそうだな。ま、
死ぬほど多いってことすか?
そう。死ぬほど多いってこと?例えばね、表現パッと出てこないな。よくディープラーニングとかってなられと出てくるだけバーっと数字なられがって数字のあれつ数字が色々繋がっててニューロンみたいなバーって繋がってて全てで
2.4テラあります。2.4
超メタ。その中で実際に使うのは
95ビリオン95
パラメーター使いますよみたいなもので公開ウェイトなんだよね。でもこれさすがにぶっ壊れちゃいますよね。入れたら
無理。
ぶっ壊れちゃいます。ま、
基本無理。データセンターって書いてあるけど無理よね。これをインストールするみたいな。一応公開ウェイトだけど無理基本的にこれね、やしいのがこれ画像動画入力できないんですよね、このモデル。
なるほど。はいはい。画像そっか。あれじゃないのか。マルチモーダルじゃないんですね。
そう、マルチモーダルじゃないで思考もオフにするみたいな。
要はリーズモデルじゃないモデル、要はリーズさせずにポンとスピード重視で出力させるようなことができないんですよ。
逆に左側と右側それぞれは思考にできるのでこんなチェックが入ってるって感じね。で、僕たちがどれ使うかかって言ったらもう左のチャットで使うか右側ですと。で、チャットでわざわざク
3.8
使うかって言うと使う理由がない正直。だってクロードチャット
GPTでいいじゃんって話。
そうですね。
わざわざ使う必要ない。なので僕たちが使うとしてはやっぱローカル
LMとしての旨味だよね。
ローカルでインストールして使えると。で、これがこの右側のこの
27Bとだいぶ落ちたよね。[音楽]
ていう形で基本的に右側だよね。だから僕たちがこれ街望んでたのはこういう風にク
3.8MAX
出てこれ最初クラウドで出ました。で、や
3.8の27Bっていうのが本当撮影日の
1日2
日前とかに出たわけだよね。撮影日ほぼ当日と言ってもね、同じぐらいのタイムラインで出てきたわけですと。はい。なのでこれを使うっていうので色々と多くの人が今使ってはいるですけどって感じかな。
はい。
で、公開には画像入力と思考がないと。これね、なんかね、やこしいよね。ごちゃごちゃするよね。
で、27B1番ちっちゃい27
ビリオンのパラメーター持った。だから圧縮したモデルだよね。これは画像も動画も読めるローカル版なので画像動画を出せるマルチモーダルです。思考のオンオフできます。
自分のPCで動かせますみたいな形
でクラウド版って書いてこれマジ一旦置いといておくて基本的にこの
27B
ってのハギングフェイスとかって呼ばれるようなところで公開されたりするからそこでインストールしてあげればいいですし確かさっきとか見たら
LMスタジオって過去にローカルLM
やった時に伝えたツール
27B
当選しましたよみたいなこと出てきてたのでありますとなんでま僕たちが注目すべきはこの
27Bですと
でさっき言ったちょっと話戻るんだけども
2.4Tの95B
っていうのはやややややこしいんだけど
2.4兆パラメーターのうち1回に動くの
は950億パラメーターなので全部
フルフルで動くわけじゃないよっていう
感じで1回で動くのは全体の約4%ですよ
と。だから全て毎回水論と呼ばれるAIが
出力する時でなんか入力あって出力する
この動作処理を水論って言うんだけども
この水論に2.4パラメーター全部バー
通って計算されて出力するわけじゃなくて
実際には95ビリオンのパラメーター使っ
てされる感じね。あとはこれ
Mo覚えてる?萌え萌え萌えってなんか言ってたやつ。
ああ、分かってます。
あれも一応ありますと512
のエクスパートから毎回11
だけ動くみたいな。この辺やこしいんだけども
[音楽]
個なんかエクスパートみたいなポンポンポンポンあってそのいくつかの繋なぎ目があってそれを動くのは毎回
11個動くらしい。はい。
やしいよね。
どうせわかんないや。
わかんないけど要はこの専門家スパートて専門家じゃん。
はい。
この点で示してるに重要なその線みたいなのがいくつか専門のルートがいくつか用意されててそれの中から必要なタイミ例えばさデザインをお願いしますってお願いするのに別に歯医者みたいな専門家らないじゃん。
はいはいはいらないすね。
専門家と言ってもさ、その用途によっているらいいらないってあるじゃん。一応なんか用意されてるみたいな。だ病院とか前も病院で例えたかもしんないよね。病院にはさな何とかいいなんとかいいなん下とかさないか色々いるじゃん。
とかっていう中でじゃあこの患者が来た時に全員が全員対応するんじゃなくてその時に応じてその入ってきたものに対して適切な専門家が動いていくわけだよね。ていうのと同じような仕組みがこれもいいということでミクチャーオブエクスパートっていうのがありますと。はい。これはもうローカル
LM
だとよく出てくる話なのでもそういうもんだなぐらいに思っといてくださいと。で、この辺は一旦いいかな。なんかゴロゴロ書いてあるんだけども
CLIを作り続けたとかマイ
CLI
なんか作り続けたなんか色々あったんだけどいいかな。
とりあえずなんか動き続きましたよとか、論文を再現して上まったよとか、ま、なんか色々とね、出てきてます。それこそかなりその
PC
操作みたいなところ、エージェンティックな動きとかでもベンチマーク仕用でかなり高い数値出しましたよとか、ただコードと知識みたいなところは他社が上だったりしましたよとか、
GPT5.6
みたいな、もちろんそうだよねって話なんだけど、ブルとかには及ばなかったけれども、ま、でも結構近いところまで切ってますよみたいな。
はいはいはい。
で、この27B
に関しては前のモデルから結構飛躍してますと。
PCの画面操作みたいなところもそうだし
、あとはなんかそういう高ベンチって
いわゆるオフィス業務系のタスクとかも
そうだし、色々とそのデバック的なん言う
んでしょう的なところのベンチマークの
指標もガーンと増えましたよ。要は
3.627Bから3.727B
で各ベンチマークの仕様伸びたよっていう
のは現実あるので結構伸びてるでしょ。
これだけ見るとさ、数値感はさ、それなり
に点数上がってるよね。はい。
結局自分たちが使うのは基本的に27B
とかだったりするから27B
がどうかっていう観点で言うとかなり数値としては向上してるからめっちゃいいんじゃないかっていうはいはいはい
ところはありますとで全体としてこの
1番フルフもので言うと2.4Tの
[音楽]AS95B
に関しては一応なんかランキングでは
位みたいなアーティフシャルアナリシスみたいなところの指標ではあるんだけどさてどうなのかって話だよね。
はいはいはい。
パもね、フェかだったりとか色々ある中でさてさて
位なのかって言われるとこの上の部分との差は結構あるんじゃないかなっていうところもあるし出力速度
45って結構遅いんだよね。
え、遅いんですね、これ。
そう。さっきそれこそちょっと画像どっかでコーディングとかさせてみてたんだけど、これか。なんだこれ?
普通にコーディングちょっとしたぐらいなんだけども、別の動画で撮ってたやつね。
はいはいはい。
なんだけど、ま、遅いし別になんこれダウンロードしてデザインはね、
ま、悪くないけどめっちゃずれてるみたいな。日本語変だったりするんすかね。
ビューを嗅いてあなたの流れてちょっとおかしいっちゃおかしいかもしれないけど別なんかなんだろうってわけじゃなくてちょっと独特みたいな感じかな
はいはいおデブがウインクしてますよね崩れてたりとか
[鼻息]
確かになんかちょっと前のモデルって感じします
まデザインは別にねシステムで作っちゃってたから別に悪い悪くないっていう話ではないと思うんだけども
[音楽]
文字崩れとか見るとちょっと
そうねモバイルのレイアドにしてくれてるって意味では悪くない気がするけどね。
はいはい。
ちょっとこの辺は一旦置いといて。
A社は一緒に働いてくださる仲間を募集し
ております。正社員業務卓インターン問わ
ず絶賛募集中です。AIかける教育事業
ですね、より大きく成長させていくために
一緒にAIそして教育に熱を持って望んで
いける方、取り組んでいける方を探して
おります。ご興味のある方はですね、概要
欄に記載のフォームよりご応募ください。
皆様のご応募お待ちしております。出力
[音楽]速度遅いです。
確かにすごい遅いなと思いましたしそもそもなんだけれどもなんだろうなこのチャット
GPT
クロードとかあとはブロックとかジェミニとかその辺りにはちょっと及ばないよなみたいのもちろんあるので僕は正直ここをわざわざ使うかっていうとそういうわけではないかなっていう感じですかね。
はい。はい。
で、ローカルでとでマ
LM
スタジオとか色々と動かせますよと、あとなんか色々とこれ引っ張ってきたもので言うと基本設計書を欠かせたら人の見直しを指摘したみたいなとかあとは
3.6の27B1
個前のモデルねより返が明らかに早いみたいな。元々遅すぎたのかもしんないし、なんかそういうポジティブな報告もありつつなんかそれこそさっきあったさ重み配られたけど
[音楽]
つかけてたみたいな画像と動画の入力みたい
1番重いモデルあったじゃんこれ。
はいはいはい。
実際に配られたさ、フルプルのモデルさ、思考にできなかったりとかさ、マルチモードルじゃなかったりとかさ、なんかちょっと惜しいよね。
はいはい。だから今さん好きじゃないのがちょっとめっちゃ出てますね。
いや、好きじゃないっていうか思ったより期待値上げてきた割にはって感じなん。
[笑い]
あ、そういうことです。確か
好きじゃないとかじゃなくてなんだろう。
実際オーパスた方は全然張り合いてないってことですよね。
もちろんそこは全然違うんだけれどもなんだろうな。
期待値上げてたらそのローカルLLM
として注目してるからこっちとしてはローカル
LM
としてどうかみたいなところで言うと悪くはないけどって感じな気がするんだよ。じゃ、大きな差分があったかって言われるとっていうところなのかなってのは思ってますし、あとなんか結構エラーが今出てるというか、なんかずっと止まらない、ずっとシンキングしてるみたいな。
そう、3.8の27B
とかでずっとシンキングでなんか
2時間止まんないみたいなとか結構
X
とかで他の人の投稿とか見てみると簡単な作業とかでも考え込んだま終わらないとか多分これはね思考の問題なのか何なのかわかんないけれどもそういったのが発生してるのでなんかちょっとその期待値が上がった割にそういうミスというかトラブルみたいなのがあって微妙だったりしてるみたいな
ところよね27
それそれなりにねある程度ねGPU
とかそういうメモリ積んでおかなければいけなかったりするわけだけれどもその直
もうすぐ出たばっか。出て公開されて
1日ぐらいなんだけども
うん。
こういった報告が合いついてるって感じかな。
なので試たならスタジオって書いたんだけれどもスタジオは使わなくていいかな。普通に別に
3.8マックス使う理由がないから。
ただま価格がオスとか他のモデルと比べると安いわけよね。入力
2ドルの出力6
ドルみて。フェイブルとかってもっと高いし数
ドルとかするからそう考えると安いっちゃ安いけどそこをどう取るかだよね。
はい。
この辺も色ありますがという感じですかね。
はい。で、一応ちょっとスライドでずらっと説明しちゃったんだけども、一応ね、ここのところをお見せするとクエのところでこうやって色々ある中で僕がこれ見てる中でこのクね見てあげるといいんだけどクエンスタジオってのなりあります。
AP
あります。ダウンロードありますみたいな。これもクアデスクトップもしくはクオ
on
Phoneということでモバイルアプリとかデスクトップアプリみたいなのも一応あります。
はい。
これチャットGPT
とかのと同じような感じかなと思ってるし、あと一応製品として一応画像成みたいなところもできるね、イメージジェネレーションディープリサーチとかシンキングとかももちろんあるし、マルチモデルアンダースタンディングはもう画像動画サーチもできるよとかこの辺は特に変わった話ではないかなと思ってて、この
[音楽]
APIプラットフォームだよね。API
プラットフォームでク3.7、ク3.6
とかずらっと貼る中でさっき言った音声入力みたいな音声入力のソフト、音声認識ソフトを作るってなった時に僕はこのクエ
3のASRっていうモデルを使いました。
これ書いてあるようにインプットが
オーディオでアウトプットはテキストなの
で音声を認識して文字故障をするっていう
このモデルはさに音声入力ソフトを開発
する上ではローカルLエレムとしては結構
優秀だったりしたので普通に使えるものか
なと思いますしTTSってテキスト
スピーチこれ僕ちょっと使ってないんだ
けどもこのなんかローカルLLMの中でも
ASRだかTTSは比較的ちっちゃい
フルフルのクエンス3.8のみたいなもの
と比べるとメモリクー量少なかったりする
のでこの辺りが強くなるのはすごい嬉しい
ことかなってそれこ音声認識のレベルが
上がる、音声入力の精度が上がるという
意味では、他のなんて言うんでしょう?
こっちのフルフルのマックスのモデルとか
そういうのに注目ももちろんしているもの
のこのクエ3から止まってるASRモデル
とかTTSモデルが3.5とか3.8とか
最近のレベルまでもう1段階
引き上がってくれたらなんかそれこそ音声
認識の制度が上がる、つまり音声
入力ソフトとしてのクオリティが
上がるってことなのでこの辺には結構期待
したいところかなってのは思ってます。
あとは、ま、クイメージ2.0Proとか
画像作るんだ。
そう、画像成とかもね、全然できたりするんだけども、この辺もね、正直メジャーではないからさ、あんまトーピックとしてあげられるみたいことはないし、一昔前の画像生成みたいな感じではあるんだけれども、こういったモダルなっていうか画像とか音声とか動画とかそういうのができるようなモデルっていうのがどんどんどんどん出てくるといいよねとは思います。
それこそこのクエンというモデは、このハギングフェイスなんかオープンウェイトモデルとかを登録してくれてるようなサイトなんだけど、ここにあるク園の中にクイメージっていうあるわけだよね。
クイメージの
そう、クの画像。
クイメージめっちゃかっこいいの作ってるじゃないですか。こういうのとか作ってるよみたいな。なんでこういったモデルはあるわけですが、これで言うとモデルサイズは
[音楽]
20Bパラメーターだよね。20B
これアクティブとかじゃ20B
だからね。結構聞こうすね。そうね。来るっちゃあるけれども画像とか使うからってところはあるかな。
ま、こういうのを作れるって意味だったら、ま、いいのかな。ジ君が好きそうな画像は作ってくれるかなと思うので、使いたければ使ってみるのもいいんじゃないかなとは思います。ちなみに
個聞きたかったんですけど、園って中国の合いじゃないですか?
[音楽]
セキュリティイベントもどうなんですか?
どうなんだろうね。て思うけど別に
ローカルLMだったら別に外と通信する
みたいな形ではないから別にそんな気に
なることはないかなと思うんだけども、
あとは利用呼んだりとか色々とモデルの
学習が必須になってる場合とかあるかも
しれないからそういうの見て欲しいなと
思うんだけど僕は正直クエンススタジオと
かを使うってことは基本的にないから何で
使うかって言ったらローカルエレム
ローカルエレムって基本的にはネットと
閉した環境で動くっていうのがあるから
細かなコード見てないけどローカルエレム
が変なとこに情報送信するとかってなって
ない限りはセキュリティ的な心配とかは
ないのかなっ[咳払い]てのは思います。
はい。というところで、このク3.8Xで
見た感じとかは、さっきも言ったように3
分別れてるというか、うまくいったという
人もいれば、結構いいという人もいれば
全然なんか動かない。ずっと水分回ってる
みたいな人もいたりとかしてる中で、この
辺りはシンプルにバグなのか何なのか問題
はあると思うんで、この辺は多分解決さ
れるとは思うんですけれども、なんかその
期待値がもうね、クエ3.5ってやっぱ
ローカルモデルとしては結構注目されてる
モデルではある。K3とかと同じように
ローカルの中ではトップ3に入るモデルで
はあるのでその最新モデルというので期待
感があった割にはちょっと実際どうなん
だろうみたいなところは意見と従がってる
かなっていうのが現状ではありますと。
これがねどんどんどんどんやっぱりこの
アクティブ南Bとかも含めてどんどん
どんどんモデルがちっちゃくなって
コンパクトになってローカルPC上で動く
で動くけれどもそれがスピード感もあって
かつクオリティも高い。
それで多くの人たちの多くのPC
に搭載できるようなものになるのであればかなり使い手が良くなるのかなとは思います。僕はもう自分の手元の
PC
では基本的にローカルエレバ動かさないようにはしてます。
容量のメモリ食ったりとかも色々して他の
邪魔になるというか妨たになったりするの
で極力ねここで動かさないようにしてそれ
こそ自宅に置いてあるMacminニに
搭載したりとかそういう風にローカル
Lレムを動かす環境を分けてたりするので
ここも何かしら余ってるPC[音楽]とか
余ってる環境があればそこでやってみると
かはいいと思いますがローカルLLMに
ふさわしいタスクみたいなところは
いわゆるたくさんの大量処理みたいな
ところだったりもするのでその辺りは
ローカルLLMの動画出てるのでぜ非ぜひ
見ていただけたらなていう風に思います。
はい。はい。
もコメント変信コーナー行きたいと思います。
今日ですね、ローカルLM
の動画にいただいたコメントです。
コトロジーさんからですね。
ローカルLM
で深い会話するボットを作るのは個人
PCレベルでは無理でしょうか?
深い会話が何かですよね。
どこまでかにわゆるチャトGPT
とかクロードみたいな今の最新のモデルみたいなものを求めるていうのであればちょっと厳しいかなという風には思います。
それはやっぱり27B、それこそ賢くなっ
たとはいえ、そこに落とせるものってのは
限られてるし、今現状そのコンパクトな
ものとはいえそれなりにスペック必要だっ
たりするので、現状どうだろうな、1年前
のAIと会話するぐらいのものはできるん
じゃないかなと思うんですけども、最近の
他のね、クロードとかJATGPTとかの
進化こういったのを見た上でそれと比較
するとやっぱどうしても劣る部分はあるか
なと思うので、個人的にはローカルLLM
で深い会話とかっていうのはあんま向いて
ないと思いますし、先ほどもちらっと話し
たように大量の処理をどんどんどんどん
さばいてもらえるみたいな、そういったの
には非常に向いてるんじゃないかなって
思います。はい。ということで、ま、
こんな感じで比較的新しい情報というか出
たもので注目されてるものとかそういった
ものを技術的なところの話も踏まえながら
お伝えしていこうかなと思ってますので、
こういうの知りたい、Aの知りたい、そう
いうのがあればですね、是非コメント欄に
お寄せいただけたらなという風に思います
。はい、ということで本日は以上になり
ます。また次回。