ク3.5ってやっぱローカルモデルとしてはトップ3に入るモデルではあるのでちょっと実際どうなんだろうみたいなところは意見と従ってるかなっていうのが現状ではありますとこれさすがにぶっ壊れちゃいますよね。入れたら
無理。ぶっ壊れちゃいますよ。ま、
基本無理。
皆さんこんにちは。え、プログラミング講師の今にです。
いさんク園も最近3.8っていうのが出たらしくてどうなんすか?あれは。
うん。結構ね、賛否分てるからいいっていう声もありつつでもちゃんと動かないみたいな声。
もあってXとかで色々見たりするとその辺が一見分別れてるなっていう感じだから思ってたその期待値やっぱク園って3.53.6ぐらいから結構みんなが注目していてでそん中で期待されてた割にはって印象は正直ある。
そうなんですね。特徴というかどんな映画なのか僕何も分かってないんで。あ、
今日もまたお願いし話したことあるよ。ローカル
LLMの動画とかでそこで聞いたんですけどローカルなんですかそもそもなんかよくわかってあ、なるほどね。確かにそれはいい点かもしんない。
一応オープンウェイトローカルとかの領域ではあるけれども、確かにその辺ごちゃごちゃするかもしれないなと思うので、今回このクン3.8が出たというタイミングでクについてちょっと話していこうかなとは思いますし、実際どうなの
みたいなところをね、少し触れればなと思ってますんでスライドを見ながらですね、一緒にやっていければなと思い[音楽]ます。ということでやっていきましょう。
はい。ということでスライドそして実際に
ウェブページとか色々見ながらクエ3.8についてお話していこうかなと思います。
ということで3.8出ましたが、ごちゃごちゃする情報多いなと思っています。で、今回は別に細かく実装するとか
ということはしないので、気になる方はローカルLLMの動画既でに出してい[音楽]ますので、そちらでLMスタジオであったりとかオラマの使い方、そういったのを見ながらですね、実践って元に
インストールして動かすっていうのをしてみていただけたらいいかなと思います。
基本的にLMスタジオとかを使っていただくと、それぞれのローカルLLMインストールすることができて、で、それインストールして動かすことができるわけですが、ク円3.8もそれなりに容量を
取ったりとかメモリだったりするので、今回はですね、スライドと概要的なところとか、あとはユーザーの声というか、Xで上がってるような時線使ってみた人の声とかをですね、ピックアップしながらお話し
ていこうかなと思います。はい。という
ことでク3.8、これ順次公開されてったんですよね。要はクエ3.8出ました。
ドンじゃなくて3.8ドーンと出ました。で、ローカルモデル、いわゆるオープンウェイトモデルと呼ばれるようなものとかは順次出てったみたいな形なので、この今撮影してる
12週間ぐらいの間でポンポンポンと出てたっていう感じですと。で、そもそもクはっていう話なんですけれども、ク園を作ってるのはアリバです。
出た。かっこいい名前。
アリバ中国のもうビッグECeマスのね、会社でございますが、アリバがクエントの作ってますと。
それこそ中国は結構オープンウェイトモデルというか、ローカルLLMはかなり強くて、ま、アメリカはどちらかというとクラウドの方なよね。クロードとか
チャットGPTINとかそういった形で唯一Googleがジマ4を出してローカル側に入ってきてはいるところですが、中国がクとかま、ディープシークから始まり色々と出してるなっていう印象です。で、基本的
に多くの中国企業そのビッグテックというか大きく強いところね。アリバもアリババ
クラウドっての出してるぐらいクラウドに力入れてたりとかしてた中でそういうテクノロジー基盤があるようなビッグ会社が色々と作ってるってのもある中でアリバbバはやっぱり母体がでかいっての
もあって開発費用とかもかけやすいところなのかなとは思ってますと。でこのアリバ
が作ってるのがクエンというモデルで僕も注目し始めたのはそれこそ今年入ってかなと思うんですけどずっとローカルレだって言ってましたよね。今年は来る
んかっていうのでそれこそ3月ぐらいに動画撮ったからそうですね。
こっから注目して実際スピード感結構早いなってところではありますと。
[音楽]はい。はい。
で、このクエンはクエンスタジオというですね、一応このブラウザで使えるもの中国っぱいっすね。GoogleAI
スタジオちょっとそう、このク園スタジオっていうのがあってチャットとかってコミュニティとか色々あるんですけどもクーダーってのもあってコードいわゆるコードを書くため用のものとか色々用意されてるのですが僕は別にこれ使ったこと正直ないので周りで使ってるみたいな人も聞かないので
基本的には別にクエンスタジオとかこのクードみたいなのを使っていく必要はないかなと思います。ただありますよって感じですね。はい。
なのでブラウザーでそのまま使いましょうみたいな場合とかあとはパターンとしてはAPIで呼び出すなのでクロードAPIとかチョGPTAPIを呼び出すのと同じように一応API経由で呼び出すこともできますとなんで
APIで呼び出したらそれそれでお金かかりますよと。でみんなが注目してるのはこの
APIで云々とかじゃなくてやっぱりオープンウェイト公開モデルってところだよね。
はい。
オープンウェイトって何か覚えてる?
キミKと同じっすよね。
そうそうそう。
拾って使えるやつですよ。
拾って使える。まあまあそうね。
オープンモデルということでオープンウェイトっていうのはいわゆるこのおい出した。
おなんだ。
ダウンロードして改造もできますね、確か。
そうね。ダウンロードすることができて、そ、オープンウェイトって何がオープンなのかってたらウェイト重みと呼ばれるのモデル頭脳の部分にはいわゆるパラメーターと呼ばれるものがこれ重みという風に表現してウェイトって言うんだけれどもこれが例えば何千億とか何兆とかってバーとパラメーターがある中でそれを公開してますよ。
数字を公開してますよっていうのがこのオープンウェイトモデルというものですと。
ただ別にオープンウェイトだからと言って何もかもローカルLMかってそういうわけではなかったりしていてローカルLLMってローカル自分の手元のPCで動かせるっていう予はあるもののそのPCのスペックにより蹴りだよね、正直。
うん。ふんふん。
スペックがドーンと出かければいいけれどもそんなね、超いいスペックのPCなんてほとんどの人は持ってないわけで、なのでオープンウェイトで自分の手元にインストールできるとはいえできるモデルの容量とか大きさみたいなのは正直限られたりしてるかなっていうのはありますと。
はい。はい。
今さんのパソコンも、ま、僕のパソコンも結構いいやつじゃないですか?
そうね。
それでもなんか真ん中ぐらいのモデルでヒーヒーヒってましたよね。
そうね。結構PC熱くなるというか。
はい。なんかボーって言いますもんね。
[笑い]そう。だからかなり自分の
PCではなかなかやるもんじゃないなというか。
それこそローカルLMを動かすためのそれ専用のPCサーバーとか用意してやっていくのが現実的かなってのは思うんですけれども、でもかなりちっちゃなモデルとかも色々出てきてたりしてるのでローカル
LLMもどんどんどんどん小さなモデル、軽量化された、高速化されたモデルとかで自分のPCで動くようなものも増えてきてはいるようなっていう動かせるけど動かしにくいものは多いって感じですかね。
で、ちょっと1回戻るとこのク園3.8MAXとク園3.82.4TのA95Bとかまあなんか色々出てきてるんだよね、バージョン。これはちょっとおいおいお伝えしていきますが、ク
3.8っていうのがつい最近出ましたよと。で、さっき言ったようにいくつかのパターンチャットでやるようなものもあれば
APIもしくは自分の手元に落とすパターンもあるっていうので、ま、大きく3つパターンがありますと。で、そもそも
なんだけれどもというところで、クエ3みたいな、ま、元々のモデルチャATGPT、GPT3みたいなと同じように9バージョンのモデルがあったわけで、それはもう2025年の4月ぐらいからなので
、1年ちょっと前ぐらいに出てきて、で、そこからどんどんどんどんいわゆる水論、いわゆるリーズと呼ばれるようなものが追加されてったりとか、長分処理、ロングコンテクストっていうのが追加されてっ
たりと、進化を遂げてったわけですが、そん中でやっぱり1つかなり大きく1歩済んだなったところとしてはク3.5が出たあたりかなと思ってます。円3.5
が出たあたりで2026年の2月これが画像と動画を使えるようにした。いわゆるマルチモーダルだよね。
マルチモーダルってのは画像とか動画とか色々な形式の情報データを使えるようにしたっていうことが1つ大きくてかつ能力的にも結構使えるじゃんみたいなレベルになったのが3.5とかでそこから3.6
になったのはその4月2ヶ月後で1ヶ月後に3.7そこから3ヶ月後3.8と半年で結構進んだんだよね。
もうスピード感が結構早くなってきてるというか。
うん。うん。結構スピードが早くなってき
てるの当時もちろん進化してってるしことも増えてってるし、この1個前のクエ3点なんとかだとエージェントとして動く力が伸びたよねみたいな形でこの半年の中でもかなりどんどんどんどん大きくというか
進化をしてってるっていうところ[咳払い]なので本当に今でもすごい使いはするしクエ特に僕は3.6の時とかに実際にローカルで動かして使ったりとかそれこそまたちょっと後でも紹介するけれどもこのいわゆるチャatGPTの
メインのモデルみたいな中数のモデルじゃなくてASRいわゆる音声認識モデルとかは音入力ソフトを作った時にク園のモデル使ったりしてたので、そったところとか含めてもク園自体は自分自身も使ってたりしたっていう感じかな。
はい。今さん
はい。
ついに完成したんすね。
そうなんよ。完成しちゃいました。なんとですね、皆さんに有効お見せしていた私の資料作成スキル。これを配布する準備がついに整いました。
ちなみにこのスキルはどうやったらもらえるんですか?
こちらに記載のキーワード。[音楽]
YouTubeの概要欄にお記載のキーワードをLINE登録後にご入力いただけたら説明動画[音楽]そのスキルのファイル類をですねとなっております。
もう今お見せしているのはこんな感じの資料がですね[音楽]完成しましたのでぜ非ぜひ皆さんLINEより受け取っていただけたら嬉しいなと思います。
でなんかちょっとさっき出きてたじゃん3つぐらい。
これね、へこしいんだけども、いくつかパターンがあって、クエン3.8MAッのはこれクラウドのみで提供されてますと。
あれじゃないんですか?オープンウェイトモデルじゃないです。
そう、オープンウェイトモデルじゃないの?公開ウェイトじゃないの?だからウェイトだインストールできるみたいな形じゃないんだよね。
で、なんでここに書いてある通り画像動画とか入力できます。ただクラウド上でのみ提供されてるあれローカル
LMなのにオープンウェイトモデルなのにってところは正直あります。
これの生は僕が混乱してんの?そう。
なんかこの左側のね、このク園3.8のマックスと要はここでク園とかで見てあげた時にクンスタジオとかで見るとなんかこうやって出てきたけどなんか美女画像みたいなちょっと前の部屋みたいな感じで僕生成してないんでさんの履歴ではない。
[笑い]履歴ではないです。一切生成してませんのでご安心ください。で、ま、こ出てくるクエン
[笑い]3.8MAXスてあるじゃん。
ここにあるようにこれが1番いいモデル、今1番強いモデルではあり、このクラウド上いわゆるこのチャットクエンスタジオとかで使えたりすると。
もちろんこのAPIプラットフォームってところ見てあげるとここにも色々書いてある中で今現状はここにずらっとある中でAPI経由とかでもAPIクエ3.8MAみたいな形で一応使える形にはなってるのかなとは思いますがここで
DてはいはいトライコードテキスタンドコードコールAPRかちゃんと使える形になってるかな更新されてないってだけでここでク3.8maってのを呼び出せばっていうのでクラウド上つまりAPI
という形で呼び出せるという感じですと[音楽]はで、これちょっと置いといて。ここちょっとまだ出てないって感じかな。で、それが
1番左ですとクラウド上つまり手元に落とすことができないモデルね。これが
3.8MAX。で、真ん中がクエ3.8の
2.4[音楽]TのA95Bですと。
うん。ふん。
2.4Tって何?
2.4テ。
そう。2.4超。
え?おい。わけわかんないですよ。
2.4兆パラメーターだった気がする。
[咳払い]死ぬほど多い。
めちゃくちゃ多いパラメーターす。中のアクティブ
95B。どういう意味でしょう?
95ビリオン使う。
そう、95ビリオン。1ビリオンって1
ビリオンは1億、10[音楽]億かな。10
億か。
だから950億パラメーターを使うとパラメーターってなんかイメージできないですよね。
なんかそうだな。ま、
死ぬほど多いってことすか?
そう。死ぬほど多いってこと?例えばね、表現パッと出てこないな。よくディープラーニングとかってなられと出てくるだけバーっと数字なられがって数字のあれつ数字が色々繋がっててニューロンみたいなバーって繋がってて全てで
2.4テラあります。2.4
超メタ。その中で実際に使うのは
95ビリオン95パラメーター使いますよみたいなもので公開ウェイトなんだよね。でもこれさすがにぶっ壊れちゃいますよね。入れたら
無理。
ぶっ壊れちゃいます。ま、
基本無理。データセンターって書いてあるけど無理よね。これをインストールするみたいな。一応公開ウェイトだけど無理基本的にこれね、やしいのがこれ画像動画入力できないんですよね、このモデル。
なるほど。はいはい。画像そっか。あれじゃないのか。マルチモーダルじゃないんですね。
そう、マルチモーダルじゃないで思考もオフにするみたいな。
要はリーズモデルじゃないモデル、要はリーズさせずにポンとスピード重視で出力させるようなことができないんですよ。
逆に左側と右側それぞれは思考にできるのでこんなチェックが入ってるって感じね。で、僕たちがどれ使うかかって言ったらもう左のチャットで使うか右側ですと。で、チャットでわざわざク
3.8使うかって言うと使う理由がない正直。だってクロードチャット
GPTでいいじゃんって話。
そうですね。
わざわざ使う必要ない。なので僕たちが使うとしてはやっぱローカル
LMとしての旨味だよね。
ローカルでインストールして使えると。で、これがこの右側のこの
27Bとだいぶ落ちたよね。[音楽]
ていう形で基本的に右側だよね。だから僕たちがこれ街望んでたのはこういう風にク
3.8MAX出てこれ最初クラウドで出ました。で、や
3.8の27Bっていうのが本当撮影日の1日2日前とかに出たわけだよね。撮影日ほぼ当日と言ってもね、同じぐらいのタイムラインで出てきたわけですと。はい。なのでこれを使うっていうので色々と多くの人が今使ってはいるですけどって感じかな。
はい。
で、公開には画像入力と思考がないと。これね、なんかね、やこしいよね。ごちゃごちゃするよね。
で、27B1番ちっちゃい27ビリオンのパラメーター持った。だから圧縮したモデルだよね。これは画像も動画も読めるローカル版なので画像動画を出せるマルチモーダルです。思考のオンオフできます。
自分のPCで動かせますみたいな形でクラウド版って書いてこれマジ一旦置いといておくて基本的にこの27Bってのハギングフェイスとかって呼ばれるようなところで公開されたりするからそこでインストールしてあげればいいですし確かさっきとか見たら
LMスタジオって過去にローカルLMやった時に伝えたツール27B当選しましたよみたいなこと出てきてたのでありますとなんでま僕たちが注目すべきはこの27Bですとでさっき言ったちょっと話戻るんだけども
2.4Tの95Bっていうのはやややややこしいんだけど2.4兆パラメーターのうち1回に動くのは950億パラメーターなので全部フルフルで動くわけじゃないよっていう感じで1回で動くのは全体の約4%ですよ
と。だから全て毎回水論と呼ばれるAIが
出力する時でなんか入力あって出力するこの動作処理を水論って言うんだけどもこの水論に2.4パラメーター全部バー通って計算されて出力するわけじゃなくて実際には95ビリオンのパラメーター使っ
てされる感じね。あとはこれ
Mo覚えてる?萌え萌え萌えってなんか言ってたやつ。
ああ、分かってます。
あれも一応ありますと512のエクスパートから毎回11だけ動くみたいな。この辺やこしいんだけども
[音楽]512個なんかエクスパートみたいなポンポンポンポンあってそのいくつかの繋なぎ目があってそれを動くのは毎回11個動くらしい。はい。
やしいよね。
どうせわかんないや。
わかんないけど要はこの専門家スパートて専門家じゃん。
はい。
この点で示してるに重要なその線みたいなのがいくつか専門のルートがいくつか用意されててそれの中から必要なタイミ例えばさデザインをお願いしますってお願いするのに別に歯医者みたいな専門家らないじゃん。
はいはいはいらないすね。
専門家と言ってもさ、その用途によっているらいいらないってあるじゃん。一応なんか用意されてるみたいな。だ病院とか前も病院で例えたかもしんないよね。病院にはさな何とかいいなんとかいいなん下とかさないか色々いるじゃん。
とかっていう中でじゃあこの患者が来た時に全員が全員対応するんじゃなくてその時に応じてその入ってきたものに対して適切な専門家が動いていくわけだよね。ていうのと同じような仕組みがこれもいいということでミクチャーオブエクスパートっていうのがありますと。はい。これはもうローカル
LMだとよく出てくる話なのでもそういうもんだなぐらいに思っといてくださいと。で、この辺は一旦いいかな。なんかゴロゴロ書いてあるんだけども
CLIを作り続けたとかマイCLIなんか作り続けたなんか色々あったんだけどいいかな。
とりあえずなんか動き続きましたよとか、論文を再現して上まったよとか、ま、なんか色々とね、出てきてます。それこそかなりその
PC操作みたいなところ、エージェンティックな動きとかでもベンチマーク仕用でかなり高い数値出しましたよとか、ただコードと知識みたいなところは他社が上だったりしましたよとか、GPT5.6
みたいな、もちろんそうだよねって話なんだけど、ブルとかには及ばなかったけれども、ま、でも結構近いところまで切ってますよみたいな。
はいはいはい。
で、この27Bに関しては前のモデルから結構飛躍してますと。
PCの画面操作みたいなところもそうだし、あとはなんかそういう高ベンチっていわゆるオフィス業務系のタスクとかもそうだし、色々とそのデバック的なん言うんでしょう的なところのベンチマークの
指標もガーンと増えましたよ。要は
3.627Bから3.727Bで各ベンチマークの仕様伸びたよっていうのは現実あるので結構伸びてるでしょ。
これだけ見るとさ、数値感はさ、それなりに点数上がってるよね。はい。
結局自分たちが使うのは基本的に27Bとかだったりするから27Bがどうかっていう観点で言うとかなり数値としては向上してるからめっちゃいいんじゃないかっていうはいはいはいところはありますとで全体としてこの
1番フルフもので言うと2.4Tの[音楽]AS95Bに関しては一応なんかランキングでは6位みたいなアーティフシャルアナリシスみたいなところの指標ではあるんだけどさてどうなのかって話だよね。
はいはいはい。
パもね、フェかだったりとか色々ある中でさてさて6位なのかって言われるとこの上の部分との差は結構あるんじゃないかなっていうところもあるし出力速度45って結構遅いんだよね。
え、遅いんですね、これ。
そう。さっきそれこそちょっと画像どっかでコーディングとかさせてみてたんだけど、これか。なんだこれ?
普通にコーディングちょっとしたぐらいなんだけども、別の動画で撮ってたやつね。
はいはいはい。
なんだけど、ま、遅いし別になんこれダウンロードしてデザインはね、ま、悪くないけどめっちゃずれてるみたいな。日本語変だったりするんすかね。
ビューを嗅いてあなたの流れてちょっとおかしいっちゃおかしいかもしれないけど別なんかなんだろうってわけじゃなくてちょっと独特みたいな感じかなはいはいおデブがウインクしてますよね崩れてたりとか
[鼻息]確かになんかちょっと前のモデルって感じしますまデザインは別にねシステムで作っちゃってたから別に悪い悪くないっていう話ではないと思うんだけども[音楽]文字崩れとか見るとちょっと
そうねモバイルのレイアドにしてくれてるって意味では悪くない気がするけどね。
はいはい。
ちょっとこの辺は一旦置いといて。
A社は一緒に働いてくださる仲間を募集しております。正社員業務卓インターン問わ
ず絶賛募集中です。AIかける教育事業
ですね、より大きく成長させていくために一緒にAIそして教育に熱を持って望んでいける方、取り組んでいける方を探しております。ご興味のある方はですね、概要
欄に記載のフォームよりご応募ください。
皆様のご応募お待ちしております。出力
[音楽]速度遅いです。
確かにすごい遅いなと思いましたしそもそもなんだけれどもなんだろうなこのチャットGPTクロードとかあとはブロックとかジェミニとかその辺りにはちょっと及ばないよなみたいのもちろんあるので僕は正直ここをわざわざ使うかっていうとそういうわけではないかなっていう感じですかね。
はい。はい。
で、ローカルでとでマLMスタジオとか色々と動かせますよと、あとなんか色々とこれ引っ張ってきたもので言うと基本設計書を欠かせたら人の見直しを指摘したみたいなとかあとは3.6の27B1
個前のモデルねより返が明らかに早いみたいな。元々遅すぎたのかもしんないし、なんかそういうポジティブな報告もありつつなんかそれこそさっきあったさ重み配られたけど
[音楽]3つかけてたみたいな画像と動画の入力みたい1番重いモデルあったじゃんこれ。
はいはいはい。
実際に配られたさ、フルプルのモデルさ、思考にできなかったりとかさ、マルチモードルじゃなかったりとかさ、なんかちょっと惜しいよね。
はいはい。だから今さん好きじゃないのがちょっとめっちゃ出てますね。
いや、好きじゃないっていうか思ったより期待値上げてきた割にはって感じなん。
[笑い]あ、そういうことです。確か
好きじゃないとかじゃなくてなんだろう。
実際オーパスた方は全然張り合いてないってことですよね。
もちろんそこは全然違うんだけれどもなんだろうな。
期待値上げてたらそのローカルLLMとして注目してるからこっちとしてはローカルLMとしてどうかみたいなところで言うと悪くはないけどって感じな気がするんだよ。じゃ、大きな差分があったかって言われるとっていうところなのかなってのは思ってますし、あとなんか結構エラーが今出てるというか、なんかずっと止まらない、ずっとシンキングしてるみたいな。
そう、3.8の27Bとかでずっとシンキングでなんか2時間止まんないみたいなとか結構Xとかで他の人の投稿とか見てみると簡単な作業とかでも考え込んだま終わらないとか多分これはね思考の問題なのか何なのかわかんないけれどもそういったのが発生してるのでなんかちょっとその期待値が上がった割にそういうミスというかトラブルみたいなのがあって微妙だったりしてるみたいな
ところよね27それそれなりにねある程度ねGPUとかそういうメモリ積んでおかなければいけなかったりするわけだけれどもその直もうすぐ出たばっか。出て公開されて
1日ぐらいなんだけどもうん。
こういった報告が合いついてるって感じかな。
なので試たならスタジオって書いたんだけれどもスタジオは使わなくていいかな。普通に別に
3.8マックス使う理由がないから。
ただま価格がオスとか他のモデルと比べると安いわけよね。入力
2ドルの出力6ドルみて。フェイブルとかってもっと高いし数
10ドルとかするからそう考えると安いっちゃ安いけどそこをどう取るかだよね。
はい。
この辺も色ありますがという感じですかね。
はい。で、一応ちょっとスライドでずらっと説明しちゃったんだけども、一応ね、ここのところをお見せするとクエのところでこうやって色々ある中で僕がこれ見てる中でこのクね見てあげるといいんだけどクエンスタジオってのなりあります。
APあります。ダウンロードありますみたいな。これもクアデスクトップもしくはクオ
onPhoneということでモバイルアプリとかデスクトップアプリみたいなのも一応あります。
はい。
これチャットGPTとかのと同じような感じかなと思ってるし、あと一応製品として一応画像成みたいなところもできるね、イメージジェネレーションディープリサーチとかシンキングとかももちろんあるし、マルチモデルアンダースタンディングはもう画像動画サーチもできるよとかこの辺は特に変わった話ではないかなと思ってて、この
[音楽]APIプラットフォームだよね。API
プラットフォームでク3.7、ク3.6とかずらっと貼る中でさっき言った音声入力みたいな音声入力のソフト、音声認識ソフトを作るってなった時に僕はこのクエ3のASRっていうモデルを使いました。
これ書いてあるようにインプットがオーディオでアウトプットはテキストなので音声を認識して文字故障をするっていうこのモデルはさに音声入力ソフトを開発する上ではローカルLエレムとしては結構
優秀だったりしたので普通に使えるものかなと思いますしTTSってテキストスピーチこれ僕ちょっと使ってないんだけどもこのなんかローカルLLMの中でもASRだかTTSは比較的ちっちゃいフルフルのクエンス3.8のみたいなもの
と比べるとメモリクー量少なかったりするのでこの辺りが強くなるのはすごい嬉しいことかなってそれこ音声認識のレベルが上がる、音声入力の精度が上がるという意味では、他のなんて言うんでしょう?
こっちのフルフルのマックスのモデルとかそういうのに注目ももちろんしているものこのクエ3から止まってるASRモデルとかTTSモデルが3.5とか3.8とか最近のレベルまでもう1段階引き上がってくれたらなんかそれこそ音声
認識の制度が上がる、つまり音声入力ソフトとしてのクオリティが上がるってことなのでこの辺には結構期待したいところかなってのは思ってます。
あとは、ま、クイメージ2.0Proとか画像作るんだ。
そう、画像成とかもね、全然できたりするんだけども、この辺もね、正直メジャーではないからさ、あんまトーピックとしてあげられるみたいことはないし、一昔前の画像生成みたいな感じではあるんだけれども、こういったモダルなっていうか画像とか音声とか動画とかそういうのができるようなモデルっていうのがどんどんどんどん出てくるといいよねとは思います。
それこそこのクエンというモデは、このハギングフェイスなんかオープンウェイトモデルとかを登録してくれてるようなサイトなんだけど、ここにあるク園の中にクイメージっていうあるわけだよね。
クイメージのそう、クの画像。
クイメージめっちゃかっこいいの作ってるじゃないですか。こういうのとか作ってるよみたいな。なんでこういったモデルはあるわけですが、これで言うとモデルサイズは
[音楽]20Bパラメーターだよね。20B
これアクティブとかじゃ20Bだからね。結構聞こうすね。そうね。来るっちゃあるけれども画像とか使うからってところはあるかな。
ま、こういうのを作れるって意味だったら、ま、いいのかな。ジ君が好きそうな画像は作ってくれるかなと思うので、使いたければ使ってみるのもいいんじゃないかなとは思います。ちなみに
1個聞きたかったんですけど、園って中国の合いじゃないですか?
[音楽]セキュリティイベントもどうなんですか?
どうなんだろうね。て思うけど別に
ローカルLMだったら別に外と通信するみたいな形ではないから別にそんな気になることはないかなと思うんだけども、あとは利用呼んだりとか色々とモデルの学習が必須になってる場合とかあるかも
しれないからそういうの見て欲しいなと思うんだけど僕は正直クエンススタジオとかを使うってことは基本的にないから何で使うかって言ったらローカルエレムって基本的にはネットと閉した環境で動くっていうのがあるから
細かなコード見てないけどローカルエレムが変なとこに情報送信するとかってなってない限りはセキュリティ的な心配とかはないのかなっ[咳払い]てのは思います。
はい。というところで、このク3.8Xで
見た感じとかは、さっきも言ったように3分別れてるというか、うまくいったという人もいれば、結構いいという人もいれば全然なんか動かない。ずっと水分回ってる
みたいな人もいたりとかしてる中で、この辺りはシンプルにバグなのか何なのか問題はあると思うんで、この辺は多分解決されるとは思うんですけれども、なんかその期待値がもうね、クエ3.5ってやっぱ
ローカルモデルとしては結構注目されてるモデルではある。K3とかと同じように
ローカルの中ではトップ3に入るモデルではあるのでその最新モデルというので期待感があった割にはちょっと実際どうなんだろうみたいなところは意見と従がってるかなっていうのが現状ではありますと。
これがねどんどんどんどんやっぱりこのアクティブ南Bとかも含めてどんどんモデルがちっちゃくなってコンパクトになってローカルPC上で動くけれどもそれがスピード感もあってかつクオリティも高い。
それで多くの人たちの多くのPCに搭載できるようなものになるのであればかなり使い手が良くなるのかなとは思います。僕はもう自分の手元の
PCでは基本的にローカルエレバ動かさないようにはしてます。
容量のメモリ食ったりとかも色々して他の邪魔になるというか妨たになったりするので極力ねここで動かさないようにしてそれこそ自宅に置いてあるMacminニに搭載したりとかそういう風にローカル
Lレムを動かす環境を分けてたりするのでここも何かしら余ってるPC[音楽]とか余ってる環境があればそこでやってみるとかはいいと思いますがローカルLLMにふさわしいタスクみたいなところは
いわゆるたくさんの大量処理みたいなところだったりもするのでその辺りはローカルLLMの動画出てるのでぜ非ぜひ見ていただけたらなていう風に思います。
はい。はい。
もコメント変信コーナー行きたいと思います。
今日ですね、ローカルLMの動画にいただいたコメントです。
コトロジーさんからですね。
ローカルLMで深い会話するボットを作るのは個人PCレベルでは無理でしょうか?
深い会話が何かですよね。
どこまでかにわゆるチャトGPTとかクロードみたいな今の最新のモデルみたいなものを求めるていうのであればちょっと厳しいかなという風には思います。
それはやっぱり27B、それこそ賢くなったとはいえ、そこに落とせるものってのは限られてるし、今現状そのコンパクトなものとはいえそれなりにスペック必要だったりするので、現状どうだろうな、1年前
のAIと会話するぐらいのものはできるんじゃないかなと思うんですけども、最近の他のね、クロードとかJATGPTとかの進化こういったのを見た上でそれと比較するとやっぱどうしても劣る部分はあるか
なと思うので、個人的にはローカルLLMで深い会話とかっていうのはあんま向いてないと思いますし、先ほどもちらっと話したように大量の処理をどんどんどんどんさばいてもらえるみたいな、そういったの
には非常に向いてるんじゃないかなって思います。はい。ということで、ま、
こんな感じで比較的新しい情報というか出たもので注目されてるものとかそういったものを技術的なところの話も踏まえながらお伝えしていこうかなと思ってますので、こういうの知りたい、Aの知りたい、そう
いうのがあればですね、是非コメント欄にお寄せいただけたらなという風に思います。はい、ということで本日は以上になり
ます。また次回。