實際影片長度:26:22.000。原文、繁中、雙語可點擊句子跳轉影片。
0:00.120–0:11.390
jaク3.5ってやっぱローカルモデルとしてはトップ3に入るモデルではあるのでちょっと実際どうなんだろうみたいなところは意見と従ってるかなっていうのが現状ではありますとこれさすがにぶっ壊れちゃいますよね。入れたら
0:11.400–0:13.000
ja無理。ぶっ壊れちゃいますよ。ま、
0:13.000–0:16.910
zh基本無理。
0:16.920–0:19.600
ja皆さんこんにちは。え、プログラミング講師の今にです。
0:19.600–0:24.109
jaいさんク園も最近3.8っていうのが出たらしくてどうなんすか?あれは。
0:24.119–0:29.749
jaうん。結構ね、賛否分てるからいいっていう声もありつつでもちゃんと動かないみたいな声。
0:29.759–0:43.910
jaもあってXとかで色々見たりするとその辺が一見分別れてるなっていう感じだから思ってたその期待値やっぱク園って3.53.6ぐらいから結構みんなが注目していてでそん中で期待されてた割にはって印象は正直ある。
0:43.920–0:48.110
jaそうなんですね。特徴というかどんな映画なのか僕何も分かってないんで。あ、
0:48.120–0:51.350
ja今日もまたお願いし話したことあるよ。ローカル
0:51.360–0:58.559
jaLLMの動画とかでそこで聞いたんですけどローカルなんですかそもそもなんかよくわかってあ、なるほどね。確かにそれはいい点かもしんない。
0:58.559–1:10.200
ja一応オープンウェイトローカルとかの領域ではあるけれども、確かにその辺ごちゃごちゃするかもしれないなと思うので、今回このクン3.8が出たというタイミングでクについてちょっと話していこうかなとは思いますし、実際どうなの
1:10.200–1:18.680
jaみたいなところをね、少し触れればなと思ってますんでスライドを見ながらですね、一緒にやっていければなと思い[音楽]ます。ということでやっていきましょう。
1:18.680–1:21.360
jaはい。ということでスライドそして実際に
1:21.360–1:26.759
jaウェブページとか色々見ながらクエ3.8についてお話していこうかなと思います。
1:26.759–1:33.240
jaということで3.8出ましたが、ごちゃごちゃする情報多いなと思っています。で、今回は別に細かく実装するとか
1:33.240–1:42.439
jaということはしないので、気になる方はローカルLLMの動画既でに出してい[音楽]ますので、そちらでLMスタジオであったりとかオラマの使い方、そういったのを見ながらですね、実践って元に
1:42.439–1:45.920
jaインストールして動かすっていうのをしてみていただけたらいいかなと思います。
1:45.920–1:56.439
ja基本的にLMスタジオとかを使っていただくと、それぞれのローカルLLMインストールすることができて、で、それインストールして動かすことができるわけですが、ク円3.8もそれなりに容量を
1:56.439–2:07.079
ja取ったりとかメモリだったりするので、今回はですね、スライドと概要的なところとか、あとはユーザーの声というか、Xで上がってるような時線使ってみた人の声とかをですね、ピックアップしながらお話し
2:07.079–2:08.599
jaていこうかなと思います。はい。という
2:08.599–2:13.160
jaことでク3.8、これ順次公開されてったんですよね。要はクエ3.8出ました。
2:13.160–2:22.710
jaドンじゃなくて3.8ドーンと出ました。で、ローカルモデル、いわゆるオープンウェイトモデルと呼ばれるようなものとかは順次出てったみたいな形なので、この今撮影してる
2:22.720–2:31.309
ja12週間ぐらいの間でポンポンポンと出てたっていう感じですと。で、そもそもクはっていう話なんですけれども、ク園を作ってるのはアリバです。
2:31.319–2:32.280
ja出た。かっこいい名前。
2:32.280–2:38.830
jaアリバ中国のもうビッグECeマスのね、会社でございますが、アリバがクエントの作ってますと。
2:38.840–2:46.480
jaそれこそ中国は結構オープンウェイトモデルというか、ローカルLLMはかなり強くて、ま、アメリカはどちらかというとクラウドの方なよね。クロードとか
2:46.480–3:00.239
jaチャットGPTINとかそういった形で唯一Googleがジマ4を出してローカル側に入ってきてはいるところですが、中国がクとかま、ディープシークから始まり色々と出してるなっていう印象です。で、基本的
3:00.239–3:04.959
jaに多くの中国企業そのビッグテックというか大きく強いところね。アリバもアリババ
3:04.959–3:15.799
jaクラウドっての出してるぐらいクラウドに力入れてたりとかしてた中でそういうテクノロジー基盤があるようなビッグ会社が色々と作ってるってのもある中でアリバbバはやっぱり母体がでかいっての
3:15.799–3:19.760
jaもあって開発費用とかもかけやすいところなのかなとは思ってますと。でこのアリバ
3:19.760–3:29.239
jaが作ってるのがクエンというモデルで僕も注目し始めたのはそれこそ今年入ってかなと思うんですけどずっとローカルレだって言ってましたよね。今年は来る
3:29.239–3:33.040
jaんかっていうのでそれこそ3月ぐらいに動画撮ったからそうですね。
3:33.040–3:36.797
jaこっから注目して実際スピード感結構早いなってところではありますと。
3:36.807–3:37.869
ja[音楽]はい。はい。
3:37.879–3:44.760
jaで、このクエンはクエンスタジオというですね、一応このブラウザで使えるもの中国っぱいっすね。GoogleAI
3:44.760–4:01.550
jaスタジオちょっとそう、このク園スタジオっていうのがあってチャットとかってコミュニティとか色々あるんですけどもクーダーってのもあってコードいわゆるコードを書くため用のものとか色々用意されてるのですが僕は別にこれ使ったこと正直ないので周りで使ってるみたいな人も聞かないので
4:01.560–4:08.949
ja基本的には別にクエンスタジオとかこのクードみたいなのを使っていく必要はないかなと思います。ただありますよって感じですね。はい。
4:08.959–4:20.469
jaなのでブラウザーでそのまま使いましょうみたいな場合とかあとはパターンとしてはAPIで呼び出すなのでクロードAPIとかチョGPTAPIを呼び出すのと同じように一応API経由で呼び出すこともできますとなんで
4:20.479–4:24.710
jaAPIで呼び出したらそれそれでお金かかりますよと。でみんなが注目してるのはこの
4:24.720–4:28.670
jaAPIで云々とかじゃなくてやっぱりオープンウェイト公開モデルってところだよね。
4:28.680–4:29.000
jaはい。
4:29.000–4:30.430
jaオープンウェイトって何か覚えてる?
4:30.440–4:31.560
jaキミKと同じっすよね。
4:31.560–4:32.110
jaそうそうそう。
4:32.120–4:33.029
ja拾って使えるやつですよ。
4:33.039–4:34.430
ja拾って使える。まあまあそうね。
4:34.440–4:38.310
jaオープンモデルということでオープンウェイトっていうのはいわゆるこのおい出した。
4:38.320–4:38.960
jaおなんだ。
4:38.960–4:41.310
jaダウンロードして改造もできますね、確か。
4:41.320–5:00.189
jaそうね。ダウンロードすることができて、そ、オープンウェイトって何がオープンなのかってたらウェイト重みと呼ばれるのモデル頭脳の部分にはいわゆるパラメーターと呼ばれるものがこれ重みという風に表現してウェイトって言うんだけれどもこれが例えば何千億とか何兆とかってバーとパラメーターがある中でそれを公開してますよ。
5:00.199–5:03.950
ja数字を公開してますよっていうのがこのオープンウェイトモデルというものですと。
5:03.960–5:16.320
jaただ別にオープンウェイトだからと言って何もかもローカルLMかってそういうわけではなかったりしていてローカルLLMってローカル自分の手元のPCで動かせるっていう予はあるもののそのPCのスペックにより蹴りだよね、正直。
5:16.320–5:16.909
jaうん。ふんふん。
5:16.919–5:31.790
jaスペックがドーンと出かければいいけれどもそんなね、超いいスペックのPCなんてほとんどの人は持ってないわけで、なのでオープンウェイトで自分の手元にインストールできるとはいえできるモデルの容量とか大きさみたいなのは正直限られたりしてるかなっていうのはありますと。
5:31.800–5:32.199
jaはい。はい。
5:32.199–5:35.390
ja今さんのパソコンも、ま、僕のパソコンも結構いいやつじゃないですか?
5:35.400–5:35.919
jaそうね。
5:35.919–5:38.749
jaそれでもなんか真ん中ぐらいのモデルでヒーヒーヒってましたよね。
5:38.759–5:41.080
jaそうね。結構PC熱くなるというか。
5:41.080–5:42.558
jaはい。なんかボーって言いますもんね。
5:42.568–5:44.350
ja[笑い]そう。だからかなり自分の
5:44.360–5:46.309
jaPCではなかなかやるもんじゃないなというか。
5:46.319–5:57.440
jaそれこそローカルLMを動かすためのそれ専用のPCサーバーとか用意してやっていくのが現実的かなってのは思うんですけれども、でもかなりちっちゃなモデルとかも色々出てきてたりしてるのでローカル
5:57.440–6:07.880
jaLLMもどんどんどんどん小さなモデル、軽量化された、高速化されたモデルとかで自分のPCで動くようなものも増えてきてはいるようなっていう動かせるけど動かしにくいものは多いって感じですかね。
6:07.880–6:18.790
jaで、ちょっと1回戻るとこのク園3.8MAXとク園3.82.4TのA95Bとかまあなんか色々出てきてるんだよね、バージョン。これはちょっとおいおいお伝えしていきますが、ク
6:18.800–6:24.870
ja3.8っていうのがつい最近出ましたよと。で、さっき言ったようにいくつかのパターンチャットでやるようなものもあれば
6:24.880–6:30.360
jaAPIもしくは自分の手元に落とすパターンもあるっていうので、ま、大きく3つパターンがありますと。で、そもそも
6:30.360–6:40.599
jaなんだけれどもというところで、クエ3みたいな、ま、元々のモデルチャATGPT、GPT3みたいなと同じように9バージョンのモデルがあったわけで、それはもう2025年の4月ぐらいからなので
6:40.599–6:50.479
ja、1年ちょっと前ぐらいに出てきて、で、そこからどんどんどんどんいわゆる水論、いわゆるリーズと呼ばれるようなものが追加されてったりとか、長分処理、ロングコンテクストっていうのが追加されてっ
6:50.479–6:59.520
jaたりと、進化を遂げてったわけですが、そん中でやっぱり1つかなり大きく1歩済んだなったところとしてはク3.5が出たあたりかなと思ってます。円3.5
6:59.520–7:05.510
jaが出たあたりで2026年の2月これが画像と動画を使えるようにした。いわゆるマルチモーダルだよね。
7:05.520–7:17.319
jaマルチモーダルってのは画像とか動画とか色々な形式の情報データを使えるようにしたっていうことが1つ大きくてかつ能力的にも結構使えるじゃんみたいなレベルになったのが3.5とかでそこから3.6
7:17.319–7:24.189
jaになったのはその4月2ヶ月後で1ヶ月後に3.7そこから3ヶ月後3.8と半年で結構進んだんだよね。
7:24.199–7:26.710
jaもうスピード感が結構早くなってきてるというか。
7:26.720–7:28.319
jaうん。うん。結構スピードが早くなってき
7:28.319–7:38.879
jaてるの当時もちろん進化してってるしことも増えてってるし、この1個前のクエ3点なんとかだとエージェントとして動く力が伸びたよねみたいな形でこの半年の中でもかなりどんどんどんどん大きくというか
7:38.879–7:51.159
ja進化をしてってるっていうところ[咳払い]なので本当に今でもすごい使いはするしクエ特に僕は3.6の時とかに実際にローカルで動かして使ったりとかそれこそまたちょっと後でも紹介するけれどもこのいわゆるチャatGPTの
7:51.159–8:04.749
jaメインのモデルみたいな中数のモデルじゃなくてASRいわゆる音声認識モデルとかは音入力ソフトを作った時にク園のモデル使ったりしてたので、そったところとか含めてもク園自体は自分自身も使ってたりしたっていう感じかな。
8:04.759–8:05.680
jaはい。今さん
8:05.680–8:06.230
jaはい。
8:06.240–8:07.629
jaついに完成したんすね。
8:07.639–8:15.710
jaそうなんよ。完成しちゃいました。なんとですね、皆さんに有効お見せしていた私の資料作成スキル。これを配布する準備がついに整いました。
8:15.720–8:17.960
jaちなみにこのスキルはどうやったらもらえるんですか?
8:17.960–8:19.520
jaこちらに記載のキーワード。[音楽]
8:19.520–8:29.120
jaYouTubeの概要欄にお記載のキーワードをLINE登録後にご入力いただけたら説明動画[音楽]そのスキルのファイル類をですねとなっております。
8:29.120–8:39.000
jaもう今お見せしているのはこんな感じの資料がですね[音楽]完成しましたのでぜ非ぜひ皆さんLINEより受け取っていただけたら嬉しいなと思います。
8:39.000–8:41.719
jaでなんかちょっとさっき出きてたじゃん3つぐらい。
8:41.719–8:48.790
jaこれね、へこしいんだけども、いくつかパターンがあって、クエン3.8MAッのはこれクラウドのみで提供されてますと。
8:48.800–8:50.670
jaあれじゃないんですか?オープンウェイトモデルじゃないです。
8:50.680–8:55.829
jaそう、オープンウェイトモデルじゃないの?公開ウェイトじゃないの?だからウェイトだインストールできるみたいな形じゃないんだよね。
8:55.839–9:01.870
jaで、なんでここに書いてある通り画像動画とか入力できます。ただクラウド上でのみ提供されてるあれローカル
9:01.880–9:05.750
jaLMなのにオープンウェイトモデルなのにってところは正直あります。
9:05.760–9:07.640
jaこれの生は僕が混乱してんの?そう。
9:07.640–9:19.366
jaなんかこの左側のね、このク園3.8のマックスと要はここでク園とかで見てあげた時にクンスタジオとかで見るとなんかこうやって出てきたけどなんか美女画像みたいなちょっと前の部屋みたいな感じで僕生成してないんでさんの履歴ではない。
9:19.376–9:25.261
ja[笑い]履歴ではないです。一切生成してませんのでご安心ください。で、ま、こ出てくるクエン
9:25.271–9:28.279
ja[笑い]3.8MAXスてあるじゃん。
9:28.279–9:36.030
jaここにあるようにこれが1番いいモデル、今1番強いモデルではあり、このクラウド上いわゆるこのチャットクエンスタジオとかで使えたりすると。
9:36.040–9:52.069
jaもちろんこのAPIプラットフォームってところ見てあげるとここにも色々書いてある中で今現状はここにずらっとある中でAPI経由とかでもAPIクエ3.8MAみたいな形で一応使える形にはなってるのかなとは思いますがここで
9:52.079–10:03.430
jaDてはいはいトライコードテキスタンドコードコールAPRかちゃんと使える形になってるかな更新されてないってだけでここでク3.8maってのを呼び出せばっていうのでクラウド上つまりAPI
10:03.440–10:08.990
jaという形で呼び出せるという感じですと[音楽]はで、これちょっと置いといて。ここちょっとまだ出てないって感じかな。で、それが
10:09.000–10:13.470
ja1番左ですとクラウド上つまり手元に落とすことができないモデルね。これが
10:13.480–10:16.200
ja3.8MAX。で、真ん中がクエ3.8の
10:16.200–10:18.640
ja2.4[音楽]TのA95Bですと。
10:18.640–10:18.990
jaうん。ふん。
10:19.000–10:20.200
ja2.4Tって何?
10:20.200–10:21.160
ja2.4テ。
10:21.160–10:23.680
jaそう。2.4超。
10:23.680–10:25.509
jaえ?おい。わけわかんないですよ。
10:25.519–10:26.177
ja2.4兆パラメーターだった気がする。
10:26.187–10:28.710
ja[咳払い]死ぬほど多い。
10:28.720–10:31.790
jaめちゃくちゃ多いパラメーターす。中のアクティブ
10:31.800–10:33.800
ja95B。どういう意味でしょう?
10:33.800–10:35.279
ja95ビリオン使う。
10:35.279–10:37.760
jaそう、95ビリオン。1ビリオンって1
10:37.760–10:40.160
jaビリオンは1億、10[音楽]億かな。10
10:40.160–10:40.629
ja億か。
10:40.639–10:45.629
jaだから950億パラメーターを使うとパラメーターってなんかイメージできないですよね。
10:45.639–10:47.269
jaなんかそうだな。ま、
10:47.279–10:48.710
ja死ぬほど多いってことすか?
10:48.720–11:00.030
jaそう。死ぬほど多いってこと?例えばね、表現パッと出てこないな。よくディープラーニングとかってなられと出てくるだけバーっと数字なられがって数字のあれつ数字が色々繋がっててニューロンみたいなバーって繋がってて全てで
11:00.040–11:02.120
ja2.4テラあります。2.4
11:02.120–11:05.230
ja超メタ。その中で実際に使うのは
11:05.240–11:13.430
ja95ビリオン95パラメーター使いますよみたいなもので公開ウェイトなんだよね。でもこれさすがにぶっ壊れちゃいますよね。入れたら
11:13.440–11:14.240
zh無理。
11:14.240–11:15.030
jaぶっ壊れちゃいます。ま、
11:15.040–11:24.590
ja基本無理。データセンターって書いてあるけど無理よね。これをインストールするみたいな。一応公開ウェイトだけど無理基本的にこれね、やしいのがこれ画像動画入力できないんですよね、このモデル。
11:24.600–11:27.399
jaなるほど。はいはい。画像そっか。あれじゃないのか。マルチモーダルじゃないんですね。
11:27.399–11:30.310
jaそう、マルチモーダルじゃないで思考もオフにするみたいな。
11:30.320–11:38.110
ja要はリーズモデルじゃないモデル、要はリーズさせずにポンとスピード重視で出力させるようなことができないんですよ。
11:38.120–11:48.350
ja逆に左側と右側それぞれは思考にできるのでこんなチェックが入ってるって感じね。で、僕たちがどれ使うかかって言ったらもう左のチャットで使うか右側ですと。で、チャットでわざわざク
11:48.360–11:51.949
ja3.8使うかって言うと使う理由がない正直。だってクロードチャット
11:51.959–11:53.600
jaGPTでいいじゃんって話。
11:53.600–11:54.110
jaそうですね。
11:54.120–11:57.430
jaわざわざ使う必要ない。なので僕たちが使うとしてはやっぱローカル
11:57.440–11:59.200
jaLMとしての旨味だよね。
11:59.200–12:02.550
jaローカルでインストールして使えると。で、これがこの右側のこの
12:02.560–12:04.680
ja27Bとだいぶ落ちたよね。[音楽]
12:04.680–12:10.110
jaていう形で基本的に右側だよね。だから僕たちがこれ街望んでたのはこういう風にク
12:10.120–12:13.230
ja3.8MAX出てこれ最初クラウドで出ました。で、や
12:13.240–12:27.310
ja3.8の27Bっていうのが本当撮影日の1日2日前とかに出たわけだよね。撮影日ほぼ当日と言ってもね、同じぐらいのタイムラインで出てきたわけですと。はい。なのでこれを使うっていうので色々と多くの人が今使ってはいるですけどって感じかな。
12:27.320–12:27.560
jaはい。
12:27.560–12:32.870
jaで、公開には画像入力と思考がないと。これね、なんかね、やこしいよね。ごちゃごちゃするよね。
12:32.880–12:44.550
jaで、27B1番ちっちゃい27ビリオンのパラメーター持った。だから圧縮したモデルだよね。これは画像も動画も読めるローカル版なので画像動画を出せるマルチモーダルです。思考のオンオフできます。
12:44.560–12:57.710
ja自分のPCで動かせますみたいな形でクラウド版って書いてこれマジ一旦置いといておくて基本的にこの27Bってのハギングフェイスとかって呼ばれるようなところで公開されたりするからそこでインストールしてあげればいいですし確かさっきとか見たら
12:57.720–13:10.550
jaLMスタジオって過去にローカルLMやった時に伝えたツール27B当選しましたよみたいなこと出てきてたのでありますとなんでま僕たちが注目すべきはこの27Bですとでさっき言ったちょっと話戻るんだけども
13:10.560–13:22.959
ja2.4Tの95Bっていうのはやややややこしいんだけど2.4兆パラメーターのうち1回に動くのは950億パラメーターなので全部フルフルで動くわけじゃないよっていう感じで1回で動くのは全体の約4%ですよ
13:22.959–13:25.440
jaと。だから全て毎回水論と呼ばれるAIが
13:25.440–13:38.600
ja出力する時でなんか入力あって出力するこの動作処理を水論って言うんだけどもこの水論に2.4パラメーター全部バー通って計算されて出力するわけじゃなくて実際には95ビリオンのパラメーター使っ
13:38.600–13:41.240
jaてされる感じね。あとはこれ
13:41.240–13:43.590
jaMo覚えてる?萌え萌え萌えってなんか言ってたやつ。
13:43.600–13:44.710
jaああ、分かってます。
13:44.720–13:47.919
jaあれも一応ありますと512のエクスパートから毎回11だけ動くみたいな。この辺やこしいんだけども
13:47.929–13:57.120
ja[音楽]512個なんかエクスパートみたいなポンポンポンポンあってそのいくつかの繋なぎ目があってそれを動くのは毎回11個動くらしい。はい。
13:57.120–13:57.990
jaやしいよね。
13:58.000–13:58.949
jaどうせわかんないや。
13:58.959–14:02.430
jaわかんないけど要はこの専門家スパートて専門家じゃん。
14:02.440–14:02.759
jaはい。
14:02.759–14:16.670
jaこの点で示してるに重要なその線みたいなのがいくつか専門のルートがいくつか用意されててそれの中から必要なタイミ例えばさデザインをお願いしますってお願いするのに別に歯医者みたいな専門家らないじゃん。
14:16.680–14:17.680
jaはいはいはいらないすね。
14:17.680–14:29.230
ja専門家と言ってもさ、その用途によっているらいいらないってあるじゃん。一応なんか用意されてるみたいな。だ病院とか前も病院で例えたかもしんないよね。病院にはさな何とかいいなんとかいいなん下とかさないか色々いるじゃん。
14:29.240–14:43.829
jaとかっていう中でじゃあこの患者が来た時に全員が全員対応するんじゃなくてその時に応じてその入ってきたものに対して適切な専門家が動いていくわけだよね。ていうのと同じような仕組みがこれもいいということでミクチャーオブエクスパートっていうのがありますと。はい。これはもうローカル
14:43.839–14:51.629
jaLMだとよく出てくる話なのでもそういうもんだなぐらいに思っといてくださいと。で、この辺は一旦いいかな。なんかゴロゴロ書いてあるんだけども
14:51.639–14:56.430
jaCLIを作り続けたとかマイCLIなんか作り続けたなんか色々あったんだけどいいかな。
14:56.440–15:02.870
jaとりあえずなんか動き続きましたよとか、論文を再現して上まったよとか、ま、なんか色々とね、出てきてます。それこそかなりその
15:02.880–15:13.680
jaPC操作みたいなところ、エージェンティックな動きとかでもベンチマーク仕用でかなり高い数値出しましたよとか、ただコードと知識みたいなところは他社が上だったりしましたよとか、GPT5.6
15:13.680–15:20.269
jaみたいな、もちろんそうだよねって話なんだけど、ブルとかには及ばなかったけれども、ま、でも結構近いところまで切ってますよみたいな。
15:20.279–15:20.839
jaはいはいはい。
15:20.839–15:24.949
jaで、この27Bに関しては前のモデルから結構飛躍してますと。
15:24.959–15:36.000
jaPCの画面操作みたいなところもそうだし、あとはなんかそういう高ベンチっていわゆるオフィス業務系のタスクとかもそうだし、色々とそのデバック的なん言うんでしょう的なところのベンチマークの
15:36.000–15:37.680
ja指標もガーンと増えましたよ。要は
15:37.680–15:45.279
ja3.627Bから3.727Bで各ベンチマークの仕様伸びたよっていうのは現実あるので結構伸びてるでしょ。
15:45.279–15:48.920
jaこれだけ見るとさ、数値感はさ、それなりに点数上がってるよね。はい。
15:48.920–16:00.000
ja結局自分たちが使うのは基本的に27Bとかだったりするから27Bがどうかっていう観点で言うとかなり数値としては向上してるからめっちゃいいんじゃないかっていうはいはいはいところはありますとで全体としてこの
16:00.000–16:11.550
ja1番フルフもので言うと2.4Tの[音楽]AS95Bに関しては一応なんかランキングでは6位みたいなアーティフシャルアナリシスみたいなところの指標ではあるんだけどさてどうなのかって話だよね。
16:11.560–16:12.279
jaはいはいはい。
16:12.279–16:22.680
jaパもね、フェかだったりとか色々ある中でさてさて6位なのかって言われるとこの上の部分との差は結構あるんじゃないかなっていうところもあるし出力速度45って結構遅いんだよね。
16:22.680–16:23.550
jaえ、遅いんですね、これ。
16:23.560–16:28.470
jaそう。さっきそれこそちょっと画像どっかでコーディングとかさせてみてたんだけど、これか。なんだこれ?
16:28.480–16:31.870
ja普通にコーディングちょっとしたぐらいなんだけども、別の動画で撮ってたやつね。
16:31.880–16:32.399
jaはいはいはい。
16:32.399–16:41.509
jaなんだけど、ま、遅いし別になんこれダウンロードしてデザインはね、ま、悪くないけどめっちゃずれてるみたいな。日本語変だったりするんすかね。
16:41.519–16:50.676
jaビューを嗅いてあなたの流れてちょっとおかしいっちゃおかしいかもしれないけど別なんかなんだろうってわけじゃなくてちょっと独特みたいな感じかなはいはいおデブがウインクしてますよね崩れてたりとか
16:50.676–17:03.160
ja[鼻息]確かになんかちょっと前のモデルって感じしますまデザインは別にねシステムで作っちゃってたから別に悪い悪くないっていう話ではないと思うんだけども[音楽]文字崩れとか見るとちょっと
17:03.160–17:07.230
jaそうねモバイルのレイアドにしてくれてるって意味では悪くない気がするけどね。
17:07.240–17:07.679
jaはいはい。
17:07.679–17:09.429
jaちょっとこの辺は一旦置いといて。
17:09.439–17:15.559
jaA社は一緒に働いてくださる仲間を募集しております。正社員業務卓インターン問わ
17:15.559–17:19.760
jaず絶賛募集中です。AIかける教育事業
17:19.760–17:32.240
jaですね、より大きく成長させていくために一緒にAIそして教育に熱を持って望んでいける方、取り組んでいける方を探しております。ご興味のある方はですね、概要
17:32.240–17:34.799
ja欄に記載のフォームよりご応募ください。
17:34.799–17:37.182
ja皆様のご応募お待ちしております。出力
17:37.182–17:38.080
ja[音楽]速度遅いです。
17:38.080–17:54.270
ja確かにすごい遅いなと思いましたしそもそもなんだけれどもなんだろうなこのチャットGPTクロードとかあとはブロックとかジェミニとかその辺りにはちょっと及ばないよなみたいのもちろんあるので僕は正直ここをわざわざ使うかっていうとそういうわけではないかなっていう感じですかね。
17:54.280–17:54.559
jaはい。はい。
17:54.559–18:08.480
jaで、ローカルでとでマLMスタジオとか色々と動かせますよと、あとなんか色々とこれ引っ張ってきたもので言うと基本設計書を欠かせたら人の見直しを指摘したみたいなとかあとは3.6の27B1
18:08.480–18:11.232
ja個前のモデルねより返が明らかに早いみたいな。元々遅すぎたのかもしんないし、なんかそういうポジティブな報告もありつつなんかそれこそさっきあったさ重み配られたけど
18:11.242–18:22.840
ja[音楽]3つかけてたみたいな画像と動画の入力みたい1番重いモデルあったじゃんこれ。
18:22.840–18:23.350
jaはいはいはい。
18:23.360–18:30.149
ja実際に配られたさ、フルプルのモデルさ、思考にできなかったりとかさ、マルチモードルじゃなかったりとかさ、なんかちょっと惜しいよね。
18:30.159–18:33.159
jaはいはい。だから今さん好きじゃないのがちょっとめっちゃ出てますね。
18:33.159–18:33.502
jaいや、好きじゃないっていうか思ったより期待値上げてきた割にはって感じなん。
18:33.512–18:37.320
ja[笑い]あ、そういうことです。確か
18:37.320–18:39.110
ja好きじゃないとかじゃなくてなんだろう。
18:39.120–18:41.390
ja実際オーパスた方は全然張り合いてないってことですよね。
18:41.400–18:44.070
jaもちろんそこは全然違うんだけれどもなんだろうな。
18:44.080–19:01.710
ja期待値上げてたらそのローカルLLMとして注目してるからこっちとしてはローカルLMとしてどうかみたいなところで言うと悪くはないけどって感じな気がするんだよ。じゃ、大きな差分があったかって言われるとっていうところなのかなってのは思ってますし、あとなんか結構エラーが今出てるというか、なんかずっと止まらない、ずっとシンキングしてるみたいな。
19:01.720–19:24.470
jaそう、3.8の27Bとかでずっとシンキングでなんか2時間止まんないみたいなとか結構Xとかで他の人の投稿とか見てみると簡単な作業とかでも考え込んだま終わらないとか多分これはね思考の問題なのか何なのかわかんないけれどもそういったのが発生してるのでなんかちょっとその期待値が上がった割にそういうミスというかトラブルみたいなのがあって微妙だったりしてるみたいな
19:24.480–19:32.880
jaところよね27それそれなりにねある程度ねGPUとかそういうメモリ積んでおかなければいけなかったりするわけだけれどもその直もうすぐ出たばっか。出て公開されて
19:32.880–19:34.549
ja1日ぐらいなんだけどもうん。
19:34.559–19:37.990
jaこういった報告が合いついてるって感じかな。
19:38.000–19:42.230
jaなので試たならスタジオって書いたんだけれどもスタジオは使わなくていいかな。普通に別に
19:42.240–19:44.520
ja3.8マックス使う理由がないから。
19:44.520–19:49.110
jaただま価格がオスとか他のモデルと比べると安いわけよね。入力
19:49.120–19:52.549
ja2ドルの出力6ドルみて。フェイブルとかってもっと高いし数
19:52.559–19:57.710
ja10ドルとかするからそう考えると安いっちゃ安いけどそこをどう取るかだよね。
19:57.720–19:58.559
jaはい。
19:58.559–20:01.470
jaこの辺も色ありますがという感じですかね。
20:01.480–20:15.110
jaはい。で、一応ちょっとスライドでずらっと説明しちゃったんだけども、一応ね、ここのところをお見せするとクエのところでこうやって色々ある中で僕がこれ見てる中でこのクね見てあげるといいんだけどクエンスタジオってのなりあります。
20:15.120–20:20.310
jaAPあります。ダウンロードありますみたいな。これもクアデスクトップもしくはクオ
20:20.320–20:25.149
jaonPhoneということでモバイルアプリとかデスクトップアプリみたいなのも一応あります。
20:25.159–20:25.480
jaはい。
20:25.480–20:33.369
jaこれチャットGPTとかのと同じような感じかなと思ってるし、あと一応製品として一応画像成みたいなところもできるね、イメージジェネレーションディープリサーチとかシンキングとかももちろんあるし、マルチモデルアンダースタンディングはもう画像動画サーチもできるよとかこの辺は特に変わった話ではないかなと思ってて、この
20:33.379–20:45.640
ja[音楽]APIプラットフォームだよね。API
20:45.640–20:58.400
jaプラットフォームでク3.7、ク3.6とかずらっと貼る中でさっき言った音声入力みたいな音声入力のソフト、音声認識ソフトを作るってなった時に僕はこのクエ3のASRっていうモデルを使いました。
20:58.400–21:08.520
jaこれ書いてあるようにインプットがオーディオでアウトプットはテキストなので音声を認識して文字故障をするっていうこのモデルはさに音声入力ソフトを開発する上ではローカルLエレムとしては結構
21:08.520–21:22.400
ja優秀だったりしたので普通に使えるものかなと思いますしTTSってテキストスピーチこれ僕ちょっと使ってないんだけどもこのなんかローカルLLMの中でもASRだかTTSは比較的ちっちゃいフルフルのクエンス3.8のみたいなもの
21:22.400–21:33.640
jaと比べるとメモリクー量少なかったりするのでこの辺りが強くなるのはすごい嬉しいことかなってそれこ音声認識のレベルが上がる、音声入力の精度が上がるという意味では、他のなんて言うんでしょう?
21:33.640–21:47.400
jaこっちのフルフルのマックスのモデルとかそういうのに注目ももちろんしているものこのクエ3から止まってるASRモデルとかTTSモデルが3.5とか3.8とか最近のレベルまでもう1段階引き上がってくれたらなんかそれこそ音声
21:47.400–21:54.520
ja認識の制度が上がる、つまり音声入力ソフトとしてのクオリティが上がるってことなのでこの辺には結構期待したいところかなってのは思ってます。
21:54.520–21:57.789
jaあとは、ま、クイメージ2.0Proとか画像作るんだ。
21:57.799–22:19.510
jaそう、画像成とかもね、全然できたりするんだけども、この辺もね、正直メジャーではないからさ、あんまトーピックとしてあげられるみたいことはないし、一昔前の画像生成みたいな感じではあるんだけれども、こういったモダルなっていうか画像とか音声とか動画とかそういうのができるようなモデルっていうのがどんどんどんどん出てくるといいよねとは思います。
22:19.520–22:28.390
jaそれこそこのクエンというモデは、このハギングフェイスなんかオープンウェイトモデルとかを登録してくれてるようなサイトなんだけど、ここにあるク園の中にクイメージっていうあるわけだよね。
22:28.400–22:30.990
jaクイメージのそう、クの画像。
22:31.000–22:37.165
jaクイメージめっちゃかっこいいの作ってるじゃないですか。こういうのとか作ってるよみたいな。なんでこういったモデルはあるわけですが、これで言うとモデルサイズは
22:37.175–22:41.720
ja[音楽]20Bパラメーターだよね。20B
22:41.720–22:48.630
jaこれアクティブとかじゃ20Bだからね。結構聞こうすね。そうね。来るっちゃあるけれども画像とか使うからってところはあるかな。
22:48.640–22:57.950
jaま、こういうのを作れるって意味だったら、ま、いいのかな。ジ君が好きそうな画像は作ってくれるかなと思うので、使いたければ使ってみるのもいいんじゃないかなとは思います。ちなみに
22:57.960–22:58.125
ja1個聞きたかったんですけど、園って中国の合いじゃないですか?
22:58.135–23:02.159
ja[音楽]セキュリティイベントもどうなんですか?
23:02.159–23:03.720
jaどうなんだろうね。て思うけど別に
23:03.720–23:13.320
jaローカルLMだったら別に外と通信するみたいな形ではないから別にそんな気になることはないかなと思うんだけども、あとは利用呼んだりとか色々とモデルの学習が必須になってる場合とかあるかも
23:13.320–23:23.960
jaしれないからそういうの見て欲しいなと思うんだけど僕は正直クエンススタジオとかを使うってことは基本的にないから何で使うかって言ったらローカルエレムって基本的にはネットと閉した環境で動くっていうのがあるから
23:23.960–23:32.080
ja細かなコード見てないけどローカルエレムが変なとこに情報送信するとかってなってない限りはセキュリティ的な心配とかはないのかなっ[咳払い]てのは思います。
23:32.080–23:34.880
jaはい。というところで、このク3.8Xで
23:34.880–23:42.240
ja見た感じとかは、さっきも言ったように3分別れてるというか、うまくいったという人もいれば、結構いいという人もいれば全然なんか動かない。ずっと水分回ってる
23:42.240–23:52.080
jaみたいな人もいたりとかしてる中で、この辺りはシンプルにバグなのか何なのか問題はあると思うんで、この辺は多分解決されるとは思うんですけれども、なんかその期待値がもうね、クエ3.5ってやっぱ
23:52.080–23:56.039
jaローカルモデルとしては結構注目されてるモデルではある。K3とかと同じように
23:56.039–24:06.360
jaローカルの中ではトップ3に入るモデルではあるのでその最新モデルというので期待感があった割にはちょっと実際どうなんだろうみたいなところは意見と従がってるかなっていうのが現状ではありますと。
24:06.360–24:17.480
jaこれがねどんどんどんどんやっぱりこのアクティブ南Bとかも含めてどんどんモデルがちっちゃくなってコンパクトになってローカルPC上で動くけれどもそれがスピード感もあってかつクオリティも高い。
24:17.480–24:25.630
jaそれで多くの人たちの多くのPCに搭載できるようなものになるのであればかなり使い手が良くなるのかなとは思います。僕はもう自分の手元の
24:25.640–24:29.070
jaPCでは基本的にローカルエレバ動かさないようにはしてます。
24:29.080–24:38.840
ja容量のメモリ食ったりとかも色々して他の邪魔になるというか妨たになったりするので極力ねここで動かさないようにしてそれこそ自宅に置いてあるMacminニに搭載したりとかそういう風にローカル
24:38.840–24:49.200
jaLレムを動かす環境を分けてたりするのでここも何かしら余ってるPC[音楽]とか余ってる環境があればそこでやってみるとかはいいと思いますがローカルLLMにふさわしいタスクみたいなところは
24:49.200–24:56.919
jaいわゆるたくさんの大量処理みたいなところだったりもするのでその辺りはローカルLLMの動画出てるのでぜ非ぜひ見ていただけたらなていう風に思います。
24:56.919–24:58.320
jaはい。はい。
24:58.320–25:00.510
jaもコメント変信コーナー行きたいと思います。
25:00.520–25:03.510
ja今日ですね、ローカルLMの動画にいただいたコメントです。
25:03.520–25:05.110
jaコトロジーさんからですね。
25:05.120–25:09.919
jaローカルLMで深い会話するボットを作るのは個人PCレベルでは無理でしょうか?
25:09.919–25:11.830
ja深い会話が何かですよね。
25:11.840–25:20.430
jaどこまでかにわゆるチャトGPTとかクロードみたいな今の最新のモデルみたいなものを求めるていうのであればちょっと厳しいかなという風には思います。
25:20.440–25:31.600
jaそれはやっぱり27B、それこそ賢くなったとはいえ、そこに落とせるものってのは限られてるし、今現状そのコンパクトなものとはいえそれなりにスペック必要だったりするので、現状どうだろうな、1年前
25:31.600–25:42.520
jaのAIと会話するぐらいのものはできるんじゃないかなと思うんですけども、最近の他のね、クロードとかJATGPTとかの進化こういったのを見た上でそれと比較するとやっぱどうしても劣る部分はあるか
25:42.520–25:52.159
jaなと思うので、個人的にはローカルLLMで深い会話とかっていうのはあんま向いてないと思いますし、先ほどもちらっと話したように大量の処理をどんどんどんどんさばいてもらえるみたいな、そういったの
25:52.159–25:55.480
jaには非常に向いてるんじゃないかなって思います。はい。ということで、ま、
25:55.480–26:05.480
jaこんな感じで比較的新しい情報というか出たもので注目されてるものとかそういったものを技術的なところの話も踏まえながらお伝えしていこうかなと思ってますので、こういうの知りたい、Aの知りたい、そう
26:05.480–26:10.880
jaいうのがあればですね、是非コメント欄にお寄せいただけたらなという風に思います。はい、ということで本日は以上になり
26:10.880–26:15.000
jaます。また次回。
0:00.120–0:11.390
Qwen 3.5 確實是本地模型中排名前 3 的模型,所以實際情況到底如何,我現在是參考大家的意見。畢竟這樣下去模型會崩壞的,放進去的話。
0:11.400–0:13.000
根本不可能。模型會崩壞的。不過,
0:13.000–0:16.910
基本上不可能。
0:16.920–0:19.600
大家好,我是程式講師今野。
0:19.600–0:24.109
聽說 Qwen 最近出了 3.8 版本,那個到底怎麼樣?
0:24.119–0:29.749
嗯,評價兩極,有說好的聲音,也有說根本無法正常運作的聲音。
0:29.759–0:43.910
我在 X 上看了各種討論,感覺那邊似乎分成了兩派,所以原本對 Qwen 從 3.5、3.6 開始就受到大家高度關注,在這種期待下,坦白說,印象是有些落差。
0:43.920–0:48.110
原來如此。特徵是什麼,或者說是什麼樣的模型,我完全不了解。啊,
0:48.120–0:51.350
今天也請多指教,之前有聊過。本地
0:51.360–0:58.559
LLM 的影片裡聽說的,原來是本地的嗎?其實我也不太清楚,啊,原來如此。確實這可能是個優點。
0:58.559–1:10.200
雖然算是開放權重和本地運作的領域,但確實可能會變得混亂,所以這次 Qwen 3.8 發布的時機,我想稍微聊聊關於 Qwen 的話題,實際上到底如何
1:10.200–1:18.680
之類的部分,我想稍微觸及一下,所以請大家看著投影片,一起進行吧。[音樂] 那麼,我們開始吧。
1:18.680–1:21.360
好的。那麼,透過投影片以及實際
1:21.360–1:26.759
查看網頁等各種資訊,我們來聊聊 Qwen 3.8 的話題。
1:26.759–1:33.240
雖然 3.8 發布了,但我覺得資訊很雜亂。這次我們不會詳細講解實作,
1:33.240–1:42.439
所以有興趣的人可以參考之前關於本地 LLM 的影片,[音樂] 透過那些影片了解 LM Studio 或 Ollama 的使用方法,在實踐的基礎上
1:42.439–1:45.920
嘗試安裝並運行,這樣應該不錯。
1:45.920–1:56.439
基本上使用 LM Studio 等工具,可以安裝各自的本地 LLM,並安裝運行,但 Qwen 3.8 也會佔用相當大的
1:56.439–2:07.079
容量或記憶體,所以這次我會透過投影片和概要,以及用戶的反饋,像是 X 上使用者的評論等,來進行
2:07.079–2:08.599
說明。好的。
2:08.599–2:13.160
那麼,Qwen 3.8 是陸續公開的,也就是說 Qwen 3.8 發布了。
2:13.160–2:22.710
不是 Qwen,而是 3.8 版發布了。本地模型,也就是所謂的開放權重模型,是陸續發布的,所以在現在拍攝的
2:22.720–2:31.309
大約 12 週期間,接二連三發布。那麼,關於 Qwen 的話,Qwen 是由阿里雲開發的。
2:31.319–2:32.280
發布了。名字很帥氣。
2:32.280–2:38.830
阿里雲是中國的大型電商巨頭公司,阿里雲開發了 Qwen。
2:38.840–2:46.480
中國在開放權重模型,也就是本地 LLM 方面相當強大,美國則偏向雲端,像是 Claude 或
2:46.480–3:00.239
ChatGPT 等。唯一 Google 推出了 Gemini 4 進入本地領域,但中國從 Qwen 或 DeepSeek 開始,陸續發布了各種模型,我有這樣的印象。基本
3:00.239–3:04.959
上,許多中國企業,也就是大型科技公司,阿里雲也發布了
3:04.959–3:15.799
阿里雲,投入雲端資源,在擁有這種科技基礎的大型公司開發各種產品的背景下,阿里雲因為母體龐大,
3:15.799–3:19.760
我認為在開發費用等方面也比較容易投入。這個由阿里雲
3:19.760–3:29.239
開發的模型是 Qwen,我開始關注也是在今年,我認為一直強調本地運行,今年會到來
3:29.239–3:33.040
之類的,因為我在三月左右拍了影片,是的。
3:33.040–3:36.797
從那時開始關注,實際上的速度確實很快。
3:36.807–3:37.869
[音樂] 好的。好的。
3:37.879–3:44.760
這個 Qwen 有 Qwen Studio,可以在瀏覽器中使用,中國很流行呢。Google AI
3:44.760–4:01.550
Studio 有點像,有 Qwen Studio 這樣的東西,還有聊天或社群等各種功能,也有 Code 這種專門用於編寫程式碼的工具等,但我坦白說沒用過,也沒聽周圍的人說有用過,所以
4:01.560–4:08.949
基本上我想不需要特別使用 Qwen Studio 或 Code 之類的。只是有提供而已。好的。
4:08.959–4:20.469
所以如果是直接在瀏覽器中使用的情況,或者是透過 API 呼叫的模式,就像呼叫 Claude API 或 ChatGPT API 一樣,可以透過 API 呼叫,所以
4:20.479–4:24.710
如果透過 API 呼叫,那是會收費的。大家關注的不是這個
4:24.720–4:28.670
API 之類的,而是開放權重公開模型,對吧。
4:28.680–4:29.000
好的。
4:29.000–4:30.430
你還記得什麼是開放權重嗎?
4:30.440–4:31.560
就跟K一樣啊。
4:31.560–4:32.110
對對對。
4:32.120–4:33.029
就是撿起來就能用的那種。
4:33.039–4:34.430
撿起來就能用。嗯嗯,沒錯。
4:34.440–4:38.310
所謂開放模型,所謂的開放權重,就是剛才提到的發布。
4:38.320–4:38.960
發布什麼呢?
4:38.960–4:41.310
可以下載並進行修改,沒錯吧。
4:41.320–5:00.189
沒錯。可以下載,而開放權重之所以稱為「開放」,是因為模型的大腦部分,也就是所謂參數的部分,以權重這種方式表達,稱為權重,但這裡公開了數千億甚至數兆的參數。
5:00.199–5:03.950
公開這些數字,這就是開放權重模型。
5:03.960–5:16.320
不過,並非因為是開放權重就意味著所有東西都是本地LM,也不完全是這樣。雖然本地LLM可以在自己的PC上運行,但實際上取決於PC的規格。
5:16.320–5:16.909
嗯。嗯嗯。
5:16.919–5:31.790
規格好當然沒問題,但實際上,大多數人並沒有配備超高性能的PC,所以即使可以安裝在本地,能運行的模型容量和大小實際上還是有限的。
5:31.800–5:32.199
好的。好的。
5:32.199–5:35.390
現在先生的電腦,還有我的電腦,都不是相當好的嗎?
5:35.400–5:35.919
沒錯。
5:35.919–5:38.749
即便如此,運行中等大小的模型時還是累得夠嗆呢。
5:38.759–5:41.080
沒錯。PC會變得相當熱。
5:41.080–5:42.558
好的。風扇會發出很大的聲音呢。
5:42.568–5:44.350
[笑聲]對。所以相當於自己的
5:44.360–5:46.309
PC上很難操作。
5:46.319–5:57.440
確實,為了運行本地LM,準備專用PC或伺服器可能更現實,但也出現了許多非常小的模型,所以
5:57.440–6:07.880
本地LLM也在不斷增加小型化、輕量化、高速化的模型,雖然能在自己的PC上運行,但能運行的模型增多,不過難以運行的模型還是很多,是這樣的感覺嗎?
6:07.880–6:18.790
然後,稍微回到這裡,Qwen 3.8 MAX、Qwen 3.8 2.4T、A95B等各種版本陸續推出。這部分我們會稍後詳細說明,Q
6:18.800–6:24.870
3.8最近才發布。剛才提到,有類似聊天模式運行的方式,也有
6:24.880–6:30.360
通過API或下載到本地的方式,大致有三種模式。那麼,
6:30.360–6:40.599
問題是,Qwen 3,也就是最初的模型,與ChatGPT、GPT 3一樣,有9個版本的模型,從2025年4月左右開始,
6:40.599–6:50.479
大約一年前推出,隨後陸續增加了所謂的水論,也就是稱為Reasoning的模型,以及長上下文處理,即Long Context,
6:50.479–6:59.520
實現了進化,但其中一步相當大的進展,我認為是Qwen 3.5發布的時候。Qwen 3.5
6:59.520–7:05.510
發布於2026年2月,實現了圖像和視頻的使用,也就是多模態。
7:05.520–7:17.319
多模態意味著可以使用圖像、視頻等多種形式的信息數據,這是一個重大進展,並且能力也達到了相當實用的水平,3.5之後發展到了3.6,
7:17.319–7:24.189
那是4月,兩個月後是3.7,再過三個月是3.8,半年內進展相當大。
7:24.199–7:26.710
速度感相當快。
7:26.720–7:28.319
嗯。嗯。速度相當快。
7:28.319–7:38.879
當時當然也在進化,功能也在增加,上一個Qwen 3.x版本作為Agent運行的能力增強了,這半年內也相當迅速地,
7:38.879–7:51.159
進化顯著。[清嗓子]所以現在確實非常實用,Qwen尤其是我在3.6版本時實際在本地運行使用過,稍後也會介紹,這不是ChatGPT
7:51.159–8:04.749
的主要模型,而是ASR,也就是語音識別模型,在製作語音輸入軟件時使用了Qwen的模型,因此Qwen本身也在被使用。
8:04.759–8:05.680
好的。現在先生
8:05.680–8:06.230
好的。
8:06.240–8:07.629
終於完成了呢。
8:07.639–8:15.710
是啊,真的完成了。各位,我之前展示過的資料製作技巧,現在終於準備好要公開分享了。
8:15.720–8:17.960
順便問一下,這個技巧要怎麼才能得到呢?
8:17.960–8:19.520
請輸入這裡記載的關鍵字。[音樂]
8:19.520–8:29.120
只要在YouTube說明欄記載的關鍵字,完成LINE註冊後輸入,就會收到說明影片[音樂]以及該技巧的檔案。
8:29.120–8:39.000
現在展示的就是這樣完成的資料,[音樂]所以希望大家能透過LINE接收,我會很高興。
8:39.000–8:41.719
然後剛才好像出現了三個左右。
8:41.719–8:48.790
這個呢,雖然有點不好意思,但有幾種模式,Qwen 3.8 MAX僅提供雲端版本。
8:48.800–8:50.670
那不是那個嗎?不是開放權重模型。
8:50.680–8:55.829
對,不是開放權重模型?不是公開權重?所以不是那種可以安裝權重的形式。
8:55.839–9:01.870
然後,就像這裡寫的一樣,可以輸入圖片和影片。但僅在雲端提供,這跟本地
9:01.880–9:05.750
明明是LM,卻不是開放權重模型,這點老實說有點奇怪。
9:05.760–9:07.640
這是我搞混了嗎?對。
9:07.640–9:19.366
左側那個,Qwen 3.8 MAX,也就是說在Qwen或這裡看到的,在Qwen Studio等地方會這樣顯示,但像是美女圖片之類的,有點像之前的房間,我沒有生成,所以不是你的歷史記錄。
9:19.376–9:25.261
[笑聲]不是歷史記錄。完全沒有生成,請放心。然後,這裡出現的Qwen
9:25.271–9:28.279
[笑聲]有寫3.8 MAX。
9:28.279–9:36.030
就像這裡寫的,這是最棒的模型,目前最強的模型,可以在雲端,也就是這個ChatQwen Studio等地方使用。
9:36.040–9:52.069
當然,如果查看這個API平台,這裡也寫了很多,目前狀態下,雖然列在這裡,但我想應該可以透過API或API Qwen 3.8 MAX等形式使用,不過這裡
9:52.079–10:03.430
是的,是的,Trial Code、Text Stand Code、Call APR,應該是可以正常使用的形式,只是沒有更新,所以只要呼叫這裡的Qwen 3.8 MAX,就是在雲端,也就是API
10:03.440–10:08.990
以這種形式呼叫,[音樂]然後,這個先放一邊。這裡好像還沒出現。然後,那就是
10:09.000–10:13.470
最左邊,也就是雲端,無法下載到本地的模型。這就是
10:13.480–10:16.200
3.8 MAX。中間是Qwen 3.8的
10:16.200–10:18.640
2.4[音樂]T的A95B。
10:18.640–10:18.990
嗯。嗯。
10:19.000–10:20.200
2.4T是什麼?
10:20.200–10:21.160
2.4兆。
10:21.160–10:23.680
對。2.4兆。
10:23.680–10:25.509
欸?喂。完全搞不懂。
10:25.519–10:26.177
感覺是2.4兆參數。
10:26.187–10:28.710
[清喉嚨]多到會死。
10:28.720–10:31.790
參數超級多。其中的活躍
10:31.800–10:33.800
95B。這是什麼意思?
10:33.800–10:35.279
使用950億。
10:35.279–10:37.760
對,950億。1兆是1
10:37.760–10:40.160
兆是1億,10[音樂]億吧。10
10:40.160–10:40.629
億嗎。
10:40.639–10:45.629
所以是使用950億參數。參數這個詞很難想像吧。
10:45.639–10:47.269
嗯,這樣說吧。
10:47.279–10:48.710
就是多到會死嗎?
10:48.720–11:00.030
對。就是多到會死。例如,表達方式突然想不起來。通常提到深度學習時,會出來一堆數字,然後數字連連,就像神經元一樣,一堆連接著,全部
11:00.040–11:02.120
2.4兆。2.4
11:02.120–11:05.230
超meta。在這些裡面實際會使用的是
11:05.240–11:13.430
像是會用到950億參數的950億參數,公開權重就是這樣。但這確實會崩潰吧。裝進去的話
11:13.440–11:14.240
根本不行。
11:14.240–11:15.030
會崩潰。不過,
11:15.040–11:24.590
基本上不行。雖然寫著資料中心,但根本不行吧。像是安裝這個一樣。雖然說是公開權重,但基本上不行呢。這個模型呢,無法輸入圖片和影片。
11:24.600–11:27.399
原來如此。是是是。圖片啊,這樣啊。不是那個嗎。不是多模態的嗎。
11:27.399–11:30.310
對,因為不是多模態,所以連思考功能都關閉了。
11:30.320–11:38.110
也就是說,這不是推理模型,無法在不進行推理的情況下,單純以重視速度的方式進行輸出。
11:38.120–11:48.350
反過來,左邊和右邊各自都能啟用思考功能,所以才會出現這樣的勾選選項。那麼,我們該使用哪一個呢?就是左邊的聊天模式或是右邊的。然後,在聊天模式中特意要
11:48.360–11:51.949
使用 3.8 嗎?說實話,沒有使用的理由。因為用 Claude Chat
11:51.959–11:53.600
GPT 就好了啊。
11:53.600–11:54.110
沒錯。
11:54.120–11:57.430
沒有特意使用的必要。所以我們真正會使用的,當然是本機
11:57.440–11:59.200
作為 LM 的優點。
11:59.200–12:02.550
在本機安裝後就能使用。然後,這在右邊的這個
12:02.560–12:04.680
27B 版本裡,效能大幅下降了呢。[音樂]
12:04.680–12:10.110
基本上就是右邊這個形式對吧。所以我們一直在關注的,就是這種方式。
12:10.120–12:13.230
3.8 MAX 版最初是在雲端推出的。然後,
12:13.240–12:27.310
3.8 的 27B 版本,實際上是在拍攝日的前兩天左右推出的,也就是說,幾乎可以說是拍攝當天才出現,時間軸差不多。是的。所以雖然現在有很多人都在使用這個版本,但感覺就是這樣。
12:27.320–12:27.560
是的。
12:27.560–12:32.870
然後,公開版沒有圖像輸入和推理功能。這個呢,有點複雜對吧。很混亂對吧。
12:32.880–12:44.550
然後,27B 是參數量最小的 270 億參數版本。所以是壓縮過的模型對吧。這是能讀取圖像和視頻的本地版,所以是能輸出圖像和視頻的多模態模型。可以開關推理功能。
12:44.560–12:57.710
可以在自己的 PC 上運行之類的形式,雲端版寫著這個,真的先放著不管,基本上這個 27B 會在 Hugging Face 等地方公開,所以在那裡安裝就好,而且剛才好像也看到
12:57.720–13:10.550
Lm Studio 這個工具,之前做本地 LM 時有提到過,27B 中獎了之類的訊息有出現,所以有這個工具。為什麼我們應該關注的是這個 27B,然後剛才說的話,稍微回到之前的話題,
13:10.560–13:22.959
2.4T的95B有點複雜,但2.4兆參數中每次運算的只有950億參數,所以並非全部參數都會全數啟動。也就是說,每次運算只動用到總參數的約4%。
13:22.959–13:25.440
因此,每次推理時被稱為AI的
13:25.440–13:38.600
輸出時,雖然有輸入並進行輸出處理,這個動作稱為推理,但並非將2.4兆參數全部通過計算後輸出,實際上只使用了950億參數。
13:38.600–13:41.240
還有這個
13:41.240–13:43.590
記得MoE嗎?之前說「萌、萌、萌」的那個。
13:43.600–13:44.710
啊,我懂了。
13:44.720–13:47.919
那個也有的,從512個專家中,每次只啟動11個。這部分有點複雜,不過
13:47.929–13:57.120
[音樂] 有512個像是專家之類的東西,它們之間有一些連接點,每次運算似乎只啟動其中的11個。好。
13:57.120–13:57.990
確實很複雜呢。
13:58.000–13:58.949
反正反正也搞不懂啦。
13:58.959–14:02.430
雖然搞不懂,但重點是這些專家路由就是專家嘛。
14:02.440–14:02.759
是的。
14:02.759–14:16.670
在這一點上,它展示了幾個重要的線路,準備了幾個專家路由,從中選擇必要的部分。例如,當我們請求設計時,並不需要像牙醫那樣的專家。
14:16.680–14:17.680
是的,不需要。
14:17.680–14:29.230
雖說是專家,但根據用途不同,有的需要有的不需要,大致上像是準備好了。之前好像在醫院舉例過吧?醫院裡有各種各樣的人,比如什麼什麼科、什麼什麼科的醫生等。
14:29.240–14:43.829
在這種情況下,當患者來訪時,並非所有人都要處理,而是根據進入的對象,由適當的專家來應對,這與之前的機制相同,因此有一種稱為「專家混合」(Mixture of Experts)的架構。
14:43.839–14:51.629
這在本地大型語言模型(Local LM)中是個常見的話題,所以請當作這是常態就好。這部分就先這樣吧。雖然寫了很多東西,
14:51.639–14:56.430
像是持續開發 CLI、持續開發 My CLI 等等,有很多不同的情況,不過就先這樣吧。
14:56.440–15:02.870
總之,它持續運作,或者成功復現了論文,總之出現了很多各種各樣的情況。那時候,
15:02.880–15:13.680
在類似 PC 操作、代理式行為等基準測試中取得了很高的數值,但在程式碼和知識方面,其他公司的產品可能更優,例如 GPT-5.6
15:13.680–15:20.269
之類的,當然這是理所當然的,雖然還比不上 Claude,但也已經非常接近了。
15:20.279–15:20.839
好的好的好的。
15:20.839–15:24.949
關於這個 27B 版本,與之前的模型相比有相當大的飛躍。
15:24.959–15:36.000
無論是類似 PC 畫面操作的部分,還是高基準測試中所謂的辦公室業務類任務,以及各種除錯相關的基準測試
15:36.000–15:37.680
指標都大幅增加了。也就是說,
15:37.680–15:45.279
從36.27億參數增加到37.27億參數,各基準測試的規格都提升了,這在現實中是存在的,所以提升幅度相當大吧。
15:45.279–15:48.920
只看這些的話,數值感上分數確實有提升。是的。
15:48.920–16:00.000
畢竟我們主要使用的還是 27B 版本,所以從 27B 的角度來看,數值上有相當程度的提升,這是不是相當不錯呢?是的,是的,是的,有這樣的觀點。整體而言,這個
16:00.000–16:11.550
以最大規模的 2.4T [音樂] AS95B 來說,雖然在排行榜上大概是第 6 名,在 Artificial Analysis 等指標中是這樣,但問題是這到底怎麼樣呢?
16:11.560–16:12.279
好的好的好的。
16:12.279–16:22.680
在各種因素中,被問到是否只有第 6 名時,這與頂部模型的差距可能相當大,而且輸出速度 45 其實相當慢。
16:22.680–16:23.550
啊,這麼慢嗎?
16:23.560–16:28.470
對。剛才確實有試著在圖片上進行編碼,是這個嗎?這是什麼?
16:28.480–16:31.870
只是普通的編碼,稍微做了一點,但這是用另一個影片拍攝的。
16:31.880–16:32.399
好的好的好的。
16:32.399–16:41.509
不過,雖然慢,但下載後進行設計的話,還不錯,但偏差很大,像是日文變得很奇怪之類的。
16:41.519–16:50.676
稍微嗅一下視圖,雖然有點奇怪,但也許不是完全沒問題,而是有點獨特,是的,是的,大胖子在眨眼,崩壞了之類的
16:50.676–17:03.160
[鼻息] 確實感覺像是之前的模型,設計方面因為是系統自動生成的,所以並不壞,也不是不好,但 [音樂] 看到文字崩壞的話,稍微
17:03.160–17:07.230
嗯,在移動端渲染方面,感覺還不錯。
17:07.240–17:07.679
好的好的。
17:07.679–17:09.429
這部分就先放著吧。
17:09.439–17:15.559
A 公司正在招募一起工作的夥伴。正職員工、業務、實習生,
17:15.559–17:19.760
不限於 AI 相關的教育事業,
17:19.760–17:32.240
為了讓事業更大規模地成長,我們正在尋找能對 AI 和教育充滿熱情、願意一起投入的人。如果有興趣的話,請透過
17:32.240–17:34.799
說明欄中記載的表單進行申請。
17:34.799–17:37.182
期待各位的申請。輸出
17:37.182–17:38.080
[音樂] 速度很慢。
17:38.080–17:54.270
確實覺得非常慢,而且本來就覺得,這跟 ChatGPT、Claude,還有其他像 Gemini 之類的相比,雖然當然還比不上,但老實說,我會特意去使用這個嗎?感覺並不是那樣。
17:54.280–17:54.559
好的。好的。
17:54.559–18:08.480
然後,在本地環境中,可以使用 LM Studio 等工具運行,另外,關於拉取來的這些東西,基本設計書如果不缺的話,會指出需要人工檢視,或者比 3.6 的 27B 1
18:08.480–18:11.232
個之前的模型,回應明顯更快。也許原本太慢了,也有正面的報告,但剛才提到的權重分配,
18:11.242–18:22.840
[音樂] 像是加了三個濾鏡的圖片和影片輸入,最重的模型在這裡。
18:22.840–18:23.350
好的好的好的。
18:23.360–18:30.149
實際上分配到的,全功能的模型,無法進行思考,或者不是多模態,有點可惜呢。
18:30.159–18:33.159
好的好的。所以現在有很多不喜歡的點冒出來了。
18:33.159–18:33.502
不是不喜歡,而是覺得在預期值拉得這麼高的情況下,結果卻有點落差
18:33.512–18:37.320
(笑)啊,就是這麼回事。沒錯
18:37.320–18:39.110
與其說是不喜歡,不如說是有點說不出來
18:39.120–18:41.390
實際上,那些使用過 Opus 的人根本覺得沒有什麼競爭力,是這個意思吧。
18:41.400–18:44.070
當然那部分完全不一樣,不過說來也奇怪。
18:44.080–19:01.710
如果期待值拉得太高,作為本地LLM受到關注,從本地LM的角度來看雖說不算差,但感覺上並沒有出現顯著的差異,而且現在好像出現不少錯誤,一直停不下來,一直在思考的樣子。
19:01.720–19:24.470
沒錯,像3.8的27B版本那樣一直處於思考狀態、兩小時都不停頓的情況,我在X上看了其他人的貼文後發現,即使是簡單的工作也會陷入思考而無法結束,雖然不知道這是不是思考機制本身的問題,但既然發生了這種狀況,感覺雖然期待值提高了,卻出現了這種失誤或故障,整體表現有點微妙
19:24.480–19:32.880
畢竟27B版本需要具備一定程度的GPU和記憶體配置,而且它才剛發布不久,剛公開不久
19:32.880–19:34.549
大概一天左右吧
19:34.559–19:37.990
感覺這些報告都吻合了。
19:38.000–19:42.230
所以剛才寫了試用的話,工作室其實可以不用
19:42.240–19:44.520
因為沒有理由要使用3.8的最大值
19:44.520–19:49.110
不過價格跟其他型號相比算是比較便宜的,輸入
19:49.120–19:52.549
看看2美元的輸出6美元,Fable之類的更貴,數
19:52.559–19:57.710
會賣到十美元,這樣想起來確實不算貴,但問題在於該如何看待這個價位
19:57.720–19:58.559
是的
19:58.559–20:01.470
這邊也有其他顏色,大概是這種感覺吧
20:01.480–20:15.110
對,然後雖然剛才用投影片快速說明了一下,不過這邊還是要提一下,在各種選項中,建議大家關注的是這個,也就是Quentic Studio。
20:15.120–20:20.310
有AP,也有下載版之類的。這也有Qua Desktop或Quo
20:20.320–20:25.149
所以手機版行動應用程式和桌面版應用程式也都有提供。
20:25.159–20:25.480
是的
20:25.480–20:33.369
我覺得這跟 ChatGPT 之類的感覺差不多,而且作為產品,它確實能處理圖像生成,當然也有影像生成、深度研究和思考等功能,多模型理解方面甚至能進行圖像和影片搜尋,這些部分我覺得並沒有什麼特別之處
20:33.379–20:45.640
音樂。API平台。API
20:45.640–20:58.400
在平台上接連部署 Q3.7、Q3.6 等模型,並開發剛才提到的具備語音輸入功能的語音辨識軟體時,我使用了 Qwen3 的 ASR 模型。
20:58.400–21:08.520
正如所述,由於輸入是音訊而輸出是文字,這個負責將音訊轉換為文字的模型在開發本地LLM作為音訊輸入軟體時相當
21:08.520–21:22.400
因為表現相當優秀,我認為它應該是可以正常使用的,而TTS也就是文字轉語音,雖然我還沒實際使用過,但感覺在本地LLM中,ASR和TTS屬於體積相對較小的模型,類似於Qwen3.8這種規模
21:22.400–21:33.640
相較之下記憶體用量較少,所以這方面變強實在令人高興,畢竟這代表著語音辨識水準提升、語音輸入的準確度提高,其他呢該怎麼說呢
21:33.640–21:47.400
當然也關注像這樣的全尺寸最大模型,如果這些從Qwen3停滯的ASR和TTS模型能像Qwen3.5或3.8那樣,在近期水準上再提升一個階段,那無疑會大幅提升音聲
21:47.400–21:54.520
這代表音訊辨識的準確度會提升,也就是說作為音訊輸入軟體的品質會提高,所以我對這部分相當期待。
21:54.520–21:57.789
另外像是用 Image 2.0 Pro 來製作圖片
21:57.799–22:19.510
沒錯,雖然確實能生成圖片,但畢竟不算主流,所以不太會作為話題來討論,感覺就像舊時代的圖片生成那樣,不過我認為如果能不斷推出這種能處理圖像、音訊、影片等多模態的模型就好了。
22:19.520–22:28.390
畢竟這個Quen這個模型,是像註冊了Hugging Face這類開放權重模型的平台,而在這裡的Qu園中,存在著Qu Image這樣的東西。
22:28.400–22:30.990
像 Stable Diffusion 那種,生成圖片的
22:31.000–22:37.165
你不是在製作超帥的庫伊瑪吉嗎?像是做出這種東西之類的。雖然有這種模型,但就這個模型來說,參數規模是
22:37.175–22:41.720
兩百億參數對吧,兩百億
22:41.720–22:48.630
因為這個是20B參數,所以其實挺重的。沒錯,雖然確實有,但因為會用到圖片,所以這點可能會有影響。
22:48.640–22:57.950
不過,如果是指能夠製作這類東西的話,應該沒問題吧。我覺得ジ君可能會喜歡這類圖片,所以如果想用的話,不妨試試看。順便一提
22:57.960–22:58.125
有件事我想問一下,園不是中國合資的嗎?
22:58.135–23:02.159
音樂部分呢,安全事件方面怎麼看
23:02.159–23:03.720
不過我倒是覺得說不曉得會怎樣
23:03.720–23:13.320
如果是本地大型語言模型,因為不需要與外部進行通訊,所以其實不太會在意這點,不過在某些情況下,可能會需要呼叫使用者或是進行模型學習,所以還是有可能會有需要注意的地方
23:13.320–23:23.960
因為不確定,所以希望大家能看看,不過我老實說基本上不會用 Qwen Studio,如果要問為什麼會用的話,是因為本地 LLM 基本上是在與網路隔離的環境下運作
23:23.960–23:32.080
雖然沒仔細看程式碼,但除非本地大型語言模型會把資訊傳送到奇怪的地方,否則應該沒有什麼資安方面的疑慮吧咳嗯我是這麼想的。
23:32.080–23:34.880
好的,那麼在Qwen 3.8X的部分
23:34.880–23:42.240
從外觀來看,就像剛才說的,大致分為三種情況,有人表示運作順利,有人覺得相當不錯,也有人完全無法運行,一直處於水銀燈迴轉的狀態
23:42.240–23:52.080
在這種情況下,我認為這裡確實存在問題,無論是單純的錯誤還是其他原因,雖然預期這部分最終會得到解決,但畢竟是Q3.5,實際表現與期待之間似乎有些落差。
23:52.080–23:56.039
作為本地模型,它確實受到了相當多的關注,就像K3一樣
23:56.039–24:06.360
畢竟這是本地端排名前三的模型,雖然對最新模型抱有期待,但實際表現似乎有些落差,意見與預期不太吻合,這就是目前的狀況。
24:06.360–24:17.480
隨著模型不斷小型化、精簡化,即使包含像ActiveNeb這樣的部分,也能在本地PC上運行,同時兼具速度與高品質。
24:17.480–24:25.630
所以如果能夠成為能搭載於許多人電腦上的東西,我認為使用者體驗會大幅提升。我現在自己的手邊
24:25.640–24:29.070
在 PC 上我基本上會盡量不執行本地模型
24:29.080–24:38.840
會佔用大量記憶體,甚至干擾或妨礙其他工作,所以盡量不在這裡運行,而是把它部署在家裡的Mac mini上,這樣在本地運行
24:38.840–24:49.200
既然會把運行環境分開,我認為如果有閒置的PC或環境,在那裡嘗試運行Llem是不错的做法,但像是適合本地LLM的任務,
24:49.200–24:56.919
因為這屬於大量處理的場景,所以建議大家觀看關於本地LLM的影片,希望能對大家有所幫助。
24:56.919–24:58.320
好的,好的。
24:58.320–25:00.510
接下來進入留言回應環節。
25:00.520–25:03.510
今天這則來自本地LLM影片留言區的留言
25:03.520–25:05.110
[未翻譯]
25:05.120–25:09.919
在個人電腦上建立能進行深度對話的本地大型語言模型機器人,是不是幾乎不可能?
25:09.919–25:11.830
問題在於「深度對話」究竟是什麼意思。
25:11.840–25:20.430
如果是要追求像 ChatGPT 或 Claude 那樣當今最新模型的表現,我認為會有些困難。
25:20.440–25:31.600
畢竟即使是27B參數,雖然變得更聰明了,但能壓縮到本地的模型還是有限的,而且目前即使是要跑這種小型模型,也需要一定的硬體規格,所以現在的話,大概只能做到跟一年前的AI對話的程度吧
25:31.600–25:42.520
我覺得跟這樣的AI進行對話應該是沒問題的,不過在看了最近Claude或ChatGPT等模型的進展並加以比較後,確實還是會發現有些劣勢
25:42.520–25:52.159
所以個人認為本地LLM並不適合進行深度對話,就像剛才稍微提到的那樣,它非常擅長處理大量且持續不斷的工作負載
25:52.159–25:55.480
我認為這方面非常適合,沒錯。那麼,
25:55.480–26:05.480
我會結合技術層面的說明,向大家介紹這類比較新、受到關注的資訊或產品,如果大家對這些內容或特定主題有興趣,歡迎在留言區提出。
26:05.480–26:10.880
如果有想了解的議題,歡迎在留言區留言告訴我們。好的,那麼今天到此為止
26:10.880–26:15.000
謝謝收看,我們下次再見
0:00.120–0:11.390
jaク3.5ってやっぱローカルモデルとしてはトップ3に入るモデルではあるのでちょっと実際どうなんだろうみたいなところは意見と従ってるかなっていうのが現状ではありますとこれさすがにぶっ壊れちゃいますよね。入れたら
Qwen 3.5 確實是本地模型中排名前 3 的模型,所以實際情況到底如何,我現在是參考大家的意見。畢竟這樣下去模型會崩壞的,放進去的話。
0:11.400–0:13.000
ja無理。ぶっ壊れちゃいますよ。ま、
根本不可能。模型會崩壞的。不過,
0:13.000–0:16.910
zh基本無理。
基本上不可能。
0:16.920–0:19.600
ja皆さんこんにちは。え、プログラミング講師の今にです。
大家好,我是程式講師今野。
0:19.600–0:24.109
jaいさんク園も最近3.8っていうのが出たらしくてどうなんすか?あれは。
聽說 Qwen 最近出了 3.8 版本,那個到底怎麼樣?
0:24.119–0:29.749
jaうん。結構ね、賛否分てるからいいっていう声もありつつでもちゃんと動かないみたいな声。
嗯,評價兩極,有說好的聲音,也有說根本無法正常運作的聲音。
0:29.759–0:43.910
jaもあってXとかで色々見たりするとその辺が一見分別れてるなっていう感じだから思ってたその期待値やっぱク園って3.53.6ぐらいから結構みんなが注目していてでそん中で期待されてた割にはって印象は正直ある。
我在 X 上看了各種討論,感覺那邊似乎分成了兩派,所以原本對 Qwen 從 3.5、3.6 開始就受到大家高度關注,在這種期待下,坦白說,印象是有些落差。
0:43.920–0:48.110
jaそうなんですね。特徴というかどんな映画なのか僕何も分かってないんで。あ、
原來如此。特徵是什麼,或者說是什麼樣的模型,我完全不了解。啊,
0:48.120–0:51.350
ja今日もまたお願いし話したことあるよ。ローカル
今天也請多指教,之前有聊過。本地
0:51.360–0:58.559
jaLLMの動画とかでそこで聞いたんですけどローカルなんですかそもそもなんかよくわかってあ、なるほどね。確かにそれはいい点かもしんない。
LLM 的影片裡聽說的,原來是本地的嗎?其實我也不太清楚,啊,原來如此。確實這可能是個優點。
0:58.559–1:10.200
ja一応オープンウェイトローカルとかの領域ではあるけれども、確かにその辺ごちゃごちゃするかもしれないなと思うので、今回このクン3.8が出たというタイミングでクについてちょっと話していこうかなとは思いますし、実際どうなの
雖然算是開放權重和本地運作的領域,但確實可能會變得混亂,所以這次 Qwen 3.8 發布的時機,我想稍微聊聊關於 Qwen 的話題,實際上到底如何
1:10.200–1:18.680
jaみたいなところをね、少し触れればなと思ってますんでスライドを見ながらですね、一緒にやっていければなと思い[音楽]ます。ということでやっていきましょう。
之類的部分,我想稍微觸及一下,所以請大家看著投影片,一起進行吧。[音樂] 那麼,我們開始吧。
1:18.680–1:21.360
jaはい。ということでスライドそして実際に
好的。那麼,透過投影片以及實際
1:21.360–1:26.759
jaウェブページとか色々見ながらクエ3.8についてお話していこうかなと思います。
查看網頁等各種資訊,我們來聊聊 Qwen 3.8 的話題。
1:26.759–1:33.240
jaということで3.8出ましたが、ごちゃごちゃする情報多いなと思っています。で、今回は別に細かく実装するとか
雖然 3.8 發布了,但我覺得資訊很雜亂。這次我們不會詳細講解實作,
1:33.240–1:42.439
jaということはしないので、気になる方はローカルLLMの動画既でに出してい[音楽]ますので、そちらでLMスタジオであったりとかオラマの使い方、そういったのを見ながらですね、実践って元に
所以有興趣的人可以參考之前關於本地 LLM 的影片,[音樂] 透過那些影片了解 LM Studio 或 Ollama 的使用方法,在實踐的基礎上
1:42.439–1:45.920
jaインストールして動かすっていうのをしてみていただけたらいいかなと思います。
嘗試安裝並運行,這樣應該不錯。
1:45.920–1:56.439
ja基本的にLMスタジオとかを使っていただくと、それぞれのローカルLLMインストールすることができて、で、それインストールして動かすことができるわけですが、ク円3.8もそれなりに容量を
基本上使用 LM Studio 等工具,可以安裝各自的本地 LLM,並安裝運行,但 Qwen 3.8 也會佔用相當大的
1:56.439–2:07.079
ja取ったりとかメモリだったりするので、今回はですね、スライドと概要的なところとか、あとはユーザーの声というか、Xで上がってるような時線使ってみた人の声とかをですね、ピックアップしながらお話し
容量或記憶體,所以這次我會透過投影片和概要,以及用戶的反饋,像是 X 上使用者的評論等,來進行
2:07.079–2:08.599
jaていこうかなと思います。はい。という
說明。好的。
2:08.599–2:13.160
jaことでク3.8、これ順次公開されてったんですよね。要はクエ3.8出ました。
那麼,Qwen 3.8 是陸續公開的,也就是說 Qwen 3.8 發布了。
2:13.160–2:22.710
jaドンじゃなくて3.8ドーンと出ました。で、ローカルモデル、いわゆるオープンウェイトモデルと呼ばれるようなものとかは順次出てったみたいな形なので、この今撮影してる
不是 Qwen,而是 3.8 版發布了。本地模型,也就是所謂的開放權重模型,是陸續發布的,所以在現在拍攝的
2:22.720–2:31.309
ja12週間ぐらいの間でポンポンポンと出てたっていう感じですと。で、そもそもクはっていう話なんですけれども、ク園を作ってるのはアリバです。
大約 12 週期間,接二連三發布。那麼,關於 Qwen 的話,Qwen 是由阿里雲開發的。
2:31.319–2:32.280
ja出た。かっこいい名前。
發布了。名字很帥氣。
2:32.280–2:38.830
jaアリバ中国のもうビッグECeマスのね、会社でございますが、アリバがクエントの作ってますと。
阿里雲是中國的大型電商巨頭公司,阿里雲開發了 Qwen。
2:38.840–2:46.480
jaそれこそ中国は結構オープンウェイトモデルというか、ローカルLLMはかなり強くて、ま、アメリカはどちらかというとクラウドの方なよね。クロードとか
中國在開放權重模型,也就是本地 LLM 方面相當強大,美國則偏向雲端,像是 Claude 或
2:46.480–3:00.239
jaチャットGPTINとかそういった形で唯一Googleがジマ4を出してローカル側に入ってきてはいるところですが、中国がクとかま、ディープシークから始まり色々と出してるなっていう印象です。で、基本的
ChatGPT 等。唯一 Google 推出了 Gemini 4 進入本地領域,但中國從 Qwen 或 DeepSeek 開始,陸續發布了各種模型,我有這樣的印象。基本
3:00.239–3:04.959
jaに多くの中国企業そのビッグテックというか大きく強いところね。アリバもアリババ
上,許多中國企業,也就是大型科技公司,阿里雲也發布了
3:04.959–3:15.799
jaクラウドっての出してるぐらいクラウドに力入れてたりとかしてた中でそういうテクノロジー基盤があるようなビッグ会社が色々と作ってるってのもある中でアリバbバはやっぱり母体がでかいっての
阿里雲,投入雲端資源,在擁有這種科技基礎的大型公司開發各種產品的背景下,阿里雲因為母體龐大,
3:15.799–3:19.760
jaもあって開発費用とかもかけやすいところなのかなとは思ってますと。でこのアリバ
我認為在開發費用等方面也比較容易投入。這個由阿里雲
3:19.760–3:29.239
jaが作ってるのがクエンというモデルで僕も注目し始めたのはそれこそ今年入ってかなと思うんですけどずっとローカルレだって言ってましたよね。今年は来る
開發的模型是 Qwen,我開始關注也是在今年,我認為一直強調本地運行,今年會到來
3:29.239–3:33.040
jaんかっていうのでそれこそ3月ぐらいに動画撮ったからそうですね。
之類的,因為我在三月左右拍了影片,是的。
3:33.040–3:36.797
jaこっから注目して実際スピード感結構早いなってところではありますと。
從那時開始關注,實際上的速度確實很快。
3:36.807–3:37.869
ja[音楽]はい。はい。
[音樂] 好的。好的。
3:37.879–3:44.760
jaで、このクエンはクエンスタジオというですね、一応このブラウザで使えるもの中国っぱいっすね。GoogleAI
這個 Qwen 有 Qwen Studio,可以在瀏覽器中使用,中國很流行呢。Google AI
3:44.760–4:01.550
jaスタジオちょっとそう、このク園スタジオっていうのがあってチャットとかってコミュニティとか色々あるんですけどもクーダーってのもあってコードいわゆるコードを書くため用のものとか色々用意されてるのですが僕は別にこれ使ったこと正直ないので周りで使ってるみたいな人も聞かないので
Studio 有點像,有 Qwen Studio 這樣的東西,還有聊天或社群等各種功能,也有 Code 這種專門用於編寫程式碼的工具等,但我坦白說沒用過,也沒聽周圍的人說有用過,所以
4:01.560–4:08.949
ja基本的には別にクエンスタジオとかこのクードみたいなのを使っていく必要はないかなと思います。ただありますよって感じですね。はい。
基本上我想不需要特別使用 Qwen Studio 或 Code 之類的。只是有提供而已。好的。
4:08.959–4:20.469
jaなのでブラウザーでそのまま使いましょうみたいな場合とかあとはパターンとしてはAPIで呼び出すなのでクロードAPIとかチョGPTAPIを呼び出すのと同じように一応API経由で呼び出すこともできますとなんで
所以如果是直接在瀏覽器中使用的情況,或者是透過 API 呼叫的模式,就像呼叫 Claude API 或 ChatGPT API 一樣,可以透過 API 呼叫,所以
4:20.479–4:24.710
jaAPIで呼び出したらそれそれでお金かかりますよと。でみんなが注目してるのはこの
如果透過 API 呼叫,那是會收費的。大家關注的不是這個
4:24.720–4:28.670
jaAPIで云々とかじゃなくてやっぱりオープンウェイト公開モデルってところだよね。
API 之類的,而是開放權重公開模型,對吧。
4:28.680–4:29.000
jaはい。
好的。
4:29.000–4:30.430
jaオープンウェイトって何か覚えてる?
你還記得什麼是開放權重嗎?
4:30.440–4:31.560
jaキミKと同じっすよね。
就跟K一樣啊。
4:31.560–4:32.110
jaそうそうそう。
對對對。
4:32.120–4:33.029
ja拾って使えるやつですよ。
就是撿起來就能用的那種。
4:33.039–4:34.430
ja拾って使える。まあまあそうね。
撿起來就能用。嗯嗯,沒錯。
4:34.440–4:38.310
jaオープンモデルということでオープンウェイトっていうのはいわゆるこのおい出した。
所謂開放模型,所謂的開放權重,就是剛才提到的發布。
4:38.320–4:38.960
jaおなんだ。
發布什麼呢?
4:38.960–4:41.310
jaダウンロードして改造もできますね、確か。
可以下載並進行修改,沒錯吧。
4:41.320–5:00.189
jaそうね。ダウンロードすることができて、そ、オープンウェイトって何がオープンなのかってたらウェイト重みと呼ばれるのモデル頭脳の部分にはいわゆるパラメーターと呼ばれるものがこれ重みという風に表現してウェイトって言うんだけれどもこれが例えば何千億とか何兆とかってバーとパラメーターがある中でそれを公開してますよ。
沒錯。可以下載,而開放權重之所以稱為「開放」,是因為模型的大腦部分,也就是所謂參數的部分,以權重這種方式表達,稱為權重,但這裡公開了數千億甚至數兆的參數。
5:00.199–5:03.950
ja数字を公開してますよっていうのがこのオープンウェイトモデルというものですと。
公開這些數字,這就是開放權重模型。
5:03.960–5:16.320
jaただ別にオープンウェイトだからと言って何もかもローカルLMかってそういうわけではなかったりしていてローカルLLMってローカル自分の手元のPCで動かせるっていう予はあるもののそのPCのスペックにより蹴りだよね、正直。
不過,並非因為是開放權重就意味著所有東西都是本地LM,也不完全是這樣。雖然本地LLM可以在自己的PC上運行,但實際上取決於PC的規格。
5:16.320–5:16.909
jaうん。ふんふん。
嗯。嗯嗯。
5:16.919–5:31.790
jaスペックがドーンと出かければいいけれどもそんなね、超いいスペックのPCなんてほとんどの人は持ってないわけで、なのでオープンウェイトで自分の手元にインストールできるとはいえできるモデルの容量とか大きさみたいなのは正直限られたりしてるかなっていうのはありますと。
規格好當然沒問題,但實際上,大多數人並沒有配備超高性能的PC,所以即使可以安裝在本地,能運行的模型容量和大小實際上還是有限的。
5:31.800–5:32.199
jaはい。はい。
好的。好的。
5:32.199–5:35.390
ja今さんのパソコンも、ま、僕のパソコンも結構いいやつじゃないですか?
現在先生的電腦,還有我的電腦,都不是相當好的嗎?
5:35.400–5:35.919
jaそうね。
沒錯。
5:35.919–5:38.749
jaそれでもなんか真ん中ぐらいのモデルでヒーヒーヒってましたよね。
即便如此,運行中等大小的模型時還是累得夠嗆呢。
5:38.759–5:41.080
jaそうね。結構PC熱くなるというか。
沒錯。PC會變得相當熱。
5:41.080–5:42.558
jaはい。なんかボーって言いますもんね。
好的。風扇會發出很大的聲音呢。
5:42.568–5:44.350
ja[笑い]そう。だからかなり自分の
[笑聲]對。所以相當於自己的
5:44.360–5:46.309
jaPCではなかなかやるもんじゃないなというか。
PC上很難操作。
5:46.319–5:57.440
jaそれこそローカルLMを動かすためのそれ専用のPCサーバーとか用意してやっていくのが現実的かなってのは思うんですけれども、でもかなりちっちゃなモデルとかも色々出てきてたりしてるのでローカル
確實,為了運行本地LM,準備專用PC或伺服器可能更現實,但也出現了許多非常小的模型,所以
5:57.440–6:07.880
jaLLMもどんどんどんどん小さなモデル、軽量化された、高速化されたモデルとかで自分のPCで動くようなものも増えてきてはいるようなっていう動かせるけど動かしにくいものは多いって感じですかね。
本地LLM也在不斷增加小型化、輕量化、高速化的模型,雖然能在自己的PC上運行,但能運行的模型增多,不過難以運行的模型還是很多,是這樣的感覺嗎?
6:07.880–6:18.790
jaで、ちょっと1回戻るとこのク園3.8MAXとク園3.82.4TのA95Bとかまあなんか色々出てきてるんだよね、バージョン。これはちょっとおいおいお伝えしていきますが、ク
然後,稍微回到這裡,Qwen 3.8 MAX、Qwen 3.8 2.4T、A95B等各種版本陸續推出。這部分我們會稍後詳細說明,Q
6:18.800–6:24.870
ja3.8っていうのがつい最近出ましたよと。で、さっき言ったようにいくつかのパターンチャットでやるようなものもあれば
3.8最近才發布。剛才提到,有類似聊天模式運行的方式,也有
6:24.880–6:30.360
jaAPIもしくは自分の手元に落とすパターンもあるっていうので、ま、大きく3つパターンがありますと。で、そもそも
通過API或下載到本地的方式,大致有三種模式。那麼,
6:30.360–6:40.599
jaなんだけれどもというところで、クエ3みたいな、ま、元々のモデルチャATGPT、GPT3みたいなと同じように9バージョンのモデルがあったわけで、それはもう2025年の4月ぐらいからなので
問題是,Qwen 3,也就是最初的模型,與ChatGPT、GPT 3一樣,有9個版本的模型,從2025年4月左右開始,
6:40.599–6:50.479
ja、1年ちょっと前ぐらいに出てきて、で、そこからどんどんどんどんいわゆる水論、いわゆるリーズと呼ばれるようなものが追加されてったりとか、長分処理、ロングコンテクストっていうのが追加されてっ
大約一年前推出,隨後陸續增加了所謂的水論,也就是稱為Reasoning的模型,以及長上下文處理,即Long Context,
6:50.479–6:59.520
jaたりと、進化を遂げてったわけですが、そん中でやっぱり1つかなり大きく1歩済んだなったところとしてはク3.5が出たあたりかなと思ってます。円3.5
實現了進化,但其中一步相當大的進展,我認為是Qwen 3.5發布的時候。Qwen 3.5
6:59.520–7:05.510
jaが出たあたりで2026年の2月これが画像と動画を使えるようにした。いわゆるマルチモーダルだよね。
發布於2026年2月,實現了圖像和視頻的使用,也就是多模態。
7:05.520–7:17.319
jaマルチモーダルってのは画像とか動画とか色々な形式の情報データを使えるようにしたっていうことが1つ大きくてかつ能力的にも結構使えるじゃんみたいなレベルになったのが3.5とかでそこから3.6
多模態意味著可以使用圖像、視頻等多種形式的信息數據,這是一個重大進展,並且能力也達到了相當實用的水平,3.5之後發展到了3.6,
7:17.319–7:24.189
jaになったのはその4月2ヶ月後で1ヶ月後に3.7そこから3ヶ月後3.8と半年で結構進んだんだよね。
那是4月,兩個月後是3.7,再過三個月是3.8,半年內進展相當大。
7:24.199–7:26.710
jaもうスピード感が結構早くなってきてるというか。
速度感相當快。
7:26.720–7:28.319
jaうん。うん。結構スピードが早くなってき
嗯。嗯。速度相當快。
7:28.319–7:38.879
jaてるの当時もちろん進化してってるしことも増えてってるし、この1個前のクエ3点なんとかだとエージェントとして動く力が伸びたよねみたいな形でこの半年の中でもかなりどんどんどんどん大きくというか
當時當然也在進化,功能也在增加,上一個Qwen 3.x版本作為Agent運行的能力增強了,這半年內也相當迅速地,
7:38.879–7:51.159
ja進化をしてってるっていうところ[咳払い]なので本当に今でもすごい使いはするしクエ特に僕は3.6の時とかに実際にローカルで動かして使ったりとかそれこそまたちょっと後でも紹介するけれどもこのいわゆるチャatGPTの
進化顯著。[清嗓子]所以現在確實非常實用,Qwen尤其是我在3.6版本時實際在本地運行使用過,稍後也會介紹,這不是ChatGPT
7:51.159–8:04.749
jaメインのモデルみたいな中数のモデルじゃなくてASRいわゆる音声認識モデルとかは音入力ソフトを作った時にク園のモデル使ったりしてたので、そったところとか含めてもク園自体は自分自身も使ってたりしたっていう感じかな。
的主要模型,而是ASR,也就是語音識別模型,在製作語音輸入軟件時使用了Qwen的模型,因此Qwen本身也在被使用。
8:04.759–8:05.680
jaはい。今さん
好的。現在先生
8:05.680–8:06.230
jaはい。
好的。
8:06.240–8:07.629
jaついに完成したんすね。
終於完成了呢。
8:07.639–8:15.710
jaそうなんよ。完成しちゃいました。なんとですね、皆さんに有効お見せしていた私の資料作成スキル。これを配布する準備がついに整いました。
是啊,真的完成了。各位,我之前展示過的資料製作技巧,現在終於準備好要公開分享了。
8:15.720–8:17.960
jaちなみにこのスキルはどうやったらもらえるんですか?
順便問一下,這個技巧要怎麼才能得到呢?
8:17.960–8:19.520
jaこちらに記載のキーワード。[音楽]
請輸入這裡記載的關鍵字。[音樂]
8:19.520–8:29.120
jaYouTubeの概要欄にお記載のキーワードをLINE登録後にご入力いただけたら説明動画[音楽]そのスキルのファイル類をですねとなっております。
只要在YouTube說明欄記載的關鍵字,完成LINE註冊後輸入,就會收到說明影片[音樂]以及該技巧的檔案。
8:29.120–8:39.000
jaもう今お見せしているのはこんな感じの資料がですね[音楽]完成しましたのでぜ非ぜひ皆さんLINEより受け取っていただけたら嬉しいなと思います。
現在展示的就是這樣完成的資料,[音樂]所以希望大家能透過LINE接收,我會很高興。
8:39.000–8:41.719
jaでなんかちょっとさっき出きてたじゃん3つぐらい。
然後剛才好像出現了三個左右。
8:41.719–8:48.790
jaこれね、へこしいんだけども、いくつかパターンがあって、クエン3.8MAッのはこれクラウドのみで提供されてますと。
這個呢,雖然有點不好意思,但有幾種模式,Qwen 3.8 MAX僅提供雲端版本。
8:48.800–8:50.670
jaあれじゃないんですか?オープンウェイトモデルじゃないです。
那不是那個嗎?不是開放權重模型。
8:50.680–8:55.829
jaそう、オープンウェイトモデルじゃないの?公開ウェイトじゃないの?だからウェイトだインストールできるみたいな形じゃないんだよね。
對,不是開放權重模型?不是公開權重?所以不是那種可以安裝權重的形式。
8:55.839–9:01.870
jaで、なんでここに書いてある通り画像動画とか入力できます。ただクラウド上でのみ提供されてるあれローカル
然後,就像這裡寫的一樣,可以輸入圖片和影片。但僅在雲端提供,這跟本地
9:01.880–9:05.750
jaLMなのにオープンウェイトモデルなのにってところは正直あります。
明明是LM,卻不是開放權重模型,這點老實說有點奇怪。
9:05.760–9:07.640
jaこれの生は僕が混乱してんの?そう。
這是我搞混了嗎?對。
9:07.640–9:19.366
jaなんかこの左側のね、このク園3.8のマックスと要はここでク園とかで見てあげた時にクンスタジオとかで見るとなんかこうやって出てきたけどなんか美女画像みたいなちょっと前の部屋みたいな感じで僕生成してないんでさんの履歴ではない。
左側那個,Qwen 3.8 MAX,也就是說在Qwen或這裡看到的,在Qwen Studio等地方會這樣顯示,但像是美女圖片之類的,有點像之前的房間,我沒有生成,所以不是你的歷史記錄。
9:19.376–9:25.261
ja[笑い]履歴ではないです。一切生成してませんのでご安心ください。で、ま、こ出てくるクエン
[笑聲]不是歷史記錄。完全沒有生成,請放心。然後,這裡出現的Qwen
9:25.271–9:28.279
ja[笑い]3.8MAXスてあるじゃん。
[笑聲]有寫3.8 MAX。
9:28.279–9:36.030
jaここにあるようにこれが1番いいモデル、今1番強いモデルではあり、このクラウド上いわゆるこのチャットクエンスタジオとかで使えたりすると。
就像這裡寫的,這是最棒的模型,目前最強的模型,可以在雲端,也就是這個ChatQwen Studio等地方使用。
9:36.040–9:52.069
jaもちろんこのAPIプラットフォームってところ見てあげるとここにも色々書いてある中で今現状はここにずらっとある中でAPI経由とかでもAPIクエ3.8MAみたいな形で一応使える形にはなってるのかなとは思いますがここで
當然,如果查看這個API平台,這裡也寫了很多,目前狀態下,雖然列在這裡,但我想應該可以透過API或API Qwen 3.8 MAX等形式使用,不過這裡
9:52.079–10:03.430
jaDてはいはいトライコードテキスタンドコードコールAPRかちゃんと使える形になってるかな更新されてないってだけでここでク3.8maってのを呼び出せばっていうのでクラウド上つまりAPI
是的,是的,Trial Code、Text Stand Code、Call APR,應該是可以正常使用的形式,只是沒有更新,所以只要呼叫這裡的Qwen 3.8 MAX,就是在雲端,也就是API
10:03.440–10:08.990
jaという形で呼び出せるという感じですと[音楽]はで、これちょっと置いといて。ここちょっとまだ出てないって感じかな。で、それが
以這種形式呼叫,[音樂]然後,這個先放一邊。這裡好像還沒出現。然後,那就是
10:09.000–10:13.470
ja1番左ですとクラウド上つまり手元に落とすことができないモデルね。これが
最左邊,也就是雲端,無法下載到本地的模型。這就是
10:13.480–10:16.200
ja3.8MAX。で、真ん中がクエ3.8の
3.8 MAX。中間是Qwen 3.8的
10:16.200–10:18.640
ja2.4[音楽]TのA95Bですと。
2.4[音樂]T的A95B。
10:18.640–10:18.990
jaうん。ふん。
嗯。嗯。
10:19.000–10:20.200
ja2.4Tって何?
2.4T是什麼?
10:20.200–10:21.160
ja2.4テ。
2.4兆。
10:21.160–10:23.680
jaそう。2.4超。
對。2.4兆。
10:23.680–10:25.509
jaえ?おい。わけわかんないですよ。
欸?喂。完全搞不懂。
10:25.519–10:26.177
ja2.4兆パラメーターだった気がする。
感覺是2.4兆參數。
10:26.187–10:28.710
ja[咳払い]死ぬほど多い。
[清喉嚨]多到會死。
10:28.720–10:31.790
jaめちゃくちゃ多いパラメーターす。中のアクティブ
參數超級多。其中的活躍
10:31.800–10:33.800
ja95B。どういう意味でしょう?
95B。這是什麼意思?
10:33.800–10:35.279
ja95ビリオン使う。
使用950億。
10:35.279–10:37.760
jaそう、95ビリオン。1ビリオンって1
對,950億。1兆是1
10:37.760–10:40.160
jaビリオンは1億、10[音楽]億かな。10
兆是1億,10[音樂]億吧。10
10:40.160–10:40.629
ja億か。
億嗎。
10:40.639–10:45.629
jaだから950億パラメーターを使うとパラメーターってなんかイメージできないですよね。
所以是使用950億參數。參數這個詞很難想像吧。
10:45.639–10:47.269
jaなんかそうだな。ま、
嗯,這樣說吧。
10:47.279–10:48.710
ja死ぬほど多いってことすか?
就是多到會死嗎?
10:48.720–11:00.030
jaそう。死ぬほど多いってこと?例えばね、表現パッと出てこないな。よくディープラーニングとかってなられと出てくるだけバーっと数字なられがって数字のあれつ数字が色々繋がっててニューロンみたいなバーって繋がってて全てで
對。就是多到會死。例如,表達方式突然想不起來。通常提到深度學習時,會出來一堆數字,然後數字連連,就像神經元一樣,一堆連接著,全部
11:00.040–11:02.120
ja2.4テラあります。2.4
2.4兆。2.4
11:02.120–11:05.230
ja超メタ。その中で実際に使うのは
超meta。在這些裡面實際會使用的是
11:05.240–11:13.430
ja95ビリオン95パラメーター使いますよみたいなもので公開ウェイトなんだよね。でもこれさすがにぶっ壊れちゃいますよね。入れたら
像是會用到950億參數的950億參數,公開權重就是這樣。但這確實會崩潰吧。裝進去的話
11:13.440–11:14.240
zh無理。
根本不行。
11:14.240–11:15.030
jaぶっ壊れちゃいます。ま、
會崩潰。不過,
11:15.040–11:24.590
ja基本無理。データセンターって書いてあるけど無理よね。これをインストールするみたいな。一応公開ウェイトだけど無理基本的にこれね、やしいのがこれ画像動画入力できないんですよね、このモデル。
基本上不行。雖然寫著資料中心,但根本不行吧。像是安裝這個一樣。雖然說是公開權重,但基本上不行呢。這個模型呢,無法輸入圖片和影片。
11:24.600–11:27.399
jaなるほど。はいはい。画像そっか。あれじゃないのか。マルチモーダルじゃないんですね。
原來如此。是是是。圖片啊,這樣啊。不是那個嗎。不是多模態的嗎。
11:27.399–11:30.310
jaそう、マルチモーダルじゃないで思考もオフにするみたいな。
對,因為不是多模態,所以連思考功能都關閉了。
11:30.320–11:38.110
ja要はリーズモデルじゃないモデル、要はリーズさせずにポンとスピード重視で出力させるようなことができないんですよ。
也就是說,這不是推理模型,無法在不進行推理的情況下,單純以重視速度的方式進行輸出。
11:38.120–11:48.350
ja逆に左側と右側それぞれは思考にできるのでこんなチェックが入ってるって感じね。で、僕たちがどれ使うかかって言ったらもう左のチャットで使うか右側ですと。で、チャットでわざわざク
反過來,左邊和右邊各自都能啟用思考功能,所以才會出現這樣的勾選選項。那麼,我們該使用哪一個呢?就是左邊的聊天模式或是右邊的。然後,在聊天模式中特意要
11:48.360–11:51.949
ja3.8使うかって言うと使う理由がない正直。だってクロードチャット
使用 3.8 嗎?說實話,沒有使用的理由。因為用 Claude Chat
11:51.959–11:53.600
jaGPTでいいじゃんって話。
GPT 就好了啊。
11:53.600–11:54.110
jaそうですね。
沒錯。
11:54.120–11:57.430
jaわざわざ使う必要ない。なので僕たちが使うとしてはやっぱローカル
沒有特意使用的必要。所以我們真正會使用的,當然是本機
11:57.440–11:59.200
jaLMとしての旨味だよね。
作為 LM 的優點。
11:59.200–12:02.550
jaローカルでインストールして使えると。で、これがこの右側のこの
在本機安裝後就能使用。然後,這在右邊的這個
12:02.560–12:04.680
ja27Bとだいぶ落ちたよね。[音楽]
27B 版本裡,效能大幅下降了呢。[音樂]
12:04.680–12:10.110
jaていう形で基本的に右側だよね。だから僕たちがこれ街望んでたのはこういう風にク
基本上就是右邊這個形式對吧。所以我們一直在關注的,就是這種方式。
12:10.120–12:13.230
ja3.8MAX出てこれ最初クラウドで出ました。で、や
3.8 MAX 版最初是在雲端推出的。然後,
12:13.240–12:27.310
ja3.8の27Bっていうのが本当撮影日の1日2日前とかに出たわけだよね。撮影日ほぼ当日と言ってもね、同じぐらいのタイムラインで出てきたわけですと。はい。なのでこれを使うっていうので色々と多くの人が今使ってはいるですけどって感じかな。
3.8 的 27B 版本,實際上是在拍攝日的前兩天左右推出的,也就是說,幾乎可以說是拍攝當天才出現,時間軸差不多。是的。所以雖然現在有很多人都在使用這個版本,但感覺就是這樣。
12:27.320–12:27.560
jaはい。
是的。
12:27.560–12:32.870
jaで、公開には画像入力と思考がないと。これね、なんかね、やこしいよね。ごちゃごちゃするよね。
然後,公開版沒有圖像輸入和推理功能。這個呢,有點複雜對吧。很混亂對吧。
12:32.880–12:44.550
jaで、27B1番ちっちゃい27ビリオンのパラメーター持った。だから圧縮したモデルだよね。これは画像も動画も読めるローカル版なので画像動画を出せるマルチモーダルです。思考のオンオフできます。
然後,27B 是參數量最小的 270 億參數版本。所以是壓縮過的模型對吧。這是能讀取圖像和視頻的本地版,所以是能輸出圖像和視頻的多模態模型。可以開關推理功能。
12:44.560–12:57.710
ja自分のPCで動かせますみたいな形でクラウド版って書いてこれマジ一旦置いといておくて基本的にこの27Bってのハギングフェイスとかって呼ばれるようなところで公開されたりするからそこでインストールしてあげればいいですし確かさっきとか見たら
可以在自己的 PC 上運行之類的形式,雲端版寫著這個,真的先放著不管,基本上這個 27B 會在 Hugging Face 等地方公開,所以在那裡安裝就好,而且剛才好像也看到
12:57.720–13:10.550
jaLMスタジオって過去にローカルLMやった時に伝えたツール27B当選しましたよみたいなこと出てきてたのでありますとなんでま僕たちが注目すべきはこの27Bですとでさっき言ったちょっと話戻るんだけども
Lm Studio 這個工具,之前做本地 LM 時有提到過,27B 中獎了之類的訊息有出現,所以有這個工具。為什麼我們應該關注的是這個 27B,然後剛才說的話,稍微回到之前的話題,
13:10.560–13:22.959
ja2.4Tの95Bっていうのはやややややこしいんだけど2.4兆パラメーターのうち1回に動くのは950億パラメーターなので全部フルフルで動くわけじゃないよっていう感じで1回で動くのは全体の約4%ですよ
2.4T的95B有點複雜,但2.4兆參數中每次運算的只有950億參數,所以並非全部參數都會全數啟動。也就是說,每次運算只動用到總參數的約4%。
13:22.959–13:25.440
jaと。だから全て毎回水論と呼ばれるAIが
因此,每次推理時被稱為AI的
13:25.440–13:38.600
ja出力する時でなんか入力あって出力するこの動作処理を水論って言うんだけどもこの水論に2.4パラメーター全部バー通って計算されて出力するわけじゃなくて実際には95ビリオンのパラメーター使っ
輸出時,雖然有輸入並進行輸出處理,這個動作稱為推理,但並非將2.4兆參數全部通過計算後輸出,實際上只使用了950億參數。
13:38.600–13:41.240
jaてされる感じね。あとはこれ
還有這個
13:41.240–13:43.590
jaMo覚えてる?萌え萌え萌えってなんか言ってたやつ。
記得MoE嗎?之前說「萌、萌、萌」的那個。
13:43.600–13:44.710
jaああ、分かってます。
啊,我懂了。
13:44.720–13:47.919
jaあれも一応ありますと512のエクスパートから毎回11だけ動くみたいな。この辺やこしいんだけども
那個也有的,從512個專家中,每次只啟動11個。這部分有點複雜,不過
13:47.929–13:57.120
ja[音楽]512個なんかエクスパートみたいなポンポンポンポンあってそのいくつかの繋なぎ目があってそれを動くのは毎回11個動くらしい。はい。
[音樂] 有512個像是專家之類的東西,它們之間有一些連接點,每次運算似乎只啟動其中的11個。好。
13:57.120–13:57.990
jaやしいよね。
確實很複雜呢。
13:58.000–13:58.949
jaどうせわかんないや。
反正反正也搞不懂啦。
13:58.959–14:02.430
jaわかんないけど要はこの専門家スパートて専門家じゃん。
雖然搞不懂,但重點是這些專家路由就是專家嘛。
14:02.440–14:02.759
jaはい。
是的。
14:02.759–14:16.670
jaこの点で示してるに重要なその線みたいなのがいくつか専門のルートがいくつか用意されててそれの中から必要なタイミ例えばさデザインをお願いしますってお願いするのに別に歯医者みたいな専門家らないじゃん。
在這一點上,它展示了幾個重要的線路,準備了幾個專家路由,從中選擇必要的部分。例如,當我們請求設計時,並不需要像牙醫那樣的專家。
14:16.680–14:17.680
jaはいはいはいらないすね。
是的,不需要。
14:17.680–14:29.230
ja専門家と言ってもさ、その用途によっているらいいらないってあるじゃん。一応なんか用意されてるみたいな。だ病院とか前も病院で例えたかもしんないよね。病院にはさな何とかいいなんとかいいなん下とかさないか色々いるじゃん。
雖說是專家,但根據用途不同,有的需要有的不需要,大致上像是準備好了。之前好像在醫院舉例過吧?醫院裡有各種各樣的人,比如什麼什麼科、什麼什麼科的醫生等。
14:29.240–14:43.829
jaとかっていう中でじゃあこの患者が来た時に全員が全員対応するんじゃなくてその時に応じてその入ってきたものに対して適切な専門家が動いていくわけだよね。ていうのと同じような仕組みがこれもいいということでミクチャーオブエクスパートっていうのがありますと。はい。これはもうローカル
在這種情況下,當患者來訪時,並非所有人都要處理,而是根據進入的對象,由適當的專家來應對,這與之前的機制相同,因此有一種稱為「專家混合」(Mixture of Experts)的架構。
14:43.839–14:51.629
jaLMだとよく出てくる話なのでもそういうもんだなぐらいに思っといてくださいと。で、この辺は一旦いいかな。なんかゴロゴロ書いてあるんだけども
這在本地大型語言模型(Local LM)中是個常見的話題,所以請當作這是常態就好。這部分就先這樣吧。雖然寫了很多東西,
14:51.639–14:56.430
jaCLIを作り続けたとかマイCLIなんか作り続けたなんか色々あったんだけどいいかな。
像是持續開發 CLI、持續開發 My CLI 等等,有很多不同的情況,不過就先這樣吧。
14:56.440–15:02.870
jaとりあえずなんか動き続きましたよとか、論文を再現して上まったよとか、ま、なんか色々とね、出てきてます。それこそかなりその
總之,它持續運作,或者成功復現了論文,總之出現了很多各種各樣的情況。那時候,
15:02.880–15:13.680
jaPC操作みたいなところ、エージェンティックな動きとかでもベンチマーク仕用でかなり高い数値出しましたよとか、ただコードと知識みたいなところは他社が上だったりしましたよとか、GPT5.6
在類似 PC 操作、代理式行為等基準測試中取得了很高的數值,但在程式碼和知識方面,其他公司的產品可能更優,例如 GPT-5.6
15:13.680–15:20.269
jaみたいな、もちろんそうだよねって話なんだけど、ブルとかには及ばなかったけれども、ま、でも結構近いところまで切ってますよみたいな。
之類的,當然這是理所當然的,雖然還比不上 Claude,但也已經非常接近了。
15:20.279–15:20.839
jaはいはいはい。
好的好的好的。
15:20.839–15:24.949
jaで、この27Bに関しては前のモデルから結構飛躍してますと。
關於這個 27B 版本,與之前的模型相比有相當大的飛躍。
15:24.959–15:36.000
jaPCの画面操作みたいなところもそうだし、あとはなんかそういう高ベンチっていわゆるオフィス業務系のタスクとかもそうだし、色々とそのデバック的なん言うんでしょう的なところのベンチマークの
無論是類似 PC 畫面操作的部分,還是高基準測試中所謂的辦公室業務類任務,以及各種除錯相關的基準測試
15:36.000–15:37.680
ja指標もガーンと増えましたよ。要は
指標都大幅增加了。也就是說,
15:37.680–15:45.279
ja3.627Bから3.727Bで各ベンチマークの仕様伸びたよっていうのは現実あるので結構伸びてるでしょ。
從36.27億參數增加到37.27億參數,各基準測試的規格都提升了,這在現實中是存在的,所以提升幅度相當大吧。
15:45.279–15:48.920
jaこれだけ見るとさ、数値感はさ、それなりに点数上がってるよね。はい。
只看這些的話,數值感上分數確實有提升。是的。
15:48.920–16:00.000
ja結局自分たちが使うのは基本的に27Bとかだったりするから27Bがどうかっていう観点で言うとかなり数値としては向上してるからめっちゃいいんじゃないかっていうはいはいはいところはありますとで全体としてこの
畢竟我們主要使用的還是 27B 版本,所以從 27B 的角度來看,數值上有相當程度的提升,這是不是相當不錯呢?是的,是的,是的,有這樣的觀點。整體而言,這個
16:00.000–16:11.550
ja1番フルフもので言うと2.4Tの[音楽]AS95Bに関しては一応なんかランキングでは6位みたいなアーティフシャルアナリシスみたいなところの指標ではあるんだけどさてどうなのかって話だよね。
以最大規模的 2.4T [音樂] AS95B 來說,雖然在排行榜上大概是第 6 名,在 Artificial Analysis 等指標中是這樣,但問題是這到底怎麼樣呢?
16:11.560–16:12.279
jaはいはいはい。
好的好的好的。
16:12.279–16:22.680
jaパもね、フェかだったりとか色々ある中でさてさて6位なのかって言われるとこの上の部分との差は結構あるんじゃないかなっていうところもあるし出力速度45って結構遅いんだよね。
在各種因素中,被問到是否只有第 6 名時,這與頂部模型的差距可能相當大,而且輸出速度 45 其實相當慢。
16:22.680–16:23.550
jaえ、遅いんですね、これ。
啊,這麼慢嗎?
16:23.560–16:28.470
jaそう。さっきそれこそちょっと画像どっかでコーディングとかさせてみてたんだけど、これか。なんだこれ?
對。剛才確實有試著在圖片上進行編碼,是這個嗎?這是什麼?
16:28.480–16:31.870
ja普通にコーディングちょっとしたぐらいなんだけども、別の動画で撮ってたやつね。
只是普通的編碼,稍微做了一點,但這是用另一個影片拍攝的。
16:31.880–16:32.399
jaはいはいはい。
好的好的好的。
16:32.399–16:41.509
jaなんだけど、ま、遅いし別になんこれダウンロードしてデザインはね、ま、悪くないけどめっちゃずれてるみたいな。日本語変だったりするんすかね。
不過,雖然慢,但下載後進行設計的話,還不錯,但偏差很大,像是日文變得很奇怪之類的。
16:41.519–16:50.676
jaビューを嗅いてあなたの流れてちょっとおかしいっちゃおかしいかもしれないけど別なんかなんだろうってわけじゃなくてちょっと独特みたいな感じかなはいはいおデブがウインクしてますよね崩れてたりとか
稍微嗅一下視圖,雖然有點奇怪,但也許不是完全沒問題,而是有點獨特,是的,是的,大胖子在眨眼,崩壞了之類的
16:50.676–17:03.160
ja[鼻息]確かになんかちょっと前のモデルって感じしますまデザインは別にねシステムで作っちゃってたから別に悪い悪くないっていう話ではないと思うんだけども[音楽]文字崩れとか見るとちょっと
[鼻息] 確實感覺像是之前的模型,設計方面因為是系統自動生成的,所以並不壞,也不是不好,但 [音樂] 看到文字崩壞的話,稍微
17:03.160–17:07.230
jaそうねモバイルのレイアドにしてくれてるって意味では悪くない気がするけどね。
嗯,在移動端渲染方面,感覺還不錯。
17:07.240–17:07.679
jaはいはい。
好的好的。
17:07.679–17:09.429
jaちょっとこの辺は一旦置いといて。
這部分就先放著吧。
17:09.439–17:15.559
jaA社は一緒に働いてくださる仲間を募集しております。正社員業務卓インターン問わ
A 公司正在招募一起工作的夥伴。正職員工、業務、實習生,
17:15.559–17:19.760
jaず絶賛募集中です。AIかける教育事業
不限於 AI 相關的教育事業,
17:19.760–17:32.240
jaですね、より大きく成長させていくために一緒にAIそして教育に熱を持って望んでいける方、取り組んでいける方を探しております。ご興味のある方はですね、概要
為了讓事業更大規模地成長,我們正在尋找能對 AI 和教育充滿熱情、願意一起投入的人。如果有興趣的話,請透過
17:32.240–17:34.799
ja欄に記載のフォームよりご応募ください。
說明欄中記載的表單進行申請。
17:34.799–17:37.182
ja皆様のご応募お待ちしております。出力
期待各位的申請。輸出
17:37.182–17:38.080
ja[音楽]速度遅いです。
[音樂] 速度很慢。
17:38.080–17:54.270
ja確かにすごい遅いなと思いましたしそもそもなんだけれどもなんだろうなこのチャットGPTクロードとかあとはブロックとかジェミニとかその辺りにはちょっと及ばないよなみたいのもちろんあるので僕は正直ここをわざわざ使うかっていうとそういうわけではないかなっていう感じですかね。
確實覺得非常慢,而且本來就覺得,這跟 ChatGPT、Claude,還有其他像 Gemini 之類的相比,雖然當然還比不上,但老實說,我會特意去使用這個嗎?感覺並不是那樣。
17:54.280–17:54.559
jaはい。はい。
好的。好的。
17:54.559–18:08.480
jaで、ローカルでとでマLMスタジオとか色々と動かせますよと、あとなんか色々とこれ引っ張ってきたもので言うと基本設計書を欠かせたら人の見直しを指摘したみたいなとかあとは3.6の27B1
然後,在本地環境中,可以使用 LM Studio 等工具運行,另外,關於拉取來的這些東西,基本設計書如果不缺的話,會指出需要人工檢視,或者比 3.6 的 27B 1
18:08.480–18:11.232
ja個前のモデルねより返が明らかに早いみたいな。元々遅すぎたのかもしんないし、なんかそういうポジティブな報告もありつつなんかそれこそさっきあったさ重み配られたけど
個之前的模型,回應明顯更快。也許原本太慢了,也有正面的報告,但剛才提到的權重分配,
18:11.242–18:22.840
ja[音楽]3つかけてたみたいな画像と動画の入力みたい1番重いモデルあったじゃんこれ。
[音樂] 像是加了三個濾鏡的圖片和影片輸入,最重的模型在這裡。
18:22.840–18:23.350
jaはいはいはい。
好的好的好的。
18:23.360–18:30.149
ja実際に配られたさ、フルプルのモデルさ、思考にできなかったりとかさ、マルチモードルじゃなかったりとかさ、なんかちょっと惜しいよね。
實際上分配到的,全功能的模型,無法進行思考,或者不是多模態,有點可惜呢。
18:30.159–18:33.159
jaはいはい。だから今さん好きじゃないのがちょっとめっちゃ出てますね。
好的好的。所以現在有很多不喜歡的點冒出來了。
18:33.159–18:33.502
jaいや、好きじゃないっていうか思ったより期待値上げてきた割にはって感じなん。
不是不喜歡,而是覺得在預期值拉得這麼高的情況下,結果卻有點落差
18:33.512–18:37.320
ja[笑い]あ、そういうことです。確か
(笑)啊,就是這麼回事。沒錯
18:37.320–18:39.110
ja好きじゃないとかじゃなくてなんだろう。
與其說是不喜歡,不如說是有點說不出來
18:39.120–18:41.390
ja実際オーパスた方は全然張り合いてないってことですよね。
實際上,那些使用過 Opus 的人根本覺得沒有什麼競爭力,是這個意思吧。
18:41.400–18:44.070
jaもちろんそこは全然違うんだけれどもなんだろうな。
當然那部分完全不一樣,不過說來也奇怪。
18:44.080–19:01.710
ja期待値上げてたらそのローカルLLMとして注目してるからこっちとしてはローカルLMとしてどうかみたいなところで言うと悪くはないけどって感じな気がするんだよ。じゃ、大きな差分があったかって言われるとっていうところなのかなってのは思ってますし、あとなんか結構エラーが今出てるというか、なんかずっと止まらない、ずっとシンキングしてるみたいな。
如果期待值拉得太高,作為本地LLM受到關注,從本地LM的角度來看雖說不算差,但感覺上並沒有出現顯著的差異,而且現在好像出現不少錯誤,一直停不下來,一直在思考的樣子。
19:01.720–19:24.470
jaそう、3.8の27Bとかでずっとシンキングでなんか2時間止まんないみたいなとか結構Xとかで他の人の投稿とか見てみると簡単な作業とかでも考え込んだま終わらないとか多分これはね思考の問題なのか何なのかわかんないけれどもそういったのが発生してるのでなんかちょっとその期待値が上がった割にそういうミスというかトラブルみたいなのがあって微妙だったりしてるみたいな
沒錯,像3.8的27B版本那樣一直處於思考狀態、兩小時都不停頓的情況,我在X上看了其他人的貼文後發現,即使是簡單的工作也會陷入思考而無法結束,雖然不知道這是不是思考機制本身的問題,但既然發生了這種狀況,感覺雖然期待值提高了,卻出現了這種失誤或故障,整體表現有點微妙
19:24.480–19:32.880
jaところよね27それそれなりにねある程度ねGPUとかそういうメモリ積んでおかなければいけなかったりするわけだけれどもその直もうすぐ出たばっか。出て公開されて
畢竟27B版本需要具備一定程度的GPU和記憶體配置,而且它才剛發布不久,剛公開不久
19:32.880–19:34.549
ja1日ぐらいなんだけどもうん。
大概一天左右吧
19:34.559–19:37.990
jaこういった報告が合いついてるって感じかな。
感覺這些報告都吻合了。
19:38.000–19:42.230
jaなので試たならスタジオって書いたんだけれどもスタジオは使わなくていいかな。普通に別に
所以剛才寫了試用的話,工作室其實可以不用
19:42.240–19:44.520
ja3.8マックス使う理由がないから。
因為沒有理由要使用3.8的最大值
19:44.520–19:49.110
jaただま価格がオスとか他のモデルと比べると安いわけよね。入力
不過價格跟其他型號相比算是比較便宜的,輸入
19:49.120–19:52.549
ja2ドルの出力6ドルみて。フェイブルとかってもっと高いし数
看看2美元的輸出6美元,Fable之類的更貴,數
19:52.559–19:57.710
ja10ドルとかするからそう考えると安いっちゃ安いけどそこをどう取るかだよね。
會賣到十美元,這樣想起來確實不算貴,但問題在於該如何看待這個價位
19:57.720–19:58.559
jaはい。
是的
19:58.559–20:01.470
jaこの辺も色ありますがという感じですかね。
這邊也有其他顏色,大概是這種感覺吧
20:01.480–20:15.110
jaはい。で、一応ちょっとスライドでずらっと説明しちゃったんだけども、一応ね、ここのところをお見せするとクエのところでこうやって色々ある中で僕がこれ見てる中でこのクね見てあげるといいんだけどクエンスタジオってのなりあります。
對,然後雖然剛才用投影片快速說明了一下,不過這邊還是要提一下,在各種選項中,建議大家關注的是這個,也就是Quentic Studio。
20:15.120–20:20.310
jaAPあります。ダウンロードありますみたいな。これもクアデスクトップもしくはクオ
有AP,也有下載版之類的。這也有Qua Desktop或Quo
20:20.320–20:25.149
jaonPhoneということでモバイルアプリとかデスクトップアプリみたいなのも一応あります。
所以手機版行動應用程式和桌面版應用程式也都有提供。
20:25.159–20:25.480
jaはい。
是的
20:25.480–20:33.369
jaこれチャットGPTとかのと同じような感じかなと思ってるし、あと一応製品として一応画像成みたいなところもできるね、イメージジェネレーションディープリサーチとかシンキングとかももちろんあるし、マルチモデルアンダースタンディングはもう画像動画サーチもできるよとかこの辺は特に変わった話ではないかなと思ってて、この
我覺得這跟 ChatGPT 之類的感覺差不多,而且作為產品,它確實能處理圖像生成,當然也有影像生成、深度研究和思考等功能,多模型理解方面甚至能進行圖像和影片搜尋,這些部分我覺得並沒有什麼特別之處
20:33.379–20:45.640
ja[音楽]APIプラットフォームだよね。API
音樂。API平台。API
20:45.640–20:58.400
jaプラットフォームでク3.7、ク3.6とかずらっと貼る中でさっき言った音声入力みたいな音声入力のソフト、音声認識ソフトを作るってなった時に僕はこのクエ3のASRっていうモデルを使いました。
在平台上接連部署 Q3.7、Q3.6 等模型,並開發剛才提到的具備語音輸入功能的語音辨識軟體時,我使用了 Qwen3 的 ASR 模型。
20:58.400–21:08.520
jaこれ書いてあるようにインプットがオーディオでアウトプットはテキストなので音声を認識して文字故障をするっていうこのモデルはさに音声入力ソフトを開発する上ではローカルLエレムとしては結構
正如所述,由於輸入是音訊而輸出是文字,這個負責將音訊轉換為文字的模型在開發本地LLM作為音訊輸入軟體時相當
21:08.520–21:22.400
ja優秀だったりしたので普通に使えるものかなと思いますしTTSってテキストスピーチこれ僕ちょっと使ってないんだけどもこのなんかローカルLLMの中でもASRだかTTSは比較的ちっちゃいフルフルのクエンス3.8のみたいなもの
因為表現相當優秀,我認為它應該是可以正常使用的,而TTS也就是文字轉語音,雖然我還沒實際使用過,但感覺在本地LLM中,ASR和TTS屬於體積相對較小的模型,類似於Qwen3.8這種規模
21:22.400–21:33.640
jaと比べるとメモリクー量少なかったりするのでこの辺りが強くなるのはすごい嬉しいことかなってそれこ音声認識のレベルが上がる、音声入力の精度が上がるという意味では、他のなんて言うんでしょう?
相較之下記憶體用量較少,所以這方面變強實在令人高興,畢竟這代表著語音辨識水準提升、語音輸入的準確度提高,其他呢該怎麼說呢
21:33.640–21:47.400
jaこっちのフルフルのマックスのモデルとかそういうのに注目ももちろんしているものこのクエ3から止まってるASRモデルとかTTSモデルが3.5とか3.8とか最近のレベルまでもう1段階引き上がってくれたらなんかそれこそ音声
當然也關注像這樣的全尺寸最大模型,如果這些從Qwen3停滯的ASR和TTS模型能像Qwen3.5或3.8那樣,在近期水準上再提升一個階段,那無疑會大幅提升音聲
21:47.400–21:54.520
ja認識の制度が上がる、つまり音声入力ソフトとしてのクオリティが上がるってことなのでこの辺には結構期待したいところかなってのは思ってます。
這代表音訊辨識的準確度會提升,也就是說作為音訊輸入軟體的品質會提高,所以我對這部分相當期待。
21:54.520–21:57.789
jaあとは、ま、クイメージ2.0Proとか画像作るんだ。
另外像是用 Image 2.0 Pro 來製作圖片
21:57.799–22:19.510
jaそう、画像成とかもね、全然できたりするんだけども、この辺もね、正直メジャーではないからさ、あんまトーピックとしてあげられるみたいことはないし、一昔前の画像生成みたいな感じではあるんだけれども、こういったモダルなっていうか画像とか音声とか動画とかそういうのができるようなモデルっていうのがどんどんどんどん出てくるといいよねとは思います。
沒錯,雖然確實能生成圖片,但畢竟不算主流,所以不太會作為話題來討論,感覺就像舊時代的圖片生成那樣,不過我認為如果能不斷推出這種能處理圖像、音訊、影片等多模態的模型就好了。
22:19.520–22:28.390
jaそれこそこのクエンというモデは、このハギングフェイスなんかオープンウェイトモデルとかを登録してくれてるようなサイトなんだけど、ここにあるク園の中にクイメージっていうあるわけだよね。
畢竟這個Quen這個模型,是像註冊了Hugging Face這類開放權重模型的平台,而在這裡的Qu園中,存在著Qu Image這樣的東西。
22:28.400–22:30.990
jaクイメージのそう、クの画像。
像 Stable Diffusion 那種,生成圖片的
22:31.000–22:37.165
jaクイメージめっちゃかっこいいの作ってるじゃないですか。こういうのとか作ってるよみたいな。なんでこういったモデルはあるわけですが、これで言うとモデルサイズは
你不是在製作超帥的庫伊瑪吉嗎?像是做出這種東西之類的。雖然有這種模型,但就這個模型來說,參數規模是
22:37.175–22:41.720
ja[音楽]20Bパラメーターだよね。20B
兩百億參數對吧,兩百億
22:41.720–22:48.630
jaこれアクティブとかじゃ20Bだからね。結構聞こうすね。そうね。来るっちゃあるけれども画像とか使うからってところはあるかな。
因為這個是20B參數,所以其實挺重的。沒錯,雖然確實有,但因為會用到圖片,所以這點可能會有影響。
22:48.640–22:57.950
jaま、こういうのを作れるって意味だったら、ま、いいのかな。ジ君が好きそうな画像は作ってくれるかなと思うので、使いたければ使ってみるのもいいんじゃないかなとは思います。ちなみに
不過,如果是指能夠製作這類東西的話,應該沒問題吧。我覺得ジ君可能會喜歡這類圖片,所以如果想用的話,不妨試試看。順便一提
22:57.960–22:58.125
ja1個聞きたかったんですけど、園って中国の合いじゃないですか?
有件事我想問一下,園不是中國合資的嗎?
22:58.135–23:02.159
ja[音楽]セキュリティイベントもどうなんですか?
音樂部分呢,安全事件方面怎麼看
23:02.159–23:03.720
jaどうなんだろうね。て思うけど別に
不過我倒是覺得說不曉得會怎樣
23:03.720–23:13.320
jaローカルLMだったら別に外と通信するみたいな形ではないから別にそんな気になることはないかなと思うんだけども、あとは利用呼んだりとか色々とモデルの学習が必須になってる場合とかあるかも
如果是本地大型語言模型,因為不需要與外部進行通訊,所以其實不太會在意這點,不過在某些情況下,可能會需要呼叫使用者或是進行模型學習,所以還是有可能會有需要注意的地方
23:13.320–23:23.960
jaしれないからそういうの見て欲しいなと思うんだけど僕は正直クエンススタジオとかを使うってことは基本的にないから何で使うかって言ったらローカルエレムって基本的にはネットと閉した環境で動くっていうのがあるから
因為不確定,所以希望大家能看看,不過我老實說基本上不會用 Qwen Studio,如果要問為什麼會用的話,是因為本地 LLM 基本上是在與網路隔離的環境下運作
23:23.960–23:32.080
ja細かなコード見てないけどローカルエレムが変なとこに情報送信するとかってなってない限りはセキュリティ的な心配とかはないのかなっ[咳払い]てのは思います。
雖然沒仔細看程式碼,但除非本地大型語言模型會把資訊傳送到奇怪的地方,否則應該沒有什麼資安方面的疑慮吧咳嗯我是這麼想的。
23:32.080–23:34.880
jaはい。というところで、このク3.8Xで
好的,那麼在Qwen 3.8X的部分
23:34.880–23:42.240
ja見た感じとかは、さっきも言ったように3分別れてるというか、うまくいったという人もいれば、結構いいという人もいれば全然なんか動かない。ずっと水分回ってる
從外觀來看,就像剛才說的,大致分為三種情況,有人表示運作順利,有人覺得相當不錯,也有人完全無法運行,一直處於水銀燈迴轉的狀態
23:42.240–23:52.080
jaみたいな人もいたりとかしてる中で、この辺りはシンプルにバグなのか何なのか問題はあると思うんで、この辺は多分解決されるとは思うんですけれども、なんかその期待値がもうね、クエ3.5ってやっぱ
在這種情況下,我認為這裡確實存在問題,無論是單純的錯誤還是其他原因,雖然預期這部分最終會得到解決,但畢竟是Q3.5,實際表現與期待之間似乎有些落差。
23:52.080–23:56.039
jaローカルモデルとしては結構注目されてるモデルではある。K3とかと同じように
作為本地模型,它確實受到了相當多的關注,就像K3一樣
23:56.039–24:06.360
jaローカルの中ではトップ3に入るモデルではあるのでその最新モデルというので期待感があった割にはちょっと実際どうなんだろうみたいなところは意見と従がってるかなっていうのが現状ではありますと。
畢竟這是本地端排名前三的模型,雖然對最新模型抱有期待,但實際表現似乎有些落差,意見與預期不太吻合,這就是目前的狀況。
24:06.360–24:17.480
jaこれがねどんどんどんどんやっぱりこのアクティブ南Bとかも含めてどんどんモデルがちっちゃくなってコンパクトになってローカルPC上で動くけれどもそれがスピード感もあってかつクオリティも高い。
隨著模型不斷小型化、精簡化,即使包含像ActiveNeb這樣的部分,也能在本地PC上運行,同時兼具速度與高品質。
24:17.480–24:25.630
jaそれで多くの人たちの多くのPCに搭載できるようなものになるのであればかなり使い手が良くなるのかなとは思います。僕はもう自分の手元の
所以如果能夠成為能搭載於許多人電腦上的東西,我認為使用者體驗會大幅提升。我現在自己的手邊
24:25.640–24:29.070
jaPCでは基本的にローカルエレバ動かさないようにはしてます。
在 PC 上我基本上會盡量不執行本地模型
24:29.080–24:38.840
ja容量のメモリ食ったりとかも色々して他の邪魔になるというか妨たになったりするので極力ねここで動かさないようにしてそれこそ自宅に置いてあるMacminニに搭載したりとかそういう風にローカル
會佔用大量記憶體,甚至干擾或妨礙其他工作,所以盡量不在這裡運行,而是把它部署在家裡的Mac mini上,這樣在本地運行
24:38.840–24:49.200
jaLレムを動かす環境を分けてたりするのでここも何かしら余ってるPC[音楽]とか余ってる環境があればそこでやってみるとかはいいと思いますがローカルLLMにふさわしいタスクみたいなところは
既然會把運行環境分開,我認為如果有閒置的PC或環境,在那裡嘗試運行Llem是不错的做法,但像是適合本地LLM的任務,
24:49.200–24:56.919
jaいわゆるたくさんの大量処理みたいなところだったりもするのでその辺りはローカルLLMの動画出てるのでぜ非ぜひ見ていただけたらなていう風に思います。
因為這屬於大量處理的場景,所以建議大家觀看關於本地LLM的影片,希望能對大家有所幫助。
24:56.919–24:58.320
jaはい。はい。
好的,好的。
24:58.320–25:00.510
jaもコメント変信コーナー行きたいと思います。
接下來進入留言回應環節。
25:00.520–25:03.510
ja今日ですね、ローカルLMの動画にいただいたコメントです。
今天這則來自本地LLM影片留言區的留言
25:03.520–25:05.110
jaコトロジーさんからですね。
[未翻譯]
25:05.120–25:09.919
jaローカルLMで深い会話するボットを作るのは個人PCレベルでは無理でしょうか?
在個人電腦上建立能進行深度對話的本地大型語言模型機器人,是不是幾乎不可能?
25:09.919–25:11.830
ja深い会話が何かですよね。
問題在於「深度對話」究竟是什麼意思。
25:11.840–25:20.430
jaどこまでかにわゆるチャトGPTとかクロードみたいな今の最新のモデルみたいなものを求めるていうのであればちょっと厳しいかなという風には思います。
如果是要追求像 ChatGPT 或 Claude 那樣當今最新模型的表現,我認為會有些困難。
25:20.440–25:31.600
jaそれはやっぱり27B、それこそ賢くなったとはいえ、そこに落とせるものってのは限られてるし、今現状そのコンパクトなものとはいえそれなりにスペック必要だったりするので、現状どうだろうな、1年前
畢竟即使是27B參數,雖然變得更聰明了,但能壓縮到本地的模型還是有限的,而且目前即使是要跑這種小型模型,也需要一定的硬體規格,所以現在的話,大概只能做到跟一年前的AI對話的程度吧
25:31.600–25:42.520
jaのAIと会話するぐらいのものはできるんじゃないかなと思うんですけども、最近の他のね、クロードとかJATGPTとかの進化こういったのを見た上でそれと比較するとやっぱどうしても劣る部分はあるか
我覺得跟這樣的AI進行對話應該是沒問題的,不過在看了最近Claude或ChatGPT等模型的進展並加以比較後,確實還是會發現有些劣勢
25:42.520–25:52.159
jaなと思うので、個人的にはローカルLLMで深い会話とかっていうのはあんま向いてないと思いますし、先ほどもちらっと話したように大量の処理をどんどんどんどんさばいてもらえるみたいな、そういったの
所以個人認為本地LLM並不適合進行深度對話,就像剛才稍微提到的那樣,它非常擅長處理大量且持續不斷的工作負載
25:52.159–25:55.480
jaには非常に向いてるんじゃないかなって思います。はい。ということで、ま、
我認為這方面非常適合,沒錯。那麼,
25:55.480–26:05.480
jaこんな感じで比較的新しい情報というか出たもので注目されてるものとかそういったものを技術的なところの話も踏まえながらお伝えしていこうかなと思ってますので、こういうの知りたい、Aの知りたい、そう
我會結合技術層面的說明,向大家介紹這類比較新、受到關注的資訊或產品,如果大家對這些內容或特定主題有興趣,歡迎在留言區提出。
26:05.480–26:10.880
jaいうのがあればですね、是非コメント欄にお寄せいただけたらなという風に思います。はい、ということで本日は以上になり
如果有想了解的議題,歡迎在留言區留言告訴我們。好的,那麼今天到此為止
26:10.880–26:15.000
jaます。また次回。
謝謝收看,我們下次再見

影片筆記:Qwen3.8は正直どう?今話題のローカルLLMのQwen3.8はどんなAIモデルかAIのプロが徹底解説します

<!-- VIDEONOTE_PUBLICATION_WARNINGS_BEGIN -->

⚠️ 全文快速校讀發現待確認修正

本筆記已完成可閱讀的逐字稿與時間跳轉;下列為待處理問題,建議播放原片確認。

  • 待修正:⚠️ 全文快速校讀發現未解決異常(segment=32 待確認:日文長漢字詞與片假名直接黏接,疑似公司/產品名稱 ASR 錯認;AI 未輸出可驗證的暫定修正版;segment=77 待確認:日文長漢字詞與片假名直接黏接,疑似公司/產品名稱 ASR 錯認;AI 未輸出可驗證的暫定修正版)
  • 待修正:逐字稿全文快速校讀未完成(已保留自動字幕/原始逐字稿並繼續生成筆記。;未完成的全文速讀項目可在精進模式回聽確認。)
  • 待修正:逐字稿可先使用,但有待校正清單(segment=1 unnatural_sentence_boundary: 標點出現在句首或停在逗號位置,斷句可能不符合文法/口語;segment=7 unnatural_sentence_boundary: 標點出現在句首或停在逗號位置,斷句可能不符合文法/口語)

<!-- VIDEONOTE_PUBLICATION_WARNINGS_END -->

⚠️ 重要警告:逐字稿辨識疑點與校正待辦

請注意:以下內容基於分段筆記整理,但原始逐字稿存在大量辨識錯誤與語意斷裂。以下摘要與事實陳述僅反映「筆記中記載的內容」,若與實際影片不符,請參考下方的「逐字稿辨識疑點」進行查證。

待校正清單 (需人工確認)

  • segment 1, 7, 68, 117, 124, 264: unnatural_sentence_boundary — 標點出現在句首或停在逗號位置,斷句可能不符合文法/口語。
  • segment 32, 77, 81, 125, 143, 155: rapid_semantic_review — 日文長漢字詞與片假名直接黏接,疑似公司/產品名稱 ASR 錯認;AI 未輸出可驗證的暫定修正版。
  • 模型名稱不確定:筆記中出現大量「ク3.5」、「ク園」、「クエン」、「クエ」、「クエント」、「クエンス3.8」、「クエンススタジオ」、「クエンスのASR」、「クイメージ2.0Pro」、「ク3.8X」、「K3」等變體,極大機率均指代 Qwen 系列,但無法在筆記中直接替換為確定事實。
  • 參數描述混亂:「2.4T」、「2.4テ」、「2.4超」、「2.4兆」、「A95B」、「95ビリオン」、「950億」、「512のエクスパート」、「11だけ動く」等描述,需確認是否正確對應 MoE 架構的總參數與活躍參數。
  • 語意不明片段:「水分回ってる」、「意見と従がってる」、「妨たになったり」、「動画出てる」、「ぜ非ぜひ」、「アクティブ南B」等片段語意不通,無法直接作為摘要事實。

---

一句話總結

影片探討阿里雲開發的 Qwen 3.8 系列模型,講者指出該系列發布後資訊混亂,區分為雲端 API 版與本地開源版;其中 Qwen 3.8 27B 被推薦為適合本地運行的版本,具備多模態與思考模式,但整體用戶評價兩極,存在穩定性與效能落差,且本地模型在深度對話能力上仍無法與頂級雲端模型(如 ChatGPT、Claude)相比。

核心重點

  1. Qwen 3.8 版本區分與資訊混亂:
  • Qwen 由阿里雲(Alibaba)開發,近期發布的 Qwen 3.8 系列引發資訊混亂。
  • Qwen 3.8 Max:僅限雲端 API/Studio 使用,支援多模態(圖/影片),非開源下載版。
  • Qwen 3.8 2.4T (95B):參數量巨大(總參數 2.4 兆,活躍參數 950 億),雖為開源但對硬體要求極高,本地運行困難(講者形容為「會崩壞」),且缺乏多模態與思考模式。
  • Qwen 3.8 27B:講者認為這是本地用戶真正應關注的版本,支援多模態、可調整思考模式,且在 PC 上運行速度與效能相較前代有顯著提升。
  1. 技術架構:MoE (Mixture of Experts):
  • 採用混合專家架構,總參數大但活躍參數小(例如 95B 或 11 個專家)。
  • 「公開權重」(Open Weight)意味著可下載,但受硬體限制。
  1. 本地 LLM 的現實限制與趨勢:
  • 需要高規格 PC 或專用伺服器。
  • 模型正趨向小型化與高效能,若能在一般 PC 上運行且兼具速度與品質,將大幅提升實用性。
  • 建議將本地模型運行環境與日常使用的 PC 分離(例如使用閒置的 Mac mini),以避免佔用記憶體影響其他工作。
  1. 用戶反饋與評價:
  • 部分用戶反映 Qwen 3.8 存在思考模式卡死、輸出速度慢、中文處理獨特風格等問題。
  • 整體評價呈現兩極:部分使用者反應良好,但也有使用者遇到持續運轉或完全無法運作的問題。
  • 由於 Qwen 3.8 被視為本地模型中的頂級模型之一,目前的實際表現與高期待值之間存在落差。
  1. 本地模型 vs. 雲端模型:
  • 個人 PC 級別難以達到 ChatGPT 或 Claude 等最新模型的深度對話水準。
  • 原因:參數量限制(如 27B)及硬體規格限制。
  • 結論:本地模型適合處理大量數據任務,不適合追求與最新雲端模型相比的深度對話。

詳細大綱

1. Qwen 3.8 發布背景與資訊混亂

  • Qwen 由阿里雲(Alibaba)開發,中國在本地 LLM 領域表現強勁。
  • Qwen 3.8 近期發布,但資訊複雜,需區分不同版本用途。
  • 講者指出資訊混亂主要在於「雲端 API/Studio 版本」與「本地開源(Open Weight)版本」的區別。

2. Qwen 模型版本解析

  • Qwen 3.8 Max:
  • 僅雲端 API/Studio 可用。
  • 支援多模態。
  • 非開源下載版。
  • Qwen 3.8 2.4T (95B):
  • 超大參數模型(總參數 2.4 兆,活躍參數 950 億)。
  • 本地運行極度困難(講者形容為「會崩壞」)。
  • 無多模態,無思考模式。
  • Qwen 3.8 27B:
  • 本地用戶推薦版本。
  • 支援多模態、思考模式開關。
  • 效能提升明顯,適合在 PC 上運行。

3. 技術架構簡述

  • MoE (Mixture of Experts):混合專家架構。
  • 總參數大但活躍參數小(如 95B 或 11 個專家)。
  • 講者口語化描述為「萌」或「專家」。
  • 參數概念:公開權重(Open Weight)意味著可下載,但受硬體限制。
  • 推理過程:提及推理過程中參數的計算方式(筆記中聽似「水論に2.4パラメーター全部バー通って計算」)。

4. 本地 LLM 的現實限制

  • 需要高規格 PC 或專用伺服器。
  • 模型輕量化與速度提升是趨勢,但高階模型仍難在普通 PC 運行。
  • 安全性與隱私:本地運行通常不與外部通信,但需注意學習數據使用條款。

5. Qwen 的其他應用與評價

  • ASR/TTS:語音識別與合成模型在本地運行時記憶體需求較低,效能優秀。
  • 圖像生成:Qwen Image 存在但非主流話題(筆記中提及「クイメージ2.0Pro」)。
  • 用戶反饋:
  • 存在思考模式卡死、輸出慢、中文處理風格獨特等問題。
  • 安全性評估:除非有異常資訊發送,否則安全性無虞。
  • 穩定性問題:存在 Bug 或運作不穩定的情況(部分正常、部分極佳、部分完全無法運作)。
  • 期待與現實落差:作為本地 Top 3 級別的模型,實際表現未完全符合最新模型的高期待。

6. 觀眾提問與結語

  • 提問者:コトロジー (Kotology)
  • 問題:本地模型能否進行深度對話?
  • 回答:
  • 個人 PC 級別難以達到 ChatGPT 或 Claude 等最新模型的深度對話水準。
  • 原因:參數量限制(如 27B)及硬體規格限制。
  • 結論:本地模型適合處理大量數據任務,不適合追求與最新雲端模型相比的深度對話。
  • 結語:歡迎觀眾透過評論欄提供想了解的技術資訊。

工具 / 模型 / 名詞整理

  • Qwen (通義千問):阿里雲開發的大型語言模型系列。
  • Qwen 3.5
  • Qwen 3.6
  • Qwen 3.7
  • Qwen 3.8
  • Qwen 3.8 Max
  • Qwen 3.8 2.4T (95B)
  • Qwen 3.8 27B
  • Qwen 3 ASR (語音識別模型)
  • Qwen TTS (語音合成模型)
  • Qwen Image (圖像生成模型,筆記中提及「クイメージ2.0Pro」)
  • Qwen Studio:阿里雲提供的瀏覽器端聊天與社群平台。
  • Qwen Code:用於編寫代碼的工具/功能。
  • LM Studio:用於安裝和運行本地 LLM 的工具。
  • Ollama:提及用於本地 LLM 運行的工具。
  • Hugging Face:公開開源模型的平台(筆記中聽似「ハギングフェイス」)。
  • Claude:Anthropic 開發的雲端 LLM。
  • ChatGPT (GPT-3, GPT-4):OpenAI 開發的雲端 LLM(筆記中提及「JATGPT」疑為口誤)。
  • Gemini:Google 開發的雲端 LLM。
  • DeepSeek (深求):提及中國開發的本地 LLM。
  • Google AI Studio:Google 提供的瀏覽器端工具。
  • LINE:提及用於發送技能文件的通訊軟體。
  • YouTube:影片發布平台。
  • X (Twitter):用戶討論與反饋的平台。
  • Alibaba (阿里雲):Qwen 的開發公司。
  • Artificial Analysis:提及的模型排名指標來源。
  • Mac mini:建議用於運行本地模型的閒置設備(筆記中聽似「Macminニ」)。
  • PC:個人電腦。
  • Local LLM / ローカル LLM:本地大語言模型(筆記中聽似「ローカルエレム」)。
  • MoE (Mixture of Experts):混合專家架構。
  • ASR (Automatic Speech Recognition):語音識別。
  • TTS (Text-to-Speech):語音合成。

操作流程整理

  1. 確認模型版本:
  • 區分 Qwen 3.8 Max(雲端)、Qwen 3.8 2.4T/95B(高階開源)、Qwen 3.8 27B(本地推薦)。
  • 根據硬體規格選擇合適的版本。
  1. 安裝與運行:
  • 使用 LM Studio 或 Ollama 等工具安裝本地 LLM。
  • 從 Hugging Face 等平台下載公開權重(Open Weight)模型。
  1. 硬體環境建議:
  • 避免在主力 PC 上運行本地模型,以免佔用記憶體影響其他工作。
  • 建議利用閒置設備(如 Mac mini)專門運行本地模型。
  1. 功能測試與評估:
  • 測試多模態(圖/影片)支援情況。
  • 測試思考模式(Thinking Mode)開關與穩定性。
  • 評估語音識別(ASR)與語音合成(TTS)效能。
  1. 用戶反饋與調整:
  • 關注用戶反饋,如思考模式卡死、輸出速度慢等問題。
  • 根據實際使用體驗調整預期,理解本地模型與雲端模型的差異。

值得注意的限制或風險

  1. 資訊混亂與版本誤解:
  • Qwen 3.8 發布後資訊複雜,用戶可能誤將雲端版(Max)或高階開源版(2.4T/95B)與本地推薦版(27B)混淆。
  • 需仔細區分各版本的硬體要求與功能支援(如多模態、思考模式)。
  1. 硬體限制:
  • 高參數模型(如 2.4T/95B)對硬體要求極高,普通 PC 難以運行。
  • 即使推薦版(27B)也需一定硬體規格,且可能影響日常使用體驗。
  1. 穩定性與效能問題:
  • 部分用戶反映 Qwen 3.8 存在思考模式卡死、輸出速度慢等問題。
  • 整體評價兩極,存在 Bug 或運作不穩定的情況。
  1. 與雲端模型的差距:
  • 本地模型在深度對話能力上仍無法與頂級雲端模型(如 ChatGPT、Claude)相比。
  • 參數量限制及硬體規格限制導致本地模型在複雜任務上的表現有限。
  1. 安全性與隱私:
  • 雖然本地運行通常不與外部通信,但仍需注意學習數據使用條款。
  • 除非有異常資訊發送,否則安全性無虞,但需保持警惕。

逐字稿辨識疑點

  • 模型名稱變體:
  • 「ク3.5」、「ク園」、「クエン」、「クエ」、「クエント」、「クエンス3.8」、「クエンススタジオ」、「クエンスのASR」、「クイメージ2.0Pro」、「ク3.8X」、「K3」:極大機率均指代 Qwen 系列及其不同版本或功能,但無法在筆記中直接替換為確定事實。
  • 參數描述混亂:
  • 「2.4T」、「2.4テ」、「2.4超」、「2.4兆」、「A95B」、「95ビリオン」、「950億」、「512のエクスパート」、「11だけ動く」:需確認是否正確對應 MoE 架構的總參數與活躍參數。
  • 語意不明片段:
  • 「水分回ってる」:語意不明,可能是「動作回っている」(持續運轉) 或「水分」為聽寫錯誤。
  • 「意見と従がってる」:語意不通,可能是「意見と乖離してる」(意見與現實脫節) 的聽寫錯誤。
  • 「妨たになったり」:語意不明,可能是「妨げになったり」(造成妨礙) 的聽寫錯誤。
  • 「動画出てる」:語意不明,可能是「動いてくれる」(能夠運行) 的聽寫錯誤。
  • 「ぜ非ぜひ」:重複語氣詞,應為「ぜひ」。
  • 「アクティブ南B」:語意不明,可能是特定技術名稱、產品名稱的口誤或聽寫錯誤。
  • 其他聽寫錯誤:
  • 「ハギングフェイス」:應為 Hugging Face。
  • 「Macminニ」:應為 Mac mini。
  • 「JATGPT」:應為 ChatGPT 的口誤或聽寫錯誤。
  • 「ローカルエレム」:應為「ローカル LLM」或「Local LLM」的聽寫錯誤。
  • 「コトロジー」:觀眾名稱,需確認是否為正確拼寫。
  • 「クエントの作ってます」:重複出現,應為「Qwen 是由...開發的」。
  • 「水論に2.4パラメーター全部バー通って計算」:指推理過程中參數的計算方式,聽似「水論」。
  • 「ビューを嗅いて」:聽起來像「ビューを引いて」或「ビューを見て」,指查看視圖或結果。
  • 「モバイルのレイアド」:聽起來像「Mobile のレイアウト」(Mobile Layout),指手機版排版。
  • 「AIかける教育事業」:聽起來像「AI をかけた教育事業」或類似表述。
  • 「クアデスクトップ」/「クオonPhone」:指 Qwen Desktop 或 Qwen on Phone (手機版應用)。
  • 「イメージジェネレーションディープリサーチ」:指 Image Generation (圖像生成) 與 Deep Research (深度研究)。
  • 「マルチモデルアンダースタンディング」:指 Multimodal Understanding (多模態理解)。
  • 「フェイブル」/「フェカ」:聽起來像某個模型名稱或平台名稱,無法確定具體指代。
  • 「アーティフシャルアナリシス」:指 Artificial Analysis。
  • 「シンキング」/「シンキングで」:指 Thinking (思考模式)。
  • 「アリバ」/「アリババ」/「アリババクラウド」:Alibaba (阿里) / Alibaba Cloud (

生字列表

生字讀音類型中文
ローカルモデルローカルモデル名詞本地模型
オープンウェイトオープンウェイト名詞開放權重
ごちゃごちゃごちゃごちゃ形容動詞雜亂、混亂
マルチモーダルマルチモーダル名詞多模態
パラメーターパラメーター名詞參數
スペックスペック名詞規格、性能
水論すいろん名詞推理(Reasoning)
エージェントエージェント名詞代理程式、智能體
ベンチマークベンチマーク名詞基準測試
重みおもみ名詞權重

生字解說

ローカルモデル ローカルモデル

名詞 · N2

意思:本地模型

解說:指不需要依賴雲端伺服器,可以直接在個人電腦(PC)上安裝並運行的大型語言模型。強調隱私與離線可用性。

影片原句
ク3.5ってやっぱローカルモデルとしてはトップ3に入るモデルではあるので
Qwen 3.5 確實是本地模型中排名前 3 的模型,所以
延伸例句
ローカルモデルはインターネット接続がなくても動作するため、データ漏洩のリスクが低い。
本地模型即使沒有網路連線也能運作,因此資料外洩的風險較低。

オープンウェイト オープンウェイト

名詞 · N1

意思:開放權重

解說:指模型的參數(權重)被公開,允許使用者下載、修改甚至商業使用。與閉源模型相對。

影片原句
一応オープンウェイトローカルとかの領域ではあるけれども
雖然算是開放權重和本地運作的領域,但
延伸例句
オープンウェイトモデルであれば、企業独自のデータでファインチューニングを行うことができる。
如果是開放權重模型,就可以使用企業專屬資料進行微調。

ごちゃごちゃ ごちゃごちゃ

形容動詞 · N3

意思:雜亂、混亂

解說:形容事物混雜、沒有條理或資訊過多導致難以分辨的狀態。

影片原句
確かにその辺ごちゃごちゃするかもしれないなと思うので
但確實可能會變得混亂,所以
延伸例句
部屋の中がごちゃごちゃしていると、探すものが見つからないことがある。
房間裡如果雜亂無章,要找的東西可能就找不到。

マルチモーダル マルチモーダル

名詞 · N1

意思:多模態

解說:指模型能夠處理多種形式的輸入數據,如文字、圖像、音訊、影片等。

影片原句
いわゆるマルチモーダルだよね。
也就是多模態。
延伸例句
マルチモーダルAIは、画像の説明をテキストで生成できる。
多模態AI可以生成圖像的文字說明。

パラメーター パラメーター

名詞 · N2

意思:參數

解說:在機器學習中,指模型內部用於學習和決定的數值。參數數量越多,通常代表模型的知識量和能力越強,但也需要更多運算資源。

影片原句
パラメーターと呼ばれるものがこれ重みという風に表現して
所謂參數的部分,以權重這種方式表達
延伸例句
大規模言語モデルは数千億ものパラメーターを持っている。
大型語言模型擁有數千億個參數。

スペック スペック

名詞 · N3

意思:規格、性能

解說:指電腦硬體的性能指標,如CPU、記憶體(RAM)、顯示卡(GPU)等的規格。

影片原句
そのPCのスペックにより蹴りだよね、正直。
實際上取決於PC的規格。
延伸例句
動画編集をするには、高いスペックのPCが必要だ。
進行影片編輯需要高性能的電腦。

水論 すいろん

名詞 · N1

意思:推理(Reasoning)

解說:原文口語發音或轉錄可能為「推理」(すいり),指模型進行邏輯思考、推導答案的過程。此處依原文「水論」記錄,但語意指向推理能力。

影片原句
いわゆる水論、いわゆるリーズと呼ばれるようなものが追加されてたりとか
陸續增加了所謂的水論,也就是稱為Reasoning的模型
延伸例句
水論機能を使うと、複雑な数学問題を解くことができる。
使用推理功能可以解決複雜的數學問題。

エージェント エージェント

名詞 · N2

意思:代理程式、智能體

解說:指能夠自主執行任務、使用工具或與其他系統互動的AI模型。

影片原句
エージェントとして動く力が伸びたよねみたいな形で
作為Agent運行的能力增強了,這半年內也相當迅速地,
延伸例句
エージェントAIは、ユーザーの指示に基づいてブラウザを操作できる。
代理程式AI可以根據用戶指示操作瀏覽器。

ベンチマーク ベンチマーク

名詞 · N2

意思:基準測試

解說:用於評估模型性能標準化的測試集或指標,常用來比較不同模型的優劣。

影片原句
エージェンティックな動きとかでもベンチマーク仕用でかなり高い数値出しましたよとか
在類似 PC 操作、代理式行為等基準測試中取得了很高的數值
延伸例句
ベンチマークの結果によると、このモデルは推論速度が非常に速い。
根據基準測試結果,該模型的推理速度非常快。

重み おもみ

名詞 · N2

意思:權重

解說:神經網路中連接神經元的數值,決定了信號的強度。在機器學習中,權重的調整過程即為學習過程。

影片原句
ウェイト重みと呼ばれるのモデル頭脳の部分には
模型的大腦部分,也就是所謂參數的部分,以權重這種方式表達
延伸例句
ニューラルネットワークの学習とは、重みを最適化することである。
神經網路的學習就是最佳化權重的過程。

句型解說(含實例)

~としては~

意思:作為……來說

接續:名詞 + としては + 形容詞/動詞

解說:用於限定範圍或角度,表示在特定類別或立場下進行評價或判斷。

影片原句
ク3.5ってやっぱローカルモデルとしてはトップ3に入るモデルではあるので
Qwen 3.5 確實是本地模型中排名前 3 的模型,所以
實例
  1. 彼としては、それが最善の選択だったと思う。
    就他來說,那應該是最好的選擇。
  2. 初心者としては、この教材は分かりやすい。
    作為初學者來說,這份教材很容易理解。

~てしまう

意思:完成(帶有遺憾、意外或徹底的意思)

接續:動詞て形 + しまう

解說:表示動作完成,常帶有「不小心做了某事」或「結果不如預期」的語氣,強調徹底性。

影片原句
これさすがにぶっ壊れちゃいますよね。
畢竟這樣下去模型會崩壞的,
實例
  1. 約束を忘れてしまって、友達に怒られた。
    忘記了約會,被朋友罵了。
  2. 時間がなくて、宿題を全部やってしまった。
    因為時間不夠,把作業全部做完了(帶有趕工的無奈)。

~かもしれない

意思:也許、可能

接續:動詞/形容詞普通形 + かもしれない

解說:表示不確定的推測或可能性。

影片原句
確かにその辺ごちゃごちゃするかもしれないなと思うので
但確實可能會變得混亂,所以
實例
  1. 明日は雨が降るかもしれない。
    明天可能會下雨。
  2. 彼が来るかどうかは分からないかもしれない。
    他來不來可能不知道。

~割には

意思:相對於……來說

接續:名詞/動詞普通形 + 割には

解說:表示實際情況與前項的預期或標準相比,存在落差或出乎意料。

影片原句
そん中で期待されてた割にはって印象は正直ある。
在這種期待下,坦白說,印象是有些落差。
實例
  1. 値段の割には、品質が良い。
    相對於價格來說,品質很好。
  2. 彼の年齢の割には、元気だ。
    相對於他的年齡來說,他很精神。

~ていく

意思:逐漸……、向未來……

接續:動詞て形 + いく

解說:表示動作或狀態從現在開始向未來持續發展或變化。

影片原句
クについてちょっと話していこうかなとは思いますし
我想稍微聊聊關於 Qwen 的話題
實例
  1. 技術はどんどん進化していく。
    技術會不斷進化。
  2. このままでは、状況が悪化していく。
    照這樣下去,情況會惡化。

~わけではない

意思:並非……

接續:動詞/形容詞普通形 + わけではない

解說:用於否定絕對性的結論,表示「雖然有某種情況,但並不意味著完全如此」。

影片原句
オープンウェイトだからと言って何もかもローカルLMかってそういうわけではなかったりしていて
不過,並非因為是開放權重就意味著所有東西都是本地LM,也不完全是這樣。
實例
  1. 彼が勉強しないわけではないが、成績は上がらない。
    並非他不學習,但成績沒有提升。
  2. 安いわけではないが、品質は良い。
    雖然不便宜,但品質很好。

~てほしい

意思:希望……

接續:動詞て形 + ほしい

解說:表達說話者希望聽者執行某個動作的意願。

影片原句
そういうの見て欲しいなと思うんだけど
因為不確定,所以希望大家能看看
實例
  1. もっと早く来てほしい。
    希望你來得快一點。
  2. この本を読んでほしい。
    希望你讀這本書。