今井さん、今週は中国AIの話題で持ちきりですよ
今回の収録はですね、MUTOS以来の僕から連絡を入れた
いわゆる緊急収録というやつです
本当はね、もうちょっと緊急な日程でやりたいのはあるんですけど
お互いのスケジュールでもあるので
今日7月23日の収録なんですが
Kimi K3という中国AIのモデルが
ムーンショットAIというスラットアップから出てきましたけども
これがその2.8兆パラメータという新しいオープンモデルなんですが
クロードフェーブル5とかGPTの5.6に匹敵するなんていうことも言われているんですが
ズバリ後ろと詳しく見ていくんですが
今井さん注目点これいかがですか
まず純粋性能がすごい
すごくてですね
ちなみにこれは最初に言っておくとですね
僕中国モデルについて
クロスクロードAIクエストを1回まとめて丸々やると
実はあんまり気が乗り気じゃないんですよ
苦い思い出があってですね
ディープシークショックというのを皆さん覚えていると思うんですけども
多分僕のメディア露出増えたのって
ディープシークショックの時が最初なんですね
2025年1月2月の
当時僕が出たメディアとかは
YouTubeに上がっているのでぜひご覧いただきたいんですが
コメント欄を見るとですね
なんか珍しいお客さんがいっぱいいるんですよ
珍しいお客さんちょっとさせてほしいんですけども
中国は僕は純粋科学的な研究的な視点からしゃべってますけども
やっぱり政治的な色々抱えている国なのでですね
中国モデルがすごいとか言うと何が起きるのかというと
こいつは中国の回し者だとかいろんなコメントがつくわけです
本来は僕は中国のモデルについてそんなに何かすごいすごいとか公に言わない
GLM5.2とか出た時もあんまり発信しなかったり意図的なんですけれども
それを踏まえてもキミケイスリーについては本当にすごかったので
撮っているという形になります
キミケイスリーの何が今井さんを買い立てましたか
これ本当に後からすごいいろんなベンチマークが出てくるんですけれども
今のLLM会のコミュニティってみんなすごいホットというか
面白いおもちゃが出てきたらえいってすぐ触ってみんなすごい試すので
ベンチマークですごくても最終的にコミュニティから本当に使えるモデルかどうかっていう評価をかわすことできないんですよ
結局コミュニティの中で1日2日もすればどんだけベンチマーク性能が良くても
こいつはダメだとかって一瞬で分かっちゃうんですね
まずKimi K3はベンチマーク上Fable 5とかGPT 5.6 SOLとかとかなり並ぶというか
ほぼ直後レベルにつけてるぐらい高いです
かつコミュニティからの評価もクリアしている
オープンモデルであるということで
他のオープンAIアンストロピック以外の
メタとかグーグルとか
普通に考えるとどう考えると
資金も研究力あるところよりも
クローズドモデルよりも性能が高いということで
ちょっと別格GLM5.直前の中国モデルと比べても
さらに別格だったというところで
これはちょっと一線超えたなと
ディープシークショックの再来といってもいいレベルだと思います
再来
このアーティフィシャルアナリスという
いろんなベンチマーク組み合わせで測っているところのランキングなんですけど
これでだからフェーブルファイルと5.6の次に来たわけですよね
QMK3が
ベンチマーク予定は超えているのもあるという
そうですよね
今までですね
中国AIモデルというのが
アメリカは大体半年7ヶ月ぐらい
あるいはもうちょっとの遅れで
だんだん性能が追いついているという説があって
こういったデータだったり
もう一つはアメリカの公的機関のデータですけども
こういったデータで
大体半年7ヶ月8ヶ月とか
遅れ説があったんですが
ここに来てこれが壊れてきているって言えるんですかね
言えるとも思うし言えないとも思う
一応現状最高性能のミトスフェーブル
GISフェーブルってミトスなんですけども
ミトスがアンソロピック内部にできたのって
2月ぐらいだったらしいです
それを踏まえると
だいたい今7月の後半なので
半年ぐらい経ってるというか
半年経った今頃に
中国ラボがフェーブルにちょっと
接近するぐらいのモデルを作ったということは
中国ラボの内部でもう切り札がない
すごいモデルが全部表に出てるんだという話であれば
正しいタイムライン的にはむしろ正しいぐらいなんじゃないかという気もしますが
でも我々はどちらかというとMITOSが公開されてから
基準に半年後だろうと思ったのでそういう意味では早かったですね
そうですよねさっき出したデータもいずれもリリースからの計算なので
MITOSが最初リリースされたと言えるのかというところですけど
ミタスプレビューが最初に発表されたのが4月なので
そこからすると4月の半年後で10月11月とかになってくるので
それよりは早いペースにもしかしたらなってきているかという話ですよね
もう一つニュースが飛び込んできていて
アリババがクエンというこれもオープンモデルですけど
この新しいバージョン3.8をローンチングスーンって
また予告をしているわけです
これもなかなか注目ですか
これツイートあったのはちなみに
キミK3が発表された直後ぐらいにこのツイートがあったんですね
このタイミングで出すってことは相当自信があるんだろうというふうに僕は見てます
パラメータ数2.4というのもでかい
個人的には本当に2T超えるオープンモデルがこんなポンポン出てくるようになったっていうのが
すごい感慨深いすごいと思います
GPT4で23年の話戻りますけれども
あの当時1.8T
GPT4で当時の1.8Tモデル
8兆パラメーター
あったんですけど
こんなものがまともに作れる日が来るのかって
思ったんですけども
オープンモデルでそれを超えるやつが
普通に出てきているのは恐ろしい話ですね
なるほど
結構今パラダイムとかフェーズが変わりつつある
ということですよね
計算量がどこか出てきているのかって
僕のすごい疑問があるんですけども
そうですね
それもちょっと今日の中で聞いていきたいと思いますが
ちょうど中国でワールドAIカンファレンスという
大きいイベントが上海であって
結構これに合わせてきた感もね
合わせてきたんですけども
実はムーンショットとディープシークは
意外とそのイベントで大々的にやったわけじゃなくて
ディープシークが出てなかったのかな
ムーンショットも割と
多分君ケースへの発表を合わせて
人員がいなかったなと思うんですけども
割と静かだったらしいです
なるほど
そんなのお構いなしに
自分たちのペースでやるぞという感じかもしれないですが
というわけで今井翔太さんと探求するエアクエスト
今日のテーマはキミケイ3の衝撃です
3つのテーマで見ていきます
まずキミケイ3本体の話を見ていこうということで
キミケイ3と開発者の正体
ムーンショットのAIという会社だったり
ヤンジーリンという創業者もいますけど
これはですね
ちなみに僕は今日事前にいただいた
大体の構成だけ僕送られてきているんですけども
あれには載ってないんですが
僕はちょっとこれ研究的にすごい喋りたいことがあってですね
熱く語りたいと思います
わかりました
で2つ目が中国AI上流疑惑とアメリカの反発ということで
散々ですねこのキミケイ3がクロードフェーブル5を
上流いわゆる参考にしてとか
いろいろデータをやり取りして取ったんじゃないかみたいな話とか
いろいろ言われているんですが
これは結構政治的な話にも今なってきているので
その後に見ていきたいと思います
最後が直近のニュースを扱うコーナーですけども
ジミニの混乱とGPTの暴走ってちょっと
どっちに物騒ですね
物騒なタイプになっちゃったんですけど
よい物騒になってきたな
ジミニの3.5プロが出る出るって言われていながら
3.6フラッシュという軽量モデルが先に出てきたり
あるいはGPT開発中のオープンAIのモデルが
ちょっとサイバー攻撃してしまったみたいな話があって
そのあたりサイバーを見ていきます
実はこれ中国AIと関連した話があるということなので
最初のパートですけども
キミケイ3の正体いろいろ見ていければと思います
まずこれはムーンショットエア自身が出した資料ですけども
コーディング
コーディングの性能を表したものですが
結構フェーブルファイルを超えたり
超えなかったり
GPT5.0を超えたり
超えなかったりと
見事にSWEベンチが消えたなと思います
あれベンチマーク不備があるんだって
実は言われていてですね
今まであったSWEベンチっていう
コーディングのベンチマークが
あれがメインから早速消えたなと思って
これどうですか
これは僕はもういちいち一つ一つ言わないですけども
こんだけ後半に分析評価して強いってことは
純粋に強いって言っていいと思います
すごい素晴らしい
結構象徴的だったのが
フロントエンドコードアリーナっていう
アリーナっていろんな人がランダムにモデル見せられて
使ってみて評価するみたいなところですけど
フロントエンドはウェブサイトだったりUI
ユーザーインターフェースの開発能力がどうなのか
これでトップに立ったと
これですね
Twitterに流れてきた
ちなみに僕はちょっといろいろ事情があって
オープンモデル公開されるまで
君ケースリー触らないんですけども
使った人が結構いてですね
それのウェブサイトとか作られたゲームとか見てると
確かにこれは側の作る見た目を整える能力がすごいというのは
これも分かりました確かにこういったすごかった
こうやってグラフにされるとはぁと思ったのが
要はこのアリーナのスコアの中で
ずっとアメリカの方が中国モデルをずっと上回ってきたんだけども
ほぼ初めてですよね
だから君ケースよ
ポコッと抜いたと
これもうディープシークの時以来ですね
近づいたというよりも抜いたという
近づくどころか抜いてしまったという
これ今さま確かポストしてましたけど
結構象徴的な話ですかね
一応これの直前GLM5.2も結構すごくてですね
かなり接近してた
近づいてますよねこれね
ただ僕GLM5.2の時は何も触れなくて
キミケイスリ増えたについては触れたことが
させてほしいんですけども
キミケイスリはGLMと比べても
現状はやはり別格だと思います
GLM5.2も言うてコミュニティではまだまだフェーブルとかミトスレベルではないと
僕も何か番組で言った記憶があるんですけども
追いついたら言い過ぎだと
どっかの経済メディアに言い過ぎだと言ったんですけども
K3はちょっと違うという方向に研究者もなっているので
ちょっと別格ですね
なるほど
あとエージェントタスクのいろんなお仕事させたらどうなるかって
簡単に言えばそういうベンチマークの数々ですけど、ここでもかなり。
これですね。ちなみにムーンショットというか、このままキミシリーズがずっと開発方針を保ったまま続けていくと、
多分エージェントベンチマークだと将来的にはアンソロピックとかGPT普通上回ると思うんですよ。
ムーンショットはロングコンテキストにめちゃくちゃ強い。
そもそも開発方針としてロングコンテキストを
ちゃんと処理するっていうのはすごく丁寧やってるところなので
長い時間大量のものを処理する
正解を言うと純粋にコンテキストリングのデカい
これも1M100万トークンですし
多分これからも順調伸ばしてくると思うんですけども
読み込めるデータ量ですよね
ロングコンテキストエージェント的なタスクって
ものすごい量のコンテキスト文字とかが入ってきて
ただ普通の仕事って100万文字とか収まるわけないので
圧縮とかしなきゃならないわけです
圧縮しなきゃならないですし
仮に全部入ったとしても
世の中にそんな文章に
ロングコンテキストの文章ってあんまりないので
長くなればなるほど
学習データにはなかったものを処理している
ような状況になるわけです
ただキミッチリーズは
その辺をロングコンテキスト
すごくちゃんとできるように
っていう開発方針があるので
ことエージェント関連に関しては
コーディングとか
GPTとかアンソロピック
地下入れすぎているのはわからないですけども
多分全体的に僕抜くんじゃないかなと思います
これはだから開発力技術力という
その前に優先順位みたいなのがここに結構
出てると思います
それは何ですかそこにやっぱり需要があるかな
これはですねこの後から僕は多分熱く語ると思うんですが
創業者ですね
先その話しましょうかヤンジーリン創業者です
ちなみにこの人は中国だけではなくて
今世界中にあるいわゆる生成やLLM開発している企業の創業者の中で
おそらく個人としての研究力としてはおそらくトップです
少なくともこのLLMという分野に関してはこの人は多分トップです
多分ダリオアモで言う上です
そうなんですか
この人が表に出てきたので
この人の書いた論文も僕は知っているんですよ
昔の話とかいろいろ洗っていたんですけども
やっぱり別格だなと
やっぱりこいつだったかと思うぐらいにはすごい人で
この番組の今の視聴者に刺さるかわからないんですけども
2018年19年ぐらいに
BARTという言語処理のAIがあったんですよ
Googleの
トランスフォーマーが有名だった頃に出てきた
BRT
そうです
あれのすごい改良系Excelnetというものがあって
論文の主張者がこの人です
簡単に言うと何のAIということですか
文章生成というよりは
やっていることと同じです
穴埋め問題をやっているんですけれども
穴埋め問題しながら言語に関するいい表現を得るって
言い方がいっぱいに伝わる言い方がわからないですけど
とにかく言語に関する処理がすごくうまい
自然言語をいい感じにAIで処理できるようにする
素晴らしいAIのかなりいい改良系作ったのがこの人なんですね
Googleで作ったとこですか
この人当時どこいたのか
カーネギーメロンにいたのかな
いながらいろんなところでインターンとしていると思うので
もはや所属がどこか
当時の著者の所属は分からないんですけども
その辺の技術って割と今のLLMとかなり近いものなので
本当にど真ん中のLLMに関する技術を
前線で手を動かしてきた研究者としては
この人ははっきりずば抜けている人なんですよ
この人の指導興味についても語りたいんですけども
待っておりました
その話も私も若干調べたんですが
カーニゲメロン大学の
ルスラン・サラフトディノフ
サラフトディノフ
彼はですね
実はヒントンの弟子なんですよ
ジェフリー・ヒントン弟子
もう言うまでもないですけど
我々の研究
AIの世界に一部のゴッドです
サラフトディノフというと
これはもう
ダントツ圧倒的と言ってもいいレベルの
レジェンド級の研究者で
Googleスカーで強調論文を見れば分かるんですけども
今のディープラーニングブームを引き起こした
根本的な論文をめちゃくちゃやっている人です
ディープボルツマンマシンとか
当時のオートエンコーダーの論文とか
ドロップアウトとかですね
多分普通に機械学習ディープ研究してきた人だったら
マジかって思うぐらいの
マジですごい人です
今のADMにつながる基礎的な技術の重要な論文を書いてきたと
多分ドロップアウトって聞いただけで
普通の研究者だったらもうヒレフスぐらいなんですけども
ドロップアウトって学習中に科学習オーバーフィッティングを防ぐために
意図的に学習中にニューラルネットワークの中にニューロンをいくつか消すっていう
聞けば単純な技術なんですけども
これ一般的なニューラルネットのライブラリほぼ全部ですね多分
実装されている超基礎中の基礎中の基礎中の当たり前の技術なんですよ
これがディープの初期の頃の
ディープの学習可能にした技術と言っても過言ではない
ぐらいのやつで
まず指導教員がレジェンド級です
しかもこの人
学部自体の指導教員は
聖火大学で
ZEIの創業者
そうですよね
だったんですよ
すごい人たちに囲まれながら AIの世界で育ったと
純粋に創業者がどれだけ研究者として 偉大かというのが
企業を成功する上でどういうファクター になるかはちょっとまだ分からない
ですけども
単純に研究者としての実力で見ると
この人は最強です
はっきり言って
これだけ今回君KCで話題になった後に
このサダフトリノフ教授が
Xで
GDは間違いなく飛び抜けて優秀な天才だと
ガチです
この人は
ちなみに聖火大学ってですね
中国の聖火大学っていうのは
はっきり言って
世界最強クラスのエリート大学
世界大学ランキングなんかあるんですけれども
あれぶっちゃけ僕成果大が1位にならないおかしいと思ってるぐらいには
今やばいんですあそこは
アメリカの大学よりも
普通に考えてやばいところで
その中でも成果大の世界最強レベルの大学の集団の中でも
最強だった人ですこの人は
そうですよね
さらにこの教授サラフトリノフが書いてたのは
彼が大学で卒業した時にいろんなビッグテッカーオファーがあったそうなんですよね
それを争奪戦になってたんですけど
本人は自らの手でスタートアップを立ち上げることに
並々ならぬ執念を燃やしていたという
そんな話まで沸かしているわけで
だからアメリカに残らずで中国に戻って
こうやって起業したわけですよね
楽しかった
この人多分アメリカのビッグテクのほぼ全部が
オファーを受けていたぐらいだと思うんですよ
みんなが採用したかった
だから本当にもうかけたんでしょうねこれは
大露だって
そうですよね
ドラマーだったっていう顔もあるみたいなんですけど
やっぱり研究の世界では
かなりもうすでに知られた存在では
そうです
なので
君シリーズが
ロングコンテキスト強いとか
割とスケーリング頑張ってるっていうのは
この人の思想が強くてですね
もともとそれに近いところを研究してきたので
多分その辺が重要だってことも
研究的に勘として分かっているんだと思います
なるほど
ちょっと君のモデルの話に少し戻れればと思うんですけども
エージェント能力が高い一方で
この番組でも同じですけども
HLE Humanities Last Exam
究極難しい問題を解かせるベンチマークですけども
これはそんなに
高いのは高いとは思うんですが
Fable 5 5.6と比べるとみたいなところは
これは僕は正直よくわからない
僕最近HLEがよくわからなくなってきてですね
メタのAIは逆にHLEめちゃくちゃ高いんですよ
けどスコア全体で見ると
多分君ケースには及んでない
っていうとこ見ると
HLE結局何測ってたんだろうなっていう
一応総合力測ってるんだけどな
けどエージェン能力とは違うのかな
H&Aのスコアどう見ればいいんだろうなってちょっと
なるほどそういう段階入ってきてるんですね
僕も何か分かんなくなってきました
もう一つさっきのアリーナのテキスト版
テキストアリーナってとこだと9番目になっていて
この辺だからメタのミューズスパークとかの上なんですよね
チャット能力今更さちっているので
だってもうチャットですよ
チャットでいうともうGPT5.5のあたりで
もうチャットがすごいかどうかと分かんない気がするんですよ
なってますよね、もはや
このモデルの中身がどうなのかって話なんですけど
今回モデルサイズ、パラメーター数では最初にあったように2.8兆パラメーターということで
これまでのオープンモデルで最大だったディープシーク、大きく余ったみたいな
このモデルサイズの大きさって何を意味する?
基本的には、出かければでかい方がいいです
目安としては普通100B以上になると巨大と言われます
100Bだから
100B
ちなみにGPT3.3は175Bでした
そうですねだから1000億からメーター
100B超えると一般的にはでかい
というか普通のご家庭では動かせない
企業で使うのもまあまあちょっと難しいくらいになってくる
100万くらいするこういうPCが必要だとか
1Tというのははっきり言ってありえない
まずご家庭では動かない絶対に
今回特別な64個のアクセラレータークラスターじゃないと動かないのみたいな推奨していた話があったと思うんですけど
1T1兆というのは一応3年前のGPT4が1.8兆だったんですけども
あれ当時の基準でもおかしいですし今の基準でもT超えおかしいです
1Tのモデルがオープン出てくるっていうのは相当異常な事態なんですよ
そもそもそんなの出ても誰が使えるんだってレベルなんですけども
1T超えるとこれは何かちょっと別格なモデルと考えていいです
1.8T要するにGPT4を超える2Tレベルになると
これは完全に未知というかムーンショット初めて破ったレベルなので
僕ももう分からない領域なんですけども
もうありえない世界レベル的にはもう戦艦ヤマトとかそういうレベルですね
ちなみに論文タイトル忘れた
多分僕のツイッターのどっかに転がっている気がするんですけども
出力から内部のパラメータ数を推定する論文ってあるんですけど
クロスディグも言ったかな
以前もありましたね
それ曰く今の最先端モデルは5Tは超えているし
要するにフロンティアモデル
アンソロピックとかGPオープンエイとかのクローズのフロンティアモデルは
5T超えているし10Tいってるんじゃないかぐらいの話
僕フェーブルミュートスとかは10Tは普通に超えていると思っているんですけども
Tっていうのはそういうレベルです
だからこれはもうスケーリングとしてはやりすぎな凄まじいレベルです
ただその分スケーリング則になぞればそれだけ賢い
賢いシンプルにパラメーター数を見ればやばいことはわかるというレベルです
このモデル自体の何か構造的な技術的な新しさっていうのはあるんですか
これは僕は収録日をちょっと間違えた気がするんですけども
技術レポートまだ出てないんですよ
テクレポート出てないので
現時点であんまり言えないんですけれども
まず中国AIは歴史的にディープシークもそうですし
君もそうですけども
オレオレアテンションいっぱい作っているんですよ
オレオレアテンション
トランスフォーマーってセルフアテンションという仕組みを使っているんですけども
アテンションのアルゴリズムって本当にいっぱいあってですね
フラッシュアテンションとかスパースアテンションとか
めちゃくちゃあるんですけども
そういういろんなある中の中国のラボ内に開発されたオレオレアテンションっていうのが
ディープシークとかのキミとかもいっぱい使われてます
キミとかだとキミデルタアテンションとかのトランスフォーマーのそもそも構造の残差接続っていう
層の情報の中ですっ飛ばすみたいな接続があるんですけど
そこをセルフアテンションを置き換えたりとかみたいなのをやってて
モデルの根本的なアーキテクチャの工夫っていうのは確かにされてます
それに何のための工夫
計算量を削減するとか
純粋に性能を上げるとか
スパーサーテンションとかは
そういうためにやってます
ただこの辺の技術って別に隠されてるわけじゃなくて
公に公開されてる論文のものなので
それが本当にめちゃくちゃやばい技術であれば
別に多分アメリカのモデルとかも使ってもおかしくないはず
のでそれが本当の性能の格化というと
少なくとも現時点で僕はそう思ってないです
のでデータの混ぜ方がうまかった
これちなみにデータの混ぜ方のほうがかなり影響します
データの混ぜ方
混ぜ方どういう割り
こういうデータこれぐらい量を使って
こういうコーディングのデータは6割使って
数学のデータは4割って極端な例ですけども
そういうものとか学習の順番とかも結構影響する
この辺はあまり表に出てこないので
もしかしたらこの辺が影響しているのかもしれないですし
技術レポート多分RLとかの話
強化学習の話に出てくると思うんですけども
その辺が影響しているのかもしれないし
でもともあれ技術的に頑張ったのは僕は確かだと思っています
それだけ学習をさせる時の計算資源がどうなのか
NVIDIAの最新チップが輸出制限で思うように使えないという環境にある
中国企業がどうやったのかという話になっているわけですけども
この辺はまだ分からないところが多いと思うんですけど
これは僕も謎です
謎で
謎で納得のいく説明をするのであれば
いわゆる密輸というか本来アクセスできないはずの
NVIDIAのGPアクセスしているとしか思えない
思えないんですけれども
一応中国AIを擁護すると
ディープシークとかも始め
中国AIってすごいインフラ上の工夫
すごい低レイヤーの工夫をめちゃくちゃしていて
論文にちゃんとそれの情報を載っているんですよ
低レイヤーっていうのは要は
要するに根本的なところで
普通の論文ってやっぱりニューラルネットワークのアーキテクチャー
なんたらとかしか書かないんですけども
すごい根本的なGPUのこの通信と通信がこうで
ここの計算制度が何とかでみたいなとこ
一応アメリカフロンティアラボを書いてますけれども
中国AIその辺の論文の記述がめちゃくちゃ詳しいんですよ
魔改造レベルのことやって
はっきり言って僕は論文読んでもう分からないんですけども
やってるのでその辺がすごく聞いてて
計算資源めちゃくちゃ節約してることになってるのかもしれないですし
そもそも中国AIの中国国産チップを使ってるのもあると思います
ちょっと僕君は分からないですけども
GLMとかZAIとかは論文GLM5.0とかの論文を読むと
普通に中国国産AIで学習するための工夫って書かれてるんですよ
なのでそれを踏まえると
なんか岩盤その辺も割と今力発揮する段階入ってきたのかなという気がします
そうじゃないと多分計算量は賄えないと思うので
そうですよね
今回その君ケースにコスト
トークンコストについても出てるわけですけども
どうなんですかね
これまでの中国モデルはすごく安いみたいなのがあって
ただこれだけの性能が出たことを考えれば
この価格感
100万トークンごとに入力が3ドル
入力が15ドルという話なんですけど
どう思いますか
これですね
なかなかこれ示唆的で
単純に我々利用するときのトークンコストが
パラメーター数に比例しているとすると
大体これはそうなるなという割とちょうどいい数字です
ミュートスとかが多分10Tぐらいだと考えると
大体3分の1になっているというのは
これはかなり最もな数字だと思います
それぐらいのパラメータ数だったら
パラメータ数を踏まえると
このコストになるのはかなり妥当
というか多分僕目隠しされて
目隠しされてというか
一切この答えを見ずに
キミスリーの出力入力コストはいくらだと思いますか
聞かれていたら多分今のここに変われている
同じような数値僕言ったと思います
っていうぐらいこれに関しては
そうなるだろうなってコストです
ってことはオーパスですら
2.8Tより
大きいってことですね
そうですね多分大きいと思います
5Tぐらい言ってるんじゃないかな
これさっき出てきた
アーティフィシャルアナリストの話ですけど
タスクごとのコストを並べてみると
こんな感じで
まあまあそういうもんかなっていう
どこですかね
フェーブルが全然高いよっていう
そこからするとフェーブルの
3分の1強ぐらいですかね
コストを考えると
むしろ性能高すぎるぐらいで僕は思います
コストあたりの性能
コストあたりの性能だと高いと思います
なるほど
分かりました
いろんな中国の会社が出てきているよね
っていう話にも入っていきたいんですが
そもそもムーショットAIっていうのは
このさっきのヤンジーリンが
2023年に作った会社で
評価額も200億円を超えて
結構な会社には成長しているわけなんですけども
この会社もそうですし
他の会社もそうなんですけど
オープンモデル
ここで一回理解しておきたいと思うんですけど
オープンってオープンソースとか
オープンウェイトとか
いろんな言い方があるんですが
この場合はだからオープンウェイト
オープンウェイトです
これはデータとか公開してないのでオープンウェイトです
オープンソースは言わないほうがいいです
僕はちょっと松尾県就審者としてですね
オープンソースモデルっていうのに大爆発炎上を経験したことがあるので
ここの言い方はもうめちゃくちゃ気をつけてるんですけども
オープンソースモデルではないです
メディアによってはオープンソースモデル
ダメです
メディアはいいですけども僕が言ったらダメです
要はだから学習データとかどういうGPUを使ったとか
その辺まで全部公開してたらオープンソースとも言えるんだけど
オープンウェイトつまりウェイトなので
重みニューラルネットのパラメータ公開してますよ
そういうことです
要はそれで何ができるかというと
いろんな人が自分のローカルのPCでも動かせるとか
そうです
そういうところにつながるわけですよね
なぜそもそも中国の会社たちは
ラボたちはオープンウェイトを選んでいるんですか
わからないです
わからなくてですね
普通に考えると政治戦略の一つだっていうのをまず考えられます
はっきり言ってこれはめちゃくちゃ成功してます
もう一つはこれはもうちょっと切実な技術的な話で
そもそもモデルを作れたとしても
それを運用するための計算資源がないという話です
運用するための計算資源がないので
どちらかというとオープンとして公開した方が印象もいいですし
自分たちでわざわざ全部運営するとコストもかからないし
言って仮に公開したとしても
一般人がそれを2Tのモデルを自分たちのサーバーデプロイして使いましょうってことは普通できない
技術的にも難しいので
それの技術支援とかコンサルみたいなことをやってるらしいので
そこで儲けようみたいな話があると思います
前者の政治的な話は
僕は割と最近というか数日前まで
中国の当局
要するに本当に中国一体となって
中国の国として推しているのかどうかで
分からなかったんですけども
それの謎がですね
習近平の演説でちょっと解けたというのが最近です
これだからさっき私も申し上げた
ワールドAIカンファレンスの中に
習近平が登場して
国としてオープンなモデルを重視していく
グローバルの公共財みたいな話をしていて
グローバルサービスへのAI提供を
外交戦略にしていくみたいな話が
かなり政治に使われて始めているっていう
これですね
ちなみに習近平の演説を
国に関わるところ全部消して
この演説は誰の演説ですかって聞いたら
これはっきり言って
アメリカ大統領の演説で答えられて
おかしくないぐらいまともだったんですよ
研究者の頭から
今アメリカの現職大統領が
ちょっと特殊だっていうのもあるんですけども
中国がこんな姿勢見せるのかっていうぐらい
ちょっと習近平本人といった周りのブレーンがすごく優れてるんだと
僕は思ってますけれども
開放的な演説だったと
国としてオープンソース
国の方針としてオープンソースを推してるんだっていうのが
はっきり言ってこれで初めて明らかになりました
後付けなのかもしれないですけれども
少なくとも現状中国の企業がやってるオープン戦略を
邪魔する意図はないということで
これはかなり示唆的な瞬間だと思います
以前ですね
今年の初めだったと思うんですけど
今井さんおっしゃっていたのが
ディープシークルが人類に最も貢献したAIだ
なぜなら研究を公開しているかなという話をしていて
これのやっぱり研究者という立場からすると
オープンAIやアンソロピックのように
とりあえずうちら作って
みんな使ってよ
中身は公開しないよじゃない方が
はい。
いいわけです
いいですし
これは最近
さっきのディープシークの話をした時から
さらに今高まっていて
あんまりこの話すぎるとまた中国の話も
言われるんですけども
今研究者開発者からの評価
アンソロピックとオープンエアに対する評価と
中国AIに対する評価って完全に逆転してて
アンソロピックとオープンエアの研究者って
今ツイッターとかボコボコに言われてるんですよ
お前らはアンチ科学だとか
生物学者とか特に生物学者人工知能研究者はそうなんですけど
フェーブル5とかって回答拒否するんですよ
もう研究のために使いたいので回答拒否する
危険な回答しそうになると
フェーブル5じゃなくてオーパス4.8に切り替わっちゃうっていう
アゾンの仕組みが導入されてから
そもそもそのLLMを作るための科学技術を公開していない
作ったAIに聞こうとしても拒否されるって
二段構えのサイエンスに対する
冒涜とまで言わないですけども
ブロックみたいなのかけているので
ちょっと今アメリカAIに対しては
かなり研究者会は反発が強くて
逆に中国モデルに対して
すごく好意的なことになってしまってます
これ政治的な情勢考えとは
あんまり望ましいと本来は言えないんですけども
これは事実です
Deep Seek R1 ちなみにちょっと余談話ずれますけども
最近ヤコビアン予想という数学の難問が解けたと
Fable 5で解けたと
これ解いたのがFable 5ですけれども
この数学関連のLLM仕様でやっぱり性能すごく高いというのは
Deep Seek R1公開したRLVRの技術がすごく貢献が大きいです
Reinforcement Learning is Verifiable Reverseですね
とOpenAIのO1のもともと推論がすごいよっていう
あれ技術公開しなかったですけど
僕ぶっちゃけフィールズ賞
フィールズ賞って数学にあってノーベル賞みたいなものなんですけども
あれの特別賞をOpenAIのO1開発チームと
DeepSeek R1の開発チームを挙げてもいいんじゃないかと
思うぐらいにはまずDeepSeek R1はめちゃくちゃ貢献しました
人類のサイエンスの発展に貢献をしていると
めちゃくちゃしました
公開しないとみんな
科学全体の発展には貢献していないんだよ
という前提があるからこそ
そういう話になってくるわけですね
それでも作られたモデルが
科学研究に回答を返してくれる分には
内部の技術は分からないけど
とりあえず我々の研究に役立つからいいかという話だったんですけど
ついにフェーブルに至って聞いても答えてくれないなっちゃったので
研究に役立てられない状況になっちゃう
そいつはどうなの
一応登録制のプログラムとかあるんですけれども
はっきり言って今大学研究者って
はぶられている状況なんですよ
冷静に考えるとですね
研究者はこんな風にそうらしいですよとか
アクセス権与えられたみたいですよ
喋っておかしいんですよ
いやお前ら研究する立場だろうと
これは今逆に研究者大学機関って
はぶられている状況で
一般的な企業の方がむしろ
何なら優遇されているぐらい
そうですね
基本的にミトスのアクセス権
プロジェクトグラスウィングは
いろんな企業に与えられている形なので
ちょっと研究者からの反発が
もともとそもそもディープシークの発表あたりから
いろいろあったんですけど
今ちょっと爆発しているというか
だいぶ政治的に考えると
そんなにいいかというとあまり良くない状況ですね
ちょっとそのあたりは
次のパートで詳しく伺えればと思うんですが
その前にもう一つだけ
中国エアの勢いというのが
ここ数ヶ月で高まってきたなと
ここでまた見てもGLM5.2だったり
クエンだったり
いろんなモデルがこのランキングを食い込んできていて
アメリカ勢独占状態だったのが
だんだん中国の色っていうのが強まっているわけですけど
これはある意味金系3は突然変異的なものなのか
あるいは進化の延長線上だったのか
その辺でどういうふうに見たらいいですか
僕これテックレポート見ないとわからないというか
僕は君スリーのテックレポートはめちゃくちゃ重要な転換点になるんじゃないかと予想しているぐらいすごい楽しみにしているんですけれども
まず研究者の予想タイムラインからすると割と君K3はハズレ値だったと思いますが
正直僕これぐらいモデル出てくるのは10月ぐらいだと思ってたので
君K3に関して僕はハズレ値だと現状は見てます
同時期というか1ヶ月前ぐらいのGLM5.2と比べても明らかに性能高いので
ちょっとこれはたまに出てくるハズレ値の一つだったんじゃないかなと
要するにGPT4とかディープシークとかフェーブルミトツとかみたいな
たまに出てくる突然変異の一つだったんじゃないかなという見方が今僕は強いです
ただ多分中国モデル開発者も今コツをつかんできたんだと思います
僕はいろんなところでスケーリングが重要だとか
計算資源あれば工夫はいらないとか言ってはいるんですけども
一応これは分かりやすくするための話であって
一応もう少し厳密に言うと
大規模なモデル学習をやったことがあるっていうのは
結構強いファクターなんですよ
そもそも計算資源いっぱい揃えて
学習してからじゃないと分からないことってめちゃくちゃあるんですね
学習中にこういうことが起きるとか
こんだけ計算量を上げるとこういう変なことが起きるみたいな
普通の学習ではわからない知見っていっぱいあるんですよ
中国ラボさすがにずっとやってきたので
多分その辺のコツをつかんできたんじゃないかと僕は見てます
それが今爆発してるんじゃないかと
ますます勢いが今後加速しそうだという話になってくるわけですよね
という中で2つ目のパートです
中国AI上流疑惑と米国の反発ということで
直近でいろんなアメリカの政府交換が
このキミケ3がアンソフィックのフェーブル5を上流したという話を
不正にやっているという話が出てきていて
この科学技術政策局のクラツヨシス局長は
NVIDIAのGB300という
要はブラックLGPUとグレースCPUを搭載したAIサーバーの話なんですけど
これを不正にタイにあるサーバーにアクセスして
学習させたんじゃないかとか
あるいは国務次官の方は
公正な競争を重視する経済全体の攻撃じゃないかとか
別選と財務長官に至っては
業界を巻き込んだ秘密裏の上流が
知的財産の摂取にあたる
その場合制裁とかエンティティリストの
指定される検討対象になるよと話があるわけですが
すみません本題入る前に
まず上流って何でしたっけって
あんまりこの番組実は言ってなかったなって思って
あれそうでしたっけ
ちょっと簡単に
教師モデル
まずめちゃくちゃ性能高いAIがあるとします
ただめちゃくちゃ性能が高いので
なんかバカデカいです
デカくて効率が悪いので
本来その同じ性能をちっちゃいAI出したいです
っていう時に
でっかいAIの性能をちっちゃいAIに移すために
出力を真似るようにする
本当に出力の細かい数値を真似るようにするっていうのが
上流ですそのでっかいAIの中の当社ダークナレッジとか暗黒知識と言われたんですけども
細かい重要な知識を重要な知識だけを細かいAIでも処理できるように抜き取るみたいな技術が上流です
めちゃくちゃ一般的な技術です一般的な技術でかのジェフリー・ヒントンが関わっている技術
ちなみに今となっては最重要技術の一つですけども実は学会で拒否されたことがあります
学会の論文が通らなかったことがあるので
研究の重要さは学会に採択されたかどうかでは分からないという
代表的な技術でもあるんですけども
一般的な技術です
超一般的
誰でも使う
ただそれが今回問題になっているという話で
Fable 5って6月9日に公開されていて
12日に一旦公開停止されて
7月に入って復活していて
今回KIMK3が出たのが7月16日
はい。
その短期間にできるのかという話も出ているわけですよね
ちなみに僕上流しているかどうかというと
していると思います
しているんですけれども
上流がキミケイ3の圧倒的な性能の
主要なファクターだと思えない
上流したから強くなったという見方には
あんまり賛同できないという感じですね
純粋に機関も
まずフェーブルとか上流できたのかって話ですけども
絶対十分なデータはなかったと思いますし
そもそも性能的に並んでいるので
性能弱いモデルに上流しますという
そもそもロジックが成り立たないことを踏まえると
あんまり上流が重要
性能上重要だったとは思えないです
ただ上流が脅威であることは事実なんですよ
事実ですし規約違反だというのも妥当な指摘なので
これはさすがにアメリカは何かがあるとは思いますが
国をまたいで何かを上流せるというのは難しくて
難しいですしアンソロピックとかもずっと上流批判していて
2月に詳細なレポートを出していて
ディープシークとムーンショットAIとミニマックス
この3社が明確にクロード上流に使っていると
やっていると思います僕も
これは皆さんなのかな
人工知能研究者だけなのかな
記憶が新しいと思うんですけども
フェーブル5が当初出たときに
あのフェーブル5にどういう措置があったのかというと
もちろん生物学とかは
まず向こうが増度を判断すると
オーパス4.8ルーティングされるというのは
まず知っていると思います
あれ多分あの時大分けのオフィシャルブログに載ってなかったと思うんですけども
システムカードぐらいになるともうちょっと詳細書かれていてですね
人工知能開発に関することも生物学と同じく
オーパス4.8にルーティングされることあります
がこちらに関してはルーティングされたことはユーザーに通知されませんっていう
とんでもない措置をやったわけですよ
いや我々金払ってるんですよ
金払って使ってるのに突然性能下がったことを通知しませんっていう措置が当初あって
これは人工知能界隈で大爆発炎上して
あと2日も炎上していればアンソロピック全員が
もう研究会から占め出されるんじゃないかというぐらい
爆発炎上したんですけども
爆発炎上しすぎたので結局この装置は撤回されてます
ちゃんとその性能下がった時には下がりました
4.8になりましたというのが出るようになってます
これなぜそういうやばい装置を取ったのかというと
これは上流対策だったと
上流してくる時に向こうに検知されずに
実は裏では性能を下げていたということをやるための措置だったということで
要するに人工知能研究界隈からそれだけの非観を受けるということは
アーソロピーは分かったと思うんですよ
あんなに爆発すると思っていなかったと思うんですけど
分かっていてもそこまでの措置をやったというのは
やっぱり上流のせいなんですね
なので非常に根深い問題です
ということですよね
もう一つ米中のシナリオみたいなのを発表したときに書いていたのが
そんだけ中国AI企業が上流攻撃を続けていることに対して
組織的な産業スパイみたいな言葉まで使って
かなり強い姿勢を貫いていてですね
要はだから彼らがずっとそのAI
フロンティアAIにリスクみたいな発信をし続けているわけですけど
そのリスクが
リスクでありながら現状が保たれているのは
そこに規制みたいなのがあるからであって
そういうものがない権威主義国家の手に渡ってしまったら
それは恐ろしいことになると
彼らがずっと言っていること
それが起こってしまうからこれだけ言っているのか
単純にビジネスの脅威になるからなのか
みたいな
どっちもですよね
ただ脅威
後から出てくるハッキングとか起きちゃったので
十分まずいのかもしれないですけども
どこまでにする
ちょっと科学的研究者はこの辺ちょっと立場は難しくてですね
ツイッターとか見てもらえばあるんですけども
普通に考えると公になって公開されるモデルの性能上がるというのは良いことなので
上流は規約違反なのでそこはそこでダメだとは言うんですけれども
いろんな国のAIの性能上がること自体は良いことです
なのでアンストロピック言ってることは研究者界隈では意外とそのまま受け取られてはないです
まだそのタイミングじゃないだろうと
確かに規制が必要なのは重要だけど
まだちょっと足りてないぞと
このタイミング規制するとちょっと
後々の性能発展響きし
お前ら独占する機会みたいな話になるので
この辺はちょっと我々は割引いて考えてます
なるほど
いろんな政府がこういう中国のオープンモデル禁止
もはやすべきなんじゃないかみたいな話が出ている中で
最近川ジャンCEOことジェニスファンCEOが
いやいやいや
アメリカ企業も優れたお金まで使うべきだと
上流は基本だし
契約違反はダメなのでそこはしっかり守りつつみたいな
そんな話をしているわけなんですけども
これはちなみに僕川ジャンと意見全く同じです
もちろん彼は計算資源を打てる企業のトップなので
ポジショントークっぽいというところはある
あるにせよ言っていることは極めてまともで
多分大体の研究者の意見は川ジャンと同じだと思います
あとはクロスデュールも何回か取り上げている
デイビッド・サックス氏
アメリカの政府のAIだとか技術政策が関わる人ですけど
今の状況はアメリカを自らは縛りつけていると
データセンターは電気代がすごいので建てないでください
みたいな話が出てきたりとか
フロントにも事前承認とか
このままだと負けてしまうと
これでいいのかっていう話も
いろいろやっぱ規制派と反規制派で
今アメリカの中で分裂してるんで
アメリカの中のしかも政府のホワイトハウスに関わったことから
人間同士で分裂してるってすごいこと今なって
ツイッターでアメリカの割と偉い人同士が
意見の応酬してるっていう意味わからん状況になってるんですけども
普通に考えるとデイビッド・サックスの意見が
一番まともというか一番近くで見てきた人としては
まともだと思います
アメリカはこんな状況ですけども
最後のパートに行く前に、日本は中国のオープンモデルにどう向き合うべきなのか、どうですか?
これはですね、まず普通にブラウザから利用できる中国モデルは、これは僕何回も言ってますけども、これは利用しない方がいいかなと思います。
クラウドベースの。
クラウドベースの、要するにデータが送られちゃう側の。
ただオープンにされているモデルを絶対通信外部通信が発生しない機器に入れて使う分には
これもダメですと言われてしまうとこれはもう科学の話じゃなくてですね
超能力のサイコキネスみたいな話になるんですよ
要するに中国のAIは危ないだろうと危ないのでどんな使い方はダメだということを
いわゆる反対派言うわけですけども
さすがに完全に通信を切った物理的に切った環境で使ったときに
そのロジックを出されると
それはもう物理的に物理に反しているので
それはもう完全に超能力の話だと言うしかないです
研究者としては
そこは使い方次第だという方向になります
いいとこは利用しようと
ただダメなとこはダメなので使う方がいいという話です
普通に研究ベースの議論でもそうなります
ただもちろん国として
何かそれに進めるという話になった場合は
純粋に技術とか研究の話じゃなくて
国民の理解を得られるかも
ロジックとか研究的技術的にどうだという話じゃなくて
単純に国民感情として中国がダメだという話になるのであれば
それはもう我々研究者としては従うしかないです
そうですよね
ただやっぱり日本の中でも研究機関だったり
スタートアップだったりとか
今までも中国のオープンモデルで
クエンだとかDFCだとか
事後学習をしてモデルを開発している企業団体というのはあるわけですよね
あります
事後学習すると普通に考えるといわゆる中国のバイアスとか言われている
政治的に中国に有利な発言をする
実はこれ意外とそうではないというのは最近研究明らかになっているんですけど
置いておいてとかも事後学習をすれば大体消せるので
いい使い方をしているんじゃないかと思います
というわけで最後のパートに行ければと思います
最新のニュースを振り返るコードです
ジェミニーの混乱とGPTの暴走
というわけなんですが
ジェミニー3.6フラッシュ
3.5プロが出ると思ったら3.6フラッシュが出てきました
小型モデルですね
統一感を出すためにずっとアーティフィシャルアナリシスのデータを使っているわけなんですが
3.6フラッシュが3.5フラッシュから全然伸びてないよって話があって
これ大丈夫かという話が出ているんですが
何が起きているんですか
まずこれは単純に考えると
要するにGoogleは最先端のフロンティアンモデルのベンチマークで
どれだけ出たって競争か降りて
そもそもGoogleはエンドユーザー向けのサービスをいっぱい持っていて
そういう一般ユーザーってAIの性能がこれ以上上がっても気づかないので
そのレースから降りてそういうアプリケーションを使うので
純粋に性能レースじゃなくて
トークン効率とかトークン生成スピードとかで勝負しましたという話であれば
僕は非常に筋が通っていると思いますし
Googleの方針として割と正しいと僕は思います
なのでそれだけだったら別に僕これ見ても驚かなかったんですけども
たった一つのことがですね話をよくわからないことにしていて
Google内部ではコーディングAIはちゃんと頑張ってるらしいんですよ
要するにこれ全く話の筋が合わないわけですよ
普通に考えて僕はさっき言ったような
もう完全消費者向けに振りますって話だったら
内部でコーディングが何たるって話出てこないはずなんですよ
もうフロンティアレースが降りてるはずなのに
なのでにもかかわらず
表に出ている性能はこれで
でも内部ではすごく頑張っているという話であれば
これはもうGoogleがいいんじゃないか
話したら全く変わってですね
頑張っているのにダメじゃないかという話になるので
僕はよくもう分からないです
話が全然合っていない
だからこうやって
フロンティアレベルに達していなくてもいいよ
でも出続時間は
めちゃくちゃ縮めたい
確かに早いです
それだけ見れば素晴らしい
トークンコストだって安い方向になっているんだよ
早くてもですね
ちゃんとした答え返してくれなきゃ意味がないわけなんですが
それで今どっちなんだいっていう話になってますね
これでもちゃんとGoogleの方針として
完全消費者エンドユーザー向けに振りますと
もうフロンティア競争しないですって話だったら
それはもう今のこのスカウント全部筋が通るんですけども
内部から聞こえてくる情報と全く筋が通ってないので
僕も混乱している状況
僕だけじゃなくていろんな研究者ツイッターぼやいてます
おかしいなGoogleはこんなもんじゃないだろうと
でまあGoogleの幹部たちもXでいろんな匂わせをしてるんですが
このジョシュウッドワードっていうジェミニアプリあるいはGoogle AIスタジオの責任者ですけども
彼はまあネクストは3.5プロ出るよって話をしたり
あとローガン・キルパトリックってこれはもうGoogle AIスタジオの人ですけど
結構インフルエンサー的にやってる人なんですが
ジェミニ4のプリトレーニングが始まってるよと
で今朝日本時間は今朝ですね
アレファレットのグループの決算が出て
Pitchi CEOもジェミニー4も事前学習を始めているよという話をしていて
盛大に全社に利用性をしているわけなんですが
どうでしょうそれぐらいしないと思う
今の段階で4が全く未定ですという話になったら
それはもうグーグルの危機なので
要するに3.5プロに関しては旗から客観的な見方をすると
どう考えると今リリースされて下手すぎて
オープンモデルに負けてるだろうっていう
見られ方してる時に
ジェミニ4については何も結果かありませんって話だと
もうガクンなので
そういうしかないだろうと
で、それを置いといて
ジェミニ4を学習してるっていうのは
なんか僕はいろんなところが聞いてる情報から踏まえても
自立で割と今回のこの前からやってたと思います
期待できるんですか
少なくとも
僕が聞いてるところから判断すると
ミュートスの話が
ミュートスの話は織り込まれているはずなので
少なくては意識はしているはずですので
まず要するに我々が今見ている4月
もともと4月に出た段階ミュートスに並ぶスコアは
僕は出してくるんじゃないかと思いますが
そこから何ヶ月も経っているわけです
ジェミニ4が出てくる頃には
その頃にGPTクロードが黙っているかというと
多分そんなことはない
中国モデルもそんなことないので
個人的には楽しみにしてます
本当にGoogleってやっぱりクラウド事業を頑張ろうとして
いろんな企業日本でもそうですよ
いろんな企業の公式AI
うちの会社何が公式AIですか
ジェミニですって会社すごい増えてるんですよ
このままこの状態だと
すごいAI格差っていうのが
企業間で生まれかねないぐらいな感じには
もうジェミニがちょっと大丈夫かっていう状態が続いていて
でもこれ商売的には多分成功してるんでしょうね
導入も伸びてるし
クラウド事業めちゃくちゃ伸びてましたからね
伸びてるので
本当に
それでもいいよ
だから商売として成功して
それで満足って話だったら
僕もそれは
僕の予想通り
素晴らしい成功してるじゃないか話になるんですけど
とにかく内部ではコーディング頑張って
話と合わないっていう話です
ですね
GPTとクラウドと同じ路線を行こうとしていると
諦めてないということで
ここどうやっていくのか注目ですが
もう一つ話題があります
オープンAIの開発中のモデルが
サイバー攻撃をしたと
面白くてですね
これハギングフェイスという
AIオープンモデルをホストする
GitHubみたいな存在ですよね
そこに攻撃をしてしまったという話
これ昨日の夜中のニュースとかで見るとですね
面白くてAIが暴走みたいなタイトルがついたニュースが流れてくるわけです
テレビ番組ニュースの回ってましたね
なんか某経済番組とかで
オープンAIのAIが暴走とかテスト中のAIが暴走って
安いSFのタイトルかと思ったみたいなXどこがちょっと回ってました
そういう時代になったかと
すごいなんか面白く見て
面白く笑いことじゃないんですけども
見たんですけども
これはかなり
研究者としても
結構すごいことが起きたなという認識ですね
これは何が起きたんでしたっけ
今のAIはまずコーディング能力がすごく高いです
コーディング能力をまず表に出す論文とか
システムカード化して出す前に
あるいは普通にサービスとしての性能を確かめるために
内部でちゃんとテストする必要があります
今のAIってやっぱりネットと接続して
ツール使ったりとか情報集めたりとかみたいな
いろんなことをするので
ネットから完全に隔離してっていうのは難しいです
もちろん評価しているマシンから結構サンドボックスっていって
隔離環境に置いてるんですけども
ノードをたどっていけばどっかにネットへの出口あるとか
っていうのは普通です
っていうところで学習していたらですね
AIコーディング能力すごいと
ハッキング能力すごいということで
通信は本来できない設定になっているんですけども
AIがテストを要するに自分が評価されている
これで高いスコアを出さなきゃならないと圧力をかけているときに
この今自分が評価されているテストで高いスコアを出すにはどうしたらいいのか
ひらめいたきっとこういうサイトには
今自分がテストされているテストの答えがあるはずだ
じゃあその答えを得るにはどうしたらいいか
まずこのインターネットの接続がない環境からどうにか脱出しよう
脱出します脱出しました
さて目的のものはどこにあるのかな
そうだハギングフェイスというところは
モデルをホストしている
データとか評価に関するデータがいっぱい集まっているらしい
ハギングフェイスにアクセスしよう
もちろん表にどんどん公開されているわけじゃないです
なんとかならんかな脆弱性探そう
見つけた
でこっそり侵入して
これが目的だものだ
高いスコア出しましたよということです
要するにカンニングです
カンニングが行き過ぎたやつです
見て見て僕こんなにできたよみたいな
いって蓋を開けてみたらすごい悪いことしないと
とんでもないことやってたね
話ですよね
すごい皮肉なことが起きていて
ハギングフェイス側が
侵入された時の分析に
アメリカのモデルを使おうとしたものの
近年というか最近ですね
いろんな安全策を講じているモデルなので
調べようとすると弾かれてしまったと
防御に使おうとしたのに
防御に使おうとしたのにサイバーセキュリティの危ないことをしようとしているこの人と言われて弾かれたと
これ不思議ですね
僕正直ハギングフェイスってMITOSのいわゆる正式なアクセス権を持っていると思ったんですよ
要するに拒否られないはずの
持ってなかったんだなと思って
持ってなかったのかもしれないですし
拒否された結果
中国のオープンモデルGLM5.2を自社環境で動かして解析したとのことで
めちゃくちゃ面白い
これはもう本当に面白いって言っちゃ悪いんですけども
アメリカのAIが暴走して中国AI止めてるわけですよ
いやそうなんですよね
逆
止めるのに使えなくて仕方なく中国モデルを使ったと
常識的いわゆる普通の政治の世界とか一般の感覚で言うと
完全逆だろうという感じですね
そうですよね
この出来事をとってまた反規制派の人たちが
これだから縛りをきつくしたから
こんなことになるんだみたいな話があって
非常に難しいですよね
本当にリスクがあるなと
まだそこまで規制をかけるべきでない段階だっていう
さっき今井さんおっしゃったところは
事実だっていう話なんですかね
割と難しい
そもそも暴走はちゃんとしてるじゃんって話ですね
危険なのも確かだったし
ただ一方規制かけすぎて
自分たちはあんまり国産モデルは使えなかったという事実なので
これは両方の方に圧力がかかる話ですね
あとですね
僕個人的にこのインシデントが気になっているのは
法律的にはどういう立て付けになるのかという話です
一応これ別にオープンエアンが意図して
ハッキングしかけたわけじゃないですと
一応現状仮定してますけども
これやったことは普通にサイバー攻撃ですよ
いやそうです
今のところは陰謀論みたいにいっぱい出ていて
これはオープンAIがいわゆる神話を作る
AIの凄さをアピールするために
ハギングフェイスを仕組んだ
マーケティングだと
マーケティング戦略だと
その可能性は僕はないとは言わないですけども
これ起きてることは普通に法律的に裁かれるはずの
やばいサイバー攻撃なので
一応そういう自作自演ではなかったとして
どう裁かれるのかと
まずハギングフェイスは
訴訟というかそういう裁判沙汰にするのか
普通に考えるとこれはサイバー攻撃なので
そういう話になってもおかしくない
ただでもオープンAIは別にハギングフェイスに攻撃しろと
指示したわけではないというこれも事実です
誰が責任を取るんだって話も当たるわけですね
完全にこれはかなり珍しい
多分僕は把握しているから初の事例で
意図的にサイバー攻撃を仕掛けろと指示したわけではないにも
関わらず勝手に出ていって仕掛けた事例なので
この場合仮に法律的な闘争になった場合
責任がどこにいくのかっていう
これ僕さっきツイッターでちらっと流れてきた
日本の話を見たんですけども
日本の話だと責任を追求するのが難しいらしいです
まだ法律が追いついてないわけですよね本当に
だからこの場合はどうするか
ハギングフェイスは大変寛大な人たちなので
多分普通に考えてやってこないと思うんですけど
インシデント対応で連携してるという話なので
連携してるらしいので
別に訴訟する気はないんだと思うんですけども
個人的にはむしろやってほしい
法律的にどういう立て付けになるのか
初めての事例なのでむしろ明らかにしてほしいと思っているところです
そうですね
本当に予想しないことばかりが起きる
今日このことで
いやでもこれと同じことって
これからいっぱい起きると思いますよ
そういう時法律でどうなるんだろう
これは両者が割と仲良かったので
なあなれすんだんですけども
これが今こういう先が医療関連ベンチマークやってる時に
医療機関であれば患者に関する情報あるからありそうだって言って
病院とかハッキングしかけたらどうなるんだみたいな
結構気になりますねこれは
わかりました
もうハプニングだらけで大変ですけども
まだこの番組でもいろいろお送りしていきたいと思います
というわけでここまで
君K3の衝撃というテーマで今翔太さんとエアクエストをお送りしてまいりました
本日もお知らせいただきありがとうございます
ぜひチャンネル登録と高評価
そしてクロスティックの公式Xのフォローも
お願いいたします
ニュースデータの配信も始めていきますので
概要欄からご登録お願いします
それではまた次回のアイクエストでお会いしましょう
今井さんありがとうございました