WEBVTT

00:00.000 --> 00:28.080
大家,這兩天非常熱門的模型是Jer。那這個模型呢,非常有意思。它不能對話,不能寫代碼,也不能識別圖片。它唯一能做的事情就是幫你去做選擇。那本期視頻就給大家來了解一下這一款熱門的決策型模型Jer。其實當我看到這個模型的時候,我也非常詫異。一款不能對話,也不能寫代碼,也不能識別圖片的模型到底有什麼用呢?當我看了官網的例子和外網的一些例子之後,我發現這款模型真的非常有用。

00:28.080 --> 00:40.360
因為其實不管是你在工作還是生活中,非常非常多的時候是需要決策的。如果我們用其他的模型,比如說CHALEJPT,或者是Cloud模型去做這種決策的話,推理的成本是非常高的。

00:40.360 --> 00:53.160
反應的時間也不會特別快,相當於你用大炮打了一個蚊子。那麼Jer這個模型呢,就是專門幹決策。那我們先用一個非常通俗的例子來理解一下Jer這個模型的輸入和輸出。

00:53.160 --> 01:04.160
那麼我們如果要用Jer這個模型的話,需要提供兩個東西。一個叫背景知識。這是我的理解。背景知識就是你要讓他做決定的話,你肯定要提供一些背景知識給他。

01:04.160 --> 01:12.160
然後就是問題,你的問題是什麼?發個Jer。那Jer就會做出選擇。然後你拿到這個選擇之後,再去走其他的流程。

01:12.160 --> 01:25.160
所以從這個大的這個流程裡面,我們能知道Jer是一個中間環節。就你可能這是你的一個工作流。那麼Jer只是起到一個中間路由,或者是中間判斷的一個過程。

01:25.160 --> 01:31.160
那麼他的選擇呢支持三種選擇。那第一種就是啊,我們可以認為叫做yes or no。

01:31.160 --> 01:42.160
我們用一個例子來解決定。比如說,小明的歲月成績考了60分。小明的父母是比較溫和的。但是如果他分數低於及格線的話,也會很生氣。

01:42.160 --> 01:50.160
那麼我們的背景知識就是這個。那我們的問題,那第一種回復的方式。問題是,父母會生氣嗎?那發給這個Jer。

01:50.160 --> 01:58.160
那Jer就會反過一個這樣的概率。會的概率是10%,那麼不會的概率是90%,那麼你就知道父母是不會生氣的。

01:58.160 --> 02:06.160
那這種就是Jer的第一種選擇方式。那麼你要告訴我,你在,要用這個Jer就是大摩寫生說,你要告訴他用的是哪一種。

02:06.160 --> 02:15.160
那第二種就是我們應該用的最多的,就是選項。還是一樣。但是問題就變成了,父母最可能如何回應小明這次考試。

02:15.160 --> 02:26.160
那麼你給出四個選項。A,表揚小明。B,溫和的鼓勵。三,認真的溝通。D,明顯生氣或嚴厲批評。那發給這個Jer。

02:26.160 --> 02:34.160
那Jer就給每個選項一個評分。那麼你從評分裡面能看到,是0.55。那C這個選項是最有可能的。

02:34.160 --> 02:40.160
認真溝通學習問題保持冷靜。那麼你就得到了一個最有可能的這個結果。

02:40.160 --> 02:44.160
最有可能的結果。那這個是第二種。第二種我覺得是在現實場面中用的最多的。

02:44.160 --> 02:53.160
那最後一個就是評分式的。那這種方式比如說,這個問題就變成了,父母對這次考試成績會有多不高興。

02:53.160 --> 02:59.160
你看這個問題就變成了一個分數的一個判斷。就是你有多大力度去這個選項。

02:59.160 --> 03:07.160
比如說A是基本滿意。沒有明顯不高興。B是略有失望。C是明顯不滿意。D呢非常生氣。

03:07.160 --> 03:14.160
那他的這個生氣的力度是在增加的。那你發給J5,J5會給到一個ABCD的相似投票一樣。

03:14.160 --> 03:20.160
那麼我們可以看到這個他的回答。B0.6現在得了65票。也就是說。

03:20.160 --> 03:24.160
那越有失望。讓態度溫和的概率是最高的。那這個時候。

03:24.160 --> 03:29.160
那你就可以根據他的評分的不同。去做下一步的選項。

03:29.160 --> 03:36.160
所以通過這三個選項的處理啊。還有這個場景啊。我們大概網上裡面就有一個概念了。

03:36.160 --> 03:45.160
那J5其實做最大的事情就是。你給他變成知識。你給他問題。給他選項。或者讓他回答yes or no。

03:45.160 --> 03:51.160
或者讓他去打一個分數。他其實最大的作用就是這個。幫你去做決策的參考。

03:51.160 --> 03:57.160
那很多人可能到這裡的時候。會覺得為什麼我們不用模型。去做這種決策的參考呢。

03:57.160 --> 04:02.160
那其實模型也可以做這種決策的參考。但是他Token的推理成本就高。

04:02.160 --> 04:07.160
那他小型速度可能不會很快。那比如說J5他的小型時間是100毫秒左右。

04:07.160 --> 04:12.160
成本是100萬Token。只要0.042美元。輸出完全免費。所以呢。

04:12.160 --> 04:18.160
這也就決定了J5這個模型。只能是成為你眾多工作流的一個部分。

04:18.160 --> 04:24.160
某些很多細分場景的模型的使用。它是不可能取代像Cloud。

04:24.160 --> 04:29.160
或JPT這些通用模型的。那麼這裡有一個案例可以讓大家進一步去了解。

04:29.160 --> 04:32.160
J5這個模型和其他大模型怎麼配合。比如說。

04:32.160 --> 04:35.160
你在你的這個A型工具裡面做了一個模型的路由。

04:35.160 --> 04:39.160
簡單的任務用便宜的模型。复杂的任務用好的模型。

04:39.160 --> 04:42.160
那怎麼去判斷這個任務的。复杂、簡單。

04:42.160 --> 04:44.160
那麼這個就可以交給J5去判斷。

04:44.160 --> 04:46.160
那他的判斷成本是非常低的。

04:46.160 --> 04:50.160
他判斷完了之後。然後再路由到這個模型裡面去。

04:50.160 --> 04:53.160
再接著往下走。所以他就成為你A型的裡面的。

04:53.160 --> 04:55.160
某個環節裡面的一部分了。

04:55.160 --> 04:59.160
那麼在這裡來我也做了一個。用J5來玩這個。

04:59.160 --> 05:02.160
然後用J5去做這種選項的判斷。

05:02.160 --> 05:05.160
因為俄羅斯方塊只要控制方向就行了。

05:05.160 --> 05:06.160
我們來看一下。

05:06.160 --> 05:10.160
那這邊的話會接收俄羅斯方塊的這種做標信息。

05:10.160 --> 05:11.160
然後他這邊會返回。

05:11.160 --> 05:13.160
應該是怎麼操作。

05:13.160 --> 05:16.160
返回的指令裡面是包括了他的操作方向。

05:16.160 --> 05:18.160
那麼J5的這個判斷的準確率。

05:18.160 --> 05:21.160
也不是說是100%。大概在五六成左右。

05:21.160 --> 05:23.160
這個可能需要模型去疊代。

05:23.160 --> 05:26.160
然後你用其他的大模型其實也可以玩。

05:26.160 --> 05:30.160
但是成本和速度可能是沒有這個J5更快。

05:30.160 --> 05:31.160
更省成本。

05:31.160 --> 05:33.160
那這個想像速度是非常快的。

05:33.160 --> 05:35.160
那官網這邊提供了非常多的案例。

05:35.160 --> 05:37.160
比如說像這種模型路由啊。

05:37.160 --> 05:39.160
還有這種客戶的這種處理。

05:39.160 --> 05:41.160
客戶支持的處理。

05:41.160 --> 05:42.160
保險理賠。

05:42.160 --> 05:43.160
法律合規。

05:43.160 --> 05:45.160
那麼我在外網上也是有一個很多。

05:45.160 --> 05:47.160
比如說這種去除流氧器廣告。

05:47.160 --> 05:50.160
把整個流氧器的道路信息發送給J5。

05:50.160 --> 05:51.160
讓J5去判斷哪個是廣告。

05:51.160 --> 05:52.160
並且消除。

05:52.160 --> 05:54.160
還有這種郵件欺詐的。

05:54.160 --> 05:57.160
就是說把所有的郵件和相關的背景信息發給J5。

05:57.160 --> 06:00.160
讓J5去判斷哪些郵件的欺詐。

06:00.160 --> 06:02.160
那還有這個非常有意思的是什麼呢?

06:02.160 --> 06:05.160
它是用J5做了一個Cloud的插件。

06:05.160 --> 06:08.160
來判斷一下Cloud有沒有調用不必要的工具。

06:08.160 --> 06:11.160
那節省這個Token從100萬降到86K。

06:11.160 --> 06:12.160
這個非常厲害。

06:12.160 --> 06:15.160
有空的話就可以去試一下。

06:15.160 --> 06:17.160
然後這裡面其實還有很多很多這種場景。

06:17.160 --> 06:18.160
也就是你可以想像一下。

06:18.160 --> 06:21.160
你在生活工作中這些場景是需要判斷的。

06:21.160 --> 06:25.160
那麼你就可以使用J5來去做這個郵船裡面的替換。

06:25.160 --> 06:27.160
那麼你如果你想體驗這款模型的話,

06:27.160 --> 06:30.160
在OpenRot上還有這個官網上都可以去申請使用。

06:30.160 --> 06:32.160
官網上這邊申請的話很快就通過了。

06:32.160 --> 06:34.160
而且用起來速度也非常快。

06:34.160 --> 06:37.160
以上就是我對J5的一些初步看法了。

06:37.160 --> 06:39.160
那麼大家可以試一下自己的場景。

06:39.160 --> 06:42.160
真的有很多很多場景可以使用它來去體驗一下。

06:42.160 --> 06:43.160
OK,那本視頻就到這。

06:43.160 --> 06:44.160
希望這個視頻給你有所幫助。

06:44.160 --> 06:45.160
希望這個視頻給你更多。

06:45.160 --> 06:46.160
希望這個視頻給你更多。

06:46.160 --> 06:47.160
希望這個視頻給你更多。

06:47.160 --> 06:48.160
希望這個視頻給你更多。

06:48.160 --> 06:49.160
希望這個視頻給你更多。

06:49.160 --> 06:50.160
希望這個視頻給你更多。

06:50.160 --> 06:51.160
希望這個視頻給你更多。

06:51.160 --> 06:52.160
希望這個視頻給你更多。

06:52.160 --> 06:53.160
希望這個視頻給你更多。

06:53.160 --> 06:54.160
希望這個視頻給你更多。

06:54.160 --> 06:55.160
希望這個視頻給你更多。

06:55.160 --> 06:56.160
希望這個視頻給你更多。

06:56.160 --> 06:57.160
希望這個視頻給你更多。

06:57.160 --> 06:58.160
希望這個視頻給你更多。

06:58.160 --> 06:59.160
希望這個視頻給你更多。

06:59.160 --> 07:00.160
希望這個視頻給你更多。

07:00.160 --> 07:01.160
希望這個視頻給你更多。

07:01.160 --> 07:02.160
希望這個視頻給你更多。