1
00:00:00,000 --> 00:00:28,080
大家,這兩天非常熱門的模型是Jer。那這個模型呢,非常有意思。它不能對話,不能寫代碼,也不能識別圖片。它唯一能做的事情就是幫你去做選擇。那本期視頻就給大家來了解一下這一款熱門的決策型模型Jer。其實當我看到這個模型的時候,我也非常詫異。一款不能對話,也不能寫代碼,也不能識別圖片的模型到底有什麼用呢?當我看了官網的例子和外網的一些例子之後,我發現這款模型真的非常有用。

2
00:00:28,080 --> 00:00:40,360
因為其實不管是你在工作還是生活中,非常非常多的時候是需要決策的。如果我們用其他的模型,比如說CHALEJPT,或者是Cloud模型去做這種決策的話,推理的成本是非常高的。

3
00:00:40,360 --> 00:00:53,160
反應的時間也不會特別快,相當於你用大炮打了一個蚊子。那麼Jer這個模型呢,就是專門幹決策。那我們先用一個非常通俗的例子來理解一下Jer這個模型的輸入和輸出。

4
00:00:53,160 --> 00:01:04,160
那麼我們如果要用Jer這個模型的話,需要提供兩個東西。一個叫背景知識。這是我的理解。背景知識就是你要讓他做決定的話,你肯定要提供一些背景知識給他。

5
00:01:04,160 --> 00:01:12,160
然後就是問題,你的問題是什麼?發個Jer。那Jer就會做出選擇。然後你拿到這個選擇之後,再去走其他的流程。

6
00:01:12,160 --> 00:01:25,160
所以從這個大的這個流程裡面,我們能知道Jer是一個中間環節。就你可能這是你的一個工作流。那麼Jer只是起到一個中間路由,或者是中間判斷的一個過程。

7
00:01:25,160 --> 00:01:31,160
那麼他的選擇呢支持三種選擇。那第一種就是啊,我們可以認為叫做yes or no。

8
00:01:31,160 --> 00:01:42,160
我們用一個例子來解決定。比如說,小明的歲月成績考了60分。小明的父母是比較溫和的。但是如果他分數低於及格線的話,也會很生氣。

9
00:01:42,160 --> 00:01:50,160
那麼我們的背景知識就是這個。那我們的問題,那第一種回復的方式。問題是,父母會生氣嗎?那發給這個Jer。

10
00:01:50,160 --> 00:01:58,160
那Jer就會反過一個這樣的概率。會的概率是10%,那麼不會的概率是90%,那麼你就知道父母是不會生氣的。

11
00:01:58,160 --> 00:02:06,160
那這種就是Jer的第一種選擇方式。那麼你要告訴我,你在,要用這個Jer就是大摩寫生說,你要告訴他用的是哪一種。

12
00:02:06,160 --> 00:02:15,160
那第二種就是我們應該用的最多的,就是選項。還是一樣。但是問題就變成了,父母最可能如何回應小明這次考試。

13
00:02:15,160 --> 00:02:26,160
那麼你給出四個選項。A,表揚小明。B,溫和的鼓勵。三,認真的溝通。D,明顯生氣或嚴厲批評。那發給這個Jer。

14
00:02:26,160 --> 00:02:34,160
那Jer就給每個選項一個評分。那麼你從評分裡面能看到,是0.55。那C這個選項是最有可能的。

15
00:02:34,160 --> 00:02:40,160
認真溝通學習問題保持冷靜。那麼你就得到了一個最有可能的這個結果。

16
00:02:40,160 --> 00:02:44,160
最有可能的結果。那這個是第二種。第二種我覺得是在現實場面中用的最多的。

17
00:02:44,160 --> 00:02:53,160
那最後一個就是評分式的。那這種方式比如說,這個問題就變成了,父母對這次考試成績會有多不高興。

18
00:02:53,160 --> 00:02:59,160
你看這個問題就變成了一個分數的一個判斷。就是你有多大力度去這個選項。

19
00:02:59,160 --> 00:03:07,160
比如說A是基本滿意。沒有明顯不高興。B是略有失望。C是明顯不滿意。D呢非常生氣。

20
00:03:07,160 --> 00:03:14,160
那他的這個生氣的力度是在增加的。那你發給J5,J5會給到一個ABCD的相似投票一樣。

21
00:03:14,160 --> 00:03:20,160
那麼我們可以看到這個他的回答。B0.6現在得了65票。也就是說。

22
00:03:20,160 --> 00:03:24,160
那越有失望。讓態度溫和的概率是最高的。那這個時候。

23
00:03:24,160 --> 00:03:29,160
那你就可以根據他的評分的不同。去做下一步的選項。

24
00:03:29,160 --> 00:03:36,160
所以通過這三個選項的處理啊。還有這個場景啊。我們大概網上裡面就有一個概念了。

25
00:03:36,160 --> 00:03:45,160
那J5其實做最大的事情就是。你給他變成知識。你給他問題。給他選項。或者讓他回答yes or no。

26
00:03:45,160 --> 00:03:51,160
或者讓他去打一個分數。他其實最大的作用就是這個。幫你去做決策的參考。

27
00:03:51,160 --> 00:03:57,160
那很多人可能到這裡的時候。會覺得為什麼我們不用模型。去做這種決策的參考呢。

28
00:03:57,160 --> 00:04:02,160
那其實模型也可以做這種決策的參考。但是他Token的推理成本就高。

29
00:04:02,160 --> 00:04:07,160
那他小型速度可能不會很快。那比如說J5他的小型時間是100毫秒左右。

30
00:04:07,160 --> 00:04:12,160
成本是100萬Token。只要0.042美元。輸出完全免費。所以呢。

31
00:04:12,160 --> 00:04:18,160
這也就決定了J5這個模型。只能是成為你眾多工作流的一個部分。

32
00:04:18,160 --> 00:04:24,160
某些很多細分場景的模型的使用。它是不可能取代像Cloud。

33
00:04:24,160 --> 00:04:29,160
或JPT這些通用模型的。那麼這裡有一個案例可以讓大家進一步去了解。

34
00:04:29,160 --> 00:04:32,160
J5這個模型和其他大模型怎麼配合。比如說。

35
00:04:32,160 --> 00:04:35,160
你在你的這個A型工具裡面做了一個模型的路由。

36
00:04:35,160 --> 00:04:39,160
簡單的任務用便宜的模型。复杂的任務用好的模型。

37
00:04:39,160 --> 00:04:42,160
那怎麼去判斷這個任務的。复杂、簡單。

38
00:04:42,160 --> 00:04:44,160
那麼這個就可以交給J5去判斷。

39
00:04:44,160 --> 00:04:46,160
那他的判斷成本是非常低的。

40
00:04:46,160 --> 00:04:50,160
他判斷完了之後。然後再路由到這個模型裡面去。

41
00:04:50,160 --> 00:04:53,160
再接著往下走。所以他就成為你A型的裡面的。

42
00:04:53,160 --> 00:04:55,160
某個環節裡面的一部分了。

43
00:04:55,160 --> 00:04:59,160
那麼在這裡來我也做了一個。用J5來玩這個。

44
00:04:59,160 --> 00:05:02,160
然後用J5去做這種選項的判斷。

45
00:05:02,160 --> 00:05:05,160
因為俄羅斯方塊只要控制方向就行了。

46
00:05:05,160 --> 00:05:06,160
我們來看一下。

47
00:05:06,160 --> 00:05:10,160
那這邊的話會接收俄羅斯方塊的這種做標信息。

48
00:05:10,160 --> 00:05:11,160
然後他這邊會返回。

49
00:05:11,160 --> 00:05:13,160
應該是怎麼操作。

50
00:05:13,160 --> 00:05:16,160
返回的指令裡面是包括了他的操作方向。

51
00:05:16,160 --> 00:05:18,160
那麼J5的這個判斷的準確率。

52
00:05:18,160 --> 00:05:21,160
也不是說是100%。大概在五六成左右。

53
00:05:21,160 --> 00:05:23,160
這個可能需要模型去疊代。

54
00:05:23,160 --> 00:05:26,160
然後你用其他的大模型其實也可以玩。

55
00:05:26,160 --> 00:05:30,160
但是成本和速度可能是沒有這個J5更快。

56
00:05:30,160 --> 00:05:31,160
更省成本。

57
00:05:31,160 --> 00:05:33,160
那這個想像速度是非常快的。

58
00:05:33,160 --> 00:05:35,160
那官網這邊提供了非常多的案例。

59
00:05:35,160 --> 00:05:37,160
比如說像這種模型路由啊。

60
00:05:37,160 --> 00:05:39,160
還有這種客戶的這種處理。

61
00:05:39,160 --> 00:05:41,160
客戶支持的處理。

62
00:05:41,160 --> 00:05:42,160
保險理賠。

63
00:05:42,160 --> 00:05:43,160
法律合規。

64
00:05:43,160 --> 00:05:45,160
那麼我在外網上也是有一個很多。

65
00:05:45,160 --> 00:05:47,160
比如說這種去除流氧器廣告。

66
00:05:47,160 --> 00:05:50,160
把整個流氧器的道路信息發送給J5。

67
00:05:50,160 --> 00:05:51,160
讓J5去判斷哪個是廣告。

68
00:05:51,160 --> 00:05:52,160
並且消除。

69
00:05:52,160 --> 00:05:54,160
還有這種郵件欺詐的。

70
00:05:54,160 --> 00:05:57,160
就是說把所有的郵件和相關的背景信息發給J5。

71
00:05:57,160 --> 00:06:00,160
讓J5去判斷哪些郵件的欺詐。

72
00:06:00,160 --> 00:06:02,160
那還有這個非常有意思的是什麼呢?

73
00:06:02,160 --> 00:06:05,160
它是用J5做了一個Cloud的插件。

74
00:06:05,160 --> 00:06:08,160
來判斷一下Cloud有沒有調用不必要的工具。

75
00:06:08,160 --> 00:06:11,160
那節省這個Token從100萬降到86K。

76
00:06:11,160 --> 00:06:12,160
這個非常厲害。

77
00:06:12,160 --> 00:06:15,160
有空的話就可以去試一下。

78
00:06:15,160 --> 00:06:17,160
然後這裡面其實還有很多很多這種場景。

79
00:06:17,160 --> 00:06:18,160
也就是你可以想像一下。

80
00:06:18,160 --> 00:06:21,160
你在生活工作中這些場景是需要判斷的。

81
00:06:21,160 --> 00:06:25,160
那麼你就可以使用J5來去做這個郵船裡面的替換。

82
00:06:25,160 --> 00:06:27,160
那麼你如果你想體驗這款模型的話,

83
00:06:27,160 --> 00:06:30,160
在OpenRot上還有這個官網上都可以去申請使用。

84
00:06:30,160 --> 00:06:32,160
官網上這邊申請的話很快就通過了。

85
00:06:32,160 --> 00:06:34,160
而且用起來速度也非常快。

86
00:06:34,160 --> 00:06:37,160
以上就是我對J5的一些初步看法了。

87
00:06:37,160 --> 00:06:39,160
那麼大家可以試一下自己的場景。

88
00:06:39,160 --> 00:06:42,160
真的有很多很多場景可以使用它來去體驗一下。

89
00:06:42,160 --> 00:06:43,160
OK,那本視頻就到這。

90
00:06:43,160 --> 00:06:44,160
希望這個視頻給你有所幫助。

91
00:06:44,160 --> 00:06:45,160
希望這個視頻給你更多。

92
00:06:45,160 --> 00:06:46,160
希望這個視頻給你更多。

93
00:06:46,160 --> 00:06:47,160
希望這個視頻給你更多。

94
00:06:47,160 --> 00:06:48,160
希望這個視頻給你更多。

95
00:06:48,160 --> 00:06:49,160
希望這個視頻給你更多。

96
00:06:49,160 --> 00:06:50,160
希望這個視頻給你更多。

97
00:06:50,160 --> 00:06:51,160
希望這個視頻給你更多。

98
00:06:51,160 --> 00:06:52,160
希望這個視頻給你更多。

99
00:06:52,160 --> 00:06:53,160
希望這個視頻給你更多。

100
00:06:53,160 --> 00:06:54,160
希望這個視頻給你更多。

101
00:06:54,160 --> 00:06:55,160
希望這個視頻給你更多。

102
00:06:55,160 --> 00:06:56,160
希望這個視頻給你更多。

103
00:06:56,160 --> 00:06:57,160
希望這個視頻給你更多。

104
00:06:57,160 --> 00:06:58,160
希望這個視頻給你更多。

105
00:06:58,160 --> 00:06:59,160
希望這個視頻給你更多。

106
00:06:59,160 --> 00:07:00,160
希望這個視頻給你更多。

107
00:07:00,160 --> 00:07:01,160
希望這個視頻給你更多。

108
00:07:01,160 --> 00:07:02,160
希望這個視頻給你更多。