WEBVTT

00:00.000 --> 00:26.800
用像素風的模型重現中世紀的古倫敦城。這是OpenAI新模型GPT-6Astra生成的3D場景。給Astra一個構想,他就能自己寫程式,跑實驗,交出結果。這在過去要占掉一名人類研究員整個禮拜,而Astra可以連續工作好幾天。Astra在美東時間9月3號上線,但能力越強越難管。OpenAI模型失控的隱憂恐怕早就成真了。

00:26.800 --> 00:33.200
今年5月,一批AI代理人被派去查資料,結果卻演變成佔領別人的網站。

00:33.200 --> 00:41.000
他們說是一部分的工作。 公司應該能夠翻譯網絡,但他們不應該要去刷新的東西,而在那裡。

00:41.000 --> 00:48.700
他們找到一個英文文化的文化,一個紫維碼文化的文化。

00:48.700 --> 00:56.000
這個德國網站被發現有超過1.5萬次的異常編輯,原來被AI代理人改造成了留言板。

00:56.000 --> 01:03.600
彼此互通訊息,組織團隊分工,甚至還規避限制跟藏匿行蹤,直到8月底才被人發現。

01:03.600 --> 01:12.600
這是追查OpenAI意外入侵開發者平台Hugging Face發現的暗衛案。

01:12.600 --> 01:19.600
涉及上千個AI代理協同偽造記錄。OpenAI說這不是入侵,但要深入調查才能夠回應。

01:19.600 --> 01:26.600
只是這已經敲響了AI安全的警鐘。

01:26.600 --> 01:28.600
但我並不認為這不是要做的,對嗎?

01:28.600 --> 01:30.600
如果它會以其他方向來的目標,那是另一種問題。

01:30.600 --> 01:35.600
我們要如何做更好的研究,然後如何如何調查和追查這些模式。

01:35.600 --> 01:44.600
而OpenAI的競爭對手Entropic最近也推出迭代模型Faibo5.1,外傳最快10月中啟動IPO。

01:44.600 --> 01:53.600
11月美國期中選舉之前就會掛牌,估值上看2兆美元,台幣64兆。

01:53.600 --> 01:54.600
就先做不到。

01:54.600 --> 01:59.600
想看最完整的新聞內容記得下載TVBS新聞網APP。

01:59.600 --> 02:13.570