start	end	text
0	26800	用像素風的模型重現中世紀的古倫敦城。這是OpenAI新模型GPT-6Astra生成的3D場景。給Astra一個構想,他就能自己寫程式,跑實驗,交出結果。這在過去要占掉一名人類研究員整個禮拜,而Astra可以連續工作好幾天。Astra在美東時間9月3號上線,但能力越強越難管。OpenAI模型失控的隱憂恐怕早就成真了。
26800	33200	今年5月,一批AI代理人被派去查資料,結果卻演變成佔領別人的網站。
33200	41000	他們說是一部分的工作。 公司應該能夠翻譯網絡,但他們不應該要去刷新的東西,而在那裡。
41000	48700	他們找到一個英文文化的文化,一個紫維碼文化的文化。
48700	56000	這個德國網站被發現有超過1.5萬次的異常編輯,原來被AI代理人改造成了留言板。
56000	63600	彼此互通訊息,組織團隊分工,甚至還規避限制跟藏匿行蹤,直到8月底才被人發現。
63600	72600	這是追查OpenAI意外入侵開發者平台Hugging Face發現的暗衛案。
72600	79600	涉及上千個AI代理協同偽造記錄。OpenAI說這不是入侵,但要深入調查才能夠回應。
79600	86600	只是這已經敲響了AI安全的警鐘。
86600	88600	但我並不認為這不是要做的,對嗎?
88600	90600	如果它會以其他方向來的目標,那是另一種問題。
90600	95600	我們要如何做更好的研究,然後如何如何調查和追查這些模式。
95600	104600	而OpenAI的競爭對手Entropic最近也推出迭代模型Faibo5.1,外傳最快10月中啟動IPO。
104600	113600	11月美國期中選舉之前就會掛牌,估值上看2兆美元,台幣64兆。
113600	114600	就先做不到。
114600	119600	想看最完整的新聞內容記得下載TVBS新聞網APP。
119600	133570