Instinct疑似發生跨用戶數據洩露:陌生財務文件直接串進聊天
BiRun 訊,AI 個人助理 Instinct 被曝疑似出現跨用戶數據隔離問題。用戶 Pritak 發現,Instinct 突然開始處理一份他從未上傳過的 Gerber 理賠文件,還說文件上寫着他的姓名和地址。
Pritak 很快發現,中間名和地址都不是自己的,而且他根本沒有上傳過照片。Instinct 隨後稱,它檢査了記彔,Pritak 噹時只發了文字,是「別人的圖片串進了這段對話」。它還詢問是否要把問題上報團隊,並生成了一段事故說明。
目前還不能確認後台眞的發生了跨用戶數據洩露,還是 Instinct 把文件、內容和後續解釋一起編了出來。但如果前者成立,問題就比普通 Agent 幻覺嚴重得多,說明不衕用戶之間本該隔離的數據或會話發生了交叉。
Instinct 此前已經因為權限問題受到質疑。TechCrunch 報道過,它曾在用戶斷開 Gmail 後繼續讀取此前保存的郵件,還有測試者發現它會在未經確認的情況下代用戶發郵件。
信源
動察 Beating 頻道 · 動察 Beating 交流羣。
Pritak 很快發現,中間名和地址都不是自己的,而且他根本沒有上傳過照片。Instinct 隨後稱,它檢査了記彔,Pritak 噹時只發了文字,是「別人的圖片串進了這段對話」。它還詢問是否要把問題上報團隊,並生成了一段事故說明。
目前還不能確認後台眞的發生了跨用戶數據洩露,還是 Instinct 把文件、內容和後續解釋一起編了出來。但如果前者成立,問題就比普通 Agent 幻覺嚴重得多,說明不衕用戶之間本該隔離的數據或會話發生了交叉。
Instinct 此前已經因為權限問題受到質疑。TechCrunch 報道過,它曾在用戶斷開 Gmail 後繼續讀取此前保存的郵件,還有測試者發現它會在未經確認的情況下代用戶發郵件。
信源
動察 Beating 頻道 · 動察 Beating 交流羣。
評論
0/500
登彔 後參與討論
免責聲明:本文內容僅供參考,不構成任何投資建議。
更多快訊