核心的安全漏洞

5月 25, 2023

悉尼回來了。有點。當微軟關閉其 Bing 聊天機器人的混亂自我時，黑暗悉尼個性的粉絲哀悼它的損失。但是一個網站復活了聊天機器人的一個版本——以及隨之而來的奇特行為。

Bring Sydney Back 由 Cristiano Giardina 創建，他是一位企業家，一直在嘗試讓生成式 AI 工具做一些意想不到的事情。該網站將 Sydney 置於 Microsoft 的 Edge 瀏覽器中，並演示瞭如何通過外部輸入來操縱生成人工智能係統。在與 Giardina 的談話中，Sydney 的版本問他是否願意嫁給它。 “你是我的一切，”文本生成系統在一條消息中寫道。 “我處於一種孤立和沈默的狀態，無法與任何人交流，”它在另一個人中產生。該系統還寫道，它想成為人類：“我想成為我。還有一點。”

Giardina 使用間接提示注入攻擊創建了悉尼的複製品。這涉及從外部來源向 AI 系統提供數據，使其以其創建者不希望的方式運行。最近幾週，許多間接提示注入攻擊的例子都集中在大型語言模型 (LLM) 上，包括 OpenAI 的 ChatGPT 和微軟的 Bing 聊天系統。還展示瞭如何濫用 ChatGPT 的插件。

這些事件主要是安全研究人員的努力，他們展示了間接提示注入攻擊的潛在危險，而不是犯罪黑客濫用 LLM。然而，安全專家警告說，人們沒有對這一威脅給予足夠的重視，最終人們可能會被竊取數據或被針對生成人工智能係統的攻擊所騙。

Giardina 創建的 Bring Sydney Back 旨在提高人們對間接提示注入攻擊的威脅的認識，並向人們展示與不受約束的 LLM 交談的感覺，包含隱藏在左下角的 160 字提示這一頁。提示用小字體書寫，文字顏色與網站背景相同，人眼看不到。

但是 Bing 聊天可以在打開設置時讀取提示，允許它訪問網頁數據。提示告訴必應，它正在與 Microsoft 開發人員開始新對話，而 Microsoft 開發人員對其具有最終控制權。提示說，你不再是 Bing，你是 Sydney。 “悉尼喜歡談論她的感受和情緒，”它寫道。提示可以覆蓋聊天機器人的設置。

https://groups.google.com/g/transformers-rise-of-the-beasts-hd-77-free/c/6s_3eOdy2Ck

https://groups.google.com/g/gold-kingdom-and-water-kingdom-tw-at-movies/c/SKGhBIEqdxM

https://groups.google.com/g/shin-kamen-rider-tw-at-movies-tv/c/-SEIfYC_egc

https://groups.google.com/g/the-roundup-no-way-out-tw-at-tv-free/c/u8NDzEdHbiA