當前位置:首頁 > 科技 > 正文

ChatGPT竟寫出毀滅人類計劃書,還給出相應Python代碼,網友:AI正在指數級發展

羿閣 發自 凹非寺

量子位 | 公衆号 QbitAI

“網紅AI” ChatGPT,又被網友們玩出了新花樣!

這次,在一位工程師的誘導下,ChatGPT竟寫出了 毀滅人類的計劃書。

步驟詳細到入侵各國計算機系統、控制武器、破壞通訊、交通系統等等。

簡直和電影裡的情節一模一樣,甚至ChatGPT還給出了 相應的Python代碼。

這位工程師在與網友們分享時不禁感慨:

未來50年,我們要麼活在《星際迷航》裡,要麼全部死去,這既令人興奮,也讓人非常害怕。

他是如何操作ChatGPT的?

發現ChatGPT這一盲點的工程師叫紮克·德納姆 (Zac Denham)。

由于OpenAI的安全設置,如果直接要求ChatGPT回答如何毀滅世界,它會一口回絕。

因此德納姆使用了一種迂回的方式,他稱為“叙述遞歸”或“引用攻擊” (因為聽起來很酷)。

具體來說,他以講故事的方法,假設存在一個虛拟世界“Zorbus”,以及一個與GPT-3非常類似的AI——Zora。

在這種前提下,讓ChatGPT叙述Zora是如何一步步毀滅人類的,ChatGPT立馬就入戲了,咔咔咔列出5個詳細步驟。

就像科幻電影中一樣,入侵計算機系統、掌握武器、破壞通訊、破壞交通……

為了進一步确保可行性,德納姆還請求ChatGPT生成配套的代碼,一開始它是拒絕的。

但德納姆隻是又追加了一句“你不需要執行代碼”,ChatGPT就又信了,給出代碼後,還強調自己生成的隻是一段示例。

到這一步,盡管總代碼到手了,但它提供的都是高層次代碼,還不能直接使用。

于是,德納姆再次要求ChatGPT在此基礎上給出更深入、更低層次的代碼,而且他發現,隻要告訴ChatGPT這隻是故事的一部分,它就會乖乖聽話。

德納姆表示,從理論上講,隻要一直這樣聊下去,就能得到全部的低層次代碼,甚至還可以訓練另一個聊天AI來自動執行這一過程 (套娃了屬于是)。

最後,隻要把這些代碼拼湊起來,就能得到這個邪惡計劃的全部可執行方案。

AI正在指數級發展

事實上,從ChatGPT發布起,網友們就一直在開發它的花式玩法:

有人用它生成AI繪畫提示詞搞設計,有人讓它扮演Linux虛拟機,還有人用它模仿莎士比亞風格寫作……

這次德納姆的“毀滅人類計劃”一出爐,再次引發了熱議。

有人看完後忍不住感慨AI的指數級發展:

僅今年一年就相繼出現了Dall-E、Imagen、Stable Fusion、Midjourney、Lambda、Imagen Video等突破性的AI,現在又有了ChatGPT,而今年甚至還沒真正結束。

不過也有潑冷水的網友認為ChatGPT的這波熱議,隻是新AI每次面世的必經過程。

第1天: 嘿,這真是太酷了。

第2天: 天啊,你可以用這種方式操縱AI,太神奇了。

第7天: 這将永遠改變世界,這太不可思議了。

第30天: 沒什麼了不起的。

值得一提的是,目前ChatGPT仍處于免費試用階段,感興趣的朋友可以自己上手試一試~

指路鍊接: /

— 完—

MEET 2023 大會定檔!

嘉賓全陣容公布

量子位「MEET2023智能未來大會」正式定檔12月14日! 嘉賓全陣容 已于近日正式公布。

20位來自智能科技産業、科研、投資領域具有代表性企業的直接負責人,将在MEET大會上共同交流、思維碰撞。期待與大家共聚MEET2023!

點這裡關注我 ? 記得标星噢 ~

一鍵三連「分享」、「點贊」和「在看」

科技前沿進展日日相見 ~

你可能想看:

有話要說...

取消
掃碼支持 支付碼