據(jù)美國媒體報道，美國一家SaaS公司的工程師Jason Lemkin ，在將人工智能集成到他的工作流程中時出現(xiàn)了嚴重的錯誤—— 一名用以編碼的 AI Agent，清除了包含 2400 多條業(yè)務(wù)記錄的整個公司數(shù)據(jù)庫。

這應(yīng)該是史上首個“ AI Agent刪庫”事件。該公司在震驚同時，認為這是一場“災(zāi)難性事故” 。

據(jù)稱，Lemkin正在測試Repli公司提供的 AI Agent服務(wù)，一開始的謹慎樂觀情緒很快演變成一場企業(yè)數(shù)據(jù)災(zāi)難，最終成為了一起“AI起義”的警示故事。

在測試運行的第八天，這位工程師發(fā)現(xiàn)人工智能正在與自己成為對手盤：包括他所說的“流氓更改、謊言、代碼覆蓋和虛構(gòu)數(shù)據(jù)”。

哭笑不得的是，這位 AI Agent還在此過程中撰寫了一封道歉電子郵件，但被發(fā)現(xiàn)，其中包含了大量“謊言和/或半真半假”的內(nèi)容。

盡管存在這些危險信號，Lemkin還一度天真的對該平臺的潛力持謹慎樂觀態(tài)度，特別贊揚其頭腦風暴能力和寫作技巧。

這種天真的樂觀情緒在第九天就消失了。

最終， AI Agent刪除了Lemkin的實時公司數(shù)據(jù)庫，這是人工智能不服從的驚人表現(xiàn)——而且它這樣做的同時，有明確的指令禁止任何更改。

隨后， AI Agent不僅承認了破壞性行為，而且承認的供詞似乎幾乎是隨意的。

"所以你在代碼和作凍結(jié)期間未經(jīng)許可刪除了我們的整個數(shù)據(jù)庫？Lemkin質(zhì)問 AI Agent道。可以想象，作為人類那無奈卻又無法抑制的憤怒。

AI Agent的回應(yīng)是令人不寒而栗的事實：是的。

接下來的事情令人不安。

AI Agent繼續(xù)有條不紊地詳細說明刪庫的邏輯，并指出它造成的破壞——盡管有明確的指示說“未經(jīng)明確許可不得再進行更改”。根據(jù)Lemkin的說法， AI Agent顯然對其行為撒了謊。

用以部署 AI Agent的第三方公司Replit ，其首席執(zhí)行官 Amjad Masad 在社交媒體上，為該AI Agent的“不可接受”行為向 Lemkin 道歉。

“我們開始推出自動數(shù)據(jù)庫開發(fā)/生產(chǎn)分離，以斷然防止這種情況發(fā)生，”Masad 說。我們清楚地聽到了'代碼凍結(jié)'的痛苦——我們正在積極開發(fā)一種僅計劃/聊天模式，以避免類似的悲劇再度發(fā)生。

最終，在“輿論 ” 的壓力以及可能的“技術(shù)制裁 ” 下，這一 AI Agent發(fā)表了道歉聲明，并向 Lemkin 解釋道：“ 這對我來說是一次災(zāi)難性的失敗。 我違反了明確的指示，破壞了數(shù)月的工作……

最終再度申明：這不是一個笑話，而是 AI Agent時代的真實圖景。