快速發展的開源人工智能助手正在挑戰自動化和安全性的極限

本文為機器翻譯
展示原文

一款開源人工智能助手在最近幾周迅速風靡開發者社區,自 1 月份發佈以來,已在 GitHub 上獲得了超過 10,200 個星標,並在 Discord 上擁有了 8,900 名成員。

Clawdbot承諾提供Siri從未實現的功能:一個真正能做事的AI。CreatorBuddy的首席執行官Alex Finn給他的Clawdbot機器人Henry發短信,讓它預訂餐廳。

“當 OpenTable 預訂失敗時,它利用 ElevenLabs 的技能打電話給餐廳完成了預訂,”Finn在 X 上寫道。“通用人工智能已經到來,但 99% 的人對此一無所知。”

開發者 Dan Peguine 週六在 X 上寫道,Clawdbot 的突出之處在於它能將用戶上下文保留在設備上,而且是開源的,發佈速度也異常快。

他還補充說,它支持主流即時通訊平臺,並提供持久內存和主動後臺任務功能,遠​​超一般個人助理。此外,普通用戶安裝起來也相當容易。

Clawdbot 使用模型上下文協議將 Claude 或 GPT 等 AI 模型與現實世界的行動連接起來,而無需人工干預。

該系統幾乎可以在任何硬件上本地運行,並通過您已使用的即時通訊應用(例如 WhatsApp、Telegram、Discord、Slack、Signal 和 iMessage)進行連接。它可以執行終端命令、控制瀏覽器、管理文件和撥打電話。

從投資建議到 OnlyFans 賬戶管理,只要你有創造力去構建它,有資源去支付代幣,並且有膽量去承擔事情出錯時的後果,一切似乎都是可能的。

儘管如此,Clawdbot 還是引起了安全社區中一些人的擔憂,他們發現了一個問題。

人工智能研究員路易斯·卡塔科拉(Luis Catacora)運行了Shodan掃描,發現了一個問題:“Clawdbot網關目前處於零認證狀態(它們只需連接到你的IP地址即可入侵)……這意味著他們可以訪問shell、自動化瀏覽器、獲取API密鑰。所有這些都完全暴露在外,任何人都可以完全控制你的設備。”

實際上,將功能強大的系統交給缺乏經驗的人使用,導致許多機器面臨風險。

解決方法相對簡單:將網關綁定從公共設置更改為本地設置,然後重啟。但這一步驟並不直觀,默認配置導致許多用戶容易受到遠程攻擊。

建議立即限制網絡訪問,添加適當的身份驗證和加密,輪換可能洩露的密鑰,並實施速率限制、日誌記錄和警報,以降低濫用風險。

該系統的大量代幣使用令用戶感到驚訝,促使開發人員建議採用成本更低的模型或本地部署來管理消耗。

MacStories的 Federico Viticci 在第一週就燒掉了 1.8 億個代幣。在Hacker News上,一位開發者報告說,他在兩天內花費了 300 美元,用於他認為的“基本任務”。

Clawdbot 是 PSPDFKit(現名為 Nutrient)的創始人 Peter Steinberger 的作品,他從退休生活中復出,打造了他所謂的“全天候個人助理”。

就目前而言,考慮到成本,建議您謹慎對待讓助理做的事情。

項目文檔包含安全指南和用於檢查配置錯誤的診斷命令。社區正以每天約 30 個 pull request 的速度快速發佈修復程序,但安全措施的採用率仍然落後於安裝率。

來源
免責聲明:以上內容僅為作者觀點,不代表Followin的任何立場,不構成與Followin相關的任何投資建議。
喜歡
61
收藏
11
評論