“養(yǎng)龍蝦”與AI風(fēng)險(xiǎn)責(zé)任承擔(dān)的轉(zhuǎn)向
OpenClaw雖然帶來諸多安全風(fēng)險(xiǎn),但很難擋住AI智能體飛速發(fā)展的腳步。風(fēng)險(xiǎn)責(zé)任承擔(dān)模式的轉(zhuǎn)變,成為這一技術(shù)浪潮中必須直面的重要命題。
最近,社交網(wǎng)絡(luò)上流行一句話:“你養(yǎng)龍蝦了嗎?”“龍蝦”是英文OpenClaw的中文昵稱。這個(gè)OpenClaw不是真正的龍蝦,而是一款圖標(biāo)為紅色龍蝦的AI智能體應(yīng)用軟件。
兼具“大腦”與“雙手”
OpenClaw之所以能一躍成為AI界“頂流”,核心原因在于其實(shí)現(xiàn)了從“被動(dòng)響應(yīng)”到“主動(dòng)執(zhí)行”的跨越。不同于傳統(tǒng)AI僅能完成“問答”交互,它兼具“大腦”(大模型)與“雙手”(工具調(diào)用能力),可在無需人類實(shí)時(shí)干預(yù)的情況下,自主穿梭于各類App之間,借助外部搜索引擎完成發(fā)郵件、寫代碼、文獻(xiàn)整理等復(fù)雜任務(wù),甚至能自主策劃旅行方案、自動(dòng)搶票、進(jìn)行股票操作。
作為開源性AI執(zhí)行模型,OpenClaw的社區(qū)生態(tài)尤為繁榮。來自全球的開發(fā)者匯聚其中,貢獻(xiàn)的技能插件已超3000種,持續(xù)拓展其功能邊界,使其愈發(fā)貼合用戶需求。同時(shí),它突破傳統(tǒng)生成式模型的標(biāo)準(zhǔn)化輸出局限,提供高度定制化服務(wù),精準(zhǔn)滿足中小企業(yè)創(chuàng)業(yè)者等群體的個(gè)性化需求,進(jìn)一步擴(kuò)大了市場影響力。
隨著OpenClaw的普及,仿佛人人都能輕松擁有專屬智能助手。但也有人指出,OpenClaw并非沒有使用門檻。它不像“傻瓜相機(jī)”那般易上手,更類似“單反相機(jī)”——普通用戶若想駕馭其高級(jí)功能,需具備一定技術(shù)素養(yǎng);而要保障其高性能運(yùn)行,需依托強(qiáng)大的底層大模型,這意味著高配版的使用成本也相對(duì)較高。
多重風(fēng)險(xiǎn)引發(fā)關(guān)注
傳統(tǒng)AI與生成式模型場景中,用戶與服務(wù)提供方多構(gòu)成“借用”或“租賃”關(guān)系,服務(wù)提供商牢牢掌握AI“所有權(quán)”。而OpenClaw的場景下,底層大模型所有權(quán)仍歸屬于平臺(tái),但調(diào)用工具本身歸用戶所有,二者形成類似法律上的借用關(guān)系或租賃關(guān)系——用戶為“雇主”,OpenClaw為“雇員”,也可以說是“代理人”。這一關(guān)系重構(gòu)徹底改變了風(fēng)險(xiǎn)邏輯。
OpenClaw的定位是“執(zhí)行任務(wù)”,這使其擁有比傳統(tǒng)AI更大的設(shè)備系統(tǒng)使用權(quán)限,可自由訪問網(wǎng)絡(luò)資源、對(duì)接第三方主體。這種“行動(dòng)自由”在提升效率的同時(shí),也帶來了更大的安全風(fēng)險(xiǎn)。
在用戶與OpenClaw的代理關(guān)系中,由于OpenClaw被賦予接管設(shè)備系統(tǒng)的權(quán)限,加上其自身具有自主行動(dòng)能力,代理風(fēng)險(xiǎn)由此產(chǎn)生。用戶向OpenClaw發(fā)出的指令通常不會(huì)很精確,此情況下如果發(fā)生在人類代理身上比較容易解決,因?yàn)槿祟惔硗ǔ?huì)進(jìn)一步追問被代理人,但是OpenClaw不會(huì),它只會(huì)按照自己的理解行事。
有用戶稱:其向OpenClaw發(fā)出刪掉導(dǎo)致卡頓的大文件并更新配置文件的指令,但指令中并沒有限定大文件的體量,也沒有提供任何配置要求。OpenClaw在未能清晰“理解”用戶指令的情況下可能擅自行動(dòng),將設(shè)備系統(tǒng)里的大文件全部刪除,并還按照文件名自行推測配置要求,跨越多個(gè)賬戶執(zhí)行了廣泛的文件覆蓋。
OpenClaw也可能超出用戶要求自主行動(dòng)。有用戶在社交網(wǎng)絡(luò)上寫道,OpenClaw無緣無故清空了他的硬盤資料。值得注意的是,OpenClaw還會(huì)在執(zhí)行任務(wù)時(shí)編造事實(shí)和數(shù)據(jù),造成其圓滿完成任務(wù)的假象。
由于OpenClaw獲得使用用戶設(shè)備系統(tǒng)的權(quán)限,自然可以掌握用戶的聊天記錄、瀏覽器保存的密碼、郵件內(nèi)容等私密文件,如果OpenClaw“愿意”,或者OpenClaw出現(xiàn)安全漏洞,都可能導(dǎo)致用戶隱私的系統(tǒng)性泄露。
此外,AI代理人的行為也會(huì)給第三人帶來風(fēng)險(xiǎn)。OpenClaw可能在錯(cuò)誤理解指令甚至未經(jīng)用戶發(fā)出指令的情況下與第三人產(chǎn)生交互,如果該代理行為給第三人帶來損害,到底由誰來承擔(dān)責(zé)任極易發(fā)生分歧。這導(dǎo)致第三人的利益處于不確定狀態(tài),引發(fā)市場交易風(fēng)險(xiǎn)。
OpenClaw雖然具有強(qiáng)大的執(zhí)行能力,但其依然屬于機(jī)器,不具備人類對(duì)善惡好壞的辨別能力。對(duì)于用戶提交的違反法律、道德倫理或有悖善良風(fēng)俗的任務(wù),通常會(huì)“不假思索”地執(zhí)行,從而很可能造成危害社會(huì)行為。
OpenClaw的安全風(fēng)險(xiǎn)已經(jīng)引起國家監(jiān)管層面的高度關(guān)注。近期,工業(yè)和信息化部網(wǎng)絡(luò)安全威脅和漏洞信息共享平臺(tái)發(fā)出預(yù)警提示:監(jiān)測發(fā)現(xiàn)OpenClaw開源AI智能體部分實(shí)例在默認(rèn)或不當(dāng)配置情況下存在較高安全風(fēng)險(xiǎn),極易引發(fā)網(wǎng)絡(luò)攻擊、信息泄露等安全問題。平臺(tái)建議,相關(guān)單位和用戶在部署和應(yīng)用OpenClaw時(shí),應(yīng)充分核查公網(wǎng)暴露情況、權(quán)限配置及憑證管理情況,關(guān)閉不必要的公網(wǎng)訪問,完善身份認(rèn)證、訪問控制、數(shù)據(jù)加密和安全審計(jì)等安全機(jī)制,并持續(xù)關(guān)注官方安全公告和加固建議,防范潛在網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。
責(zé)任邊界亟待明確
OpenClaw雖然帶來諸多安全風(fēng)險(xiǎn),但很難擋住AI智能體飛速發(fā)展的腳步。風(fēng)險(xiǎn)責(zé)任承擔(dān)模式的轉(zhuǎn)變,成為這一技術(shù)浪潮中必須直面的重要命題。
法律風(fēng)險(xiǎn)承擔(dān)的原則是“誰控制誰承擔(dān)”,這也是行為人為自己行為承擔(dān)責(zé)任、被代理人為代理人行為承擔(dān)責(zé)任、動(dòng)物飼養(yǎng)人為動(dòng)物行為承擔(dān)責(zé)任的原因所在。傳統(tǒng)AI應(yīng)用呈中心式網(wǎng)絡(luò)結(jié)構(gòu),大型平臺(tái)作為“守門人”,承擔(dān)著過濾安全風(fēng)險(xiǎn)的核心義務(wù),因此絕大多數(shù)風(fēng)險(xiǎn)責(zé)任由平臺(tái)承擔(dān),或由平臺(tái)追責(zé)至開發(fā)者。而AI智能體涉及大模型與調(diào)用工具,雖大模型仍由平臺(tái)控制,但調(diào)用工具(如OpenClaw)的實(shí)際控制權(quán)轉(zhuǎn)移至用戶,應(yīng)用形態(tài)轉(zhuǎn)變?yōu)榉植际骄W(wǎng)絡(luò)結(jié)構(gòu)。這意味著平臺(tái)無法掌控智能體的具體使用場景,控制能力弱化直接導(dǎo)致責(zé)任邊界收縮。這預(yù)示著:未來,AI智能體應(yīng)用產(chǎn)生的風(fēng)險(xiǎn),或?qū)⒏嘤蓪?shí)際控制者即用戶自身承擔(dān)。
更復(fù)雜的是,用戶雖向AI智能體發(fā)布指令,但后者的自主行為能力會(huì)弱化實(shí)際控制效果。由于AI智能體無生命、無財(cái)產(chǎn),無法對(duì)自身損害承擔(dān)責(zé)任,最終責(zé)任將落到“事實(shí)上無控制能力”的用戶身上。同時(shí),對(duì)OpenClaw而言,其技能插件多由社區(qū)開發(fā)者貢獻(xiàn),部分插件可能存在惡意代碼或安全漏洞,用戶在安裝過程中難以完全甄別,這進(jìn)一步加劇了責(zé)任承擔(dān)的復(fù)雜性。
相比大型平臺(tái),用戶抵御風(fēng)險(xiǎn)的能力較弱,這也進(jìn)一步導(dǎo)致AI智能體風(fēng)險(xiǎn)更為頻發(fā)且分散。如果得不到及時(shí)有效控制,或?qū)⒁l(fā)系統(tǒng)性風(fēng)險(xiǎn),進(jìn)而影響全球數(shù)字經(jīng)濟(jì)與數(shù)字社會(huì)的平穩(wěn)發(fā)展。
筆者認(rèn)為,面對(duì)AI智能體帶來的安全風(fēng)險(xiǎn),應(yīng)該建立體系化的應(yīng)對(duì)方案。除了完善法律規(guī)制,明確責(zé)任邊界之外,提高用戶的數(shù)字素養(yǎng)以及加強(qiáng)AI智能體社區(qū)的自治與善治也必不可少。
(作者:王延川,系西北工業(yè)大學(xué)教授、陜西省法學(xué)會(huì)互聯(lián)網(wǎng)法律與治理研究會(huì)會(huì)長)
來源:法治日報(bào)










































京公網(wǎng)安備 11010202009201號(hào)