Kohalikud mudelid vähendavad üht liiki riski: promptid ja dokumendid ei pea inferentsiks sinu kohtvõrgust lahkuma. Teine risk jääb alles: tööriistadega agent saab endiselt lugeda faile, avada võrguühendusi ja teha soovimatuid toiminguid.
NVIDIA NemoClaw on avatud lähtekoodiga näidislahendus, mis võimaldab agente turvalisemalt käitada NVIDIA OpenShelli liivakastis. See hõlmab juhendatud kasutuselevõttu, võrgupoliitikat, elutsükli haldust ja marsruuditud inferentsi. Toetatud DGX-platvormidel võib paigaldaja pakkuda Express-režiimis kiiret teed hallatud kohaliku inferentsini.
NVIDIA ametlik platvormitoe maatriks nimetab NemoClawi 10. augusti 2026 seisuga alfaetapis varase eelvaate projektiks, millele hooldajad reageerivad võimaluste piires ja millel puudub tootmistaseme teenusetaseme lepe. Ka OpenShelli lähtekoodihoidla nimetab käituskeskkonda alfaetapis olevaks ning kirjeldab praegust töökorraldust ühe arendaja, ühe keskkonna ja ühe lüüsina. Hinda mõlemat selle järgi ka siis, kui mõni konkreetne funktsioon või platvormirida on märgitud testituks.
Ametlikud sisenemispunktid:
- Sparki tegevusjuhend: build.nvidia.com/spark/nemoclaw
- Lähtekood ja veateated: github.com/NVIDIA/NemoClaw
- Dokumentatsioonikeskus: docs.nvidia.com/nemoclaw
- OpenShell: github.com/NVIDIA/OpenShell
Seotud kontekst: mis DGX Spark on, kohaliku inferentsi tegelikud piirid, privaatse AI juurutusmustrid.
NemoClaw ja OpenShell piiravad võimaliku kahju ulatust, kuid ei kõrvalda agentidega seotud riske. Mõlemad projektid on alfaetapis ning NVIDIA Sparki tegevusjuhend käsitleb lahendust demona, mille jääkriskid hõlmavad andmeleket, pahatahtliku koodi käivitamist, soovimatuid toiminguid ja promptisüsti. Kasuta esimeseks paigalduseks puhast keskkonda. Ära ühenda tootmise pääsuandmeid, kliendiandmebaase ega laiade õigustega pilvekontosid enne, kui poliitika, logimine ja inimese kinnitusetapid on läbi mõeldud.
Mis NemoClaw on (ja ei ole)
| See on | See ei ole |
|---|---|
| Näidislahendus ja käsurealiides liivakastis agentidele | Vastavussertifikaat |
| OpenShelli isolatsioon koos poliitikareeglitega | Garantii promptisüsti vastu |
| Marsruuditud inferents kontrollitud taustateenustesse, sealhulgas kohalikku vLLM-i Sparkil | Nõue kasutada alatiseks ainult üht agentitoodet |
| Alfaetapis varase eelvaate lahendus versiooniliste väljalasetega | Otsene asendus sinu IAM-i ja DLP-programmidele |
Toetatud agendid (NemoClaw README järgi; kontrolli praeguseid dokumente installipäeval):
- OpenClaw, vaikimisi mitmekanaliline agentivärav
- Hermes Agent, Nous Researchi ise majutatud käituskeskkond terminali, sõnumside, tööriistade ja mäluga
- LangChain Deep Agents Code, terminalipõhine programmeerimise käituskeskkond, millel pole liivakastisisest lüüsi ega juhtpaneeli
NVIDIA praegune tugimaatriks märgib kõik kolm agenti testituks. See ei tähenda tootmisvalmidust: maatriksi järgi on Deep Agents Code’i tegeliku käituskeskkonna laiemad vastuvõtukatsed ja terminaliagendi diagnostika endiselt pooleliolevad ning maatriks ei väida, et Hermes ja OpenClaw oleksid tootmises samaväärsed.
Agendi valid kanalite kasutuskogemuse ja tööriistakäsitluse järgi; NemoClaw lisab selle ümber liivakasti ja juhendatud kasutuselevõtu.
Praegune paigaldus DGX Sparkil
OpenClawi kiirjuhend kasutab NVIDIA majutatud paigaldusskripti ja viib seadistuse lõpule käsuga nemoclaw onboard. Toetatud DGX Sparkil ja ajakohase DGX OS-iga võib paigaldaja pakkuda Express-režiimis hallatud kohalikku inferentsi. Paigaldus teeb üldjoontes järgmist:
- Tõmbab või kinnitab sõltuvusi (Node.js, OpenShell, NemoClaw CLI) vastavalt vajadusele.
- Seadistab Sparkil hallatud vLLM-i või tegevusjuhendis parajasti kirjeldatud kohaliku inferentsi lahenduse.
- Valib paigaldaja soovitatud kohaliku vaikemudeli ning algse poliitika- ja liivakastiprofiili.
- Loob liivakasti ja avab valitud agendi toetatud liidese. OpenClawil ja Hermesel on juhtpaneelid; Deep Agents Code töötab terminalis ning sellel pole liivakastisisest lüüsi ega juhtpaneeli.
Ära kirjuta mudelinime arhitektuuridokumentidesse muutumatu tõena. Express Installi vaikemudel võib tegevusjuhendi versioonide vahel muutuda. Kasuta sõnastust „paigaldaja soovitatud kohalik mudel“, salvesta paigaldaja väljundist täpne ID oma käitusjuhendisse ja kontrolli uue paigalduse ajal uuesti lehte build.nvidia.com/spark/nemoclaw.
Kohandatud paigaldus on endiselt võimalik, kui vajad teist agenti, inferentsipakkujat või poliitikaseadistust. Hermese jaoks soovitab praegune NVIDIA dokumentatsioon aliast nemohermes onboard ja toetab ka käsku nemoclaw onboard --agent hermes. Hermese valimiseks majutatud paigaldaja kaudu määra NEMOCLAW_AGENT=hermes. Kontrolli paigalduspäeval Hermese kiirjuhendit.
Eeltingimused Sparki tegevusjuhendi järgi
- DGX Spark klaviatuuri/monitoriga või SSH-ga.
- Värske, uuendatud DGX OS.
- Töötav GPU-tuvastus ja Docker; tegevusjuhend eeldab ajakohast Dockerit, seega kontrolli enne NemoClawi tõrkeotsingut käske
nvidia-smijadocker info.
Valikuline hiljem: sõnumikanalid (näiteks Telegram) ja veebiotsingu API-d. Need laiendavad võrgupoliitika pinda; käitle neid teise muudatusaknana, mitte vaikimisi.
Poliitikakihid: osa, mis loeb
OpenShelli README kirjeldab nelja liivakastipoliitika valdkonda: failisüsteem, võrk, protsess ja inferents. NemoClawi praegune turvadokumentatsioon kirjeldab viit kaitsekihti, lisades lüüsi autentimise ehk juhtkihi piiri, mis määrab, millised seadmed ja kliendid pääsevad lüüsi või juhtpaneelile. See on seotud turvakiht, mitte viies liivakastipoliitika valdkond.
| Kiht | Kaitseb | Praegune muudetavus |
|---|---|---|
| Failisüsteem | Lugemised ja kirjutamised väljaspool lubatud teid ning kaitstud käitusolekut | Nõuab liivakasti uuesti loomist |
| Võrk | Volitamata väljuvad ühendused ja andmete väljaviimine | Poliitikamuudatuse või operaatori kinnituse kaudu käigult uuendatav |
| Protsess | Õiguste suurendamine, harupommid ja ohtlikud süsteemikutsed | Nõuab liivakasti uuesti loomist |
| Inferents | Pääsuandmete lekkimine ja lubamatu mudelikasutus | Muudetav NemoClawi inferentsi vahetamise käsuga |
Lüüsi autentimine kaitseb olemasolu korral juurdepääsu lüüsile ja juhtpaneelile. NVIDIA dokumentatsiooni järgi määratakse see praegu tõmmise koostamisel või kasutuselevõtu ajal, mitte käigult uuendatava liivakastipoliitikana.
Disaini tagajärjed:
- Otsusta failisüsteemi haakepunktid enne püsiva liivakasti loomist. Kodukataloogi hilisem avamine võib anda kohalikule agendile ligipääsu kõigile serveris olevatele SSH-võtmetele.
- Käsitle võrgupoliitikat muudetava lubatud sihtkohtade loendina: sõnumiveebikonksud, otsingu-API-d ja sisemised HTTP-lõpp-punktid tuleb nimetada selgesõnaliselt. Hoia OpenShelli lüüs ja kõik edastatud juhtpaneelid loopback-liidesel või muul teadlikult juurdepääsupiiranguga piiril; üksnes lüüsi autentimisest ei piisa avalikku võrku avatud agendi juhtpaneeli kaitsmiseks.
- Suuna inferents kontrollitud ühenduse kaudu, et agent ei saaks konfidentsiaalseid prompte vaikimisi avalikku API-sse saata.
- Loe NVIDIA võrgupoliitikaid ja turvasoovitusi enne Balanced-profiili või vaikesätete lõdvendamist.
Liivakast ei tähenda tühja auditijälge. Määra, kes tohib lugeda agentide logisid, kui kaua tööriistajälgi hoitakse ja kas kanalite transkriptsioonid säilitatakse. Pilvekanalitega ühendatud kohalik inferents võib endiselt sisu nende kanalite kaudu välja lekitada.
OpenClaw vs Hermes vs „lihtsalt OpenShell“
| Valik | Millal sobib |
|---|---|
| OpenClaw (vaikimisi) | Vajad mitmekanalilist agentiväravat ning juhtimisliidest |
| Hermes | Vajad ise majutatud käituskeskkonda, mis keskendub tööriistadele, mälule, ajastusele ja veebikonksudele; n8n võib paikneda mujal tarkvarapinus |
| Deep Agents Code | Vajad NemoClawi dokumenteeritud testitud, üksnes terminalis töötavat LangChaini lahendust ja saad arvestada tugimaatriksis nimetatud tegeliku käituskeskkonna pooleliolevate vastuvõtukatsetega |
| OpenShell üksi | Vajad alfaetapis liivakasti käituskeskkonda ilma NemoClawi kasutuselevõtu ja näidislahenduseta ning hindad teadlikult selle praegust ühele kasutajale mõeldud tööpiiri |
NemoClaw on valikuline integratsioonikiht, mitte kohustuslik usutunnistus. Tootmist meenutavas demos on vältimatud poliitika, marsruuditud inferents ja vähimate õigustega tööriistad, olenemata kasutatavast agendiprogrammist.
Hermese algallika kiirjuhendid ja OpenClawi turvadokumendid kehtivad ka liivakastis: kanalite lubatud loendid, sidumine ja grupis mainimise reeglid on olulised, sest tööriistad võivad hõlmata käsukesta, faile ja brauserit. OpenShell piirab agendi juurdepääsu serverile, kuid ei taga head kanalihügieeni. Kontrolli paigalduspäeval kehtivat agentide käitusdokumentatsiooni: OpenClawi dokumendid, ametlik Hermese dokumentatsioon ja kehtiv NemoClawi Hermese kiirjuhend.
Ebaõnnestumismustrid ja operatsioonilised piirangud
| Ebaõnnestumine | Mis läheb valesti | Kontroll |
|---|---|---|
| Kasutuselevõtt saastunud serveris | Agent võib laiade haakepunktide kaudu pärida tundlikke faile | Kasuta esimesel korral puhast testkeskkonda |
| Liiga avar võrgupoliitika | Promptisüst viib andmete väljaviimiseni HTTP kaudu | Rakenda ranget väljuva liikluse poliitikat ja kinnita uued sihtkohad teadlikult |
| Autentimata kohalik vLLM | Teised kohtvõrgu kasutajad saavad privaatset mudelit kasutada | Seo teenus privaatliidesega, lisa autentimine ja tulemüür |
| Sidumisreegliteta kanal | Võõrad käivitavad tööriistu | OpenClawi või Hermese lubatud loendid, sidumine ja mainimisreeglid |
| Alfaetapis tarkvara käsitlemine valmislahendusena | Uuendus põhjustab katkestuse | Fikseeri versioonid, loe väljalaske- ja turbemärkmeid ning uuenda etappide kaupa |
| Toimingutel puudub inimese kinnitus | Agent saadab kirja, ühendab koodi või kustutab andmeid | Nõua suure mõjuga tööriistade kasutamisel kinnitust |
Vaata NemoClawi väljalaskemärkmeid ja SECURITY.md, fikseeri testitud väljalaske versioon ning kasuta dokumenteeritud privaatset kanalit turvaprobleemidest teatamiseks.
Kuidas see sobib suuremasse privaatse AI tarkvarapinu
NemoClaw ühel Sparkil on sageli pikema arhitektuuri esimene samm:
| Kiht | Näide |
|---|---|
| Inferents | Kohalik vLLM Sparkil Express Installi või käsitsi paigaldusega; hiljem tensorparalleelne lahendus kahel Sparkil |
| Agent | OpenClaw või Hermes OpenShelli sees NemoClaw kaudu |
| Automatiseerimine | n8n (või sarnane) LAN-is, mis kutsub Hermese/OpenClaw webhooke deterministlikuks torustikuks |
| Inimesed | Kinnitusväravad CRM-kirjutustele, väljaminevale postile, tootmisshellile |
Ükski neist kihtidest ei pea pärinema ühelt tootjalt. Püsiv põhimõte on: deterministlik integratsiooniloogika väljaspool mudelit, hinnangut nõudev töö agendis ning poliitika mõlema ümber. Sparki klastri, kohaliku OpenAI-ga ühilduva mudeliserveri, n8n-i ja Hermese ühendamine on arhitektuurivalik, mitte nõue käivitada kõik komponendid esimesel päeval.
Soovitatud esimene tee (Spark)
- Uuenda DGX OS; kinnita
nvidia-smija Dockeri GPU juurdepääs. - Järgi Sparki Express Installi juhendit; salvesta paigaldaja valitud mudeli ID ja poliitikaprofiil.
- Kasuta veebi- või terminaliliidest ainult mittetundlike sisenditega, kuni failisüsteemi- ja võrgupoliitikad on üle vaadatud.
- Lisa üks kanal või üks sisemine HTTP-tööriist, mitte viis.
- Kirjuta üheleheküljeline käitusjuhend: kuidas liivakast peatada või hävitada, kanali pääsutõendid tühistada, toetatud olekutõmmis teha või taastada ning kasutada turvaliselt paigaldatud agendi eemaldamiskäsku. Hermese praegune dokumentatsioon kasutab käsku
nemohermes uninstall. - Alles siis anna agendile juurdepääs privaatsetele andmekorpustele. Kui kvaliteet ei vasta ootustele, arvesta kohaliku inferentsi tegelike piiridega.
Vastuvõtukontrollid enne „päris“ andmeid
- Failisüsteemi haakepunktid vastavad kavandatud lubatud teede loendile ja kodukataloogi ei jagata kogemata.
- Võrgupoliitika keelab ootamatu väljuva liikluse; katsepäring keelatud serverisse ebaõnnestub.
- Inferentsiliiklus läheb seadistatud kohalikku taustateenusesse, mitte juhusliku avaliku API võtmega teenusesse.
- Kanali sidumine ja lubatud saatjate loend lükkavad tundmatu saatja tagasi.
- Saad liivakasti peatada või hävitada ja kasutada dokumenteeritud eemaldamisteed, seejärel inventeerida allesjäänud konteinerid, teenusepakkujad, pääsuandmed ja säilitatud oleku.
NVIDIA praeguse eemaldamisdokumentatsiooni järgi eemaldab nemohermes uninstall --yes aktiivsed NemoClawi käitusressursid, kuid säilitab vaikimisi rebuild-backups/, backups/ ja sandboxes.json. Säilitatud registrikirjed ei ole pärast uuesti paigaldamist automaatselt kasutatavad, sest eemaldamine kustutab lüüsi, teenusepakkujate registreeringud ja tõmmised, millele need viitasid. Ära käsitle säilitatud metaandmeid taasteplaanina enne, kui oled tutvunud praeguse hostifailide ja oleku kirjeldusega.
Kasuta --destroy-user-data ainult siis, kui soovid need säilitatud varukoopiad ja registri metaandmed kustutada. --yes kinnitab eemaldamise küsimused, kuid ei kustuta iseenesest säilitatud kasutajaandmeid. Katseta täpselt fikseeritud versiooni käsku puhtas keskkonnas ja kontrolli, mis alles jääb. Selles artiklis ei ole seda eemaldamisteed käitatud.
Ära tee seda veel
- Ära kleebi tootmise API-võtmeid vestlusse koodiagendiga, mis „aitab paigaldada“, kui puuduvad tundliku sisu eemaldamise reeglid. Algprojekti käivituspromptides olev hoiatus on põhjendatud.
- Ära eelda, et liivakast muudab reguleeritud tervise- või õigusotsused turvaliseks.
- Ära jäta võrgupoliitikat vahele, sest „see on ainult LAN-is.“
- Ära dokumenteeri konkreetset vaikimisi mudelinime igaveseks arhitektuuristandardiks.
NVIDIA kirjeldab NemoClawi Sparkil alfaetapis varase eelvaate viisina käitada toetatud agente OpenShelli taga ja suunata inferents kontrollitud teenusesse. Enne juurutuse toimivaks nimetamist kontrolli kogu teekonda, sealhulgas keelatud toimingute tõkestamist, eemaldamist ja taastamist.
