OpenClaw na NVIDIA Jetson Thor

OpenClaw — multi-agentný runtime s podporou MCP nástrojov — bol doteraz primárne cloudová platforma. V apríli 2026 prišla zásadná zmena: OpenClaw beží plne lokálne na NVIDIA Jetson Thor edge platforme. Ide o výrazný posun pre robotiká, medicínske systémy a všetky nasadenia, kde cloud jednoducho neprichádza do úvahy.

1. Čo je NVIDIA Jetson Thor

  • Nástupca Jetson Orin

    • Jetson Thor je edge AI platforma postavená na Blackwell architektúre — tej istej, na ktorej stoja NVIDIA GB200 dátacentrové čipy
    • Jetson Orin (predchodca) mal 275 TOPS; Thor posúva latku na **1000 TOPS INT8**

  • Kľúčové technické parametre

    • 128 GB unified memory — CPU, GPU aj AI akcelerátor zdieľajú rovnakú pamäťovú oblasť (odpadá kopírovanie dát medzi pamäťami)
    • výrazne zlepšená energetická efektívnosť oproti Orin — viac výkonu na watt
    • podpora FP8 a INT4 pre kvantikovanie modelov

  • Formát a nasadenie

    • dostupný ako developer kit aj ako modul pre OEM integráciu do robotických platforiem
    • dev kit cena: ~$2 000–3 000 (v závislosti od konfigurácie pamäte a príslušenstva)

(Jetson Thor nie je lacný, ale porovnateľný výkon by v cloude stál niekoľkonásobne viac pri dlhodobom nasadení.)

2. OpenClaw — architektúra a čo to vlastne je

  • Multi-agent runtime

    • OpenClaw umožňuje beh viacerých AI agentov paralelne s koordináciou medzi nimi
    • agenti môžu mať rôzne roly: plánovač, exekútor, validátor, sensor reader

  • MCP (Model Context Protocol) podpora

    • agenti môžu volať externé nástroje cez štandardizované MCP rozhranie
    • v edge nasadení to znamená: volanie lokálnych senzorov, kamer, aktuátorov a logiky bez akejkoľvek sieťovej závislosti

  • Pôvodne cloud-bound

    • OpenClaw bol navrhnutý pre cloudové nasadenie — veľké modely, neobmedzená pamäť, konektivita
    • port na Jetson Thor si vyžiadal optimalizácie: kvantikovanie modelov, správu pamäte, real-time scheduling

3. Výhody plne lokálneho nasadenia

  • Žiadne API náklady

    • cloudová inferencia pre produkčného agenta môže stáť tisíce eur mesačne
    • na Jetson Thor sú fixné náklady na hardware — inferencia potom prakticky zadarmo

  • Nízka latencia

    • rozhodovacia slučka pod 50 ms — kritické pre robotické systémy, kde latencia = bezpečnostné riziko
    • v cloude je sieťová latencia samotná 20–200 ms, k tomu inferenčný čas

  • Ochrana dát a súkromie

    • medicínske nasadenia: snímky pacienta, senzory vitálnych funkcií — nesmú opustiť nemocničnú sieť
    • vojenské/obranné aplikácie: taktické roboty s AI nesmú závisieť na vonkajšej konektivite
    • priemyselné IoT: výrobné dáta sú obchodné tajomstvo — edge spracovanie eliminuje riziko úniku

  • Odolnosť voči výpadkom konektivity

    • expedičná robotika, záchranné operácie, podmorské systémy — miesta, kde internet jednoducho nie je

4. Hardware-in-the-loop testovanie

  • Čo to znamená

    • robot agent prijíma vstupy z reálnych fyzických senzorov (nie simulácia) a v reálnom čase reaguje
    • Jetson Thor zabezpečuje lokálnu inferenciu; robot mechanicky koná na základe rozhodnutia modelu

  • Typický tok dát

    • kamera/LIDAR/senzory → Jetson Thor → OpenClaw agent → rozhodnutie → aktuátory robota
    • celý cyklus v <50 ms, plne autonómne, bez akejkoľvek cloudovej závislosti

  • Prečo je to dôležité

    • simulácia a reálny svet sa vždy trochu líšia — hardware-in-the-loop testing odhaľuje problémy, ktoré simulácia nevidí
    • latencia, fyzické šumy senzorov, mechanické limity — to všetko vstupuje do skutočných rozhodnutí agenta

5. Obmedzenia a kompromisy

  • Veľkosť modelu

    • 128 GB unified memory znie impozantne, ale kvantizovaný 70B model zaberá ~35–45 GB (Q4 kvantikovanie)
    • väčšie modely (120B+) sú na hrane alebo mimo dosahu — potrebné agresívne kvantikovanie (Q2/Q3) s dopadom na kvalitu

  • Tepelný a výkonový obal

    • Jetson Thor v plnom zaťažení spotrebúva ~60–80 W — pre robotické platformy s batériovým napájaním je to relevantná položka
    • dlhodobé nasadenie v uzavretých priestoroch vyžaduje aktívne chladenie

  • Softvérový ekosystém

    • portovanie modelov na Jetson vyžaduje optimalizáciu cez NVIDIA TensorRT alebo llama.cpp
    • nie každý model je z krabice optimalizovaný — development overhead je reálny

  • Veľkosť kontextového okna

    • menšie kvantikovane modely majú typicky kratší kontext a nižšiu kvalitu inštrukčného sledovania než veľké cloudové modely

6. Použité scenáre

  • Autonómne sklady

    • robotické ramená a vozíky s AI rozhodovaním na mieste — žiadna závislosť na konektivite skladu

  • Medicínska robotika

    • chirurgický asistent, rehabilitačný robot — spracovanie obrazu a senzorov lokálne, pacienti data neopúšťajú zariadenie

  • Expedičná a záchranná robotika

    • drony a pozemné roboty pre prieskum v oblastiach bez signálu (hory, katastrofy, vesmírny výskum)

  • Obranné systémy

    • taktické robotické platformy s požiadavkou na autonómiu bez sieťovej závislosti

7. Ako to replikovať — DIY prístup

  • Hardware

    • NVIDIA Jetson Thor Developer Kit: ~$2 000–3 000 (odporúčaná verzia s 128 GB)
    • chladenie: aktívny chladič alebo vodné chladenie pri dlhodobom plnom zaťažení
    • úložisko: NVMe SSD aspoň 1 TB pre modely a logy

  • Softvérový stack

    • NVIDIA JetPack SDK (Ubuntu-based, CUDA, TensorRT)
    • llama.cpp alebo vllm pre lokálnu inferenciu LLM
    • OpenClaw runtime (edge build) — dostupný cez GitHub releases
    • MCP server lokálne nakonfigurovaný pre senzory a aktuátory

  • Odporúčaný postup

    1. Nainštalovať JetPack a overiť GPU rozpoznanie
    2. Stiahnuť kvantizovaný model (napr. Llama 3 70B Q4 alebo Mistral 22B Q8)
    3. Nainštalovať OpenClaw edge build a nakonfigurovať MCP endpointy
    4. Otestovať latenciu pred pripojením fyzického hardvéru

8. Porovnanie s konkurenčnými edge platformami

  • Apple M3 Ultra (Mac Studio/Mac Pro)

    • 192 GB unified memory, excelentná energetická efektívnosť
    • výborne pre LLM inferenciu, ale nie je navrhnutý pre robotické/embedded nasadenia
    • cena: ~$5 000–10 000

  • AMD MI300X

    • primárne serverová platforma, nie edge
    • 192 GB HBM3 — masívna pamäť, ale veľká spotreba (~750 W) a veľký formát

  • Intel Gaudi 3

    • edge varianty existujú, ale ekosystém je slabší ako NVIDIA pre AI inference
    • cena/výkon menej priaznivý pre malé nasadenia

  • Záver porovnania

    • pre skutočné edge robotické nasadenia je Jetson Thor momentálne najlepšia platforma — kombinácia kompaktnosti, výkonu, ekosystému (CUDA, TensorRT) a unified memory

Zhrnutie

  • Jetson Thor prináša ~1000 TOPS a 128 GB unified memory v edge formáte — prvýkrát umožňuje beh skutočne veľkých modelov (do ~70B kvantizovaných) lokálne.

  • OpenClaw na Jetson Thor = plne lokálny multi-agent runtime s MCP nástrojmi, rozhodovacia slučka pod 50 ms, bez cloudovej závislosti.

  • Kľúčové výhody: žiadne API náklady, nízka latencia, ochrana dát — kritické pre medicínske, vojenské a expedičné nasadenia.

  • Obmedzenia sú reálne: veľkosť modelu, tepelný obal, softvérový overhead pri portovaní.

  • Pre tímy chcejúce experimentovať: dev kit za ~$2–3K a open-source stack je dostupný už dnes.