Przejdź do treści
Biblioteka skilli
AI i agenci · Integracja z narzędziem

uzu

/uzu

Obsługuje Uzu, lokalny silnik wnioskowania Mirai w Rust na komputerach z Apple Silicon: wstępne sprawdzenia, CLI, serwer i testy wydajności.

Repozytorium
jeo-skills ↗
Licencja
MIT
Ostatnia zmiana repozytorium
13.11.2026

Ocena i bezpieczeństwo

95/ 100Klasa: dobry
Format25 / 25
Frontmatter z nazwą i opisem, poprawna nazwa, opis do 1024 znaków, nazwa zgodna z folderem.
Odkrywalność25 / 25
Opis mówi, kiedy użyć skilla, ma sensowną długość i jest w 3. osobie.
Treść35 / 35
Co najmniej 150 słów i do 500 linii, nagłówki, listy kroków, przykłady albo kod.
Higiena10 / 15
Bez zaślepek typu TODO, bez ścieżek Windows, z licencją.
Ryzykobrak sygnałów w skanie
Pliki w paczce
4
Skrypty
1
Komentarze HTML
0
Adresy URL w SKILL.md
4
Przestarzałość

Brak sygnałów. Repozytorium zmienione 13.11.2026, bez odwołań do wycofanych modeli i API.

Licencja

MIT, otwarta: można używać i zmieniać, z zachowaniem informacji o autorze.

Co sprawdzić przed instalacją
  • 1 skrypt w paczce. Przejrzyj je przed instalacją, bo Claude może je uruchomić.

Skrypty: scripts/preflight.py

Co robi i kiedy

Obsługuje Uzu, lokalny silnik wnioskowania Mirai w Rust na komputerach z Apple Silicon: wstępne sprawdzenia, CLI, serwer i testy wydajności.

Oryginalny opis (EN)

Operate trymirai/uzu, Mirai's Rust-native local inference engine, on supported Apple Silicon or CPU-oriented source targets. Use when a user needs Uzu preflight, the `mirai` CLI, a pinned source checkout, local model acquisition, chat/server operation, benchmarking, or model-license and platform-fit guidance. Do not route llama.cpp, LM Studio, arbitrary GGUF conversion, CUDA/Linux-GPU claims, or unverified Windows production support here.

Jak działa

  1. When to use this skill
  2. Instructions
  3. Examples
  4. Best practices
  5. References
Sekcje z nagłówków SKILL.md, w oryginale · 51 linii, 600 słów
Podgląd SKILL.md
---
name: uzu
description: >
  Operate trymirai/uzu, Mirai's Rust-native local inference engine, on supported Apple
  Silicon or CPU-oriented source targets. Use when a user needs Uzu preflight, the `mirai`
  CLI, a pinned source checkout, local model acquisition, chat/server operation, benchmarking, or model-license
  and platform-fit guidance. Do not route llama.cpp, LM Studio, arbitrary GGUF conversion,
  CUDA/Linux-GPU claims, or unverified Windows production support here.
allowed-tools: Bash Read
compatibility: Requires Python 3.10+ for the offline preflight helper; source builds require the pinned repository's Rust toolchain. The primary runtime is Apple Silicon macOS with Metal; other source targets are CPU-oriented and/or in progress.
metadata:
  version: "1.1.0"
  source: https://github.com/trymirai/uzu
  upstream_commit: d76d468a1898cacc9c4920accf8f5ff099967107
---

# Uzu operator

## When to use this skill

Use this skill for **trymirai/uzu** operations: host/tool availability checks, the published
`mirai` CLI, a source checkout pinned to the reviewed commit, local chat or an OpenAI-compatible
server, a local benchmark, and model-resource/license decisions. It is not a generic local-LLM
router. If the request names llama.cpp or LM Studio, route to that product's skill; if it asks
for arbitrary GGUF conversion, route to a conversion-specific skill.

## Instructions

1. Run the side-effect-free helper before choosing a path:
   ```sh
   python3 .agent-skills/uzu/scripts/preflight.py --json
   ```
   From an installed skill root, use:
   ```sh
   python3 "$SKILLS_ROOT/uzu/scripts/preflight.py" --json
   ```
   Add `--repo PATH --expect-commit d76d468a1898cacc9c4920accf8f5ff099967107` only when a local checkout exists. The helper never runs Rust, Mirai, model, network, or service commands; `runtime_verified` remains false.
2. Prefer the published `mirai` path on Apple Silicon macOS when it is already available and the user has a confirmed model. Otherwise use the source path only with `cargo` and `rustc` present, a checkout at the reviewed commit, and explicit approval for any build or download side effects.
3. Read [references/upstream.md](references/upstream.md) for the pinned command, benchmark, target, model/license, and resource matrices before performing that branch. It is the source of truth for exact commands and citations.
4. Keep source and model actions separate. `cargo tools setup` can install rustup, uv, pnpm, targets, and Metal tooling; never invoke it as a probe. A first `mirai` or source-CLI run may download a checkpoint; obtain consent first and review disk/RAM or unified-memory capacity.
5. Keep serving loopback-bound (`127.0.0.1`) by default. Check `/v1/models` before one chat-completions request. Expose another interface only with an explicit secured target and controls.
6. State platform uncertainty plainly: Apple Silicon macOS is the primary Metal path; Intel macOS, Linux, Windows, WASM, and other non-Apple source targets are CPU-oriented and/or marked in progress. Do not claim CUDA, Linux-GPU acceleration, or production readiness from this preflight.
7. Treat Uzu's custom model format as a hard boundary. A model card's license applies to its weights; Uzu's MIT source license does not relicense them, and arbitrary GGUF compatibility is not implied.

## Examples

- **"Can Uzu run on this Mac?"** Run the helper, report OS/architecture plus separate `mirai` and source `cargo`/`rustc` availability, and label Metal/runtime activation as unverified. Do not install anything.
- **"Serve my already-downloaded model from a pinned checkout."** Preflight with `--repo` and `--expect-commit`, then follow the source server command in the reference, keeping localhost and recording model/host/commit metadata.
- **"Benchmark two models."** Use the reference `bench` command with a fixed task file and local paths; report measured host-specific results only, never catalog-page numbers as reproduced evidence.
- **"Document Uzu CUDA/GGUF/LM Studio support."** Reject the unsupported premise and route the named product or conversion workflow elsewhere.

## Best practices

- Keep the preflight result distinct from runtime proof: `ok` means offline checks passed, not that a model loaded, Metal accelerated, or a service answered.
- Pin the exact Uzu commit and resolve the model repository/card, `LICENSE`, and base-model license before downloading or redistributing weights.
- Record model identifier, revision/quantization, host, Uzu commit, task file, generation settings, and output path for every run.
- Use one loaded model/session at a time when memory is constrained; report approximate sizes as budgeting hints and re-check current card metadata.
- Troubleshoot in order: checkout/commit and tool availability, target/backend, model identifier/format, then loopback endpoint. Do not switch inference engines to hide a Uzu limitation.

## References

- [Pinned operational reference](references/upstream.md) — commands, endpoint shape, benchmark metadata, platform matrix, model/license matrix, and source citations.
- Pinned repository README: https://github.com/trymirai/uzu/blob/d76d468a1898cacc9c4920accf8f5ff099967107/README.md
- Pinned platform matrix: https://github.com/trymirai/uzu/blob/d76d468a1898cacc9c4920accf8f5ff099967107/.config/platforms.toml
- Mirai docs chat quickstart: https://docs.trymirai.com/quick-start/chat.md
Pliki w paczce (4)
  • SKILL.md 5 KB
  • evals/evals.json 4 KB
  • references/upstream.md 8 KB
  • scripts/preflight.py 7 KB

Wersje

W bazie nie ma innych skilli o nazwie uzu.

Migawka bazy z 13.11.2026 · wersja paczki 25f1ec17bd2c (skrót SHA-256 całej paczki)

Pobrania w ostatnich 30 dniach: 0 · ranking

Zgłoś problem z tym skillem: szkodliwa treść, błędny opis albo prośba autora o usunięcie.

Podobne skille

  • 84llama-cpp
    Uruchamia wnioskowanie LLM na CPU, Apple Silicon i kartach konsumenckich przez kwantyzację GGUF, gdy brak CUDA.
  • 100minicpm5-deploy-llama-cpp
    Uruchamia MiniCPM5-1B lub MiniCPM5-2B w llama.cpp z gotowych plików GGUF (F16, Q8_0, Q4_K_M), na CPU lub zwykłym GPU, przez llama-cli i llama-server.
  • 100llama-cpp-gguf-quantization
    Konwertuje i kwantyzuje modele GGUF w llama.cpp i uruchamia je na procesorach konsumenckich oraz Apple Silicon.
  • 95llama-cpp
    Uruchamia wnioskowanie LLM na CPU, Apple Silicon i kartach konsumenckich bez NVIDIA, z kwantyzacją GGUF od 1,5 do 8 bitów i 4 do 10 razy szybszym działaniem niż PyTorch na CPU.
  • 100llama-cpp
    Obsługuje, konfiguruje, testuje wydajność i diagnozuje llama.cpp na CPU, Metal, CUDA, ROCm, Vulkan i SYCL, w tym serwer llama-server z API zgodnym z OpenAI i strojenie pamięci.
  • 100gemma4-local-deploy
    Wdraża Gemma 4 12B lokalnie na Macu z Apple Silicon: instaluje llama.cpp, pobiera kwantyzowany model GGUF, wystawia API zgodne z OpenAI przez llama-server lub Ollama, konfiguruje tmux i sprawdza działanie.

Uwagi i zgłoszenia

Wiadomość trafi do Bartosza Sokolińskiego. Adres e-mail jest potrzebny tylko do odpowiedzi. Szczegóły w polityce prywatności.