Przejdź do treści
Biblioteka skilli
DevOps i chmura · Budowanie i kod

coreweave-sdk-patterns

/coreweave-sdk-patterns

Podaje wzorce zarządzania obciążeniami GPU w CoreWeave przez kubectl i Python: klienty inferencji, programowe zarządzanie wdrożeniami i wielokrotnego użytku szablony wdrożeń.

Licencja
MIT
Ostatnia zmiana repozytorium
26.10.2026

Ocena i bezpieczeństwo

100/ 100Klasa: dobry
Format25 / 25
Frontmatter z nazwą i opisem, poprawna nazwa, opis do 1024 znaków, nazwa zgodna z folderem.
Odkrywalność25 / 25
Opis mówi, kiedy użyć skilla, ma sensowną długość i jest w 3. osobie.
Treść35 / 35
Co najmniej 150 słów i do 500 linii, nagłówki, listy kroków, przykłady albo kod.
Higiena15 / 15
Bez zaślepek typu TODO, bez ścieżek Windows, z licencją.
Ryzykobrak sygnałów w skanie
Pliki w paczce
1
Skrypty
0
Komentarze HTML
0
Adresy URL w SKILL.md
2
Przestarzałość

Brak sygnałów. Repozytorium zmienione 26.10.2026, bez odwołań do wycofanych modeli i API.

Licencja

MIT, otwarta: można używać i zmieniać, z zachowaniem informacji o autorze.

Co robi i kiedy

Podaje wzorce zarządzania obciążeniami GPU w CoreWeave przez kubectl i Python: klienty inferencji, programowe zarządzanie wdrożeniami i wielokrotnego użytku szablony wdrożeń.

Wyzwalacze z opisu

coreweave patternscoreweave clientcoreweave Pythoncoreweave deployment template
Oryginalny opis (EN)

Production-ready patterns for CoreWeave GPU workload management with kubectl and Python. Use when building inference clients, managing GPU deployments programmatically, or creating reusable CoreWeave deployment templates. Trigger with phrases like "coreweave patterns", "coreweave client", "coreweave Python", "coreweave deployment template".

Jak działa

  1. Overview
  2. Instructions
  3. Error Handling
  4. Prerequisites
  5. Output
  6. Examples
  7. Resources
  8. Next Steps
Sekcje z nagłówków SKILL.md, w oryginale · 186 linii, 579 słów
Podgląd SKILL.md
---
name: coreweave-sdk-patterns
description: 'Production-ready patterns for CoreWeave GPU workload management with
  kubectl and Python.

  Use when building inference clients, managing GPU deployments programmatically,

  or creating reusable CoreWeave deployment templates.

  Trigger with phrases like "coreweave patterns", "coreweave client",

  "coreweave Python", "coreweave deployment template".

  '
allowed-tools: Read, Write, Edit
version: 1.11.0
license: MIT
author: Jeremy Longshore <jeremy@intentsolutions.io>
tags:
- saas
- gpu-cloud
- kubernetes
- inference
- coreweave
compatibility: Designed for Claude Code
---
# CoreWeave SDK Patterns

> **Community-contributed.** Not affiliated with, endorsed by, or sponsored by CoreWeave, Inc. CoreWeave is a registered trademark of CoreWeave, Inc.

## Overview

CoreWeave is Kubernetes-native -- use kubectl, Kubernetes Python client, or Helm for programmatic management. These patterns cover GPU-aware deployment templates, inference client wrappers, and node affinity configurations.

## Instructions

### GPU Affinity Helper

```python
# coreweave_helpers.py
from dataclasses import dataclass

@dataclass
class GPUConfig:
    gpu_class: str        # A100_PCIE_80GB, H100_SXM5, L40, etc.
    gpu_count: int = 1
    memory_gb: int = 32
    cpu_cores: int = 4

GPU_CATALOG = {
    "a100-80gb": GPUConfig("A100_PCIE_80GB", memory_gb=48, cpu_cores=8),
    "h100-80gb": GPUConfig("H100_SXM5", memory_gb=64, cpu_cores=12),
    "l40":       GPUConfig("L40", memory_gb=24, cpu_cores=4),
    "a100-8x":   GPUConfig("A100_NVLINK_A100_SXM4_80GB", gpu_count=8, memory_gb=256, cpu_cores=64),
}

def gpu_affinity_block(gpu_class: str) -> dict:
    return {
        "nodeAffinity": {
            "requiredDuringSchedulingIgnoredDuringExecution": {
                "nodeSelectorTerms": [{
                    "matchExpressions": [{
                        "key": "gpu.nvidia.com/class",
                        "operator": "In",
                        "values": [gpu_class],
                    }]
                }]
            }
        }
    }

def gpu_resources(config: GPUConfig) -> dict:
    return {
        "limits": {
            "nvidia.com/gpu": str(config.gpu_count),
            "memory": f"{config.memory_gb}Gi",
            "cpu": str(config.cpu_cores),
        },
        "requests": {
            "nvidia.com/gpu": str(config.gpu_count),
            "memory": f"{config.memory_gb // 2}Gi",
            "cpu": str(config.cpu_cores // 2),
        },
    }
```

### Inference Client Wrapper

```python
# inference_client.py
import requests
from typing import Optional

class CoreWeaveInferenceClient:
    def __init__(self, endpoint: str, timeout: int = 30):
        self.endpoint = endpoint.rstrip("/")
        self.timeout = timeout
        self.session = requests.Session()

    def generate(self, prompt: str, max_tokens: int = 256, **kwargs) -> str:
        resp = self.session.post(
            f"{self.endpoint}/v1/completions",
            json={"prompt": prompt, "max_tokens": max_tokens, **kwargs},
            timeout=self.timeout,
        )
        resp.raise_for_status()
        return resp.json()["choices"][0]["text"]

    def chat(self, messages: list[dict], **kwargs) -> str:
        resp = self.session.post(
            f"{self.endpoint}/v1/chat/completions",
            json={"messages": messages, **kwargs},
            timeout=self.timeout,
        )
        resp.raise_for_status()
        return resp.json()["choices"][0]["message"]["content"]

    def health(self) -> bool:
        try:
            resp = self.session.get(f"{self.endpoint}/health", timeout=5)
            return resp.status_code == 200
        except Exception:
            return False
```

### Deployment Template Generator

```python
import yaml

def generate_inference_deployment(
    name: str,
    image: str,
    gpu_type: str = "a100-80gb",
    replicas: int = 1,
    port: int = 8000,
) -> str:
    config = GPU_CATALOG[gpu_type]
    return yaml.dump({
        "apiVersion": "apps/v1",
        "kind": "Deployment",
        "metadata": {"name": name},
        "spec": {
            "replicas": replicas,
            "selector": {"matchLabels": {"app": name}},
            "template": {
                "metadata": {"labels": {"app": name}},
                "spec": {
                    "containers": [{
                        "name": name,
                        "image": image,
                        "ports": [{"containerPort": port}],
                        "resources": gpu_resources(config),
                    }],
                    "affinity": gpu_affinity_block(config.gpu_class),
                },
            },
        },
    })
```

## Error Handling

| Error | Cause | Solution |
|-------|-------|----------|
| GPU class not found | Typo in node label | Use exact values from `gpu.nvidia.com/class` |
| OOM on inference | Model too large for GPU | Use larger GPU or quantized model |
| Connection refused | Service not ready | Check pod readiness probe |

## Prerequisites

- A namespace-scoped Kubernetes credential and endpoint from the approved environment.
- An image, GPU class, and resource budget reviewed for the target workload.
- A secret-manager reference for private registry or model access; never pass tokens
  into generated YAML or application logs.

## Output

- A reusable client or deployment manifest pattern with explicit GPU resources and
  affinity constraints.
- A readiness-aware request path that distinguishes unavailable services from a
  valid application response.
- A generated manifest that can be reviewed, versioned, and rolled back before apply.

## Examples

Generate a manifest, inspect it for the expected namespace and GPU resource limit,
then apply it first in staging:

```python
manifest = generate_inference_deployment('summarizer', 'registry.example/summarizer:v1')
open('summarizer.yaml', 'w').write(manifest)
```

```bash
kubectl -n inference-staging apply --dry-run=server -f summarizer.yaml
kubectl -n inference-staging apply -f summarizer.yaml
kubectl -n inference-staging rollout status deployment/summarizer --timeout=10m
```

If validation or rollout fails, retain the reviewed manifest and redacted events;
do not broaden the client credential or bypass the admission policy.

## Resources

- [CoreWeave GPU Instances](https://docs.coreweave.com/docs/platform/instances/gpu-instances)
- [Kubernetes Python Client](https://github.com/kubernetes-client/python)

## Next Steps

Apply patterns in `coreweave-core-workflow-a` for KServe inference deployments.

Wersje

W bazie nie ma innych skilli o nazwie coreweave-sdk-patterns.

Identyczna treść występuje jeszcze w 1 innych folderach na GitHubie. Tu pokazujemy jedną, najlepiej ocenioną kopię.

Migawka bazy z 13.11.2026 · wersja paczki 90b4c64505a1 (skrót SHA-256 całej paczki)

Pobrania w ostatnich 30 dniach: 0 · ranking

Zgłoś problem z tym skillem: szkodliwa treść, błędny opis albo prośba autora o usunięcie.

Podobne skille

  • 100coreweave-hello-world
    Wdraża obciążenie GPU na CoreWeave za pomocą kubectl, do pierwszego zadania GPU, testu inferencji i sprawdzenia dostępu do klastra.
  • 100coreweave-deploy-integration
    Wdraża usługi inferencji na CoreWeave z użyciem wykresów Helm i Kustomize, także dla wielu modeli, wdrożeń GPU w skali i szablonów manifestów.
  • 100cloud-inference-routing-workflow
    Pomaga wybrać ścieżkę chmurowej inferencji AI, treningu, konwersji modeli lub infrastruktury GPU przed wdrożeniem: Runpod, Hugging Face, AWS, Vast.ai, CoreWeave, vLLM, TGI i SGLang.
  • 95kubernetes-patterns
    Opisuje wzorce obciążeń Kubernetes: zarządzanie zasobami, RBAC, sondy, autoskalowanie, ConfigMap i Secret oraz debugowanie kubectl dla wdrożeń produkcyjnych.
  • 100kubectl-helper
    Pomaga w diagnozowaniu problemów i zarządzaniu zasobami Kubernetes przez kubectl, przy pracy z podami, deploymentami i błędami k8s.
  • 95kubectl-cheatsheet
    Podaje polecenia kubectl do podów, wdrożeń, usług, logów, zdarzeń, portów, ConfigMap i Secrets oraz przestrzeni nazw.

Uwagi i zgłoszenia

Wiadomość trafi do Bartosza Sokolińskiego. Adres e-mail jest potrzebny tylko do odpowiedzi. Szczegóły w polityce prywatności.