pytorch-loss-implementation
/pytorch-loss-implementation
Implementuje własne funkcje straty w PyTorch z użyciem operacji na tensorach dla propagacji wstecznej.
- Autor
- cxcscmu ↗
- Repozytorium
- SkillLearnBench ↗
- Licencja
- MIT
- Ostatnia zmiana repozytorium
- 02.10.2026
Ocena i bezpieczeństwo
- Pliki w paczce
- 1
- Skrypty
- 0
- Komentarze HTML
- 0
- Adresy URL w SKILL.md
- 0
Brak sygnałów. Repozytorium zmienione 02.10.2026, bez odwołań do wycofanych modeli i API.
MIT, otwarta: można używać i zmieniać, z zachowaniem informacji o autorze.
Co robi i kiedy
Implementuje własne funkcje straty w PyTorch z użyciem operacji na tensorach dla propagacji wstecznej.
Oryginalny opis (EN)
How to implement custom loss functions in PyTorch. Use this skill whenever the user asks to implement a loss function, write a custom criterion, or mentions PyTorch tensor operations for backpropagation.
Jak działa
- Key Principles
- Example Pattern
Podgląd SKILL.md
---
name: pytorch-loss-implementation
description: How to implement custom loss functions in PyTorch. Use this skill whenever the user asks to implement a loss function, write a custom criterion, or mentions PyTorch tensor operations for backpropagation.
---
# PyTorch Loss Implementation
This skill provides guidelines for implementing custom loss functions in PyTorch.
## Key Principles
1. **Use PyTorch Primitives:** Always use `torch.*` operations (e.g., `torch.log`, `torch.exp`, `torch.sum`, `F.log_softmax`) to ensure operations are differentiable and can be tracked by autograd.
2. **Numerical Stability:** Be careful with operations like log and exp. Use numerically stable functions like `F.log_softmax` instead of taking the log of a softmax, and `F.binary_cross_entropy_with_logits` instead of applying sigmoid then BCE.
3. **Handling Padding and Masks:** When working with NLP or sequence data, always apply attention masks or ignore_index appropriately to prevent padded tokens from contributing to the loss.
4. **Batch Reductions:** By default, loss functions should support different reduction methods ('mean', 'sum', 'none'). Be explicit about how reductions are applied across batch and sequence dimensions.
## Example Pattern
```python
import torch
import torch.nn.functional as F
def custom_loss(logits, targets, mask=None, reduction='mean'):
# Apply operations
loss = F.cross_entropy(logits, targets, reduction='none')
# Apply mask if provided
if mask is not None:
loss = loss * mask
if reduction == 'mean':
return loss.sum() / mask.sum()
elif reduction == 'sum':
return loss.sum()
return loss
if reduction == 'mean':
return loss.mean()
elif reduction == 'sum':
return loss.sum()
return loss
```
Wersje
W bazie nie ma innych skilli o nazwie pytorch-loss-implementation.
Migawka bazy z 13.11.2026 · wersja paczki ca35ec215484 (skrót SHA-256 całej paczki)
Pobrania w ostatnich 30 dniach: 0 · ranking
Zgłoś problem z tym skillem: szkodliwa treść, błędny opis albo prośba autora o usunięcie.
Podobne skille
- 100pytorch-testing-logging
Uruchamia testy jednostkowe PyTorch, zapisuje wyniki do plików NumPy i loguje informacje o środowisku i wersjach pakietów dla powtarzalności. - 100simpo-loss-implementation
Implementuje funkcję straty SimPO dla modeli językowych dopasowanych do preferencji: cele treningowe, nagrody znormalizowane długością i przekład wzorów z artykułu na kod PyTorch. - 100pytorch-model-trainer
Prawdopodobnie buduje i uruchamia trening modeli w PyTorch w ramach uczenia maszynowego. - 100pytorch-deep-learning-fundamentals
Buduje i trenuje własne sieci neuronowe w PyTorch z tensorami, autogradem i modułami DataLoader. - 86pytorch
Pomaga w pracy z PyTorch: trenowaniu sieci neuronowych, wnioskowaniu modeli, obliczeniach na GPU i wdrażaniu modeli AI. - 95docstring
Pisze docstringi dla funkcji i metod PyTorch zgodnie z konwencjami PyTorch, także przy ich aktualizacji.