PyTorch torch.set_float32_matmul_precision Funktion
PyTorch torch Referenzhandbuch
torch.set_float32_matmul_precisionist eine Funktion in PyTorch, mit der die Präzision der float32-Matrixmultiplikation festgelegt wird. Sie können eine niedrigere Präzision verwenden, um die Leistung zu verbessern, oder eine höhere Präzision, um die Genauigkeit zu verbessern.
Funktionsdefinition
torch.set_float32_matmul_precision(precision)
Parameterbeschreibung
precision: Präzisionsstufe, optionale Werte:"highest": Höchste Präzision (Standard)"high": Hohe Präzision"medium": Mittlere Präzision (verwendet TensorFloat-32)
Anwendungsbeispiel
Beispiel
import torch
# Auf mittlere Präzision setzen (TensorFloat-32 zur Beschleunigung verwenden)
torch.set_float32_matmul_precision("medium")
# Matrizen zum Testen erstellen
a = torch.randn(100, 100)
b = torch.randn(100, 100)
# Matrizenmultiplikation
c = torch.matmul(a, b)
print("Matrixmultiplikation mit mittlerer Präzision")
print("Ergebnisform:", c.shape)
# Auf höchste Präzision zurücksetzen
torch.set_float32_matmul_precision("highest")
# Auf mittlere Präzision setzen (TensorFloat-32 zur Beschleunigung verwenden)
torch.set_float32_matmul_precision("medium")
# Matrizen zum Testen erstellen
a = torch.randn(100, 100)
b = torch.randn(100, 100)
# Matrizenmultiplikation
c = torch.matmul(a, b)
print("Matrixmultiplikation mit mittlerer Präzision")
print("Ergebnisform:", c.shape)
# Auf höchste Präzision zurücksetzen
torch.set_float32_matmul_precision("highest")
Die Ausgabe ist:
使用中等精度进行矩阵乘法 结果形状: torch.Size([100, 100])
Andere Erweiterungen