PyTorch torch.nn.ModuleList-Funktion
PyTorch torch.nn Referenzhandbuch
torch.nn.ModuleListEs ist ein Container in PyTorch, der zum Speichern einer Liste von Modulen verwendet wird.
Es ähnelt einer Python-Liste, registriert aber automatisch alle untergeordneten Module.
Funktionsdefinition
torch.nn.ModuleList(modules=None)
Anwendungsbeispiele
Beispiel 1: Grundlegende Verwendung
Beispiel
import torch
import torch.nn as nn
class Net(nn.Module):
def __init__(self):
super(Net, self).__init__()
self.layers = nn.ModuleList([
nn.Linear(10, 20),
nn.Linear(20, 20),
nn.Linear(20, 5)
])
def forward(self, x):
for layer in self.layers:
x = Schicht(x)
return x
model = Net()
x = torch.randn(4, 10)
output = model(x)
print("Eingabe:", x.shape)
print("Ausgabe:", output.shape)
print("Anzahl der Parameter:", sum(p.numel() for p in model.parameters()))
import torch.nn as nn
class Net(nn.Module):
def __init__(self):
super(Net, self).__init__()
self.layers = nn.ModuleList([
nn.Linear(10, 20),
nn.Linear(20, 20),
nn.Linear(20, 5)
])
def forward(self, x):
for layer in self.layers:
x = Schicht(x)
return x
model = Net()
x = torch.randn(4, 10)
output = model(x)
print("Eingabe:", x.shape)
print("Ausgabe:", output.shape)
print("Anzahl der Parameter:", sum(p.numel() for p in model.parameters()))
Beispiel 2: Dynamischer Aufbau von Schichten
Beispiel
import torch
import torch.nn as nn
class DynamicNet(nn.Module):
def __init__(self, num_layers, dim):
super(DynamicNet, self).__init__()
self.layers = nn.ModuleList()
for i in range(num_layers):
in_dim = dim if i == 0 else dim
self.layers.append(nn.Linear(in_dim, dim))
def forward(self, x):
for i, layer in enumerate(self.layers):
x = Schicht(x)
if i < len(self.layers) - 1:
x = torch.relu(x)
return x
model = DynamicNet(num_layers=5, dim=64)
print("Anzahl der Schichten:", len(model.layers))
print("Gesamtzahl der Parameter:", sum(p.numel() for p in model.parameters()))
import torch.nn as nn
class DynamicNet(nn.Module):
def __init__(self, num_layers, dim):
super(DynamicNet, self).__init__()
self.layers = nn.ModuleList()
for i in range(num_layers):
in_dim = dim if i == 0 else dim
self.layers.append(nn.Linear(in_dim, dim))
def forward(self, x):
for i, layer in enumerate(self.layers):
x = Schicht(x)
if i < len(self.layers) - 1:
x = torch.relu(x)
return x
model = DynamicNet(num_layers=5, dim=64)
print("Anzahl der Schichten:", len(model.layers))
print("Gesamtzahl der Parameter:", sum(p.numel() for p in model.parameters()))
Beispiel 3: Vergleich mit Sequential
Beispiel
import torch
import torch.nn as nn
# ModuleList - Flexibel
mlist = nn.ModuleList([nn.Linear(10, 20), nn.ReLU(), nn.Linear(20, 5)])
# Sequential - Feste Reihenfolge
seq = nn.Sequential(nn.Linear(10, 20), nn.ReLU(), nn.Linear(20, 5))
print("ModuleList-Indexzugriff:", mlist[0])
print("Sequential-Indexzugriff:", seq[0])
print("nModuleList ist iterierbar, hat aber kein forward")
print("Sequential kann direkt aufgerufen werden")
import torch.nn as nn
# ModuleList - Flexibel
mlist = nn.ModuleList([nn.Linear(10, 20), nn.ReLU(), nn.Linear(20, 5)])
# Sequential - Feste Reihenfolge
seq = nn.Sequential(nn.Linear(10, 20), nn.ReLU(), nn.Linear(20, 5))
print("ModuleList-Indexzugriff:", mlist[0])
print("Sequential-Indexzugriff:", seq[0])
print("nModuleList ist iterierbar, hat aber kein forward")
print("Sequential kann direkt aufgerufen werden")
Anwendungsfälle
- Mehrschichtige Netzwerke: dynamischer Aufbau
- Rekurrente Strukturen: geteilte Schichten
- Komplexe Modelle: erfordern benutzerdefinierte Ablaufsteuerung
Hinweis: Sie müssen nn.ModuleList anstelle einer Python-Liste verwenden.
Andere Erweiterungen