Pytorch多种模型构造方法
本篇内容介绍了“Pytorch多种模型构造方法”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!
创新互联公司是一家专注于网站设计制作、做网站与策划设计,红塔网站建设哪家好?创新互联公司做网站,专注于网站建设十多年,网设计领域的专业建站公司;建站业务涵盖:红塔等地区。红塔做网站价格咨询:13518219792
之前的样例主要采用Sequential来进行,这里做一个全面和充分的小结,以前只是单纯的叠网络,看完这章节才知道原来可以用的手法这么多;
对于基础的网络搭建,主要用到的是Module类,Sequential类为主;
其中Module可以算是基类,而派生类为Sequential、ModuleList、ModuleDict类,各自有各自的特点;
Sequential类:
Sequential类主要继承自Module类,是最简单的网络逐层累加方式;
例如最简单的叠加方式:
net=nn.Sequential( nn.Linear(784,256), nn.ReLU(), nn.Linear(256,10) )
使用这种方法的特点是:
1.简单,但是不能由较高灵活的定制化;
2.不用自定义forward前向传播函数,层与层之间的参数尺寸必须要匹配;
ModuleList类:
如下所示:
net=nn.ModuleList([nn.Linear(784,256),nn.ReLU()]) net.append(nn.Linear(256,10))
这种也和Sequential类似,进行列表化构造网络;
但是需要注意的是,需要定义Forward函数,只有Sequential类不需要自定义Forward函数;
ModuleDict类:
ModuleDict类似于Sequential类的定义方式,并且可以通过字典方式进行索引查找;
net=nn.ModuleDict({ 'linear':nn.Linear(784,256), 'act':nn.ReLU() }) net['output']=nn.Linear(256,10)
但是和ModuleList类似,需要重新定义forward前向传播函数;
使用多种Module进行复杂网络构建:
例如:
class FancyMLP(nn.Module): def __init__(self, **kwargs): super(FancyMLP, self).__init__(**kwargs) self.rand_weight = torch.rand((20, 20), requires_grad=False) # 不可训练参数(常数参数) self.linear = nn.Linear(20, 20) def forward(self, x): x = self.linear(x) # 使用创建的常数参数,以及nn.functional中的relu函数和mm函数 x = nn.functional.relu(torch.mm(x, self.rand_weight.data) + 1) # 复用全连接层。等价于两个全连接层共享参数 x = self.linear(x) # 控制流,这里我们需要调用item函数来返回标量进行比较 while x.norm().item() > 1: x /= 2 if x.norm().item() < 0.8: x *= 10 return x.sum()
这里值得注意的是,尽管只有一个Linear层,但是对于forward有了更多的操作空间;
forward函数相当于过了两个linear层,之后对其中的数据进行了处理;
所以对于Module可以有更多的操作空间,例如使用上述网络进行复杂网络定制;
例如,可以采用如下方法,进行多层Module嵌套,并且定义各自的forward函数;
class SelfMLP(nn.Module): def __init__(self,**kwargs): super(SelfMLP, self).__init__(**kwargs) self.ran_weight=torch.rand((20,20),requires_grad=False) self.linear=nn.Linear(20,20) def forward(self,x): x=self.linear(x) x=nn.functional.relu(torch.mm(x)) class NestMLP(nn.Module): def __init__(self,**kwargs): super(NestMLP, self).__init__(**kwargs) self.net=nn.Sequential(nn.Linear(40,30),nn.ReLU()) def forward(self,x): return self.net(x) net=nn.Sequential(NestMLP(),nn.Linear(30,20),SelfMLP())
“Pytorch多种模型构造方法”的内容就介绍到这里了,感谢大家的阅读。如果想了解更多行业相关的知识可以关注创新互联网站,小编将为大家输出更多高质量的实用文章!
当前名称:Pytorch多种模型构造方法
网页URL:http://ybzwz.com/article/jsjcei.html