飞道的博客

利用yaml定义卷积网络【附代码】

349人阅读  评论(0)

在平常看一些卷积神经网络的时候,大多数都是直接通过写一个Model类来定义的,这样写的代码其实是比较好懂的,特别是在魔改网络的时候也很方便。然后也有一些会通过cfg配置文件进行模型的定义。在yolov5中可以看到是通过yaml文件进行网络的定义【个人感觉通过配置文件魔改网络有些不方便,当然每个人习惯不同】,可能很多人也用过,如果自己去写一个yaml文件,自己能不能定义出来呢?很多人不知道是如何具体通过yaml文件将里面的参数传入自己定义的网络中,这也就给自己修改网络带来了不便。这篇文章将仿照yolov5的方式,利用yaml定义一个自己的网络


定义卷积块

我们可以先定义一个卷积块CBL,C指卷积Conv,B指BN层,L为激活函数,这里我用ReLu.


  
  1. class BaseConv(nn.Module):
  2. def __init__( self, in_channels, out_channels, k=1, s=1, p=None):
  3. super().__init__()
  4. self.in_channels = in_channels
  5. self.out_channels = out_channels
  6. self.conv = nn.Conv2d(in_channels, out_channels, k, s, autopad(k, p))
  7. self.bn = nn.BatchNorm2d(out_channels)
  8. self.act_fn = nn.ReLU(inplace= True)
  9. def forward( self, x):
  10. return self.act_fn(self.bn(self.conv(x)))

卷积中的autopad是自动补充pad,代码如下:


  
  1. def autopad( k, p=None):
  2. if p is None:
  3. p = k // 2 if isinstance(k, int) else [x // 2 for x in k]
  4. return p

定义一个Bottleneck 

可以仿照yolov5定义一个Bottleneck,参考了残差块的思想。


  
  1. class Bottleneck(nn.Module):
  2. def __init__( self, in_channels, out_channels, shortcut=True):
  3. super(Bottleneck, self).__init__()
  4. self.conv1 = BaseConv(in_channels, out_channels, k= 1, s= 1)
  5. self.conv2 = BaseConv(out_channels, out_channels, k= 3, s= 1)
  6. self.add = shortcut and in_channels == out_channels
  7. def forward( self, x):
  8. """
  9. x-->conv1-->conv2-->add
  10. |_________________|
  11. """
  12. return x + self.conv2(self.conv1(x)) if self.add else self.conv2(self.conv1(x))

攥写yaml配置文件

然后我们来写一下yaml配置文件,网络不要很复杂,就由两个卷积和两个Bottleneck组成就行。同理,仿v5的方法,我们的网络中的backone也是个列表,每行为一个卷积层,每列有4个参数,分别代表from(指该层的输入通道数为上一层的输出通道数,所以是-1),number【yaml中的1,1,2指该层的深度,或者说是重复几次】,Module_nams【该层的名字】,args【网络参数,包含输出通道数,k,s,p等设置】


  
  1. # define own model
  2. backbone:
  3. [[-1, 1, BaseConv, [32, 3, 1]], # out_channles= 32, k= 3, s= 1
  4. [ -1, 1, BaseConv, [ 64, 1, 1]],
  5. [ -1, 2, Bottleneck, [ 64]]
  6. ]

我们现在用yaml工具来打开我们的配置文件,看看都有什么内容


  
  1. import yaml
  2. # 获得yaml文件名字
  3. yaml_file = Path( 'Model.yaml').name
  4. with open(yaml_file,errors= 'ignore') as f:
  5. yaml_ = yaml.safe_load(f)
  6. print(yaml_)

输出:

 {'backbone': [[-1, 1, 'BaseConv', [32, 3, 1]], [-1, 1, 'BaseConv', [64, 1, 1]], [-1, 2, 'Bottleneck', [64]]]}

然后我们可以定义下自己Model类,也就是定义自己的网络。可以看到与前面读取yaml文件相比,多了一行    ch = self.yaml["ch"] = self.yaml["ch"] = 3   这个是在原yaml内容中加入一个key和valuse,3指的3通道,因为我们的图像是3通道。parse_model是下面要说的传参过程。


  
  1. class Model(nn.Module):
  2. def __init__( self, cfg='./Model.yaml', ch=3, ):
  3. super().__init__()
  4. self.yaml = cfg
  5. import yaml
  6. yaml_file = Path(cfg).name
  7. with open(yaml_file, errors= 'ignore') as f:
  8. self.yaml = yaml.safe_load(f)
  9. ch = self.yaml[ "ch"] = self.yaml[ "ch"] = 3
  10. self.backbone = parse_model(deepcopy(self.yaml), ch=[ch])
  11. def forward( self, x):
  12. output = self.backbone(x)
  13. return output

 

传入参数

这一步也是最关键的一步,我们需要定义传参的函数,将yaml中的卷积参数传入我们定义的网络中,这里会用的一个非常非常重要的函数eval(),后面也会介绍到这个函数的用法。

这里先附上完整代码:


  
  1. def parse_model( yaml_cfg, ch):
  2. """
  3. :param yaml_cfg: yaml file
  4. :param ch: init in_channels default is 3
  5. :return: model
  6. """
  7. layer, out_channels = [], ch[- 1]
  8. for i, (f, number, Module_name, args) in enumerate(yaml_cfg[ 'backbone']):
  9. """
  10. f:上一层输出通道
  11. number:该模块有几层,就是该模块要重复几次
  12. Mdule_name:卷积层名字
  13. args:参数,包含输出通道数,k,s,p等
  14. """
  15. # 通过eval,将str类型转自己定义的BaseConv
  16. m = eval(Module_name) if isinstance(Module_name, str) else Module_name
  17. for j, a in enumerate(args):
  18. # 通过eval,将str转int,获得输出通道数
  19. args[j] = eval(a) if isinstance(a, str) else a
  20. # 更新通道
  21. # args[0]是输出通道
  22. if m in [BaseConv, Bottleneck]:
  23. in_channels, out_channels = ch[f], args[ 0]
  24. args = [in_channels, out_channels, *args[ 1:]] # args=[in_channels, out_channels, k, s, p]
  25. # 将参数传入模型
  26. model_ = nn.Sequential(*[m(*args) for _ in range(number)]) if number > 1 else m(*args)
  27. # 更新通道列表,每次获取输出通道
  28. ch.append(out_channels)
  29. layer.append(model_)
  30. return nn.Sequential(*layer)

下面开始分析代码 。

这行代码是通过列表用来存放每层内容以及输出通道数。


  
  1. # 这行代码是通过列表用来存放每层内容以及输出通道数
  2. layer, out_channels = [], ch[- 1]

 然后进入我们的for循环,在每一次循环中可以获得我们yaml文件中的每一层网络:f是上一层网络的输出通道【用来作为本层的输入通道】,number【网络深度,也就是该层重复几次而已】,Module_name是该层的名字,args是该层的一些参数。

for i, (f, number, Module_name, args) in enumerate(yaml_cfg['backbone']):

接下来会碰到一个很重要的函数eval()。下行的代码首先需要判断一下我们的Module_name类型是不是字符串类型,也就是判断一下yaml中“BaseConv”是不是字符串类型,如果是,则用eval进行对应类型的转化,转成我们的BaseConv类型。 

m = eval(Module_name) if isinstance(Module_name, str) else Module_name

这里我将对eval函数在深入点,如果知道这个函数用法的,就可以略去这部分。

我们先举个例子,比如我现在有个变量a="123",这个a的类型是什么呢?他是一个str类型,不是int类型。 现在我们用eval函数转一下,看看会变成什么样子。


  
  1. >>> b = eval(a) if isinstance(a,str) else a
  2. >>> b
  3. 123
  4. >>> type(b)
  5. <class 'int'>

我们可以看到,经过eval函数以后,会自动识别并转为int类型。那么我继续举例子,如果现在a="BaseConv",经过eval以后会变成什么?可以看到,这里报错了!这是为什么?这是因为我们没有导入BaseConv这个类,所以eval函数并不知道我们希望转为什么类型。所以我们需要用import导入BaseConv这个类才可以。


  
  1. >>> a= "BaseConv"
  2. >>> b = eval(a) if isinstance(a,str) else a
  3. Traceback (most recent call last):
  4. File "<stdin>", line 1, in <module>
  5. File "<string>", line 1, in <module>
  6. NameError: name 'BaseConv' is not defined

当我们导入BaseConv以后,在经过eval就可以获得:

<class 'models.BaseConv'> 


接下来是获得args中的网络参数,也是通过eval进行转化 


  
  1. for j, a in enumerate(args):
  2. # 通过eval,将str转int,获得输出通道数
  3. args[j] = eval(a) if isinstance(a, str) else a

获取通道数,并在每次循环中对通道进行更新:可以仔细看一下ch[f]指的上一层输出通道,刚开始默认为[3],那么ch[-1]=3,我们yaml中第一层的BaseConv args[0]为32,表示输出32通道。因此在第一次循环中有in_channels = 3,out_channels=32。args也要更新,*args前面的"*"并不是指针的意思,也不是乘的意思,而是解压操作,因此我们第一次循环中得到的args=[3,32,3,1]。


  
  1. # 更新通道
  2. # args[0]是输出通道
  3. if m in [BaseConv, Bottleneck]:
  4. in_channels, out_channels = ch[f], args[ 0]
  5. args = [in_channels, out_channels, *args[ 1:]] # args=[in_channels, out_channels, k, s, p]

将参数传入模型

这里用for _ in range(number)来判断网络的深度【或者说该模块重复几次】,这里的m就是前面经过eval转化的 <class 'models.BaseConv'>。通过*args解压操作将args列表中的内容放入m中,再通过*解压操作放入nn.Sequential。

model_ = nn.Sequential(*[m(*args) for _ in range(number)]) if number > 1 else m(*args)

这样就可以获得我们第一次循环BaseConv了。后面的循环也是同样的反复操作而已。 

 BaseConv(
  (conv): Conv2d(3, 32, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1))
  (bn): BatchNorm2d(32, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
  (act_fn): ReLU(inplace=True)
)

然后是更新通道列表和layer列表,为的是获取每次循环的输出通道,没有这一步,再下一次循环的时候将不能正确得到通道数。


  
  1. # 更新通道列表,每次获取输出通道
  2. ch.append(out_channels)
  3. layer.append(model_)

 


然后我们就可以对模型调用进行实例化了,可以打印下模型:


  
  1. Model(
  2. (backbone): Sequential(
  3. (0): BaseConv(
  4. (conv): Conv2d(3, 32, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1))
  5. (bn): BatchNorm2d(32, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
  6. (act_fn): ReLU(inplace=True)
  7. )
  8. (1): BaseConv(
  9. (conv): Conv2d(32, 64, kernel_size=(1, 1), stride=(1, 1))
  10. (bn): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
  11. (act_fn): ReLU(inplace=True)
  12. )
  13. (2): Sequential(
  14. (0): Bottleneck(
  15. (conv1): BaseConv(
  16. (conv): Conv2d(64, 64, kernel_size=(1, 1), stride=(1, 1))
  17. (bn): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
  18. (act_fn): ReLU(inplace=True)
  19. )
  20. (conv2): BaseConv(
  21. (conv): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1))
  22. (bn): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
  23. (act_fn): ReLU(inplace=True)
  24. )
  25. )
  26. (1): Bottleneck(
  27. (conv1): BaseConv(
  28. (conv): Conv2d(64, 64, kernel_size=(1, 1), stride=(1, 1))
  29. (bn): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
  30. (act_fn): ReLU(inplace=True)
  31. )
  32. (conv2): BaseConv(
  33. (conv): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1))
  34. (bn): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
  35. (act_fn): ReLU(inplace=True)
  36. )
  37. )
  38. )
  39. )
  40. )

 同时我们也可以对模型每层可视化看一下。可以看到和我们定义的模型是一样的。

 


上述完整的代码:


  
  1. from copy import deepcopy
  2. from models import BaseConv, Bottleneck
  3. import torch.nn as nn
  4. import os
  5. path = os.getcwd()
  6. from pathlib import Path
  7. import torch
  8. def parse_model( yaml_cfg, ch):
  9. """
  10. :param yaml_cfg: yaml file
  11. :param ch: init in_channels default is 3
  12. :return: model
  13. """
  14. layer, out_channels = [], ch[- 1]
  15. for i, (f, number, Module_name, args) in enumerate(yaml_cfg[ 'backbone']):
  16. """
  17. f:上一层输出通道
  18. number:该模块有几层,就是该模块要重复几次
  19. Mdule_name:卷积层名字
  20. args:参数,包含输出通道数,k,s,p等
  21. """
  22. # 通过eval,将str类型转自己定义的BaseConv
  23. m = eval(Module_name) if isinstance(Module_name, str) else Module_name
  24. for j, a in enumerate(args):
  25. # 通过eval,将str转int,获得输出通道数
  26. args[j] = eval(a) if isinstance(a, str) else a
  27. # 更新通道
  28. # args[0]是输出通道
  29. if m in [BaseConv, Bottleneck]:
  30. in_channels, out_channels = ch[f], args[ 0]
  31. args = [in_channels, out_channels, *args[ 1:]] # args=[in_channels, out_channels, k, s, p]
  32. # 将参数传入模型
  33. model_ = nn.Sequential(*[m(*args) for _ in range(number)]) if number > 1 else m(*args)
  34. # 更新通道列表,每次获取输出通道
  35. ch.append(out_channels)
  36. layer.append(model_)
  37. return nn.Sequential(*layer)
  38. class Model(nn.Module):
  39. def __init__( self, cfg='./Model.yaml', ch=3, ):
  40. super().__init__()
  41. self.yaml = cfg
  42. import yaml
  43. yaml_file = Path(cfg).name
  44. with open(yaml_file, errors= 'ignore') as f:
  45. self.yaml = yaml.safe_load(f)
  46. ch = self.yaml[ "ch"] = self.yaml[ "ch"] = 3
  47. self.backbone = parse_model(deepcopy(self.yaml), ch=[ch])
  48. def forward( self, x):
  49. output = self.backbone(x)
  50. return output
  51. if __name__ == "__main__":
  52. cfg = path + '/Model.yaml'
  53. model = Model()
  54. model. eval()
  55. print(model)
  56. x = torch.ones( 1, 3, 512, 512)
  57. output = model(x)
  58. torch.save(model, "model.pth")
  59. # model = torch.load('model.pth')
  60. # model.eval()
  61. # x = torch.ones(1,3,512,512)
  62. # input_name = ['input']
  63. # output_name = ['output']
  64. # torch.onnx.export(model, x, 'myonnx.onnx', verbose=True)

 


转载:https://blog.csdn.net/z240626191s/article/details/125852719
查看评论
* 以上用户言论只代表其个人观点,不代表本网站的观点或立场