首页 > 编程 > Python > 正文

画pytorch模型图,以及参数计算的方法

2019-11-25 11:57:03
字体:
来源:转载
供稿:网友

刚入pytorch的坑,代码还没看太懂。之前用keras用习惯了,第一次使用pytorch还有些不适应,希望广大老司机多多指教。

首先说说,我们如何可视化模型。在keras中就一句话,keras.summary(),或者plot_model(),就可以把模型展现的淋漓尽致。

但是pytorch中好像没有这样一个api让我们直观的看到模型的样子。但是有网友提供了一段代码,可以把模型画出来,对我来说简直就是如有神助啊。

话不多说,上代码吧。

import torchfrom torch.autograd import Variableimport torch.nn as nnfrom graphviz import Digraph  class CNN(nn.Module):  def __init__(self):    super(CNN, self).__init__()    self.conv1 = nn.Sequential(      nn.Conv2d(in_channels=1, out_channels=16, kernel_size=5, stride=1, padding=2),      nn.ReLU(),      nn.MaxPool2d(kernel_size=2)    )    self.conv2 = nn.Sequential(      nn.Conv2d(in_channels=16, out_channels=32, kernel_size=5, stride=1, padding=2),      nn.ReLU(),      nn.MaxPool2d(kernel_size=2)    )    self.out = nn.Linear(32*7*7, 10)   def forward(self, x):    x = self.conv1(x)    x = self.conv2(x)    x = x.view(x.size(0), -1) # (batch, 32*7*7)    out = self.out(x)    return out  def make_dot(var, params=None):  """ Produces Graphviz representation of PyTorch autograd graph  Blue nodes are the Variables that require grad, orange are Tensors  saved for backward in torch.autograd.Function  Args:    var: output Variable    params: dict of (name, Variable) to add names to node that      require grad (TODO: make optional)  """  if params is not None:    assert isinstance(params.values()[0], Variable)    param_map = {id(v): k for k, v in params.items()}   node_attr = dict(style='filled',           shape='box',           align='left',           fontsize='12',           ranksep='0.1',           height='0.2')  dot = Digraph(node_attr=node_attr, graph_attr=dict(size="12,12"))  seen = set()   def size_to_str(size):    return '('+(', ').join(['%d' % v for v in size])+')'   def add_nodes(var):    if var not in seen:      if torch.is_tensor(var):        dot.node(str(id(var)), size_to_str(var.size()), fillcolor='orange')      elif hasattr(var, 'variable'):        u = var.variable        name = param_map[id(u)] if params is not None else ''        node_name = '%s/n %s' % (name, size_to_str(u.size()))        dot.node(str(id(var)), node_name, fillcolor='lightblue')      else:        dot.node(str(id(var)), str(type(var).__name__))      seen.add(var)      if hasattr(var, 'next_functions'):        for u in var.next_functions:          if u[0] is not None:            dot.edge(str(id(u[0])), str(id(var)))            add_nodes(u[0])      if hasattr(var, 'saved_tensors'):        for t in var.saved_tensors:          dot.edge(str(id(t)), str(id(var)))          add_nodes(t)  add_nodes(var.grad_fn)  return dot  if __name__ == '__main__':  net = CNN()  x = Variable(torch.randn(1, 1, 28, 28))  y = net(x)  g = make_dot(y)  g.view()   params = list(net.parameters())  k = 0  for i in params:    l = 1    print("该层的结构:" + str(list(i.size())))    for j in i.size():      l *= j    print("该层参数和:" + str(l))    k = k + l  print("总参数数量和:" + str(k)) 

模型很简单,代码也很简单。就是conv -> relu -> maxpool -> conv -> relu -> maxpool -> fc

大家在可视化的时候,直接复制make_dot那段代码即可,然后需要初始化一个net,以及这个网络需要的数据规模,此处就以 这段代码为例,初始化一个模型net,准备这个模型的输入数据x,shape为(batch,channels,height,width) 然后把数据传入模型得到输出结果y。传入make_dot即可得到下图。

  net = CNN()  x = Variable(torch.randn(1, 1, 28, 28))  y = net(x)  g = make_dot(y)  g.view()

最后输出该网络的各种参数。

该层的结构:[16, 1, 5, 5]该层参数和:400该层的结构:[16]该层参数和:16该层的结构:[32, 16, 5, 5]该层参数和:12800该层的结构:[32]该层参数和:32该层的结构:[10, 1568]该层参数和:15680该层的结构:[10]该层参数和:10总参数数量和:28938

以上这篇画pytorch模型图,以及参数计算的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持武林网。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表