Hi,大家好,我是编程小6,很荣幸遇见你,我把这些年在开发过程中遇到的问题或想法写出来,今天说一说
caffee tensorflow_arima模型的建模步骤,希望能够帮助你!!!。
相比与tensorflow模型caffe模型的转换更加简单,不需要有tensorflow模型转uff模型这类的操作,tensorRT能够直接解析prototxt和caffemodel文件获取模型的网络结构和权重。具体解析流程和上文描述的一致,不同的是caffe模型的parser不需要预先指定输入层,这是因为prototxt已经进行了输入层的定义,parser能够自动解析出输入,另外caffeparser解析网络后返回一个IBlobNameToTensor *blobNameToTensor记录了网络中tensor和pototxt中名字的对应关系,在解析之后就需要通过这个对应关系,按照输出tensor的名字列表outputs依次找到对应的tensor并通过network->markOutput函数将其标记为输出,之后就可以生成engine了。
IBuilder* builder = createInferBuilder(gLogger); INetworkDefinition* network = builder->createNetwork(); ICaffeParser* parser = createCaffeParser(); DataType modelDataType = DataType::kFLOAT; const IBlobNameToTensor *blobNameToTensor = parser->parse(deployFile.c_str(), modelFile.c_str(), *network, modelDataType); assert(blobNameToTensor != nullptr); for (auto& s : outputs) network->markOutput(*blobNameToTensor->find(s.c_str())); builder->setMaxBatchSize(maxBatchSize); builder->setMaxWorkspaceSize(1 << 30); engine = builder->buildCudaEngine(*network);
今天的分享到此就结束了,感谢您的阅读,如果确实帮到您,您可以动动手指转发给其他人。
上一篇
已是最后文章
下一篇
已是最新文章