CAFFE或CAFFE2可以直接从GPU提供输入数据吗？

我已经阅读了CAFFE2教程，并尝试了预训练的模型。我知道Caffe2将利用GPU运行模型/网。但是输入数据似乎总是来自CPU（即主机）内存。例如，在加载预训练的模型，在加载模型后，我们可以通过

result = p.run([img])

但是，应在CPU范围中读取图像“ IMG”。我要寻找的是一个可以直接将图像的框架（从视频中解码并仍然存在于GPU内存中）直接到预测模型，而不是将其从GPU复制到CPU范围，然后再次转移到GPU以进行预测结果。 Caffe或Caffe2是否为Python或C ++提供此类功能或接口？还是我应该补丁咖啡饼做到这一点？完全感谢。

这是我的解决方案：

我发现 tensor.h，功能 ShareExternalPointer() 可以准确地做我想做的事。

以这种方式馈送GPU数据，

pInputTensor->ShareExternalPointer(pGpuInput, InputSize);

然后运行预测网

pPredictNet->Run();

在哪里 pInputTensor 是预测网的入口张量 pPredictNet

看答案

我认为你不能这样做咖啡使用Python接口。
但是我认为可以使用C ++来完成它：在C ++中，您可以访问 Blob' mutable_gpu_data()。您可以编写在设备上运行的代码，并“填充”输入BLOB的代码 mutable_gpu_data() 直接来自GPU。一旦您进行了此更新，Caffe应该能够继续其 net->forward() 从那里。

更新
2017年9月19日 PR＃5904 被合并为主人。该公关通过Python界面暴露了斑点的GPU指针。
您可以访问 blob._gpu_data_ptr 和 blob._gpu_diff_ptr 直接来自Python 自负.

智能推荐

[caffe2] but still report : caffe2 ImportError: No module named past.builtins

sudo pip install future but still report : caffe2 ImportError: No module named past.builtins solution: delete dir "future" and reinstall as follow:...

深度学习框架-从TensorFlow 到 Caffe2：盘点深度学习框架

机器之心报道本文首先介绍GitHub中最受欢迎的开源深度学习框架排名，然后再对其进行系统地对比下图总结了在GitHub中最受欢迎的开源深度学习框架排名，该排名是基于各大框架在GitHub里的收藏数，这个数据由MitchDeFelice在2017年5月初完成。 TensorFlow 地址：https://www.tensorflow.org/ TensorFlow最开始是由谷歌一个称之为Dist...

Caffe2 - (二十一) Detectron 之模型训练及数据加载流程

Caffe2 - (二十一) Detectron 之模型训练及数据加载流程根据训练过程 train_net.py，大致梳理下 Detectron 的训练过程和训练时数据加载过程. 模型训练训练数据集/读取...

Caffe2教程实例，加载预训练模型

Caffe2教程实例，加载预训练模型概述本教程使用模型库中的预训练模型squeezenet 里分类我们自己的图片。我们需要提供要分类图片的路径或者URL信息作为输入。了解ImageNet对象代码可以帮助我们来验证我们的结果。对象代码只是训练过程中的整型数字标签来标识不同的分类，比如985标识daisy分类。注意，我们在这里使用squeezenet ，本教程也对运行预训练模型提供通用方法。如果...

Ubuntu16.04安装caffe2(含detectron配置)

Ubuntu16.04安装caffe2和detectron安装配置安装显卡驱动 CUDA安装安装anaconda Caffe2安装安装detectron 在介绍流程前，先放上我所参考的一些博客，并且十分感谢这些博主，感谢他们之前的尝试，为我安装caffe2提供便利，文章里有些图是来源于这些博客的，以下为我所参考的博客： https://blog.csdn.net/wanzhen4330/ar...

猜你喜欢

「机器学习_5」逻辑回归（Logistic Regression ）

学习逻辑回归需要清楚的几件事：假设函数怎么用（怎么预测），决策边界怎么用（一般取0.5），损失函数如果计算（因为要取最小），优化方法（重新计算各个权重）建议：我阅读的英文参考资料的相关内容除了公式我并没有往上发布。但是我会放到我的下载资料中，建议，想彻底理解这几个内容的，如果不想直接从公式推导入手，可以考虑看下具体的例子，就会明白其中的含义。前言　本文主要介绍逻辑回归的基础知识...

工业4.0知识图谱

编者按本篇文章来自于17th Extended Semantic Web Conference (ESWC2020) 会议。该文章提出了基于语义标注网络的结构化数据集，包含工业4.0标准、范式和框架，并给出了知识图谱在工业4.0应用的现有案例。本文作者北京大学周雨奇，将对原文进行概要阐述。文末提供获...

缓冲区溢出实例（二)–Linux

原理：crossfire 1.9.0 版本接受入站 socket 连接时存在缓冲区溢出漏洞。工具：调试工具：edb； ###python在漏洞溢出方面的渗透测试和漏洞攻击中，具有很大的优势实验对象：crossfire【多人在线RPG游戏】运行平台：Kali i386 虚拟机【32位，计算机CPU位数是指地址总线位数，64位系统的寻址空间为2^64，寻址过大，难以处理，为了简化操作，所以选用...

如何使用物联网设备来确保儿童安全？ | Linux 中国

物联网设备提供的好处很多。举例来说，父母可以远程监控自己的孩子，而又不会显得太霸道。因此，儿童在拥有安全环境的同时也会有空间和自由让自己变得独立。 -- Andrew Carroll IoT （物联网）设备正在迅速改变我们的生活。这些设备无处不在，从我们的家庭到其它行业。根据一些预测数据，到 2020 年，将会有 100 亿个 IoT 设备。到 2025 年，该数量将增长到 220 亿。目前，物联...

windows 组策略

通过 Windows 组策略，实现登录启动指定脚本。 1、快捷键 win+R，输入 gpedit.msc，点击 ok 2、在 Local Group Policy Editor 对话框中选择：Local Computer Policy --> User Configuration --> Windows Settings – > Scripts，然后点击右侧 Logo...