当CMake遇上NuGet:在VS2019中优雅集成ONNX Runtime(CPU版)的两种方法

桃子胖

CMake与NuGet的优雅共舞:VS2019中ONNX Runtime集成方案深度解析

在跨平台C++项目中引入机器学习推理引擎时,ONNX Runtime因其出色的性能表现和广泛的模型支持成为首选。然而,当开发环境锁定在Visual Studio 2019时,如何选择既符合工程管理规范又能保持跨平台兼容性的集成方案,成为许多中高级开发者面临的现实挑战。本文将深入剖析两种主流集成路径的技术细节与适用场景。

1. 环境准备与方案概览

在Windows平台使用ONNX Runtime进行机器学习推理,首先需要明确几个关键决策点:是否需要保持Linux/macOS的编译兼容性?项目是否要求离线部署能力?团队协作中是否需要严格的版本控制?这些因素将直接影响集成方案的选择。

ONNX Runtime的CPU版本在VS2019中主要有两种获取方式:

  • 官方NuGet包:Microsoft.ML.OnnxRuntime(当前稳定版1.8.1)
  • 预编译二进制包:从GitHub Releases下载的zip压缩包

提示:虽然NuGet是.NET生态的主要包管理工具,但其对C++项目的支持从VS2017开始已逐渐完善,特别是在VS2019中提供了原生CMake集成。

两种典型集成路径对比:

特性 NuGet直接安装 手动解析nupkg+CMake配置
版本更新便利性 ⭐⭐⭐⭐⭐(自动更新) ⭐⭐(需手动替换文件)
跨平台兼容性 ⭐⭐(Windows优先) ⭐⭐⭐⭐(配置可移植)
离线部署支持 ⭐(需NuGet缓存) ⭐⭐⭐(可打包依赖)
编译配置复杂度 ⭐(图形界面操作) ⭐⭐⭐(需编写CMake脚本)
团队协作一致性 ⭐⭐⭐⭐(版本锁定) ⭐⭐⭐(需文档规范)

2. NuGet包管理器直装方案

这是最快捷的入门方式,适合Windows平台快速原型开发。在VS2019中新建C++控制台项目后,通过以下步骤完成集成:

  1. 右键项目选择"管理NuGet程序包"
  2. 搜索"Microsoft.ML.OnnxRuntime"
  3. 选择CPU版本安装(当前最新稳定版为1.8.1)
  4. 在代码中包含头文件即可使用:
cpp复制#include <onnxruntime_cxx_api.h>

Ort::Env env(ORT_LOGGING_LEVEL_WARNING, "test");
Ort::SessionOptions session_options;
// ... 其他初始化代码

这种方式的优势在于:

  • 自动处理依赖关系和版本冲突
  • 无需手动管理库文件路径
  • 支持一键更新到新版本

但存在三个明显局限:

  1. 强耦合于Visual Studio生态,难以迁移到其他构建系统
  2. 默认安装位置在用户目录下,不利于团队统一环境配置
  3. 对自定义编译选项的支持有限

注意:如果项目后续需要迁移到Linux平台,所有NuGet相关的配置都需要重写,存在显著的移植成本。

3. 手动解析nupkg的CMake集成方案

对于追求跨平台一致性的项目,推荐采用CMake管理依赖。虽然需要更多初始配置,但能获得更好的工程管理体验。具体实现分为三个步骤:

3.1 获取nupkg包并解压

从NuGet官网下载Microsoft.ML.OnnxRuntime的nupkg包后,实际上这是一个zip格式的压缩包,可以手动解压或使用NuGet命令行工具:

powershell复制nuget install Microsoft.ML.OnnxRuntime -Version 1.8.1 -OutputDirectory packages

解压后的目录结构包含关键资源:

code复制build/
  └── native/
      └── include/        # 头文件
runtimes/
  └── win-x64/
      └── native/         # Windows平台库文件
  └── linux-x64/
      └── native/         # Linux平台库文件

3.2 编写跨平台CMake配置

在项目根目录的CMakeLists.txt中,我们需要智能识别不同平台并配置相应路径:

cmake复制cmake_minimum_required(VERSION 3.12)
project(onnx_demo)

# 设置ONNX Runtime路径
if(WIN32)
    set(ONNXRUNTIME_ROOT "path/to/unpacked/nupkg")
    set(ONNXRUNTIME_LIB_PATH "${ONNXRUNTIME_ROOT}/runtimes/win-x64/native")
    set(ONNXRUNTIME_LIB onnxruntime)
elseif(UNIX)
    set(ONNXRUNTIME_ROOT "path/to/unpacked/nupkg")
    set(ONNXRUNTIME_LIB_PATH "${ONNXRUNTIME_ROOT}/runtimes/linux-x64/native")
    set(ONNXRUNTIME_LIB onnxruntime)
endif()

# 包含头文件
include_directories(${ONNXRUNTIME_ROOT}/build/native/include)

# 添加可执行文件
add_executable(demo main.cpp)

# 链接库文件
target_link_directories(demo PRIVATE ${ONNXRUNTIME_LIB_PATH})
target_link_libraries(demo PRIVATE ${ONNXRUNTIME_LIB})

3.3 处理动态库加载问题

不同于Linux系统,Windows在运行时需要明确知道动态库的位置。有三种解决方案:

  1. 将DLL复制到执行目录

    cmake复制# 在CMake中配置构建后复制操作
    add_custom_command(TARGET demo POST_BUILD
        COMMAND ${CMAKE_COMMAND} -E copy
            "${ONNXRUNTIME_LIB_PATH}/onnxruntime.dll"
            $<TARGET_FILE_DIR:demo>
    )
    
  2. 设置环境变量(开发阶段推荐):

    powershell复制# 在VS2019的开发人员PowerShell中执行
    $env:PATH += ";${ONNXRUNTIME_LIB_PATH}"
    
  3. 修改系统PATH变量(生产环境不推荐)

4. 混合方案:最佳实践建议

经过多个实际项目验证,我总结出以下经验法则:

选择NuGet直装方案当:

  • 项目仅面向Windows平台
  • 开发周期短,需要快速迭代
  • 团队对CMake不熟悉

选择CMake集成方案当:

  • 需要支持多平台编译
  • 项目有严格的依赖隔离要求
  • 需要自定义编译选项(如静态链接)

对于大型项目,可以考虑混合模式——在Windows开发阶段使用NuGet,但通过CMake包装接口:

cmake复制# 尝试查找NuGet安装的ONNX Runtime
find_package(ONNXRuntime)
if(NOT ONNXRuntime_FOUND)
    # 回退到手动配置模式
    message(STATUS "Using manual ONNX Runtime configuration")
    include(ManualONNXRuntime.cmake)
endif()

这种渐进式方案既保持了开发便利性,又为后续跨平台需求留出了扩展空间。

5. 高级配置技巧

5.1 版本控制策略

对于CMake方案,推荐将解压后的nupkg包纳入版本控制(Git LFS更佳),或在构建时自动下载:

cmake复制include(FetchContent)
FetchContent_Declare(
    onnxruntime
    URL "https://www.nuget.org/api/v2/package/Microsoft.ML.OnnxRuntime/1.8.1"
    DOWNLOAD_NO_EXTRACT false
)
FetchContent_MakeAvailable(onnxruntime)

5.2 静态链接配置

某些场景下可能需要静态链接ONNX Runtime:

cmake复制if(MSVC)
    target_compile_definitions(demo PRIVATE ORT_STATIC)
    target_link_libraries(demo PRIVATE onnxruntime_static)
endif()

5.3 自定义操作集成

在CMake中封装常用ONNX操作作为函数:

cmake复制function(add_onnx_model target model_path)
    get_filename_component(model_name ${model_path} NAME_WE)
    configure_file(${model_path} ${CMAKE_CURRENT_BINARY_DIR}/${model_name}.onnx COPYONLY)
    target_sources(${target} PRIVATE ${CMAKE_CURRENT_BINARY_DIR}/${model_name}.onnx)
    set_property(TARGET ${target} PROPERTY VS_DEPLOYMENT_CONTENT 1)
endfunction()

实际项目中的常见坑点包括:

  • Windows下路径反斜杠需要转义
  • Debug/Release配置的库文件区分
  • 32位/64位目标平台匹配
  • 系统环境变量导致的版本冲突

在最近的一个跨平台项目中,我们最终选择了CMake集成方案,虽然初期配置花费了2天时间,但后续在Linux服务器和Windows开发机之间的无缝切换证明了这个决策的价值。特别是在CI/CD流水线中,CMake的确定性构建表现出明显优势。

内容推荐

从特洛伊咖啡壶到华为LiteOS:一个文科生也能看懂的物联网发展简史
本文以特洛伊咖啡壶为起点,生动讲述了物联网从概念到现实的发展历程,重点解析了华为LiteOS的轻量化设计及其在物联网中的关键作用。文章还提供了HCIA物联网认证的实用备考建议,帮助读者理解物联网的核心技术和应用场景。
openEuler 22.03 LTS安装GNOME 41桌面踩坑实录:我遇到的5个问题及解决方法
本文详细记录了在openEuler 22.03 LTS上安装GNOME 41桌面环境时遇到的五个典型问题及解决方案,包括包冲突与依赖缺失、首次启动黑屏、中文语言包设置、网络管理器与蓝牙服务异常以及清理安装残留。通过具体命令和步骤,帮助用户顺利实现图形化桌面环境的部署。
告别synchronized!用Disruptor无锁框架重构你的Java高并发服务(附性能对比)
本文深入探讨了如何利用Disruptor无锁框架重构Java高并发服务,显著提升系统性能。通过对比传统synchronized方案与Disruptor在TPS、延迟和CPU利用率等方面的表现,展示了Disruptor在高并发场景下的巨大优势。文章包含核心原理解析、实战重构示例和性能调优建议,帮助开发者掌握这一高性能并发框架。
Python解包错误:从“too many values to unpack”到优雅处理数据不匹配
本文深入解析Python中常见的'too many values to unpack'错误,探讨其本质及解决方案。从基础的数量匹配到进阶的星号解包技巧,再到实战中的数据不匹配处理,帮助开发者优雅应对ValueError异常。文章特别介绍了unpack机制在API响应、文件解析等场景中的应用,提升代码健壮性。
C/C++宏函数避坑指南:从SQUARE(8+2)=26说起,手把手教你正确加括号
本文深入解析C/C++宏函数常见陷阱,以SQUARE(8+2)=26为例揭示宏定义缺陷,提供防御性编程四原则(括号防御、多语句封装、副作用防护、类型安全),并对比现代C++替代方案。通过Linux内核和Redis源码案例,展示宏函数最佳实践与调试技巧,帮助开发者规避潜在风险。
别再问OA运维难不难了!从B/S到C/S,手把手教你搞定Windows服务器上的OA系统部署
本文详细解析了OA系统在Windows服务器上的部署流程,涵盖B/S和C/S架构的配置要点。从环境准备到安全加固,提供完整的运维指南,帮助解决OA系统部署中的常见问题,提升运维效率。特别针对OA运维中的难点给出实用解决方案。
保姆级教程:用Python脚本一键搞定CrowdHuman数据集转YOLOv5格式(含只保留person类别的代码)
本文提供了一份详细的Python脚本教程,帮助用户将CrowdHuman数据集从ODGT格式转换为YOLOv5格式,特别包含只保留person类别的代码实现。通过环境准备、数据集解析、核心代码实现和自动化处理流水线搭建,大幅提升目标检测任务的效率。
你的ROS小车能动吗?给URDF模型加上Gazebo物理属性和键盘控制的完整流程
本文详细介绍了如何为ROS小车的URDF模型添加Gazebo物理属性和键盘控制功能,解决模型在仿真中无法移动的问题。通过定义质量、惯性矩阵、碰撞属性和传动系统,使小车具备真实物理行为,并实现Python键盘控制节点,帮助开发者快速完成从静态模型到动态仿真的转变。
实战笔记:STM32G4 HRTIM高分辨率定时器的PWM波形生成与调试
本文详细介绍了STM32G4 HRTIM高分辨率定时器在PWM波形生成与调试中的实战应用。从基础入门到高级功能配置,包括死区时间设置、故障保护等,提供了完整的项目环境搭建和调试技巧,帮助工程师实现高精度PWM控制,适用于电机驱动、电源转换等场景。
别再只用next()了!Python生成器send()方法实战:手把手教你构建动态数据管道
本文深入解析Python生成器的`send()`方法,教你如何突破`next()`的单向限制,构建动态数据管道。通过实战案例展示如何实现生成器与外部环境的双向交互,包括动态日志处理器和可配置API模拟器,提升数据处理灵活性和效率。掌握这一技巧可广泛应用于实时监控、数据清洗等场景。
手把手教你用Vivado和SDK在ZCU102上玩转PS端SPI控制器(EMIO扩展版)
本文详细介绍了如何在ZCU102评估板上使用Vivado和SDK实现PS端SPI控制器的EMIO扩展。从Vivado工程创建、IP配置到SDK应用程序开发,提供完整的SPI通信系统构建指南,帮助开发者快速掌握ZYNQ平台的SPI扩展技术,提升嵌入式系统开发效率。
C++取整函数全攻略:round、ceil、floor怎么选?结合实例一次讲清
本文全面解析C++中的取整函数round、ceil和floor的应用场景与性能对比,结合电商分页、游戏伤害计算等实战案例,帮助开发者精准选择取整策略。特别探讨了保留小数位的高精度处理技巧和跨平台一致性挑战,为工程实践提供避坑指南。
从原始数据到精准分析:ENVI5.3驱动下的高分二号影像全流程预处理实战
本文详细介绍了使用ENVI5.3对高分二号(GF-2)遥感影像进行全流程预处理的方法,包括辐射定标、大气校正、正射校正和影像融合等关键步骤。通过实战案例和避坑指南,帮助用户掌握从原始数据到精准分析的技术要点,提升遥感影像处理效率和数据质量。
麒麟&UOS系统下vlc-qt开发环境搭建与实战指南
本文详细介绍了在麒麟和UOS国产操作系统下搭建vlc-qt开发环境的完整流程,包括环境准备、依赖安装、编译优化及Qt项目集成实战。特别针对ARM架构与X86架构的差异提供了解决方案,并分享了性能优化与常见问题排查技巧,帮助开发者高效实现音视频应用开发。
【Python】pyecharts 模块 ② ( 虚拟环境安装与配置 | 多版本Python环境下的模块部署 )
本文详细介绍了在Python多版本环境下使用虚拟环境安装和配置pyecharts模块的方法。通过venv和conda两种工具创建隔离环境,解决版本冲突问题,并提供了PyCharm中的多环境配置技巧。文章还涵盖了复杂环境下的排错指南、虚拟环境的高级应用以及企业级部署实践,帮助开发者高效管理Python项目依赖。
保姆级避坑指南:微信小程序调用百度OCR识别身份证,从配置到上线的完整流程
本文提供微信小程序集成百度OCR身份证识别的完整流程,从百度AI平台配置到微信小程序上线,涵盖关键步骤和常见避坑指南。详细讲解Access Token获取、图片处理、OCR接口调用等核心技术点,帮助开发者高效实现身份证扫描识别功能,提升实名认证流程的用户体验。
禾川HCQ0-1100-D PLC固件升级与库版本避坑指南:从1.04版Web可视化说起
本文详细解析禾川HCQ0-1100-D PLC固件升级与库版本兼容性问题,从1.04版Web可视化功能切入,提供完整的版本管理解决方案。涵盖固件升级流程、库函数版本冲突处理、Web可视化配置及多总线协议集成实践,帮助工程师规避常见版本陷阱,提升工业自动化项目开发效率。
VCS门级仿真避坑指南:从Pre-Gate到Post-Gate的完整配置与调试实战
本文详细解析了VCS门级仿真从Pre-Gate到Post-Gate的完整配置与调试实战,涵盖关键编译选项、典型问题解决方案和高效调试方法论。通过对比Pre-Gate和Post-Gate仿真的核心差异,帮助工程师优化验证流程,提升芯片设计效率。特别针对跨时钟域处理和X态溯源等常见挑战,提供了实用的调试技巧和最佳实践。
告别delay()!用Arduino Uno定时器中断实现精准多任务(附TimerOne库实战)
本文详细介绍了如何利用Arduino Uno的定时器中断和TimerOne库实现精准多任务处理,告别传统的delay()函数。通过实战案例和高级技巧,帮助开发者解决时序失控、响应迟钝等问题,提升项目效率和精度。
Qt信号管理三板斧:connect、disconnect、blockSignals在动态界面中的实战配合
本文深入探讨Qt信号管理中的connect、disconnect和blockSignals三种方法在动态界面开发中的实战应用。通过对比分析它们的本质区别、适用场景及性能影响,帮助开发者高效管理信号与槽的连接,构建更健壮的交互界面。特别针对表单验证、监控面板和插件系统等典型场景,提供了最佳实践方案。
已经到底了哦
精选内容
热门内容
最新内容
DDR5 SDRAM 信号完整性实战:深入解析占空比调节器(DCA)的校准策略与系统补偿
本文深入解析DDR5 SDRAM中占空比调节器(DCA)的校准策略与系统补偿,探讨其在高速内存应用中的核心价值与工程挑战。通过实战案例详细介绍了DCA寄存器配置、四相时钟系统处理及读取训练中的协同优化,帮助工程师提升信号完整性并实现系统稳定性。
保姆级拆解:GameFramework资源加载如何用任务池和对象池搞定高并发?
本文深入解析GameFramework在高并发场景下的资源加载优化方案,重点介绍任务池和对象池的协同设计。通过优先级调度、智能代理分配及引用计数管理,有效解决移动游戏开发中的性能瓶颈问题,提升资源加载效率并降低内存占用。
从‘自用’到‘共享’:我是如何把一个日常工具脚本打包成PyPI可安装包的
本文分享了如何将日常Python脚本打包成PyPI可安装包的完整过程,重点探讨了从自用到共享的思维转变。通过项目结构规范化、配置管理优化、文档撰写和自动化测试等关键步骤,帮助开发者将私人工具转化为可复用的开源包,提升代码价值并扩大技术影响力。
用STM32G431和ADS1118搭建一个简易四通道电压监测仪(附完整工程)
本文详细介绍了如何利用STM32G431微控制器和ADS1118 ADC芯片构建一个高精度四通道电压监测仪。通过模拟SPI通信实现多通道电压采集,提供完整的硬件设计、软件实现及优化策略,适用于电子系统调试、电源监测等多种场景。项目包含详细代码示例和常见问题解决方案,助力开发者快速搭建可靠的电压监测系统。
告别‘一视同仁’:聊聊3D点云检测中FocalsConv如何像人眼一样聚焦关键区域
本文探讨了Focal Sparse Convolutional Networks(FocalsConv)在3D点云检测中的创新应用,通过模拟人眼的选择性关注机制,动态聚焦关键区域。该技术有效解决了传统3D卷积神经网络在处理非均匀点云数据时的效率问题,显著提升了小目标检测精度和实时性能,特别适用于自动驾驶等场景。
稀疏贝叶斯学习:从高维噪声中识别关键信号的智能框架
本文深入探讨了稀疏贝叶斯学习(Sparse Bayesian Learning)在高维噪声数据中识别关键信号的智能框架。通过先验分布和变分推断等核心技术,稀疏贝叶斯学习能够有效压缩特征维度并提升模型可解释性。文章结合医疗影像、金融风控等实战案例,展示了其在特征选择和降维方面的卓越性能,并提供了避坑指南和前沿进展,为处理高维数据提供了高效解决方案。
图像频域处理入门:用MATLAB的FFT/FFT2函数看懂频谱图与滤波
本文介绍了图像频域处理的基础知识,重点讲解如何使用MATLAB的FFT/FFT2函数进行频谱图分析和滤波操作。通过实际代码示例,帮助读者理解傅里叶变换在数字图像处理中的应用,包括频谱图解读、频域滤波技术及优化技巧,适合初学者快速入门频域图像处理。
避开这3个坑,你的CellProfiler病理图像分析流程才算真正跑通
本文深入探讨了CellProfiler在病理图像分析中的三个常见陷阱及解决方案,包括颜色解混、对象识别阈值策略和数据整合。通过实战案例和参数优化建议,帮助研究者避免系统性偏差,提升分析结果的准确性和可靠性。
从零到一:K210上Mx_yolov3模型训练与部署避坑指南
本文详细介绍了在K210开发板上训练与部署Mx_yolov3模型的完整流程,包括环境搭建、CUDA配置、数据集准备、模型训练与调优、模型转换及部署方案。特别针对常见问题如zlibwapi.dll缺失、内存不足等提供了实用解决方案,帮助开发者高效完成AI模型在边缘设备上的落地应用。
PLL IP核:从原理到实战的时钟管理指南
本文深入解析PLL IP核在数字系统中的关键作用,从软核、固核到硬核的三种形态对比,到Quartus中的实战配置与调试技巧。通过详细案例展示如何生成多时钟信号,优化高级参数,并解决常见问题,帮助工程师高效管理FPGA时钟系统。特别涵盖动态重配置等进阶应用,提升系统灵活性与性能。