OpenVINO C# API 3.3.1 版本说明

August 6, 2026 · View on GitHub

版本信息

项目版本或内容
OpenVINO C# API3.3.1
OpenVINO Core2026.3.0
OpenVINO GenAI2026.3.0.0
发布日期2026-08-05
发布类型兼容性更新 / Maintenance

更新摘要

  • 对齐 OpenVINO Core 2026.3,现有 Core 推理 API 保持兼容;
  • 完善可选的 OpenVinoSharp.GenAI 封装,覆盖 LLM、Whisper 和 VLM 场景;
  • VLM 多轮对话改用 ChatHistoryGenerateWithHistory()
  • 发布与 OpenVINO 2026.3 对应的 Windows、Linux 和 macOS runtime 包;
  • 继续支持 .NET Framework 4.6 至 4.8、.NET Core 3.1 和 .NET 5 至 .NET 10。

详细变更

Core API

OpenVINO Core 从 2026.2 升级到 2026.3 时没有 C API 函数签名或 ABI 破坏性变化。 CoreModelTensorCompiledModelInferRequest 等既有推理流程可以继续使用。

项目同时保留原有 C 风格方法名和 PascalCase 便捷方法。已有代码不需要为本次升级统一改名, 新代码可以优先使用 ReadModel()CompileModel()CreateInferRequest()SetInputTensor()Infer()

GenAI

OpenVinoSharp.GenAI 提供 LLM 文本生成、Whisper 语音识别、VLM 视觉语言推理、Tokenizer、 生成参数、流式回调、性能指标和聊天历史等托管能力。GenAI runtime 保持可选;只使用 Core 推理 API 的应用不会主动加载 openvino_genai_c

OpenVINO GenAI 2026.3 新增 VLM history 入口,本版本通过以下方法提供对应能力:

using ChatHistory history = new ChatHistory().AddUserMessage(prompt);
using VLMDecodedResults result =
    pipeline.GenerateWithHistory(history, new[] { imageTensor }, config);
history.AddAssistantMessage(result.GetText());

LLMPipelineVLMPipelineStartChat()FinishChat() 仍保留兼容性,但已经标记为 [Obsolete]。新代码应使用 ChatHistoryGenerateWithHistory() 显式管理上下文。

Runtime 与平台

本版本推荐的 NuGet 版本组合如下:

组件版本
JYPPX.OpenVINO.CSharp.API3.3.1
OpenVINO.runtime.*2026.3.0
JYPPX.OpenVINO.GenAI.runtime.*2026.3.0

OpenVINO GenAI 官方归档使用四段式版本 2026.3.0.0,对应的 NuGet runtime 包统一使用 2026.3.0。项目文件中应填写 NuGet 版本。

示例与文档

  • GenAI 示例覆盖 greedy、beam search、multinomial、流式生成、Whisper 和视觉语言问答;
  • VLM 示例支持显式 ChatHistory、首轮图片输入和后续文本追问;
  • 安装文档说明 Core 与 GenAI runtime 的选择方式;
  • 升级指南补充 3.2 到 3.3 的 API 与包引用建议。

兼容性与弃用项

  • 破坏性变化:Core 公共推理 API 无已知破坏性变化;
  • 弃用 API:LLMPipeline.StartChat()LLMPipeline.FinishChat()VLMPipeline.StartChat()VLMPipeline.FinishChat()
  • 替代方案:使用 ChatHistoryGenerateWithHistory()
  • GenAI 依赖:仍为可选依赖,不影响只使用 Core API 的应用。

升级方法

Windows Core 项目:

<PackageReference Include="JYPPX.OpenVINO.CSharp.API" Version="3.3.1" />
<PackageReference Include="OpenVINO.runtime.win" Version="2026.3.0" />

Windows GenAI 项目:

<PackageReference Include="JYPPX.OpenVINO.CSharp.API" Version="3.3.1" />
<PackageReference Include="JYPPX.OpenVINO.GenAI.runtime.win" Version="2026.3.0" />

升级建议:

  1. 根据部署系统和 CPU 架构替换正确的 runtime 包;
  2. 保持托管 API、Core runtime 和 GenAI runtime 的推荐版本组合;
  3. 现有 Core 推理代码先保持不变,并运行项目原有回归测试;
  4. 将 GenAI 中的 StartChat()FinishChat() 调用迁移到 history API;
  5. 在目标设备上验证实际模型、驱动和 CPUGPUAUTO 等设备配置。

支持平台

场景2026.3 runtime 平台
CoreWindows x64、Ubuntu 24 x64、Ubuntu 22 x64、Ubuntu 22 ARM64、CentOS 8 x64、RHEL 8 x64、macOS ARM64
GenAIWindows x64、Ubuntu 24 x64、Ubuntu 22 x64、Ubuntu 22 ARM64、RHEL 8 x64、macOS ARM64

已知限制

  • 2026.3 GenAI runtime 没有发布 CentOS 8、Ubuntu 20 和 macOS x64 包;
  • Windows runtime 当前面向 x64,macOS runtime 当前面向 Apple Silicon;
  • GPU 和其他加速设备是否可用取决于目标机器的硬件、驱动及 OpenVINO 插件支持;
  • GenAI Pipeline 需要 OpenVINO GenAI 兼容的模型目录,不能把任意单个 ONNX 文件直接作为 LLM、Whisper 或 VLM 模型目录使用。

验证

  • 托管 API 与 VLM 示例可在 .NET 8 下无警告编译;
  • 自动化测试通过,依赖外部模型或本机 GenAI runtime 的测试在环境未配置时按设计跳过;
  • Core 与 GenAI 2026.3 runtime 包已覆盖上表所列平台。

English Summary

  • OpenVINO C# API 3.3.1 aligns with OpenVINO Core 2026.3.0 and OpenVINO GenAI 2026.3.0.0.
  • Existing Core inference APIs remain compatible; no Core C ABI break was introduced by OpenVINO 2026.3.
  • LLM, Whisper, and VLM wrappers remain optional through OpenVinoSharp.GenAI.
  • Use ChatHistory and GenerateWithHistory() for new multi-turn LLM and VLM code.
  • StartChat() and FinishChat() remain available for compatibility but are obsolete.
  • Use managed package 3.3.1 with the matching Core or GenAI runtime package version 2026.3.0.