OpenVINO C# API 3.3.1 版本说明
August 6, 2026 · View on GitHub
版本信息
| 项目 | 版本或内容 |
|---|---|
| OpenVINO C# API | 3.3.1 |
| OpenVINO Core | 2026.3.0 |
| OpenVINO GenAI | 2026.3.0.0 |
| 发布日期 | 2026-08-05 |
| 发布类型 | 兼容性更新 / Maintenance |
更新摘要
- 对齐 OpenVINO Core 2026.3,现有 Core 推理 API 保持兼容;
- 完善可选的
OpenVinoSharp.GenAI封装,覆盖 LLM、Whisper 和 VLM 场景; - VLM 多轮对话改用
ChatHistory与GenerateWithHistory(); - 发布与 OpenVINO 2026.3 对应的 Windows、Linux 和 macOS runtime 包;
- 继续支持 .NET Framework 4.6 至 4.8、.NET Core 3.1 和 .NET 5 至 .NET 10。
详细变更
Core API
OpenVINO Core 从 2026.2 升级到 2026.3 时没有 C API 函数签名或 ABI 破坏性变化。
Core、Model、Tensor、CompiledModel 和 InferRequest 等既有推理流程可以继续使用。
项目同时保留原有 C 风格方法名和 PascalCase 便捷方法。已有代码不需要为本次升级统一改名,
新代码可以优先使用 ReadModel()、CompileModel()、CreateInferRequest()、
SetInputTensor() 和 Infer()。
GenAI
OpenVinoSharp.GenAI 提供 LLM 文本生成、Whisper 语音识别、VLM 视觉语言推理、Tokenizer、
生成参数、流式回调、性能指标和聊天历史等托管能力。GenAI runtime 保持可选;只使用 Core
推理 API 的应用不会主动加载 openvino_genai_c。
OpenVINO GenAI 2026.3 新增 VLM history 入口,本版本通过以下方法提供对应能力:
using ChatHistory history = new ChatHistory().AddUserMessage(prompt);
using VLMDecodedResults result =
pipeline.GenerateWithHistory(history, new[] { imageTensor }, config);
history.AddAssistantMessage(result.GetText());
LLMPipeline 与 VLMPipeline 的 StartChat()、FinishChat() 仍保留兼容性,但已经标记为
[Obsolete]。新代码应使用 ChatHistory 与 GenerateWithHistory() 显式管理上下文。
Runtime 与平台
本版本推荐的 NuGet 版本组合如下:
| 组件 | 版本 |
|---|---|
JYPPX.OpenVINO.CSharp.API | 3.3.1 |
OpenVINO.runtime.* | 2026.3.0 |
JYPPX.OpenVINO.GenAI.runtime.* | 2026.3.0 |
OpenVINO GenAI 官方归档使用四段式版本 2026.3.0.0,对应的 NuGet runtime 包统一使用
2026.3.0。项目文件中应填写 NuGet 版本。
示例与文档
- GenAI 示例覆盖 greedy、beam search、multinomial、流式生成、Whisper 和视觉语言问答;
- VLM 示例支持显式
ChatHistory、首轮图片输入和后续文本追问; - 安装文档说明 Core 与 GenAI runtime 的选择方式;
- 升级指南补充 3.2 到 3.3 的 API 与包引用建议。
兼容性与弃用项
- 破坏性变化:Core 公共推理 API 无已知破坏性变化;
- 弃用 API:
LLMPipeline.StartChat()、LLMPipeline.FinishChat()、VLMPipeline.StartChat()和VLMPipeline.FinishChat(); - 替代方案:使用
ChatHistory与GenerateWithHistory(); - GenAI 依赖:仍为可选依赖,不影响只使用 Core API 的应用。
升级方法
Windows Core 项目:
<PackageReference Include="JYPPX.OpenVINO.CSharp.API" Version="3.3.1" />
<PackageReference Include="OpenVINO.runtime.win" Version="2026.3.0" />
Windows GenAI 项目:
<PackageReference Include="JYPPX.OpenVINO.CSharp.API" Version="3.3.1" />
<PackageReference Include="JYPPX.OpenVINO.GenAI.runtime.win" Version="2026.3.0" />
升级建议:
- 根据部署系统和 CPU 架构替换正确的 runtime 包;
- 保持托管 API、Core runtime 和 GenAI runtime 的推荐版本组合;
- 现有 Core 推理代码先保持不变,并运行项目原有回归测试;
- 将 GenAI 中的
StartChat()、FinishChat()调用迁移到 history API; - 在目标设备上验证实际模型、驱动和
CPU、GPU、AUTO等设备配置。
支持平台
| 场景 | 2026.3 runtime 平台 |
|---|---|
| Core | Windows x64、Ubuntu 24 x64、Ubuntu 22 x64、Ubuntu 22 ARM64、CentOS 8 x64、RHEL 8 x64、macOS ARM64 |
| GenAI | Windows x64、Ubuntu 24 x64、Ubuntu 22 x64、Ubuntu 22 ARM64、RHEL 8 x64、macOS ARM64 |
已知限制
- 2026.3 GenAI runtime 没有发布 CentOS 8、Ubuntu 20 和 macOS x64 包;
- Windows runtime 当前面向 x64,macOS runtime 当前面向 Apple Silicon;
- GPU 和其他加速设备是否可用取决于目标机器的硬件、驱动及 OpenVINO 插件支持;
- GenAI Pipeline 需要 OpenVINO GenAI 兼容的模型目录,不能把任意单个 ONNX 文件直接作为 LLM、Whisper 或 VLM 模型目录使用。
验证
- 托管 API 与 VLM 示例可在 .NET 8 下无警告编译;
- 自动化测试通过,依赖外部模型或本机 GenAI runtime 的测试在环境未配置时按设计跳过;
- Core 与 GenAI 2026.3 runtime 包已覆盖上表所列平台。
English Summary
- OpenVINO C# API 3.3.1 aligns with OpenVINO Core 2026.3.0 and OpenVINO GenAI 2026.3.0.0.
- Existing Core inference APIs remain compatible; no Core C ABI break was introduced by OpenVINO 2026.3.
- LLM, Whisper, and VLM wrappers remain optional through
OpenVinoSharp.GenAI. - Use
ChatHistoryandGenerateWithHistory()for new multi-turn LLM and VLM code. StartChat()andFinishChat()remain available for compatibility but are obsolete.- Use managed package 3.3.1 with the matching Core or GenAI runtime package version 2026.3.0.