🎙️ dsh-talk
September 4, 2026 · View on GitHub
🎙️ dsh-talk
- 1024 商店渠道:先
npm i -g dsh1024,再dsh1024 plugin --profile web add dsh-talk(计入 deepseek1024.com 安装排行)。
DeepSeek Harness 的 voice-first 会话闭环:对它说话,听它回答。
按下麦克风说话,回复会被朗读出来——说话即打断。
兼容性
| 方面 | 状态 |
|---|---|
| Harness | DeepSeek Harness 0.1.2-rc.1(2026-09-04 已适配):会话信封保留 ignorable 字段但仅用于存量日志读取兼容——Session.append 仍无法盖章,门控行为不变。 |
| Node | ^22.19.0 || >=24.0.0 |
| 浏览器 | Web Speech + MediaRecorder(Chrome/Edge 最佳);其余场景用宿主侧转写/TTS 引擎 |
你能得到什么
dsh-talk 双向闭合语音环路:
speak工具 —— agent 朗读自己的回复。TTS 引擎:浏览器语音、edge-tts(网络神经语音)或piper(本地)。音频在浏览器播放;在能够承载该事件的宿主上,会话日志记录脱敏后的朗读内容(见安全边界)。- 输入框麦克风按钮 —— 按下说话,转写文本自动回填输入框(或直接提交)。STT 引擎:浏览器 Web Speech(含中间结果)、FunASR HTTP 服务或本地
whisper.cpp。 - 说话即打断 —— 开始说话即停止当前播报(经 client→host 的
talkRemote 通道)。 - 事件播报 —— 回合完成、待审批(waterfall 安全:绝不阻塞门禁)与出错,带静音开关与可配话术。
- 设置页签 —— 引擎/语言选择与播报开关,以追加式 profile patch 操作保存(带备份)。
浏览器 宿主
🎙 按下 ──▶ 打断 ────────────────────▶ talk/interrupt
录音(MediaRecorder / Web Speech)
转写(浏览器)或 talk/transcribe ────▶ FunASR / whisper.cpp
回填草稿或提交 ◀── talk:speech 投影 ── speak 工具 / 事件播报
▶ 播放音频(talk/audio 或 speechSynthesis)
快速开始
# 1. 把 bundle 装进你的 profile
dsh plugin --profile web add "github:PerryLink/dsh-talk#main"
# 或从 npm 安装(正式发布版)
dsh plugin --profile web add dsh-talk
# 2. 重启并核实行
dsh --profile web --dump-config | grep -A2 'id: talk'
然后按下输入框旁的麦克风说话;也可以让 agent 用 speak 工具朗读回复:
> 用 speak 工具说"你好"。
安装与卸载
- git 通道(最新
main):dsh plugin --profile web add "github:PerryLink/dsh-talk#main"——prepare脚本仅用生产依赖构建。 - npm 通道(正式发布版):
dsh plugin --profile web add dsh-talk。 - tarball 通道:在本仓库执行
pnpm pack,然后dsh plugin --profile web add ./dsh-talk-<version>.tgz。 - 卸载:
dsh plugin --profile web remove dsh-talk(或从 profile patch 中删除该行)。
如果 pnpm 对本包报
ERR_PNPM_IGNORED_BUILDS(esbuild 的平台二进制无害校验),在你的pnpm-workspace.yaml中加入allowBuilds: { esbuild: true }——dshCLI 会打印确切片段。
配置
所有可调项都是 Schemastery Config 字段(可在 cordis.yml 中修改)。cordis.patch.yml 内联说明了每个键。
| 键 | 默认值 | 含义 |
|---|---|---|
record.enabled | true | 显示输入框麦克风按钮 |
record.hotkey | (无) | 可选切换快捷键,如 "alt+r" |
record.maxSeconds | 60 | 录音上限(秒,1..600) |
record.autoSubmit | false | 转写结果直接作为用户消息提交(false = 回填草稿) |
record.vad.enabled / silenceMs / energyThreshold | true / 1500 / 0.01 | 语音活动检测:静音自动结束录音(缺 AudioContext 时降级为手动停止) |
stt.engine | auto | auto / web / funasr / whisper;auto 优先已配置的本地引擎,其次 Web Speech |
stt.language | auto | BCP-47 语言或 auto |
stt.interim | true | 显示中间转写(Web Speech) |
stt.silenceFinaliseMs | 4000 | 连续 Web Speech 在没有语音活动达到此毫秒数后停止(500..15000) |
stt.funasr.url | (无) | FunASR 推理端点;引擎为 funasr 时必填 |
stt.whisper.modelPath | (无) | whisper.cpp 模型;引擎为 whisper 时必填 |
tts.engine | auto | auto / browser / edge-tts / piper;auto 优先 piper,其次 edge-tts,最后浏览器语音 |
tts.rate | 0 | edge-tts/piper 语速偏移(百分比,-50..50) |
tts.fallbackToBrowser | true | 本地引擎失败时回退浏览器语音 |
tts.browser.voiceName | (无) | 首选浏览器语音名称;未找到时使用平台默认语音 |
tts.browser.rate | 1 | 浏览器 SpeechSynthesis 语速(0.1..10) |
tts.browser.pitch | 1 | 浏览器 SpeechSynthesis 音高(0..2) |
tts.piper.modelPath | (无) | piper 语音模型;引擎为 piper 时必填 |
announce.enabled | true | 事件播报总开关 |
announce.onTurnEnd / onApproval / onError | true | 播报哪些事件 |
announce.messages.* | "Turn complete." 等 | 播报话术 |
interrupt | true | 开始说话即停止当前播放 |
maxSpeakChars | 20000 | speak 工具文本上限(1..100000) |
maxAudioCacheBytes | 8388608 | 内存合成音频缓存上限(1 MiB..64 MiB) |
stt.silenceFinaliseMs 与 record.vad.silenceMs 是两套独立机制:前者在连续 Web Speech 识别听不到语音时定稿转写文本;后者是 MediaRecorder 的能量检测器,用于结束录音(record.autoSubmit 开启时随即提交)。两者处于不同流水线,不共享任何状态。
工具与界面
| 界面 | 类型 | 说明 |
|---|---|---|
speak | 工具 | 朗读文本(browser/edge-tts/piper);支持单次引擎/音色覆盖;规范 JSON 结果 |
| 麦克风按钮 | conversation.input.left 槽位 | 录音 → 转写 → 回填草稿(或提交);按下即打断 |
| 设置页签 | settings.plugins.tab(id talk) | 引擎/语言/播报开关;追加式保存 |
talk:* | Typert Remote | status、audio、transcribe、applySettings、interrupt(宿主命名空间) |
权限与数据
- 权限:插件只保存内存中、字节受限的音频缓存;麦克风权限由浏览器管理。设置页签只向 profile 追加 patch 片段(带时间戳备份)——绝不重写文件。
- 数据:音频绝不进入模型上下文或会话日志。在宿主的会话词汇表接受该事件的宿主上,
dsh-talk/speech事件携带朗读 id、引擎、原因、大小、脱敏文本,并在适用时携带浏览器语音、语速和音高;在无信封宿主上该事件完全不写入。所有展示/日志面都会脱敏凭据、JWT、bearer 头与临时路径。 - 网络:只联系你配置的引擎。
edge-tts执行网络合成,FunASR 使用其配置的端点,而 Chrome 的webkitSpeechRecognition会将麦克风音频发送到 Google 服务器进行转写;浏览器的speechSynthesis播放仍在本机完成。
安全边界
- 模型可见 ⟺ 已记录 —— 模型只看到 speak 工具的规范值与渲染文本。
dsh-talk/speech事件只在宿主能够承载它时写入(见宿主兼容性);tool/call+tool/result事件始终是可重建的痕迹。 - 审批播报绝不阻塞 ——
approval/request监听器总是调用next()。 - 输出脱敏 —— 凭据与临时音频路径绝不上日志或展示面。
- 宿主兼容性 ——
dsh-talk/speech事件经自适应门写入:已知词汇表覆盖该事件的宿主直接追加;带ignorable追加选项的宿主带标记追加;无信封宿主——截至0.1.1-rc.2的全部已发布线、仅保留信封字段用于存量日志读取兼容、Session.append仍无法盖章的0.1.2-alpha线,以及0.1.2-rc.1线——完全不追加,因此语音在这些宿主线上永远不会污染会话日志。此时实时播放历史保持为空,speak 工具结果是可重建的审计痕迹。 - 失败响亮 —— 非法引擎、越界数值、缺模型/端点的引擎配置在挂载时即报错。
已知限制
- 浏览器支持:Web Speech 与 MediaRecorder 均特性检测;不可用时麦克风按钮自动禁用,配置了宿主引擎(FunASR/whisper.cpp)仍可转写。
- 本地引擎需自行安装:
edge-tts、piper、whisper.cpp可执行文件与模型需单独安装。 - 录音格式:浏览器按其原生 MediaRecorder 编解码器录音;whisper.cpp 可能要求 WAV 录音配置或服务端转换。
- 设置重载生效:设置页签追加到 profile patch;重载 profile(或重启 Web 应用)后生效。
- 无信封宿主上实时播放历史为空:在
0.1.1-rc.2、0.1.2-alpha线以及0.1.2-rc.1上,宿主词汇表不认识dsh-talk/speech,因此门不写入任何内容,客户端的会话级播放列表保持为空。朗读本身、麦克风、设置页签与工具均不受影响。 - dsh-talk ≤ 0.2.1 写下的存量日志可能需要在冷加载前修复:版本 0.2.1 及更早会追加未标记的
dsh-talk/speech事件。在0.1.0-rc.7及更新的宿主上,日志已含这些事件的会话,其下一次冷加载会以SessionFormatUnsupportedError失败。修复:停止宿主,备份该会话的.jsonl日志,为每一行"type"为"dsh-talk/speech"的 JSON 记录加上顶层成员"ignorable":true(例如在起始的{之后插入"ignorable":true,),然后重新打开会话。其余内容不变,不会丢失任何数据;本版本的新追加永远不会产生未标记事件。
开发
pnpm install # node ^22.19 || >=24
pnpm run typecheck # tsc:src + tests,对照本地 harness checkout
pnpm run typecheck:ci # tsc:对照已发布的 0.1.2-rc.1 类型(无 paths)
pnpm test # vitest:77 个测试、13 个套件
pnpm run build # tsc 声明 + tsdown bundle(lib/)
pnpm run verify:self-contained # 依赖声明全部来自 registry
pnpm run verify:artifacts # 构建产物 ESM 面 + client ModuleLoader 握手
pnpm pack # 发布用 tarball
Topics
dsh, dsh-plugin, deepseek-harness, deepseek, cordis, voice, speech, tts, stt, speech-to-text, text-to-speech, microphone
Contributors
- @PerryLink —— 创建者与维护者:朗读管线、语音引擎、麦克风录音、事件播报、投影单元与五语文档。
PerryLink DSH Plugin Family
这是 PerryLink 维护的 33 个 DeepSeek Harness 插件 之一。如果它能帮到你,其他的也会:
| Plugin | One-liner |
|---|---|
| dsh-dsh-auto-review | 审批链上的第二模型自动审查,默认失败关闭 |
| dsh-dsh-background-agents | 带 Web UI 侧栏、消息与中断的持久后台子代理 |
| dsh-dsh-budget | DeepSeek Harness 的成本治理:预算、碳排与延迟一屏呈现。 |
| dsh-dsh-checkpoint-rewind | Claude Code /rewind 等价:快照、会话 fork、一次性恢复 |
| dsh-dsh-claude-move | 把 Claude Code 会话、记忆、技能与 CLAUDE.md 迁入 DSH |
| dsh-dsh-click | 跨平台原生桌面控制(DeepSeek Harness),Windows 优先。 |
| dsh-dsh-composer-history | Web 输入框的终端式历史:方向键、Ctrl+R 搜索 |
| dsh-dsh-data-quality | 数据集质量检查与引文核查(本插件可选消费的数字核查桥) |
| dsh-dsh-defend | DeepSeek Harness 的提示注入、越狱与密钥泄露防护。 |
| dsh-dsh-doublecheck | 工程纪律守卫:需求质询、测试门禁、对手评审 |
| dsh-dsh-draw | DeepSeek Harness 的统一静态图像生成路由。 |
| dsh-dsh-fast | DeepSeek Harness 只读性能诊断。 |
| dsh-dsh-fund-research | 面向中国公募基金的确定性研究报告 |
| dsh-dsh-github | 面向 DSH 的 GitHub PR/issues 集成,每次写入经审批门控 |
| dsh-dsh-industry-research | 行业研究编排,经本插件的 ctx.researchReport.assemble 封存交付物 |
| dsh-dsh-library | DeepSeek Harness 的本地文档知识库。 |
| dsh-dsh-local-ai | DeepSeek Harness 的本地模型(Ollama)接入。 |
| dsh-dsh-lsp-actions | 通过语言服务器的 LSP 诊断、格式化、补全、代码操作与重命名 |
| dsh-dsh-mask | PII 脱敏中间件:模型边界匿名化、展示层还原 |
| dsh-dsh-mcp-panel | 只读 MCP 运行时面板:/mcp 命令 + 带状态、工具与错误的 Settings 标签页 |
| dsh-dsh-memento | 审批门控的跨会话记忆:ctx.memory 接缝 + SQLite + 记忆工具 |
| dsh-dsh-observe | DeepSeek Harness 的 OpenTelemetry 与 Langfuse 可观测导出器。 |
| dsh-dsh-output-styles | Claude Code outputStyles 等价的运行时风格切换 |
| dsh-dsh-permission-rules | Claude Code 风格声明式 allow/deny/ask 权限规则,带审计 |
| dsh-dsh-plugin-guide | 作为按需代理技能的插件开发知识库 |
| dsh-dsh-research-report | 可验证研究报告引擎:内容寻址证据账本与封存版本 |
| dsh-dsh-score | DeepSeek Harness 插件的多维质量评分。 |
| dsh-dsh-session-pin | 在 Web 侧栏置顶会话,带持久排序 |
| dsh-dsh-session-sync | DeepSeek Harness 的跨设备会话同步——会话存储的专用 git 镜像。 |
| dsh-dsh-skill-pack-security | 安全审计技能包:密钥扫描、依赖与供应链审查 |
| dsh-dsh-test-drive | DeepSeek Harness 插件的隔离试装冒烟。 |
| dsh-dsh-translate | DeepSeek Harness 的厂商参数翻译与确定性 JSON 修复。 |
License
Apache License 2.0 © 2026 dsh-talk contributors
从 DSH Desktop 市场安装
所有 PerryLink 插件均可在 DSH Desktop 内置市场中浏览:市场 → 来源 → 添加来源 → 粘贴 https://perrylink-dsh-catalog.perrylink.workers.dev/catalog-source.json → 选中。安装仍需通过市场的 npm 身份校验与你的确认。