// V-Muse — local LLM for Visual DialogScript
V-Muse
V-Muse:在您自己的电脑上、在您的 Visual DialogScript 脚本中运行的大语言模型,只需一个不到 1 MB 的 DLL。无需 Python,无需服务器,无需云端。
V-Muse 让大语言模型在您自己的电脑上、在您的 Visual DialogScript 脚本中运行,只需一个 DLL。没有 Python,没有 Docker,没有服务器,没有账号,没有云。
三行脚本,一个人工智能
打开模型,提出问题,读取回答:这是 Visual DialogScript 自 1995 年以来的承诺,如今用在了 AI 上。LLM … 命令和 @LLM(…) 函数成为您所用语言的一部分;DLL 通过 EXTERNAL 加载。
#define command,llm
#define function,llm
EXTERNAL vdsllm64.dll
%H = @LLM(OPEN,modele.gguf)
%R = @LLM(CHAT,%H,法国的首都是哪里?)
info %R
LLM CLOSE,%H
请把 modele.gguf 换成您的模型路径。32 位环境下,请加载 vdsllm.dll,而不是 vdsllm64.dll。
在您手中,没有附加条件
模型就在您的硬盘上。无需联网、无需订阅、没有额度限制——任何服务商都无法调价、下架模型或关闭您的账号。
没有任何东西离开您的电脑
问题、文档、回答,都不会离开。没有遥测。对律所、企业、行政机关而言,这是决定性的理由:数据留在原处。
一个 DLL,而不是一堆庞然大物
“传统”的本地 AI 意味着一个 Python 解释器、几十个软件包、虚拟环境、数 GB 的依赖,以及必须相互匹配的驱动版本。V-Muse 是一个不到 1 MB 的 DLL。它无需安装,只需复制;不会在系统中留下任何东西。唯一有分量的,是您自己选择的模型。
它适应电脑,而不是让电脑迁就它
V-Muse 会检测处理器、内存和显卡,自行决定哪些放在显卡上、其余放在处理器上。比显卡还大的模型同样能运行:一个 300 亿参数(13.8 GB)的模型,在 8 GB 显卡上的生成速度为每秒 25 个 token。
实测数据
每个数字都来自真实测量,测量于 2026 年 11 月 19 日,设备为笔记本电脑:Intel Core Ultra 9 275HX、32 GB、NVIDIA RTX 5070 Laptop 8 GB、Windows 11,vdsllm 0.16 / 0.17。在您的电脑上,数字将是您自己的。
| 测量项 | 结果 |
|---|---|
| 随附文件大小(各不到 1 MB) | vdsllm64.dll : 928,256 字节 · vdsllm.dll : 710,144 字节 |
| 读取 912 个 token 的提示,Qwen3.5-0.8B,在显卡上 | ≈ 4,000 token/秒 |
| 读取 912 个 token 的提示,Qwen3.5-4B,在显卡上 | ≈ 1,080 token/秒 |
| 读取 912 个 token 的提示,Qwen3.5-9B,在显卡上 | ≈ 650 token/秒 |
| 生成,Qwen3.5-0.8B / 4B / 9B,在显卡上 | ≈ 170 / 67 / 40 token/秒 |
| 生成,300 亿参数模型(13.8 GB),8 GB 显卡 | 25 token/秒 (18 仅处理器) |
| 无显卡(仅处理器),Qwen3.5-4B | ≈ 15 token/秒 |
有助手为您引路
它会检查您的电脑,推荐适合的模型——包括未经审查的模型——并下载、测量、调优,保存最佳设置。无需手动配置。
模型与格式
V-Muse 读取 llama、qwen2、qwen3、qwen3moe(专家混合模型)和 qwen35 架构的 GGUF 文件。支持的量化:Q8_0、Q6_K、Q5_K、Q4_K、Q3_K、Q2_K、IQ4_XS、IQ4_NL、IQ3_S、Q4_0、Q4_1、F16 和 F32。显卡计算通过 OpenCL 进行:NVIDIA 显卡,以及 DLL 测得比处理器更快的任何显卡。
处理器上免费,显卡加速需许可证
在处理器上计算免费且不限量。许可证用于解锁显卡计算。许可证授予开发者及其电脑:您发布的应用程序永远无需许可证——与 Visual DialogScript 规则相同。
V-Muse 是 Visual DialogScript 7 的扩展:使用它需要 VDS。
现在支持 Windows,Linux 即将到来
V-Muse 可在 Windows 上运行,支持 32 位和 64 位。Visual DialogScript 也能在 Linux 上运行,但 V-Muse 引擎尚未移植到 Linux:Linux 即将到来,目前尚不可用。
V-Muse,V-Softs 品牌。© Emmanuel Daunizeau。发行方:SADE INVEST GROUP。