查看完整版本: 老司机必备!AI 本地聊天整合包 v1.21正式版来啦

静若 发表于 2026-7-14 13:35:41

老司机必备!AI 本地聊天整合包 v1.21正式版来啦

本帖最后由 静若 于 2026-7-15 16:02 编辑

老司机搞机必看!剑侠AI 本地聊天整合包 v1.21 正式版来啦纯本地离线运行 | 解压即用免配置 | 自研 Vue3 中文界面 | 隐私无死角防护
为什么要折腾本地 AI?大家懂的都懂,现在在线 AI 限制越来越多,提问动不动就“敏感词敏感词”,要不就是聊着聊着突然断连、收费,甚至你问的那些私密话题、个人资料全在人家服务器上留底……这次搞出来的 剑侠AI 本地聊天整合包,就是为了彻底解决这些痛点。把顶级大模型直接塞进你自己的电脑里,不联网也能跑,想怎么聊就怎么聊,数据完全掌控在自己手里!

为什么说它是老司机必备?
[*]零门槛,解压就能用内置了独立便携 Runtime 环境,不用再去配什么复杂的 Python 环境变量,也不用看满屏报错眼花缭乱。解压到文件夹,双击直接开运行!
[*]自研 Vue3 中文高颜值界面告别死板的 CMD 黑色命令行窗口!我们自己写的现代化三栏 UI,极其符合国人的使用习惯,操作顺手,颜值直接拉满。
[*]真正的纯本地离线 & 隐私防护所有计算全程吃你自己的显卡/CPU,零数据上传。还贴心内置了安全工作区,AI 帮你看代码或改文件前会自动备份,再也不怕把本地文件搞丢搞乱。
[*]Models 自动识别 + 多模态识图模型下好了直接往文件夹一扔,软件自动识别,不用手动改各种配置文件。支持多模态,扔张截图、架构图或者看图说话,直接就能跟它对聊。
[*]显存极速释放 & 云端 API 无缝切换软件一关,GPU 显存瞬间释放干净,绝不后台偷偷跑满你的显卡。要是本地显卡不够顶,还能一键接入云端 API 模式,灵活得很!
[*]
你的显卡能跑多爽?(硬件参考)
[*]入门级(6GB 显存):流畅跑 7B / 8B 级别的纯文本大模型(比如 Llama3、Qwen 等),平时写写代码、润色文案轻轻松松。
[*]甜品级(12GB 显存·强烈推荐):稳跑 14B~35B 深度量化模型,多模态识图也毫无压力,体验极度丝滑。
[*]发烧级(16GB 显存及以上):各种高精量化大模型随便扔,长文本推理、复杂逻辑分析直接拉满!

(PS:显卡稍弱的朋友也别慌,挂云端 API 同样能享受这套超爽的本地 UI 和安全备份功能。)
怎么上手?四步开爽:
[*]下载后解压到全英文路径的盘符下;
[*]把你的模型文件(GGUF 等格式)直接放进 models 文件夹;
[*]双击 根目录下的启动主程序.exe,自动弹出中文界面;
[*]选好模型,直接开启你的私密 AI 对话之旅!


整合包大小与模型说明

[*]为了控制整合包体积、方便大家快速下载和试用,本体仅内置了一款 Qwen3.5-9B 多模态无审查模型。其他模型可根据个人需求后续自由扩展,既节省本地空间,又能即装即用!
[*]整合包本体约1.20GB+内置Qwen3.5-9B多模态无审查模型一共8GB左右
[*]为了方便无法“科学上网”的小伙伴下载,专门整理了 15 款精选实用模型,(直接使用云盘直连下载)
[*]整合包内置;(模型适配显卡说明.txt),(整合包详细使用说明.txt),(模型下载.txt)

【开发阶段特别说明】
目前整合包仍处于 开发测试阶段,并不代表最终品质!由于不同电脑的系统环境差异,可能会遇到某些设备不兼容或功能 Bug 的情况。

期待您的反馈:
诚邀各位体验官在使用过程中帮我收集遇到的问题、Bug 或提出您希望新增的扩展功能!每一条建议我都将作为后续版本迭代规划的重要参考!

   剑侠AI本地聊天整合包 · 更新记录================================================================================【v1.22】2026-07-15================================================================================版本:v1.21 → v1.22主要更新:· 新增 GPU 自动检测与算力后端切换      - 检测到 NVIDIA 独显 → 自动使用 CUDA 加速(python/)      - 检测到 AMD 独显   → 自动使用 Vulkan 加速(python-vulkan/)      - 未检测到独立显卡 → 默认 CPU 推理(-ngl 0;核显不默认加速)· 新增 python-vulkan/ 目录(llama.cpp b9870 Windows Vulkan 后端)· 加载模型时若 GPU 后端启动失败,自动回退 CPU,避免整包直接不可用· 运行状态 / 日志输出「算力后端: CUDA / VULKAN / CPU」信息· 支持高级强制切换:环境变量 JX_COMPUTE_BACKEND=cuda|vulkan|cpu· 同步更新《整合包使用说明》与《模型适配显卡说明》中的显卡说明
说明:· A 卡请保持 AMD 显卡驱动为较新版本(需支持 Vulkan)· N 卡用户行为与 v1.21 基本一致,仍优先走 CUDA· 模型显存档位表仍以 NVIDIA 为参考;AMD 可按相近显存选用新版本1.22 支持A卡GPU加速了,大家仍然需要使用过程中中来测试看看,右侧运行状态有没有使用的是显存在跑!不同机型构造不一样================================================================================【v1.21】================================================================================· 整合包基线版本(本文件自 v1.22 起正式维护)PS:N卡用户无需重新下载,这次更新是专门针对A卡用户的优化兼容,支持GPU加速A卡用户需要重新下载,JianxiaChatv1.22 版本+然后保留旧版的Models目录的模型,只需要下载本体,用7-Zip解压后,把旧版的Models模型移到新版Models目录下即可切记,解压整合包前,提前关闭系统杀毒软件和第三方杀毒软件,避免解压过程中误杀拦截整合包相关组件文件等,如果双击启动显示白屏,必须安装必备的WebView2前置工具

静若 发表于 2026-7-15 13:35:39

温馨提醒(常见问题)须知:
1、当前这套整合包版本,本地 GPU 加速只面向 N 卡(NVIDIA + CUDA),不支持 A 卡 GPU 加速。
2、A 卡用户实际会怎样:能使用整合包,但基本是 CPU 推理,会慢很多,不像N卡是用显存跑!
3、打开软件窗口全白;聊天窗是 WebView2 内嵌页面:Win11 一般有 WebView2,Win10 可能没装或坏了 → 常见表现就是 白屏/空白窗,另外也可能是:后端没起来、GPU/驱动、杀软拦本地 127.0.0.1,
4、一般最常见的就是,看杀毒是否拦截,最好是在解压前,提前关闭杀毒软件,还有就是解压过程中使用了系统自带的解压软件导致整合包损坏,推荐使用,7-Zip 来解压,因为打包用的就是 7-Zip
5、后续将会,把这些收集的问题去优化迭代下一个版本
整合包仍在测试阶段,不代表最终品质!

a886kao 发表于 2026-7-18 14:49:01

大佬,我之前玩酒馆的,酒馆的角色卡可以在这里加载用吗?

海莺 发表于 2026-7-14 19:27:34

大佬牛逼,有没有可以生成站里那种ai视频的

laowangyangwei 发表于 2026-7-15 00:16:04

大佬牛逼,跟你混

我下啊 发表于 2026-7-14 20:36:11

谢谢大佬,下载来看看

cxfj 发表于 2026-7-14 19:35:42

感谢分享

cqu280217 发表于 2026-7-14 19:17:47

下载个看看

luoz49946 发表于 2026-7-15 06:48:13

感谢大佬,试试看去

yanzhe82 发表于 2026-7-15 03:41:22

启动超时是什么情况?而且解压包在90%左右会报错

bwangle 发表于 2026-7-15 00:12:11

电脑渣渣可以挂云端?

xyx99 发表于 2026-7-14 19:25:39

绘画等等的有吗,大佬

静若 发表于 2026-7-14 20:57:28

海莺 发表于 2026-7-14 19:27
大佬牛逼,有没有可以生成站里那种ai视频的

有的,后续会制作更新

静若 发表于 2026-7-14 21:00:59

xyx99 发表于 2026-7-14 19:25
绘画等等的有吗,大佬

绘画的预计明天发布更新

mine2024 发表于 2026-7-14 23:32:48

必须支持

402315863 发表于 2026-7-14 23:44:19

真的是好东西{:4_87:}

laowangyangwei 发表于 2026-7-15 01:20:21

网站验证码为什么一直无法通过

mjyoy 发表于 2026-7-15 01:59:34

打开软件窗口全白

呵呵哒没毛病 发表于 2026-7-15 02:04:40

这是啥意思

静若 发表于 2026-7-15 02:34:14

呵呵哒没毛病 发表于 2026-7-15 02:04
这是啥意思

最可能报错原因; Tcl 环境安装时被杀毒误删了 /以及 解压过程损坏、缺失,

解决办法1、检查杀毒隔离区(最高概率)

[*]打开 你的电脑Windows 安全中心→病毒和威胁防护→保护历史记录;
[*]查看隔离项目,有没有:lib/tcl8.6、init.tcl相关文件如果有,点击恢复并添加信任;然后重启启动器。

解决方案 2:完整重新下载解压(解决解压损坏)

[*]彻底删除现有D:\Alliaotian整个文件夹;
[*]关闭所有杀毒软件、防火墙;
[*]使用 7-Zip 完整解压整合包压缩包,解压路径不要有中文、空格、特殊符号,建议直接解压到 D 盘根目录D:\Alliaotian
[*]





静若 发表于 2026-7-15 02:39:35

mjyoy 发表于 2026-7-15 01:59
打开软件窗口全白

一、看杀毒软件是否有拦截;关闭后防火墙杀毒软件,在启动器双击试试看!
二、Win11 一般有自带WebView2Win10 可能没装或坏了 → 常见表现就是 白屏/空白窗需要自行搜索; WebView2 Runtime 安装/修复

zhengwutongxfj 发表于 2026-7-15 08:55:05

感谢大佬普罗米修斯精神
页: [1] 2 3 4 5 6 7 8 9 10
查看完整版本: 老司机必备!AI 本地聊天整合包 v1.21正式版来啦