注意:本模型为abliterated为无限制版本，输出结果可能稍有不适请停止使用！！！

先容我简单介绍一下模型命名qwq

1. Q4表示INT4，Q8表示INT8 Q代表了位数，数字越大模型精度越高（需要资源就越多
2. K：整数部分位数
3. S/M/L 为简单，中等，复杂
4. 4b 8b 为参数数量
5. qwen2 llama gemma2 是模型架构
6. 下面是英文原图……

什么是 LMStudio？

LMStudio 是一个开源的桌面应用程序，旨在简化 LLM 模型的部署过程。 说白了就是白说了：

• 模型下载: 支持从 Hugging Face(有可能需要代理)等平台直接下载各种主流 LLM 模型。
• 易于使用的界面: 提供直观的界面，方便你选择模型、调整参数。(说白了集成了一个前端UI)
• 多种后端支持: 支持本地的 CPU 和 GPU 运行，甚至可以通过 Web UI 进行访问。(可能需要打开CORS)
• 在线模式和离线模式: 随时随地运行，没有网络连接也能正常工作。(哈哈，自带UI不支持联网搜索)

LMStudio 部署步骤

1. 下载 LMStudio: 前往 lmstudio 下载适合你操作系统的 LMStudio 安装包。
2. 安装软件: 按照提示进行安装，通常只需点击下一步即可。(默认即可，当然路径可改WWW)
3. 启动 LMStudio: 安装完成后，双击图标即可启动 LMStudio。
4. 选择模型:
   • 点击左侧的“Models”标签页。
   • 你会看到一个搜索框，输入你想要下载的模型名称 (如：gemma，deepseek等)。
   • 选择你的模型，点击“Download”按钮开始下载。 LMStudio 会自动下载模型及其依赖项。

注意事项

• 如需联网搜索需配合（例如:Chatbox）等软件进行。

• 外部导入模型存放处路径必须包含作者以及文件名称层级的文件夹（例如:G:\models\Alibaba-Qwen\Qwen2.5-7B-Instruct-abliterated-v2.Q4_K_S/模型文件)

• 远程访问可能需要打开在“网络中提供服务”以及“启动CORS”

如需图片识别功能请使用带”VL”标识的可启用视觉功能模型（可以上传图片ね~)

运行结果展示 速度可达 72.16 tok/sec ！轻量化日常对话可胜任

可接入VPET虚拟桌宠

哈哈，第一次写文字教程，一直写到凌晨两点。还有不足多多谅解QWQ…

软件下载

Chatbox LMStudio

模型下载链接