AutoGPTQ-API
AutoGPTQ-API
📖 简介
Host the GPTQ model using AutoGPTQ as an API that is compatible with text 生成 UI API.
查看英文原版
Host the GPTQ model using AutoGPTQ as an API that is compatible with text generation UI API.
📥 安装此技能
ai-agent install autogptq-api
📖 其他安装方式
方法 2：从 GitHub 克隆
git clone https://github.com/mzbac/AutoGPTQ-APIcd autogptq-apiai-agent link .
方法 3：手动安装
# 下载技能后复制到技能目录 cp -r autogptq-api ~/.ai-agent/skills/
💡 提示： 技能将安装到你的本地 目录，不会存储在我们的服务器上。