#
反向代理 SillyTavern
注意
本节内容不涉及 OpenAI/Claude 反向代理。仅指HTTP/HTTPS 反向代理。
Termux 的设置让您感到困惑吗?您是否厌倦了在每个设备上更新和安装 ST?想要对您的聊天和角色进行组织吗?那么您很幸运。本指南将_希望_涵盖如何在您的 PC 上托管 SillyTavern,您可以从任何地方连接并与您用于运行 AI 模型的同一台 PC 上的机器人聊天!
警告
本指南不适合初学者。这将非常技术性。
#
公平警告
对于 Windows 用户
请参阅
您需要为自己购买一个域名,并为您的 SillyTavern 页面配置一个 CNAME
。我们建议在 Cloudflare 上添加或购买域名,因为本指南将涵盖如何使用 Cloudflare 本身进行此操作。
#
安装
#
Linux (裸机 SillyTavern)
对于 Linux,我们将通过 Traefik 反向代理 SillyTavern。还有其他选项,如 NGINX 或 Caddy,但在本指南中,我们将使用 Traefik,因为这是我们自己使用的。
使用
ifconfig
或从路由器获取计算机的私有 IP。提示
建议将私有 IP 设置为静态 IP。请参考路由器手册或使用 Google 配置静态 IP。
通过 Google 搜索
what's my ip
获取调制解调器的公共 IP。关于公共 IP
大多数住宅/家庭网络使用 动态 IP,在使用几个月后会进行更新。如果您有动态 IP,请使用 DDClient,或记得在 Cloudflare 仪表板上定期检查并更改您的公共 IP。
按照 Docker 安装指南 这里 安装 Docker。
注意
不要 安装 Docker Desktop。
按照 Docker 安装后指南 这里 中的 以非 root 用户管理 Docker 步骤进行操作。
前往 Linux 的根文件夹,创建一个名为
docker
的新文件夹。cd / sudo mkdir docker && cd docker
执行
chown
,将替换为您的 Linux 用户名,以设置 docker 文件夹的权限。 sudo chown -R <USER>:<USER> .
在 docker 文件夹内创建一个名为
secrets
的文件夹,在 secrets 内再创建一个名为cloudflare
的文件夹。mkdir secrets && mkdir secrets/cloudflare
在 docker 文件夹内创建一个名为
appdata
的文件夹,在 appdata 内再创建一个名为traefik
的文件夹。随后进入appdata/traefik
文件夹。mkdir appdata && mkdir appdata/traefik cd appdata/traefik
使用
touch
创建一个 acme.json 文件,并将其权限设置为 600。touch acme.json chmod 600 acme.json
使用
nano
或类似的编辑器,创建一个名为 traefik.yml 的文件,并粘贴以下内容。将模板电子邮件替换为您自己的,然后保存文件。api: dashboard: true debug: true insecure: true entryPoints: http: address: ":80" http: redirections: entryPoint: to: https scheme: https https: address: ":443" serversTransport: insecureSkipVerify: true providers: docker: endpoint: "unix:///var/run/docker.sock" exposedByDefault: false file: filename: /config.yml watch: true certificatesResolvers: cloudflare: acme: email: [email protected] storage: acme.json dnsChallenge: provider: cloudflare #disablePropagationCheck: true # 如果您在通过 cloudflare 拉取证书时遇到问题,请取消注释此行,将此标志设置为 true 可禁用等待 TXT 记录传播到所有权威名称服务器的需要。 resolvers: - "1.1.1.1:53" - "1.0.0.1:53"
返回
docker
文件夹。cd /docker
使用
nano
或类似的编辑器,创建一个名为 docker-compose.yaml 的文件,并粘贴以下内容。随后保存文件。secrets: CF_DNS_API_KEY: file: ./secrets/cloudflare/CF_DNS_API_KEY services: traefik: image: traefik:latest container_name: traefik restart: unless-stopped secrets: - CF_DNS_API_KEY ports: - 80:80 - 443:443 - 8080:8080 environment: CLOUDFLARE_DNS_API_TOKEN_FILE: /run/secrets/CF_DNS_API_KEY CLOUDFLARE_ZONE_API_TOKEN_FILE: /run/secrets/CF_DNS_API_KEY volumes: - /var/run/docker.sock:/var/run/docker.sock:ro - ./appdata/traefik/traefik.yml:/traefik.yml:ro - ./appdata/traefik/config.yml:/config.yml:ro - ./appdata/traefik/acme.json:/acme.json - /etc/localtime:/etc/localtime:ro networks: internal: driver: bridge
登录到 Cloudflare,点击您的域名,然后点击 获取您的 API 令牌。
点击 创建令牌 然后 创建自定义令牌,确保您为令牌授予以下权限。
令牌权限
Zone -> DNS -> Edit
Zone -> Zone -> Read
点击 继续到摘要,然后点击 创建令牌。
复制给您的令牌密钥并将其安全存储。
cd
到secrets/cloudflare
,使用nano
或类似的编辑器,创建一个名为 CF_DNS_API_KEY 的文件并粘贴您的密钥。返回到您的域名页面,转到 DNS。使用 添加记录 创建一个新记录,并创建两个 A 类型的记录,如下所示。将
PUBLIC_IP
替换为您自己的公共 IP,然后点击 保存。创建另一个
CNAME
类型的记录,然后点击 保存。以下是在 Cloudflare 仪表板上应该如何显示的示例。cd
到 appdata/traefik,使用nano
或类似的编辑器,创建一个名为 config.yml 的文件并粘贴以下内容。将PRIVATE_IP
替换为您获取的私有 IP,将silly.DOMAIN.com
替换为您的子域名和域名页面,然后保存文件。http: routers: sillytavern: entryPoints: - "https" rule: "Host(`silly.DOMAIN.com`)" middlewares: - https-redirectscheme tls: {} service: sillytavern services: sillytavern: loadBalancer: servers: - url: "http://PRIVATE_IP:8000" passHostHeader: true middlewares: https-redirectscheme: redirectScheme: scheme: https permanent: true
使用以下命令运行 Docker Compose:
cd /docker docker compose up -d
转到您的 SillyTavern 文件夹,编辑
config.yaml
以启用监听模式和基本身份验证,同时禁用whitelistMode
。listen: yes whitelistMode: false basicAuthMode: true
提示
确保将默认用户名和密码更改为您可以记住的强密码。
等待几分钟,然后打开您为 ST 创建的域名页面。在页面的末尾,您应该能够通过一个 URL 和一个帐户从任何地方访问 SillyTavern。
提示
如果几分钟后没有任何反应,请检查 Traefik 的容器日志以查找可能的错误。
享受吧! :D
#
Linux (Docker SillyTavern)
注意
请注意,我们在裸金属上通过Docker运行SillyTavern。这是我们在Docker上与其他Docker容器一起使用ST时的大致步骤。
按照**Linux (裸金属SillyTavern)**的步骤1-11进行操作。
登录到Cloudflare,点击您的域名,然后选择获取您的API令牌。
点击_创建令牌_,然后_创建自定义令牌_,确保为您的令牌授予以下权限。
令牌权限
区域 -> DNS -> 编辑
区域 -> 区域 -> 读取
点击_继续到摘要_,然后_创建令牌_。
复制给您的令牌密钥并将其存储在安全的地方。
cd
进入secrets/cloudflare
,使用nano
或类似编辑器,创建一个名为CF_DNS_API_KEY的文件,并将您的密钥粘贴进去。返回到您的域名页面,转到DNS。使用添加记录创建一个新记录,并创建两个_A_类型的记录,如下所示。将
PUBLIC_IP
替换为您的公共IP,将示例域名替换为您的域名,然后点击_保存_。创建另一个**
CNAME
**类型的记录,然后点击_保存_。以下是它在Cloudflare仪表板上应显示的示例。将SillyTavern克隆到
docker
文件夹中。cd /docker && git clone https://github.com/SillyTavern/SillyTavern
使用
nano
或类似编辑器,创建一个名为_docker-compose.yaml_的文件,并粘贴以下内容。将silly.DOMAIN.com
替换为您上面添加的子域,然后保存文件。secrets: CF_DNS_API_KEY: file: ./secrets/cloudflare/CF_DNS_API_KEY services: traefik: image: traefik:latest container_name: traefik restart: unless-stopped secrets: - CF_DNS_API_KEY ports: - 80:80 - 443:443 - 8080:8080 environment: CLOUDFLARE_DNS_API_TOKEN_FILE: /run/secrets/CF_DNS_API_KEY CLOUDFLARE_ZONE_API_TOKEN_FILE: /run/secrets/CF_DNS_API_KEY volumes: - /var/run/docker.sock:/var/run/docker.sock:ro - ./appdata/traefik/traefik.yml:/traefik.yml:ro - ./appdata/traefik/config.yml:/config.yml:ro - ./appdata/traefik/acme.json:/acme.json - /etc/localtime:/etc/localtime:ro sillytavern: build: ./SillyTavern container_name: sillytavern hostname: sillytavern image: ghcr.io/sillytavern/sillytavern:latest volumes: - "./appdata/sillytavern/config:/home/node/app/config" - "./appdata/sillytavern/data:/home/node/app/data" restart: unless-stopped labels: - "traefik.enable=true" - "traefik.http.routers.sillytavern.entrypoints=http" - "traefik.http.routers.sillytavern.rule=Host(`silly.DOMAIN.com`)" - "traefik.http.middlewares.sillytavern-https-redirect.redirectscheme.scheme=https" - "traefik.http.routers.sillytavern.middlewares=sillytavern-https-redirect" - "traefik.http.routers.sillytavern-secure.entrypoints=https" - "traefik.http.routers.sillytavern-secure.rule=Host(`silly.DOMAIN.com`)" - "traefik.http.routers.sillytavern-secure.tls=true" - "traefik.http.routers.sillytavern-secure.service=sillytavern" - "traefik.http.services.sillytavern.loadbalancer.server.port=8000" networks: internal: driver: bridge
使用以下命令运行Docker Compose:
docker compose up -d
停止SillyTavern Docker容器。
docker compose stop sillytavern
转到您的SillyTavern文件夹(
appdata/sillytavern/config
)并编辑config.yaml
以启用监听模式和基本身份验证,同时禁用whitelistMode
。listen: yes whitelistMode: false basicAuthMode: true
提示
确保将默认用户名和密码更改为您能记住的强密码。
再次启动SillyTavern Docker容器。
docker compose up -d sillytavern
等待几分钟,然后打开您为ST创建的域名页面。在页面的末尾,您应该能够通过一个URL和一个账户从任何地方访问SillyTavern。
提示
如果几分钟后没有任何反应,请检查Traefik的容器日志以查找可能的错误。
享受吧! :D
#
Windows
在Windows中,反向代理略有不同。目前,您在Windows上可用的唯一选项(根据我们所知)是通过在路由器上运行VPN或使用Cloudflare/NGROK隧道。有关更多信息,请参阅
今日事实
您知道Windows比Linux消耗更多的VRAM吗?如果您需要更多的上下文或更高参数的模型,我们建议双启动Windows和Linux,或者选择纯Linux以节省一些VRAM。
#
可选内容
虽然我们不一定会详细介绍这些内容,但如果您想更好地保护您的 SillyTavern 实例,以下是一些建议尝试使用的东西。(内容会在适当时添加)
-
Authelia/Authentik 是一个开源的单点登录 (SSO) 应用程序,允许您创建用户并通过在您想要保护的网站上呈现的登录门户来保护许多不同的页面。我们中的一位主要在其自己的域名使用此应用,而不是 ST 的基本认证,虽然设置起来比较复杂,但这是学习 SSO 和在互联网上更好地保护您的 ST 实例的好方法。
如果您计划在 ST 的基本认证上使用 Authelia,您必须在 config.yaml 中禁用
basicAuthMode
并启用securityOverride
。 使用 DDClient。
DDClient 允许您将公共 IP 同步到 Cloudflare,以防您的 ISP 更改它,从而使您能够继续像以前一样访问您的 ST 实例。
#
其他选项
如果反向代理对你来说有点复杂,还有其他方法可以连接到你的 ST 实例。
使用 自制 VPN。
一些路由器具备在路由器管理页面中托管 VPN 服务器(主要是 OpenVPN 或 WireGuard)的能力。请参考路由器的手册设置 VPN 并将你的设备添加到 VPN 中。连接后,只需访问为 SillyTavern 设置的私有 IP,就可以正常连接。这对用户和 Windows 使用更方便。
-
Cloudflare Zero Trust 是 Cloudflare 中的一个免费组织功能,允许你添加 50 个用户。它会通过 Cloudflare 代理你的流量,通过使用
cloudflared
将你的 ST PC 添加为隧道,你可以像在家一样连接到你的 ST 实例。请注意,在创建隧道后,你需要向路由器的私有 IP 地址添加路由,并计算 IP CIDR 值,以便在使用 Cloudflare Zero Trust 时能够完全本地访问。
使用独立的 Cloudflare/NGROK 隧道。
类似于 AI 后端的连接方式,你也可以通过 Cloudflare 隧道连接你的 ST 实例,并打开 Cloudflare 隧道页面。然而,每次想要在移动中使用 ST 时,你都需要复制并粘贴 Cloudflare/NGROK 生成的每个新链接。