校内个人服务器搭建和配置方案
前言 最近一直在搞各种大模型 API 中转服务，为了能用上低价甚至免费的 API，我真是煞费苦心，尝试了各种方案： 自搭建 GLM-5.1-w8a8 模型，使用 vllm + litellm 提供 API 接入服务 购买便宜的 Deepseek v4 pro 的 API 在各种二道贩子、小众平台上购买 GPT 号、搭建 GPT 号池并最终反代出 Codex API 参与学校的 token plan，拿到免费的 Deepseek v4 pro 和 qwen3.6 的 API 接入 Nvidia 自部署并且可以免费使用的各种模型的 API 从熟悉的同学那里求来用不完或者免费的 API 额度 但是随着服务数量的增多和额外需求的增加，我同时也重构了我现在的在校服务器搭建和配置方案，因此在此分享一下我的方案，提供一种可行的思路。 背景 在正式讲述我的搭建方案前，我需要声明一下我所拥有的资源情况： 一台位于宿舍由主机改造而来的小型服务器 特点：4 核心、8g ddr4 内存、512g 固态硬盘、千兆网卡 限制：宿舍晚上 23:30 熄灯，直到早上 6:00 才上电自动开机，因此无法熬夜使用 一台校内 Vlab 平台提供的 kvm 虚拟机 特点：2 核心、6g 内存、16g 机械硬盘、千兆网卡 限制：性能一般，尤其是磁盘随机读写性能较差，只能跑一些简单的服务，而且伴有由于维护带来的强制重启和停机的风险 一台位于香港的轻量级 VPS ...