基于 PyCharm 使用 Tabby 和 CodeGPT 插件搭建免费的 GitHub Copilot
- 启动服务
Controller
python -m fastchat.serve.controller
- 启动服务
Model Worker
python -m fastchat.serve.model_worker \
--model-path THUDM/chatglm3-6b --port 21002 \
--worker-address http://localhost:21002 \
--model-names chatglm3-6b,gpt-3.5-turbo
- 启动服务
OpenAI API Server
python -m fastchat.serve.openai_api_server --port 8000





