27 篇文章带有标签 “github-copilot”

使用的模型

• 代码生成 Tabby 使用的是 Deepseek Coder 6.7B 模型。
• AI 聊天 CodeGPT 使用的是 ChatGLM3-6B 模型。这个后面考虑使用 Deepseek Coder 6.7B 来替换。

部署服务器端

• 基于 PyCharm 使用 Tabby 和 CodeGPT 插件搭建免费的 GitHub Copilot

安装 InteliJ IDEA

安装插件

插件

• 代码生成：Tabby
• AI 聊天：CodeGPT

安装

打开 IntelliJ IDEA，选择 Settings 菜单，选择 Plugins，搜索 Tabby 和 CodeGPT，点击 Install 安装。

• Tabby

• CodeGPT

配置插件

Tabby

参数

• Endpoint: http://172.16.33.66:8080

CodeGPT

参数

• Service: OpenAI Service
• API key: NULL
• Model: GPT-3.5(4k)
• Base host: http://172.16.33.66:8000

使用插件

AI 聊天

代码生成

使用的模型

• 代码生成 Tabby 使用的是 Deepseek Coder 6.7B 模型。
• AI 聊天 CodeGPT 使用的是 ChatGLM3-6B 模型。这个后面考虑使用 Deepseek Coder 6.7B 来替换。

部署服务器端

Tabby 服务

docker run -d --runtime nvidia --name tabby -p 8080:8080 \
  -e TABBY_DOWNLOAD_HOST=modelscope.cn \
  -e NVIDIA_VISIBLE_DEVICES=3 \
  -e RUST_BACKTRACE=1 \
  -v `pwd`/.tabby:/data tabbyml/tabby \
  serve --model TabbyML/DeepseekCoder-6.7B  --device cuda

OpaneAI 服务

• 启动服务 Controller

python -m fastchat.serve.controller

• 启动服务 Model Worker

python -m fastchat.serve.model_worker \
  --model-path THUDM/chatglm3-6b --port 21002 \
  --worker-address http://localhost:21002 \
  --model-names chatglm3-6b,gpt-3.5-turbo

Tabby

• Tabby Playground
• Tabby Docs
• Tabby Blog
• GitHub: Tabby
• There's An AI For That
• Run Curl Commands Online

Coding LLMs Leaderboard (TabbyML Team)

Introducing the Coding LLM Leaderboard

更新日期：2023-11-13

Next Line Accuracy

什么是 Next Line Accuracy ？

在代码补全中，模型预测的是跨越多行的代码块。一种朴素的方法是直接将预测的代码块与实际提交的代码进行比较。虽然这种方法看起来理想，但它通常被认为是一个“过于稀疏”的度量标准。另一方面，下一行准确度可以作为整体代码块匹配准确度的可靠代理。

只有红色框内的内容被用于与真实值进行比较，以计算准确度指标。

安装 Tabby

Homebrew (Apple M1/M2)

安装 tabby brew install tabbyml/tabby/tabby ==> Fetching tabbyml/tabby/tabby ==> Downloading https://github.com/TabbyML/tabby/releases/download/v0.7.

CodeFuse 代码领域大模型

CodeFuse 的使命是开发专门设计用于支持整个软件开发生命周期的大型代码语言模型（Code LLMs），涵盖设计、需求、编码、测试、部署、运维等关键阶段。我们致力于打造创新的解决方案，让软件开发者们在研发的过程中如丝般顺滑。

• CodeFuse Blog
• CodeFuse-13B: A Pretrained Multi-lingual Code Large Language Model
• CodeFuse
• CodeFuse 开源能力
• 什么是 CodeFuse
• HuggingFace CodeFuse
• TheBloke/CodeFuse-CodeLlama-34B-GGUF
• CodeFuse-CodeLlama-34B-4bits
• CodeFuse-CodeLlama34B-MFT编程助手Demo

Copilot for CLI

GitHub CLI

在 macOS 安装 GitHub CLI

• 安装

brew install gh

• 升级

brew upgrade gh

• 登录

gh auth login

? What account do you want to log into? GitHub.com
? What is your preferred protocol for Git operations on this host? HTTPS
? Authenticate Git with your GitHub credentials? Yes
? How would you like to authenticate GitHub CLI? Login with a web browser

! First copy your one-time code: EA2E-F864
Press Enter to open github.com in your browser... 
✓ Authentication complete.

• 查看登录状态

gh auth status

github.com
  ✓ Logged in to github.com account wang-junjian (keyring)
  - Active account: true
  - Git operations protocol: https
  - Token: gho_************************************
  - Token scopes: 'gist', 'read:org', 'repo', 'workflow'

开发文档

• Visual Studio Code Tips and Tricks
• Python in Visual Studio Code
• Python testing in Visual Studio Code
• Docker Getting Started Tutorial

扩展

• Jupyter
• GitHub Copilot
• GitHub Copilot Labs

选择 Python 解释器

1. 通过 Shift + Command + P 快捷键，打开命令面板。
2. 输入 Python: Select Interpreter ，回车。
3. 选择您想使用的环境。

在状态栏上可以单击进行切换不同的环境

测试

我选择了 pytest 测试框架，这个写起来更自然且简单。

注册

打开 GitHub Copilot - Your AI pair programmer，可以选择 Copilot for Individuals（Copilot个人版） 进行免费 2 个月的试用，每年 $100 ，可以使用 PayPal 进行支付。

• Getting started with GitHub Copilot

IDE 集成

VS Code

GitHub Copilot 扩展

GitHub Copilot Labs 扩展

• GitHub Copilot Labs 可以对代码进行解释，翻译到不同的编程语言。

Neovim

安装 Neovim

brew install neovim
brew install node

安装 GitHub Copilot 扩展

• 使用 Neovim 的内置插件管理器安装 GitHub Copilot。

git clone https://github.com/github/copilot.vim \
   ~/.config/nvim/pack/github/start/copilot.vim

• 若要配置 GitHub Copilot，请打开 Neovim 并输入以下命令。

:Copilot setup

• 在 Neovim 配置中或使用 Neovim 命令启用 GitHub Copilot。

:Copilot enable

• Neovim
• Node.js
• macOS install Node.js