最近国内的DeepSeek爆发出强劲的势头，纵观网友们的评价下来，很少有国产AI能有这样不错的评价。再加上最近DeepSeek注册就送500百万tokens，还有1块钱一百万tokens的这样的优惠力度，不得不去体验了一下。
deepseek官网

概述

目前来讲，我并没有很强的tokens使用场景，大多数以网页的chat聊天为主。
基于这种场景下的有个痛点就是：在终端和网页之间来回切换，有点浪费时间，不太友好。
所以我想着能不能把ai集成到cli中，让我在终端中可以直接和ai聊天，不需要切换到网页。

经过搜索，方案是可行的，工具采用的是LLM.

在一切配置开始前，需要如下前置条件：

安装python环境

注册deepseek账号

上面两个是最基本的条件，如果不满足建议谷歌搜索一下，这里不在赘述。

配置

安装LLM

用pip安装:

1	pip install llm

以后有需要更新版本，可以使用：

1	pip install -U llm

获取DeepSeek的API Key

前往deepseek官网，注册一个新的账户。
在API Keys页面，点击创建 API key按钮，复制API Key，这是你的私钥，最好不要外泄。（注意：窗口一旦关闭后，API Key就会看不见，一定要保存好！当然如果没了，直接重新创建一个也可以）

配置LLM

由于LLM是基于OpenAI的，所以需要设置模型采用DeepSeek的模型。

配置要使用模型的名称，这里是deepseek，名字随便取一个即可：
1
llm keys set deepseek
回车之后，会提示你输入你的API Key，输入你的API Key回车即可。不确定可以采用dirname "$(llm logs path)"找到keys.json文件，查看里面的API Key是否正常。

配置默认使用的模型名称：

1 2	# 这里deepseek是你第一步输入的名称 llm models default deepseek

配置请求deepseek api：
- dirname "$(llm logs path)"，会输出llm的配置路径
- 在这个路径下新建一个extra-openai-models.yaml文件，添加如下内容:
  1
  2
  3
  4
  - model_id: deepseek
  model_name: deepseek-chat
  api_base: "https://api.deepseek.com/v1"
  api_key_name: deepseek
- 如果你第一步的模型名称不是deepseek，这里的model_id和api_key_name需要改成第一步设置的名称。
- model_id、api_key_name都是LLM里面概念，而model_name才是请求对应厂商的模型名称
如果第二步没有设置成默认模型，也可以采用参数选用模型：
1
llm -m your_model_name "你的问题"

使用验证

终端下直接输入llm "你的问题"即可：

LLM常见使用方式

1. 直接提问

1	llm "你的问题"

这个命令每次运行都会开启一个会话，每用一次会得到当前这个会话AI的回答。如果相继于当前会话继续提问，参考下面命令。

2. 持续对话

1	llm "你的问题" -c

上面那个命令每次都会开启一个chat，那如果想要在一个会话中多次提问，则需要使用llm -c命令。但是注意这个命令是基于最近一次chat的上下文继续进行的，如果你有好几个chat，你想基于指定的chat多次提问，那么可以使用:

1	llm "你的问题" --cid/--conversation <id>

conversation可以通过llm logs查看。

3. 交互式对话

介绍完一次对话的基本用法，接下来来看看如何实现交互式对话。

1	llm chat -m chatgpt

chatgpt是你设置llm中的model_id，像本文中设置的就是deepseek。每次chat也会开启一个新的对话，退出之后你还想基于这个对话继续对话，可以使用:

1	llm chat -c

另外，还支持对模型使用一些参数，比如:

1	llm chat -m gpt-4 -o temperature 0.5

temperature是控制AI的回答的随机性，数值越大，AI的回答越随机，数值越小，AI的回答越有序。像deepseek的话，可以参考官方文档:

退出交互式对话，可以使用只需要输入quit或者exit然后回车即可。

3.1 设置系统提示词

交互式对话的时候，可以设置系统提示词-s/--system，这样AI的回答会更加有意义。

1	llm chat -m gpt-4 -s 'You are a sentient cheesecake'

这里也可以设置temperature参数，比如:

1	llm chat -m gpt-4 -s 'You are a sentient cheesecake' -o temperature 0.5

如果不想每次都这样敲命令，可以设置简短的别名，比如:

1	llm --system 'You are a sentient cheesecake' -m gpt-4 --save cheesecake

然后每次只需要输入llm chat -t cheesecake即可基于你设置的系统提示词进行对话！

3.2 交互式对话，如何多行输入

多行输入常见于贴一些错误信息啥的，操作如下：

输入!multi开启多行输入，然后粘贴
输入!end结束多行输入，然后回车即可。

有一种特殊情况，如果输入的信息里面包含了!end那该怎么办？很简单，官方也提供解决方案，设置自定义的开始结束符号即可！
例如：可以是!multi abc、!end abc，这样来避免。

4. 结合Linux命令

参数拼装：llm "Tell me about my operating system: $(uname -a)"
管道： cat myscript.py | llm 'explain this code'
git： git diff | llm -s 'Describe these changes'

这些都可以设置模型、系统提示和temperature等选项，在使用中可以配合好发挥出工具的最大作用！

5. 查看模型的参数

1	llm models --options

没什么好说，会直接输出模型的参数，使用时按照需求设置即可。

另外还有添加的附件的使用方式，这里就不再列出了，可以参考官方文档

参考：
https://github.com/simonw/llm
https://llm.datasette.io/en/stable/setup.html
https://llm.datasette.io/en/stable/other-models.html
https://api-docs.deepseek.com/zh-cn/
https://github.com/simonw/llm/issues/393

共建代码世界，践行开源精神

cli中集成ai,以deepseek为例

概述

配置