llm (Simon Willison)

llm (Simon Willison)

在终端调用各家大模型并把对话存进 SQLite 的 CLI

核心功能

LLM 是 Simon Willison 开发的命令行工具与 Python 库,可用统一命令调用 OpenAI、Anthropic、Gemini 等远程模型,也能通过插件接入 Ollama 本地模型;所有提示词与回复自动写入 SQLite,可用 llm logs 检索复盘。

功能亮点

管道式用法

支持 cat myfile.py | llm -s 这类管道写法串联命令

对话日志库

每次提问回答都落库,llm logs 可按模型或会话过滤检索

插件生态

llm install llm-ollama 之类命令即可挂载本地模型与工具

多模态附件

加 -a 参数附上图片,让模型直接提取扫描件里的文字

自定义模型 / 模型接入

完全自定义

默认内置OpenAI模型,插件可扩Claude、Ollama等;任意OpenAI兼容端点写进extra-openai-models.yaml即可用。

接入方式
  • 官方OpenAI:llm keys set openai后llm -m gpt-4o
  • 装插件扩厂商:llm install llm-anthropic、llm-gemini
  • OpenAI兼容端点:extra-openai-models.yaml配api_base
  • 本地模型:llm install llm-gguf、llm-ollama或llm-mlx
  • 额外请求头:配置项headers:适配OpenRouter等网关
支持模型
OpenAI GPT系列ClaudeGeminiMistralDeepSeekOllama本地模型本地GGUF/MLX
bash
查配置目录位置
dirname "$(llm logs path)"
在该目录新建extra-openai-models.yaml,写入自定义端点
- model_id: my-deepseek
  model_name: deepseek-chat
  api_base: "https://api.deepseek.com"
  api_key_name: deepseek
存入该端点的密钥
llm keys set deepseek
确认模型已注册
llm models --options -m my-deepseek
直接提问
llm -m my-deepseek '你好'

适用场景

• 终端里快速试用不同厂商模型
• 用管道把代码或日志交给模型分析
• 批量生成文本并留存可查询记录
• 在 shell 脚本中调用模型生成内容

安装配置

bash
pip install llm
brew install llm
pipx install llm
uv tool install llm

使用方法

bash
llm keys set openai
llm "Ten fun names for a pet pelican"
cat myfile.py | llm -s "Explain this code"
llm "extract text" -a scanned-document.jpg
llm install llm-ollama
llm -m llama3.2:latest 'What is the capital of France?'
llm chat -m gpt-4.1
llm logs

关键指标

尚未核验对标产品,此处只列本工具自身指标,不做对比结论。

指标llm (Simon Willison)
价格免费
开源
上手难度入门
Token 消耗

相关工具

同类工具

优点

  • 同一套命令切换 OpenAI、Anthropic、Gemini 等模型,脚本不用改
  • 对话默认写入 SQLite,可用 SQL 或 Datasette 回溯任意历史请求
  • 天然契合 Unix 管道,能和 grep、jq、shell 脚本组成流水线
  • 插件既能接云端 API,也能接 Ollama 本地模型,断网也可用

缺点

  • 没有官方图形界面,全部操作依赖终端命令与参数记忆
  • 调用云端模型的 token 费用由各家 API 另行结算,工具不含额度
  • 插件由社区维护,更新节奏与质量参差,模型新特性常滞后
  • 官方文档专门为 Homebrew 安装方式给出警告,插件安装易踩坑