你的工作台上的 AI：日常工作的实战设置

大多数在工作中使用 AI 的人都被困在浏览器标签页的聊天窗口中复制粘贴，每次需要帮助时都要切换上下文。偶尔问几个问题还凑合，但一小时内要在编程、写作和研究间多次使用 AI 时就不行了。本指南涵盖一套设置，让 AI 贴近你已有的工作位置，同时考虑成本、隐私和速度。

为正确的工作选择正确的模型

不是每项任务都需要 GPT-4 级别的推理能力。如果你在总结会议记录或改写电子邮件，较小、较快的模型能在数分之一的时间和成本内完成工作。通过 Ollama 在本地运行 Llama 3.1 8B 或 Mistral 7B 之类的模型处理快速、低风险的任务：

ollama pull llama3.1:8b
ollama run llama3.1:8b "用 3 个要点总结这个：..."

为需要真正推理的任务保留更大的托管模型（GPT-4o、Claude 3.5 Sonnet）：调试棘手的堆栈跟踪、起草技术方案或审查架构决策。按这种方式分工会明显降低 API 账单（如果按 token 计费的话），而且本地模型响应时间以毫秒计，而 API 往返调用需要秒级。

把 AI 集成到编辑器中，而不是浏览器

如果你写代码，最高杠杆的做法是把 AI 直接放在 IDE 中。VS Code 配合 Continue 扩展让你指向一个本地 Ollama 模型或云端 API 密钥，你可以选中代码并行内提问，而不用把上下文重新输入到聊天窗口。

{
  "models": [
    {
      "title": "Local Llama",
      "provider": "ollama",
      "model": "llama3.1:8b"
    }
  ]
}

对于终端工作，aichat 之类的工具或一个简单的 shell 函数包装 OpenAI CLI 能让你根本不用打开浏览器：

function ask() {
  curl -s https://api.openai.com/v1/chat/completions \
    -H "Authorization: Bearer $OPENAI_API_KEY" \
    -H "Content-Type: application/json" \
    -d "{\"model\":\"gpt-4o-mini\",\"messages\":[{\"role\":\"user\",\"content\":\"$1\"}]}" \
    | jq -r '.choices[0].message.content'
}

用 ask "explain this regex: ^(?=.*[A-Z]).{8,}$" 调用它，不离开 shell 就能得到答案。

让敏感数据远离第三方服务器

在把任何东西粘贴到云端模型之前，想想它是否包含客户数据、凭证或你公司不希望离开网络的专有代码。许多团队设了一条简单规则：任何涉及内部代码库或个人信息的东西都通过本地模型或有零保留协议的企业级 API，其他一切可以用消费者级工具。

Ollama 运行在一台有不错 GPU 的机器上（一块 RTX 4070 或更好的卡能舒适地处理 7B-13B 模型）足以覆盖大多数日常起草和代码审查工作，完全不用让一字节离开你的笔记本。对于更重的本地工作，量化模型（Q4_K_M 或 Q5_K_M）用少量精度换取速度和更低的内存使用。

写小脚本而不是重复输入提示词

如果你发现自己反复输入相同的提示词结构，把它变成脚本。一个从 git 日志拉取数据的日报汇总器是个好开始：

git log --since="yesterday" --author="$(git config user.name)" --oneline | \
  ask "把这些提交变成 3 句话的日报更新"

这种小自动化是复利的。一天节省 5 分钟，十人团队一个月就能积累真正的工时，而且它消除了让人们不愿使用 AI 工具的摩擦。

警惕故障模式

你工作台上的 AI 仍会以特定、可预测的方式出错：它编造代码库中不存在的函数名，误读对缩进敏感的代码，自信地给出过时的库语法。始终在信任生成的代码之前运行它，对任何事实声明（CVE 编号、库的默认行为、弃用日期）要单独验证而不是当面值接受。

目标不是用模型的输出替换你的判断。而是缩短从有疑问到获得有用答案初稿的时间，这样你每天的更多时间能用在真正需要人类的工作部分。

如果你想进一步了解本地模型、提示词设计或围绕它们编写自己的工具，看看 Korra Studio 的 AI 和 Scripting 部分。