AI aan je bureau: een praktische setup voor dagelijks werk

De meeste mensen die AI op het werk gebruiken, zitten vast met copy-pasten in een chatvenster in een browsertabblad, waarbij ze elke keer hun aandacht verschuiven wanneer ze hulp nodig hebben. Dit werkt voor af en toe vragen, maar valt uit elkaar zodra je meerdere keren per uur AI gebruikt voor codering, schrijven en onderzoek. Deze gids behandelt een setup die AI dicht bij de plek houdt waar je al werkt, met aandacht voor kosten, privacy en snelheid.

Kies het juiste model voor de juiste taak

Niet elke taak heeft GPT-4-niveau redenering nodig. Als je een meetingtranscript samenvat of een email herschrijft, doet een kleiner, sneller model het werk in een fractie van de tijd en kosten. Voer iets als Llama 3.1 8B of Mistral 7B lokaal uit via Ollama voor snelle, laagrisico taken:

ollama pull llama3.1:8b
ollama run llama3.1:8b "Summarize this in 3 bullet points: ..."

Reserveer de grotere gehoste modellen (GPT-4o, Claude 3.5 Sonnet) voor taken die echte redenering nodig hebben: het debuggen van een moeilijke stack trace, het opstellen van een technisch voorstel, of het beoordelen van architectuurbeslissingen. Door werk op deze manier op te splitsen, bespaar je merkbaar op je API-rekening als je per token betaalt, en lokale modellen reageren in milliseconden in plaats van seconden voor API round-trips.

Integreer AI in je editor, niet in je browser

Als je code schrijft, is de meest lucratieve zet AI rechtstreeks in je IDE plaatsen. VS Code met de Continue-extensie laat je verwijzen naar een lokaal Ollama-model of een cloud API-sleutel, en je kunt code selecteren en inline vragen stellen in plaats van context in een chatvenster opnieuw in te typen.

{
  "models": [
    {
      "title": "Local Llama",
      "provider": "ollama",
      "model": "llama3.1:8b"
    }
  ]
}

Voor terminalwerk besparen tools als aichat of een eenvoudige shell-functie die de OpenAI CLI omdraait je ervan af een browser te openen:

function ask() {
  curl -s https://api.openai.com/v1/chat/completions \
    -H "Authorization: Bearer $OPENAI_API_KEY" \
    -H "Content-Type: application/json" \
    -d "{\"model\":\"gpt-4o-mini\",\"messages\":[{\"role\":\"user\",\"content\":\"$1\"}]}" \
    | jq -r '.choices[0].message.content'
}

Roep het aan met ask "explain this regex: ^(?=.*[A-Z]).{8,}$" en krijg een antwoord zonder de shell te verlaten.

Zorg ervoor dat gevoelige gegevens niet op servers van derden belanden

Voordat je iets in een cloud-model plakt, vraag je jezelf af of het klantgegevens, inloggegevens of bedrijfscode bevat die je bedrijf het netwerk niet uit wil. Veel teams hanteren een eenvoudige regel: alles wat met interne codebases of PII te maken heeft, gaat via een lokaal model of een enterprise-tier API met een zero-retention-overeenkomst, en al het andere kan naar een consumer-tier tool.

Ollama dat op een machine met een fatsoenlijke GPU draait (een enkele RTX 4070 of beter verwerkt 7B-13B modellen gemakkelijk), bestrijkt het meeste dagelijkse schrijf- en codebeoordelingswerk zonder dat een enkel byte je laptop verlaat. Voor zwaardere lokale werkzaamheden wisselen gekwantiseerde modellen (Q4_K_M of Q5_K_M) een kleine hoeveelheid nauwkeurigheid in voor snelheid en lager geheugengebruik.

Bouw kleine scripts in plaats van prompts te herhalen

Als je merkt dat je dezelfde promptstructuur steeds opnieuw typt, zet het om in een script. Een dagelijkse standup-samenvatter die uit je git-log haalt, is een goed startpunt:

git log --since="yesterday" --author="$(git config user.name)" --oneline | \
  ask "Turn these commits into a 3-sentence standup update"

Dit soort kleine automatisering stapelt zich op. Vijf minuten bespaard per dag bij een team van tien loopt in een maand uit op echte uren, en het verwijdert de wrijving die mensen ervan weerhoudt AI-tools te gebruiken.

Pas op voor de foutmodi

AI aan je bureau krijgt dingen nog steeds fout op specifieke, voorspelbare manieren: het verzint functienamen die niet in je codebase bestaan, leest inspringingsgevoelige code verkeerd, en geeft zelfverzekerd verouderde bibliotheeksyntaxis. Voer gegenereerde code altijd uit voordat je het vertrouwt, en behandel elke feitelijke claim (een CVE-nummer, het standaardgedrag van een bibliotheek, een afkeurdatum) als iets wat je onafhankelijk moet verifiëren in plaats van zomaar aan te nemen.

Het doel is niet je oordeel met de output van een model te vervangen. Het is de tijd tussen het hebben van een vraag en het krijgen van een nuttig eerste concept van een antwoord verkorten, zodat je meer van je dag kunt besteden aan de delen van het werk die werkelijk iemand nodig hebben.

Als je dieper wilt gaan met lokale modellen, prompt design, of je eigen tools eromheen te scripten, kijk dan naar de AI en Scripting segmenten op Korra Studio.