L'IA à votre bureau : une configuration pratique pour le travail quotidien

La plupart des gens qui utilisent l'IA au travail sont coincés à copier-coller du texte dans une fenêtre de chat dans un onglet navigateur, en changeant de contexte chaque fois qu'ils ont besoin d'aide. Cela fonctionne pour les questions occasionnelles, mais cela s'effondre une fois que vous utilisez l'IA plusieurs fois par heure pour le codage, la rédaction et la recherche. Ce guide couvre une configuration qui maintient l'IA près de l'endroit où vous travaillez déjà, en gardant un œil sur le coût, la confidentialité et la vitesse.

Choisir le bon modèle pour le bon travail

Toutes les tâches n'ont pas besoin d'un raisonnement de classe GPT-4. Si vous résumez une transcription de réunion ou réécrivez un e-mail, un modèle plus petit et plus rapide fait le travail en une fraction du temps et du coût. Lancez quelque chose comme Llama 3.1 8B ou Mistral 7B localement via Ollama pour les tâches rapides et peu risquées :

ollama pull llama3.1:8b
ollama run llama3.1:8b "Summarize this in 3 bullet points: ..."

Réservez les modèles hébergés plus puissants (GPT-4o, Claude 3.5 Sonnet) pour les tâches qui nécessitent un vrai raisonnement : déboguer une stack trace complexe, rédiger une proposition technique, ou examiner les décisions d'architecture. En divisant le travail de cette façon, vous réduisez notablement votre facture API si vous payez par jeton, et les modèles locaux répondent en millisecondes plutôt qu'en secondes pour les appels API aller-retour.

Intégrer l'IA à votre éditeur, pas à votre navigateur

Si vous écrivez du code, le mouvement à plus forte valeur ajoutée est de mettre l'IA directement dans votre IDE. VS Code avec l'extension Continue vous permet de pointer vers un modèle Ollama local ou une clé API cloud, et vous pouvez sélectionner du code et poser des questions en ligne au lieu de retaper le contexte dans une fenêtre de chat.

{
  "models": [
    {
      "title": "Local Llama",
      "provider": "ollama",
      "model": "llama3.1:8b"
    }
  ]
}

Pour le travail en terminal, des outils comme aichat ou une simple fonction shell enrobant le CLI OpenAI vous sauvent de l'ouverture d'un navigateur :

function ask() {
  curl -s https://api.openai.com/v1/chat/completions \
    -H "Authorization: Bearer $OPENAI_API_KEY" \
    -H "Content-Type: application/json" \
    -d "{\"model\":\"gpt-4o-mini\",\"messages\":[{\"role\":\"user\",\"content\":\"$1\"}]}" \
    | jq -r '.choices[0].message.content'
}

Appellez-la avec ask "explain this regex: ^(?=.*[A-Z]).{8,}$" et obtenez une réponse sans quitter le shell.

Garder les données sensibles hors des serveurs tiers

Avant de coller quoi que ce soit dans un modèle cloud, demandez-vous s'il contient des données client, des identifiants ou du code propriétaire que votre entreprise ne veut pas voir partir de son réseau. De nombreuses équipes fixent une règle simple : tout ce qui touche à des bases de code internes ou des informations personnelles passe par un modèle local ou une API d'entreprise avec un accord de non-conservation, et tout le reste peut aller à un outil grand public.

Ollama fonctionnant sur une machine avec un GPU décent (une seule RTX 4070 ou mieux gère confortablement les modèles 7B-13B) couvre la plupart du travail quotidien de rédaction et d'examen de code sans qu'un seul octet ne quitte votre ordinateur portable. Pour un travail local plus lourd, les modèles quantifiés (Q4_K_M ou Q5_K_M) échangent une petite quantité de précision contre la vitesse et une utilisation mémoire inférieure.

Créer de petits scripts au lieu de répéter les requêtes

Si vous trouvez que vous tapez la même structure de requête encore et encore, transformez-la en script. Un résumé de standup quotidien qui tire du git log est un bon point de départ :

git log --since="yesterday" --author="$(git config user.name)" --oneline | \
  ask "Turn these commits into a 3-sentence standup update"

Ce type de petite automatisation s'accumule. Cinq minutes économisées par jour dans une équipe de dix personnes s'ajoutent à des heures réelles sur un mois, et cela élimine la friction qui fait que les gens hésitent à utiliser les outils d'IA au départ.

Surveiller les modes de défaillance

L'IA à votre bureau se trompe toujours de manières spécifiques et prévisibles : elle fabrique des noms de fonction qui n'existent pas dans votre base de code, elle mal lit le code sensible à l'indentation, et elle donne avec assurance une syntaxe de bibliothèque obsolète. Exécutez toujours le code généré avant de le faire confiance, et traitez toute affirmation factuelle (un numéro CVE, le comportement par défaut d'une bibliothèque, une date d'obsolescence) comme quelque chose à vérifier indépendamment plutôt que de le prendre pour argent comptant.

L'objectif n'est pas de remplacer votre jugement par le résultat du modèle. C'est de réduire le temps entre avoir une question et obtenir un premier brouillon utile d'une réponse, pour que vous passiez plus de votre journée sur les parties du travail qui ont vraiment besoin d'un humain.

Si vous voulez aller plus loin avec les modèles locaux, la conception de requêtes, ou la création de vos propres outils autour d'eux, consultez les segments IA et Scripting sur Korra Studio.