IA en tu escritorio: una configuración práctica para el trabajo diario

La mayoría de las personas que usan IA en el trabajo están atrapadas copiando y pegando en una ventana de chat en una pestaña del navegador, cambiando contexto cada vez que necesitan ayuda. Eso funciona para preguntas ocasionales, pero se desmorona cuando usas IA varias veces por hora en programación, redacción e investigación. Esta guía cubre una configuración que mantiene la IA cerca de donde ya trabajas, considerando costo, privacidad y velocidad.

Elige el modelo correcto para cada tarea

No toda tarea necesita razonamiento de clase GPT-4. Si estás resumiendo una transcripción de reunión o reescribiendo un correo, un modelo más pequeño y rápido hace el trabajo en una fracción del tiempo y costo. Ejecuta algo como Llama 3.1 8B o Mistral 7B localmente mediante Ollama para tareas rápidas de bajo riesgo:

ollama pull llama3.1:8b
ollama run llama3.1:8b "Summarize this in 3 bullet points: ..."

Reserva los modelos alojados más grandes (GPT-4o, Claude 3.5 Sonnet) para tareas que necesiten razonamiento real: depurar un stack trace complicado, redactar una propuesta técnica, o revisar decisiones arquitectónicas. Dividir el trabajo de esta manera reduce notablemente tu factura de API si pagas por token, y los modelos locales responden en milisegundos en lugar de segundos para llamadas de ida y vuelta a través de API.

Conecta la IA a tu editor, no a tu navegador

Si escribes código, el movimiento de mayor impacto es poner la IA directamente en tu IDE. VS Code con la extensión Continue te permite apuntar a un modelo Ollama local o a una clave de API en la nube, y puedes seleccionar código y hacer preguntas en línea en lugar de reescribir el contexto en una ventana de chat.

{
  "models": [
    {
      "title": "Local Llama",
      "provider": "ollama",
      "model": "llama3.1:8b"
    }
  ]
}

Para trabajo en terminal, herramientas como aichat o una simple función de shell que envuelva la CLI de OpenAI te ahorran abrir el navegador:

function ask() {
  curl -s https://api.openai.com/v1/chat/completions \
    -H "Authorization: Bearer $OPENAI_API_KEY" \
    -H "Content-Type: application/json" \
    -d "{\"model\":\"gpt-4o-mini\",\"messages\":[{\"role\":\"user\",\"content\":\"$1\"}]}" \
    | jq -r '.choices[0].message.content'
}

Llámalo con ask "explain this regex: ^(?=.*[A-Z]).{8,}$" y obten una respuesta sin salir del shell.

Mantén datos sensibles fuera de servidores de terceros

Antes de pegar nada en un modelo en la nube, pregúntate si contiene datos de clientes, credenciales o código propietario que tu empresa no quiere que salga de su red. Muchos equipos establecen una regla simple: cualquier cosa que toque bases de código internas o PII va a través de un modelo local o una API de nivel empresarial con un acuerdo de retención cero, y todo lo demás puede ir a una herramienta de nivel consumidor.

Ollama ejecutándose en una máquina con una GPU decente (una sola RTX 4070 o mejor maneja cómodamente modelos de 7B-13B) cubre la mayoría del trabajo diario de redacción y revisión de código sin que un solo byte salga de tu portátil. Para trabajo local más pesado, modelos cuantizados (Q4_K_M o Q5_K_M) intercambian una pequeña cantidad de precisión por velocidad y menor uso de memoria.

Crea pequeños scripts en lugar de repetir prompts

Si te encuentras escribiendo la misma estructura de prompt una y otra vez, conviértela en un script. Un resumen de standup diario que extrae de tu git log es un buen punto de partida:

git log --since="yesterday" --author="$(git config user.name)" --oneline | \
  ask "Turn these commits into a 3-sentence standup update"

Este tipo de automatización pequeña se multiplica. Cinco minutos ahorrados al día en un equipo de diez se suman a horas reales durante un mes, y elimina la fricción que hace que la gente evite usar herramientas de IA en primer lugar.

Cuidado con los modos de fallo

La IA en tu escritorio aún se equivoca de maneras específicas y predecibles: fabrica nombres de funciones que no existen en tu base de código, malinterpreta código sensible a la indentación, y con confianza da sintaxis de biblioteca desactualizada. Siempre ejecuta el código generado antes de confiar en él, y trata cualquier afirmación factual (un número de CVE, el comportamiento predeterminado de una biblioteca, una fecha de discontinuación) como algo que debes verificar de forma independiente en lugar de aceptar al pie de la letra.

El objetivo no es reemplazar tu juicio con la salida de un modelo. Es reducir el tiempo entre tener una pregunta y obtener un primer borrador útil de una respuesta, para que pases más de tu día en las partes del trabajo que realmente necesitan un humano.

Si quieres profundizar más en modelos locales, diseño de prompts o scripts de tus propias herramientas alrededor de ellos, consulta los segmentos de IA y Scripting en Korra Studio.