آپ کے ڈیسک پر AI: روزمرہ کے کام کے لیے عملی سیٹ اپ

AI کے ساتھ کام کرنے والے زیادہ تر لوگ براؤزر ٹیب میں چیٹ ونڈو میں کاپی پیسٹ کرنے میں پھنسے ہوئے ہیں، اور ہر بار جب انہیں مدد چاہیے تو وہ سیاق و سباق تبدیل کرتے ہیں۔ یہ کبھی کبھی سوالات کے لیے کام کرتا ہے، لیکن ایک بار جب آپ کوڈنگ، لکھنے اور تحقیق میں ہر گھنٹے میں AI کو کئی بار استعمال کر رہے ہوں تو یہ بکھر جاتا ہے۔ یہ گائیڈ ایک ایسی سیٹ اپ کا احاطہ کرتا ہے جو AI کو وہاں قریب رکھتا ہے جہاں آپ پہلے سے کام کر رہے ہیں، لاگت، رازداری اور رفتار پر نظر رکھتے ہوئے۔

ہر کام کے لیے صحیح ماڈل منتخب کریں

ہر کام کو GPT-4-class استدلال کی ضرورت نہیں ہے۔ اگر آپ میٹنگ کی ٹرانسکپٹ کا خلاصہ بنا رہے ہیں یا ای میل دوبارہ لکھ رہے ہیں تو ایک چھوٹا، تیز ماڈل کام کو بہت کم وقت اور لاگت میں کر دیتا ہے۔ Ollama کے ذریعے Llama 3.1 8B یا Mistral 7B جیسا کچھ مقامی طور پر چلائیں تیز رفتار، کم اہمیت والے کاموں کے لیے:

ollama pull llama3.1:8b
ollama run llama3.1:8b "Summarize this in 3 bullet points: ..."

بڑے میزبان ماڈلز (GPT-4o, Claude 3.5 Sonnet) ان کاموں کے لیے محفوظ کریں جن کو حقیقی استدلال کی ضرورت ہے: ایک پیچیدہ stack trace میں خرابی، تکنیکی تجویز کا مسودہ، یا فن تعمیر کے فیصلوں کا جائزہ۔ اس طریقے سے کام تقسیم کرنے سے آپ کا API بل نمایاں طور پر کم ہوتا ہے اگر آپ فی ٹوکن ادا کر رہے ہیں، اور مقامی ماڈلز API کالز کے لیے سیکنڈ بمقابلہ ملی سیکنڈ میں جواب دیتے ہیں۔

AI کو اپنے ایڈیٹر میں شامل کریں، براؤزر میں نہیں

اگر آپ کوڈ لکھتے ہیں تو سب سے زیادہ اہم قدم AI کو براہ راست اپنے IDE میں ڈالنا ہے۔ Continue extension کے ساتھ VS Code آپ کو مقامی Ollama ماڈل یا کلاؤڈ API کلید کی طرف اشارہ کرنے دیتا ہے، اور آپ کوڈ منتخب کر سکتے ہیں اور سیاق و سباق کو چیٹ ونڈو میں دوبارہ ٹائپ کرنے کی بجائے inline سوالات پوچھ سکتے ہیں۔

{
  "models": [
    {
      "title": "Local Llama",
      "provider": "ollama",
      "model": "llama3.1:8b"
    }
  ]
}

ٹرمینل کے کام کے لیے، aichat جیسے ٹولز یا OpenAI CLI کو بند کرنے والا سادہ shell function آپ کو براؤزر کھولنے سے بچاتے ہیں:

function ask() {
  curl -s https://api.openai.com/v1/chat/completions \
    -H "Authorization: Bearer $OPENAI_API_KEY" \
    -H "Content-Type: application/json" \
    -d "{\"model\":\"gpt-4o-mini\",\"messages\":[{\"role\":\"user\",\"content\":\"$1\"}]}" \
    | jq -r '.choices[0].message.content'
}

اسے ask "explain this regex: ^(?=.*[A-Z]).{8,}$" کے ساتھ کال کریں اور shell سے نکلے بغیر جواب حاصل کریں۔

حساس ڈیٹا کو تیسری فریق کے سرورز سے دور رکھیں

اس سے پہلے کہ آپ کلاؤڈ ماڈل میں کچھ بھی چسپاں کریں، اپنے آپ سے پوچھیں کہ کیا اس میں کسٹمر ڈیٹا، credentials، یا proprietary code شامل ہے جو آپ کی کمپنی اپنے نیٹ ورک سے باہر نہیں چاہتی۔ بہت سی ٹیمیں ایک سادہ اصول مقرر کرتی ہیں: کوئی بھی چیز جو internal codebases یا PII کو چھوتی ہے وہ مقامی ماڈل یا zero-retention agreement والے enterprise-tier API کے ذریعے جاتی ہے، اور باقی سب کچھ consumer-tier tool میں جا سکتا ہے۔

ایک اچھے GPU والی مشین پر Ollama چل رہا ہے (ایک واحد RTX 4070 یا بہتر 7B-13B ماڈلز کو آرام سے سنبھالتا ہے) روزمرہ کے زیادہ تر drafting اور code review کا احاطہ کرتا ہے بغیر ایک بھی بائٹ آپ کے laptop سے نکلے۔ مقامی کام میں مزید وزن کے لیے، quantized models (Q4_K_M یا Q5_K_M) بہت کم درستگی کو رفتار اور کم میموری استعمال کے لیے تبدیل کرتے ہیں۔

prompts دہرانے کی بجائے چھوٹی scripts بنائیں

اگر آپ پاتے ہیں کہ آپ بار بار ایک جیسی prompt کی تشکیل ٹائپ کر رہے ہیں تو اسے script میں تبدیل کریں۔ ایک روزانہ standup summarizer جو آپ کے git log سے pull کرتا ہے ایک اچھا نقطہ آغاز ہے:

git log --since="yesterday" --author="$(git config user.name)" --oneline | \
  ask "Turn these commits into a 3-sentence standup update"

اس قسم کی چھوٹی تبدیلی compound ہوتی ہے۔ دس افراد کی ٹیم میں ہر دن بچایا گیا پانچ منٹ ایک مہینے میں حقیقی گھنٹوں میں اضافہ کرتا ہے، اور یہ اس رگڑ کو ختم کرتا ہے جو لوگوں کو AI ٹولز استعمال کرنے سے بچاتا ہے۔

ناکامی کے طریقوں پر نظر رکھیں

آپ کے ڈیسک پر AI ابھی بھی مخصوص، predictable طریقوں سے غلط کام کرتا ہے: یہ function names کو گھڑتا ہے جو آپ کے codebase میں موجود نہیں ہیں، indentation-sensitive code کو غلط پڑھتا ہے، اور اعتماد سے پرانی library syntax دیتا ہے۔ generated code کو چلانے سے پہلے ہمیشہ یہ کریں، اور کسی بھی factual claim (ایک CVE نمبر، library کی default behavior، ایک deprecation date) کو کچھ ایسا سمجھیں جو independently تصدیق کے قابل ہے نہ کہ face value پر لیا جائے۔

مقصد ماڈل کی output کے ساتھ اپنے judgment کو تبدیل کرنا نہیں ہے۔ یہ سوال پوچھنے اور جواب کا مفید preamble حاصل کرنے کے درمیان کا وقت کم کرنا ہے، تاکہ آپ اپنے دن کا زیادہ حصہ ان حصوں پر لگائیں جو حقیقی طور پر انسانی ذہن کی ضرورت رکھتے ہوں۔

اگر آپ مقامی models، prompt design، یا انہیں گھیرے میں اپنے ٹولز scripting کے ساتھ مزید آگے جانا چاہتے ہیں تو Korra Studio میں AI اور Scripting segments دیکھیں۔