உங்கள் மேசையில் AI: தினசரி வேலைக்கான நடைமுறை அமைப்பு

பெரும்பாலான மக்கள் வேலையில் AI ஐ பயன்படுத்துவது ஒரு உலாவி தாবில் ஒரு சாட் சாளரத்தில் நகலெடுக்க-பேஸ்ட் செய்யப்பட்டுள்ளது, ஒவ்வொரு முறை அவர்கள் உதவி விரும்பும் போது சூழல் மாற்றுவது. இது சாதாரண கேள்விகளுக்கு வேலை செய்கிறது, ஆனால் நீங்கள் ஒரு மணிநேரம் முழுவதும் குறியீடு, எழுத்து, மற்றும் ஆராய்ச்சி முழுவதும் பல முறை AI ஐ பயன்படுத்தும் போது இது சிதறிப்போகிறது. இந்த வழிகாட்டி ஒரு அமைப்பை உள்ளடக்கியுள்ளது, இது AI ஐ நீங்கள் ஏற்கனவே வேலை செய்வதற்கு நெருக்கமாக வைத்திருக்கிறது, செலவு, ஒருமை, மற்றும் வேகத்தை பார்க்கிறது.

சரியான வேலைக்கு சரியான மாதிரி தேர்ந்தெடுக்கவும்

ஒவ்வொரு பணিக்கும் GPT-4-வர்க்க பகுத்தறிவு தேவையில்லை. நீங்கள் ஒரு கூட்ட பெறுப்பை சுருக்கமாக சொல்லலாம் அல்லது ஒரு ইமெயிலை மீண்டும் எழுதினால், ஒரு சிறிய, வேகமான மாதிரி நேரம் மற்றும் செலவில் பணியை செய்கிறது. Ollama மூலம் Llama 3.1 8B அல்லது Mistral 7B போன்ற ஏதாவது இயக்கவும் விரைவு, குறைந்த-பங்கு பணிகளுக்கு:

ollama pull llama3.1:8b
ollama run llama3.1:8b "Summarize this in 3 bullet points: ..."

பெரிய ஹோஸ்ट் மாதிரிகள் (GPT-4o, Claude 3.5 Sonnet) பணிகள் மீதம் ஒதுக்கவும் இயல் பகுத்தறிவு தேவை: ஒரு gnarly வகை தடம் பிழைதிருத்தல், ஒரு தொழில்நுட்ப முன்மொழிவு வரைவு, அல்லது கட்டுமான சீர்ப்படுத்தல் பொறுப்புகள் மதிப்பாய়வு. இந்த வழியில் வேலை பிரிப்பது உங்கள் API பில் கணிசமாக வெட்டுகிறது, நீங்கள் ஒரு டோகனுக்கு செலுத்த வேண்டும் என்றால், மற்றும் உள்ளூர் மாதிரிகள் மিலி விநாடிகளில் பிரதিক্রியை அளிக்கும் API அழைப்புகளுக்கான ராउंड-பயண விநாடிகளுக்கு எதிராக.

உங்கள் உலாவிக்கு எதிராக உங்கள் சম்பাதகர்களுக்கு AI ரீம்

நீங்கள் কோட் எழுதுகிறீர்கள் என்றால், மிகப் பெரிய-பாধ்ய நகர்வு நேரடியாக உங்கள் IDE ல் AI வைக்க. Continue extension உடன் VS Code உங்களை ஒரு உள்ளூர் Ollama மாதிரி அல்லது ஒரு கிளவுட் API சாবி நோக்கி சுட்ட அனுமதிக்கிறে, மற்றும் நீங்கள் குறிக்கர் மாதிரி மற்றும் சாட் சாளரத்தில் സंदর്भ மீண்டும் உரைக்கிற பরிবர্த்தে கேள்விகளைக் கேட்க முடியும்.

{
  "models": [
    {
      "title": "Local Llama",
      "provider": "ollama",
      "model": "llama3.1:8b"
    }
  ]
}

Until வேலை, aichat போன்ற கருவிகள் அல்லது OpenAI CLI சுற்றுவर्गपन்ন விரல் செயல் என்பது உங்களை எல்லாம் একটি உலாவி খிலாவ بचाता है:

function ask() {
  curl -s https://api.openai.com/v1/chat/completions \
    -H "Authorization: Bearer $OPENAI_API_KEY" \
    -H "Content-Type: application/json" \
    -d "{\"model\":\"gpt-4o-mini\",\"messages\":[{\"role\":\"user\",\"content\":\"$1\"}]}" \
    | jq -r '.choices[0].message.content'
}

அதை ask "explain this regex: ^(?=.*[A-Z]).{8,}$" உடன் அழைக்கவும் மற்றும் உறை விட்டு வெளியே ஒரு பதிலை பெறுங்கள்.

உணர்திறன்மிக்க தரவை மூன்றாம் தரப்பு சার்வர்கள் சேற்று

நீங்கள் ஒரு கிளவுட் மாதிரிக்கு எதையும் ஒட்டுவதற்கு முன், அது வாடிக்கையாளர் தரவு, தநுக்கு, அல்லது உங்கள் நிறுவனம் தன்னுடைய வலையை விட்டு விட விரும்பாத உரிய குறிப்பை உள்ளடக்கியுள்ளதா என்று கேட்டுக்கொள்ளுங்கள். பல குழுக்கள் ஒரு சாதாரண விதி அமைத்தனர்: உள்ளூர் மாதிரி அல்லது ஒரு குறிப்பு-தக்ககை চুக্கு மூலமாக உள்ளூர் codebases அல்லது PII ஸ்பর্ශ செய்யும் எவையும் செல்லலாம், மற்றும் மற்ற எல்லாம் ஒரு நுகர் -ทำเนื करmarkdown शब्दসकallaকিে जانை செல்லலாம்.

Ollama ஒரு நல்ல GPU உடன் ஒரு இயந்திரத்தில் இயங்குகிறது (ஒரு ஒক்கஸ் RTX 4070 அல்லது அவ்வளவு 7B-13B மாதिरे comfortably கொடியும்) பெரும்பாலான दিनಿशರ খসড়া மற्तु कोड समीक्षা कवर करता है एक भी बाईट आपके ल্যাপটপ छोड़ने के बिना। ভারী স్థानीয় कામ के लिए, quantized मॉडल (Q4_K_M या Q5_K_M) सटीकता की एक छोटी राशि बदलता है और गति और कम स्मृति उपयोग के लिए।

बार-बार prompts ponoviti के बजाय छोटी स्क्रिप्ट बनाएं

यदि आप एक ही prompt संरचना को बार-बार टाइप करते हुए पाते हैं, तो इसे एक स्क्रिप्ट में बदल दें। एक दैनिक standup सारांशकर्ता जो आपकी git लॉग से खींचता है एक अच्छा शुरुआती बिंदु है:

git log --since="yesterday" --author="$(git config user.name)" --oneline | \
  ask "Turn these commits into a 3-sentence standup update"

इस तरह का छोटा स्वचालन चक्र आता है। पांच मिनट प्रति दिन दस लोगों की एक टीम भर में बचाया जाता है एक महीने भर में वास्तविक घंटे तक जोड़ता है, और यह घर्षण को हटाता है जो लोगों को पहली जगह में AI उपकरण उपयोग करने से रोकता है।

विफलता modes के लिए घड़ी

AI आपकी मेज पर अभी भी विशिष्ट, अनुमानित तरीकों में गलत हो जाता है: यह समारोह नाम खुदाई जो आपके कोडबेस में नहीं मौजूद हैं, indentation-संवेदनशील कोड गलत पढ़ता है, और आत्मविश्वास से पुरानी पुस्तकालय वाक्य syntax देता है। हमेशा उत्पन्न कोड चलाते हैं पहले इसे विश्वास करने से पहले, और किसी भी तथ्यपूर्ण दावा (एक CVE संख्या, एक पुस्तकालय का डिफ़ॉल्ट व्यवहार, एक बहिष्कार तारीख) को कुछ के रूप में इलाज करें को सत्यापित करने के लिए स्वतंत्र रूप से बजाय चेहरे मूल्य पर ले।

लक्ष्य एक मॉडल की आउटपुट के साथ अपने판단को प्रतिस्थापित करना नहीं है। यह एक सवाल होने और एक उपयोगी पहली ड्राफ्ट जवाब के बीच समय में कटौती है, तो आप दिन का अधिक समय काम के भाग पर खर्च करते हैं जो वास्तव में एक मानव की जरूरत है।

अगर आप स्थानीय मॉडल, prompt डिजाइन, या अपने आसपास अपने टूल scripting के साथ आगे जाना चाहते हैं, Korra Studio पर AI और Scripting खंडों को देखें।