আপনার ডেস্কে AI: দৈনন্দিন কাজের জন্য একটি ব্যবহারিক সেটআপ

কাজে AI ব্যবহার করা বেশিরভাগ মানুষ একটি ব্রাউজার ট্যাবের চ্যাট উইন্ডোতে কপি-পেস্ট করার মধ্যে সীমাবদ্ধ, প্রতিবার যখন সাহায্যের প্রয়োজন তখন প্রেক্ষাপট পরিবর্তন করছে। এটি মাঝেমধ্যে প্রশ্নের জন্য কাজ করে, কিন্তু একবার আপনি কোডিং, লেখা এবং গবেষণা জুড়ে প্রতি ঘন্টায় বেশ কয়েকবার AI ব্যবহার করছেন তখন এটি ভেঙে পড়ে। এই গাইডটি একটি সেটআপ কভার করে যা AI কে সেই জায়গার কাছাকাছি রাখে যেখানে আপনি ইতিমধ্যে কাজ করছেন, খরচ, গোপনীয়তা এবং গতির প্রতি নজর রেখে।

সঠিক কাজের জন্য সঠিক মডেল বেছে নিন

প্রতিটি কাজে GPT-4-ক্লাস যুক্তি প্রয়োজন নয়। যদি আপনি একটি মিটিং ট্রান্সক্রিপ্ট সংক্ষিপ্ত করছেন বা একটি ইমেল পুনর্লেখা করছেন, একটি ছোট, দ্রুততর মডেল সময় এবং খরচের একটি অংশে কাজ করে। Ollama এর মাধ্যমে Llama 3.1 8B বা Mistral 7B এর মতো কিছু স্থানীয়ভাবে চালান দ্রুত, কম-ঝুঁকি কাজের জন্য:

ollama pull llama3.1:8b
ollama run llama3.1:8b "Summarize this in 3 bullet points: ..."

বড় হোস্টেড মডেল (GPT-4o, Claude 3.5 Sonnet) এমন কাজের জন্য সংরক্ষণ করুন যার প্রকৃত যুক্তির প্রয়োজন: একটি জটিল স্ট্যাক ট্রেস ডিবাগিং, একটি প্রযুক্তিগত প্রস্তাব খসড়া তৈরি করা, বা স্থাপত্য সিদ্ধান্তগুলি পর্যালোচনা করা। এই উপায়ে কাজ বিভক্ত করা আপনার API বিলকে উল্লেখযোগ্যভাবে কেটে দেয় যদি আপনি প্রতি টোকেন পেমেন্ট করছেন, এবং স্থানীয় মডেলগুলি রাউন্ড-ট্রিপ API কলের জন্য সেকেন্ডের বিপরীতে মিলিসেকেন্ডে প্রতিক্রিয়া জানায়।

AI কে আপনার ব্রাউজারে নয়, আপনার এডিটরে সংযুক্ত করুন

যদি আপনি কোড লিখেন, সর্বোচ্চ প্রভাবশালী পদক্ষেপ হল AI কে সরাসরি আপনার IDE তে রাখা। Continue এক্সটেনশন সহ VS Code আপনাকে একটি স্থানীয় Ollama মডেল বা একটি ক্লাউড API কী দিকে নির্দেশ করতে দেয়, এবং আপনি কোড নির্বাচন করতে এবং প্রেক্ষাপট একটি চ্যাট উইন্ডোতে পুনরায় টাইপ করার পরিবর্তে ইনলাইন প্রশ্ন জিজ্ঞাসা করতে পারেন।

{
  "models": [
    {
      "title": "Local Llama",
      "provider": "ollama",
      "model": "llama3.1:8b"
    }
  ]
}

টার্মিনাল কাজের জন্য, aichat বা OpenAI CLI মোড়ানো একটি সহজ শেল ফাংশনের মতো সরঞ্জাম আপনাকে একটি ব্রাউজার খোলা থেকে বাঁচায়:

function ask() {
  curl -s https://api.openai.com/v1/chat/completions \
    -H "Authorization: Bearer $OPENAI_API_KEY" \
    -H "Content-Type: application/json" \
    -d "{\"model\":\"gpt-4o-mini\",\"messages\":[{\"role\":\"user\",\"content\":\"$1\"}]}" \
    | jq -r '.choices[0].message.content'
}

এটি ask "explain this regex: ^(?=.*[A-Z]).{8,}$" দিয়ে কল করুন এবং শেল ছেড়ে না গিয়ে একটি উত্তর পান।

সংবেদনশীল ডেটা তৃতীয় পক্ষের সার্ভার বন্ধ রাখুন

আপনি যেকোনো কিছু একটি ক্লাউড মডেলে পেস্ট করার আগে, জিজ্ঞাসা করুন এটি গ্রাহক ডেটা, শংসাপত্র বা মালিকানাধীন কোড ধারণ করে যা আপনার কোম্পানি তার নেটওয়ার্ক ছাড়িয়ে যেতে চায় না। অনেক দল একটি সহজ নিয়ম সেট করে: যা কিছু অভ্যন্তরীণ কোডবেস বা PII স্পর্শ করে তা একটি স্থানীয় মডেল বা শূন্য-ধারণ চুক্তি সহ একটি এন্টারপ্রাইজ-স্তরের API এর মাধ্যমে যায়, এবং অন্যটি সবকিছু একটি ভোক্তা-স্তরের সরঞ্জামে যেতে পারে।

Ollama একটি সভ্য GPU সহ একটি মেশিনে চলছে (একটি একক RTX 4070 বা ভাল 7B-13B মডেলগুলি আরামদায়কভাবে পরিচালনা করে) বেশিরভাগ দিনের পর দিনের খসড়া এবং কোড পর্যালোচনা কভার করে আপনার ল্যাপটপ ছাড়াই একটি একক বাইট ছাড়াই। ভারী স্থানীয় কাজের জন্য, কোয়ান্টাইজড মডেল (Q4_K_M বা Q5_K_M) নির্ভুলতার একটি ছোট পরিমাণ গতি এবং কম মেমরি ব্যবহারের জন্য বাণিজ্য করে।

প্রম্পট পুনরাবৃত্তি করার পরিবর্তে ছোট স্ক্রিপ্ট তৈরি করুন

যদি আপনি বারবার একই প্রম্পট কাঠামো টাইপ করতে পান, এটিকে একটি স্ক্রিপটে পরিণত করুন। একটি দৈনিক স্ট্যান্ডআপ সারাংশকারী যা আপনার git লগ থেকে টানে একটি ভাল শুরুর পয়েন্ট:

git log --since="yesterday" --author="$(git config user.name)" --oneline | \
  ask "Turn these commits into a 3-sentence standup update"

এই ধরনের ছোট অটোমেশন যৌগিক। দশজন সদস্যের একটি দলে প্রতিদিন পাঁচ মিনিট সাশ্রয় একটি মাসে প্রকৃত ঘন্টায় যোগ করে, এবং এটি ঘর্ষণ দূর করে যা লোকদের প্রথম স্থানে AI সরঞ্জাম ব্যবহার এড়াতে করে তোলে।

ব্যর্থতার মোডগুলি দেখুন

আপনার ডেস্কে AI এখনও নির্দিষ্ট, পূর্বাভাসযোগ্য উপায়ে জিনিসগুলি ভুল করে: এটি ফাংশন নাম তৈরি করে যা আপনার কোডবেসে বিদ্যমান নয়, ইন্ডেন্টেশন-সংবেদনশীল কোডকে ভুল পড়ে এবং আত্মবিশ্বাসের সাথে পুরানো লাইব্রেরি সিন্ট্যাক্স দেয়। সর্বদা এটিকে বিশ্বাস করার আগে উত্পাদিত কোড চালান, এবং যেকোনো তথ্যপূর্ণ দাবি (একটি CVE সংখ্যা, একটি লাইব্রেরির ডিফল্ট আচরণ, একটি অবচয় তারিখ) এমন কিছু হিসাবে বিবেচনা করুন যা স্বাধীনভাবে যাচাই করার জন্য মুখের মূল্যে গ্রহণ করার চেয়ে।

লক্ষ্য একটি মডেলের আউটপুট দিয়ে আপনার বিচার প্রতিস্থাপন করা নয়। এটি একটি প্রশ্ন থাকার এবং উত্তরের একটি দরকারী প্রথম খসড়া পাওয়ার মধ্যে সময় কেটে দেওয়া, যাতে আপনি আপনার দিনের বেশি অংশ কাজের অংশগুলিতে ব্যয় করেন যা প্রকৃতপক্ষে একজন মানুষের প্রয়োজন।

যদি আপনি স্থানীয় মডেল, প্রম্পট ডিজাইন বা তাদের চারপাশে আপনার নিজের সরঞ্জাম স্ক্রিপ্টিং দিয়ে আরও যেতে চান, Korra Studio তে AI এবং Scripting সেগমেন্টগুলি দেখুন।