AI Without the Hype: A Working Engineer's Guide

பெரும்பாலான AI உள்ளடக்கம் ஆன்லைனில் இரண்டு வகைகளாக விழுகிறது: superintelligence பற்றிய அச்சம், அல்லது ஒரு chatbot செவ்வாய்கிழமையுக்குள் உங்கள் வேலையை மாற்றிவிடும் என்ற ஆர்வமான கூற்றுகள். எந்த வகையும் உங்களை எதையும் வெளியிட உதவாது. இந்த வழிகாட்டி இரண்டையும் தவிர்த்து, உண்மையான திட்டங்களில் AI கருவிகளின் தற்போதைய தலைமுறையை எவ்வாறு பயன்படுத்துவது என்பதற்கு நடந்து செல்கிறது, வரம்புகள் தெளிவாக செய்யப்பட்டுள்ளன.

LLM உண்மையில் என்ன செய்கிறது

GPT-4 அல்லது Llama 3 போன்ற ஒரு பெரிய மொழி மாதிரி ஒரு வரிசையில் அடுத்த token கணிக்கிறது, பিशাল அளவிலான உரையில் பயிற்சி பெற்றது. அவ்வளவு தான். உள் fact-checker இல்லை, அமர்வுகளுக்கு இடையে நிலையான நினைவு இல்லை (நீங்கள் ஒன்றை உருவாக்கினால் தவிர), மற்றும் ஒரு நபர் புரிந்துகொள்ளும் வழிയில் புரிதல் இல்லை. நீங்கள் அதை ஒரு கேள்வி கேட்டால், அது உங்கள் prompt இன் புள்ளியியல் ரீதியாக சாத்தியமான தொடர்ச்சியை உருவாக்குகிறது.

இது நடைமுறையில் முக்கியமானது: மாதிரி நம்பிக்கையுடன் ஒரு Python செயல்பாடு உருவாக்கும் இது ஒரு நூலகம் முறை அழைக்கிறது இல்லை இல்லை, ஏனெனில் முறை கோலம் போல் பாறும் நூலகத்திற்கு இருக்க வேண்டும். எப்போதும் குறியீடு இயக்கவும். எப்போதும் API குறிப்பை சரிபார்க்கவும். மாதிரி வெளியீட்டை வேகமாக, நன்கு படித்த ஒரு இন்টர்ன் விக்கிப்பீடியாவிலிருந்து முதல் வரைவாக கருதுங்கள் இது சில நேரங்களில் அறியாமல் பொய் சொல்லுகிறது.

ஒரு உண்மையான workflow: குறியீட்டுக்கான LLM ஐ பயன்படுத்துதல்

ChatGPT ஐ "எனக்கு ஒரு app உருவாக்கு" என்று கேட்பதற்கு பதிலாக வேலை செய்யும் ஒரு pattern:

1. செயல்பாட்டு স்বাক্ஷரம் மற்றும் docstring ஐ நீங்களே எழுதுங்கள், வகைகள் மற்றும் edge cases குறிப்பிடுங்கள்.
2. அந்த சரியான spec க்கு எதிராக அதை செயல்படுத்த மாதிரியைக் கேளுங்கள்.
3. உங்கள் சொந்த tests தனிக்கும் எழுதுங்கள் — மாதிரியைக் கேட்பாட மாதிரி இருந்து குறியீட்டுக்கான tests எழுத வேண்டாம், இது சாதாரணமாக trivially pass tests எழுதும்.
4. Tests இயக்கவும். failures கொடுங்கள் பின்னுரையாக "இது வேலை செய்யவில்லை" போன்ற vague statements இல்லாமல்.

def parse_duration(text: str) -> int:
    """
    Parse strings like '1h30m', '45s', '2d' into total seconds.
    Raise ValueError on invalid input.
    """

மாதிரியை இந்த சரியான contract கொடுப்பது loose description விட மிகவும் சிறந்த வெளியீட்டை உருவாக்குகிறது, மற்றும் இது உங்களுக்கு எதிராக சோதிக்க ஒன்றை உள்ளது.

Retrieval-augmented generation, சாதாரண சொற்களில்

RAG ஒரு buzzword ஆக வீசப்படுகிறது ஆனால் mechanics சாதारணமாக இருக்கிறது: மாதிரி பயிற்சி போது நினைவில் என்ன இருக்கிறது செய்யப்படுவதற்கு பதிலாக, நீங்கள் query time ல் relevant documents fetch மற்றும் அவற்றை prompt இல் பூண்ணுகிறீர்கள்.

ஒரு அடிப்படை setup:

1. உங்கள் documents chunk (500-1000 tokens ஒவ்வொரு ஒரு பொதுவான கட்டுப்பாட்டு புள்ளி).
2. text-embedding-3-small அல்லது bge-small-en போன்ற ஒரு வெளியுணர্வு மாதிரியுடன் ஒவ்வொரு chunk embed.
3. pgvector, அல்லது Qdrant போன்ற ஒரு dedicated store உள்ள Postgres போன்ற எதாவது vectors store.
4. Query time ல், user question embed, cosine distance standard similarity search இயக்கவும், மற்றும் question ஏற்ற ஆக்கை prompt இல் உளை-k chunks பிடிப்பு.

SELECT content FROM docs
ORDER BY embedding <=> '[0.012, -0.045, ...]'
LIMIT 5;

এটি কেন ஒரு cutoff தேதி பகுதி தரவு மாடல் நிரூபணம் செய்யப்பட்ட ஒரு chatbot আপনার உள் wiki கேள்விகளுக்கு பிற மாதங்களில் பதிலளிக்க முடியும். இது உங்கள் நிறுவனம் பற்றி reasoning இல்லை — இது உங்கள் documents படித்து அவை summarize.

যেখানে பாரம்பரிய ML এখনும் wins

প্রতিটি சমস্যা ஒரு transformer প্রয়োজন নেই. நீங்கள் structured tabular data এ churn prediction করছেன் — account age, usage frequency, support tickets — ஒரு gradient-boosted tree மাডেল XGBoost அথবা LightGBM போன்ற সাধারণত ஒরு LLM-based approach ను outperform করবে, மিনিট এ পরিবর্তনস্থানে ঘন্টা মধ্যে প্রশিক্ষণ, এবং এক ভগ্নাংশ খরচে চালু. scikit-learn RandomForestClassifier அথবা XGBoost ঐতিহ্যানুসারে পৌঁছান, ঘন ঘন একটি API কল পৌঁছান যখন আপনার তথ্য স্প্রেডশীট এবং আপনার লক্ষ্য পরিবর্তনশীল একটি পরিচ্ছন্ন সংখ্যা বা বিভাগ মানানসই করে.

খরচ এবং latency ডিজাইন constrains, afterthoughts নয়

এক GPT-4-class কল প্রতি token উপর প্রকৃত অর্থ খরচ এবং রিটার্ন উপর সত্যিকারের সেকেন্ড প্রসারিত. আপনি প্রতিটি ব্যবহারকারী জন্য প্রতিটি পাতা লোড এ চলমান একটি বৈশিষ্ট্য প্রস্তুত করছেন, যা দ্রুত যোগ করে এবং latency স্পষ্ট হবে. আক্রমণাত্মক কেশে, একটি ছোট মডেল মত GPT-4o-mini ব্যবহার করুন অথবা স্থানীয় Llama 3 8B কিছু জন্য যা শীর্ষ স্তরের reasoning প্রয়োজন নেই, এবং এক্সপেনসিভ মডেল কল সংরক্ষণ করুন তার অংশ আপনার pipeline এর মান সত্যিই বিষয় বিষয়ে.

ব্যর্থতা mode কোনো এক আপনি সম্বন্ধে সতর্ক করে না

মডেল hallucinate আরও, না কম, যখন আপনি তাদের জিজ্ঞাসা জন্য জিনিস সামান্য বাইরে তাদের প্রশিক্ষণ বিতরণ — অস্পষ্ট লাইব্রেরি সংস্করণ, অভ্যন্তরীণ নিগম jargon, সাম্প্রতিক CVE সংখ্যা. যদি উত্তর ঠিক সঠিক প্রয়োজন (একটি নিরাপত্তা পরামর্শ, একটি আইনি উদ্ধৃতি, একটি চিকিৎসা ডোজ), প্রজন্ম একা বিশ্বাস করবেন না. একটি প্রাথমিক উত্স সময় যাচাই করুন এবং যে যাচাইকরণ পদক্ষেপ আপনার pipeline মধ্যে নির্মাণ করুন পরিবর্তে মানব পর্যালোচনা তার পরে বিশ্বাস করা।

এআই tooling হয় প্রকৃতপক্ষে দরকারী একবার আপনি এটি চিন্তা প্রত্যাশা বন্ধ এবং শুরু এটি একটি দ্রুত pattern-matcher হিসাবে চিকিৎসা আপনি চেক অবস্থান. ডে এক থেকে verification পদক্ষেপ তৈরি এবং আপনি এটি বাস্তব মূল্য পাবেন পরিবর্তনস্থানে confident আঁঠা স্ট্রীম.

আপনি যদি আরও যেতে চান, Korra Studio Python এবং ডেটা বিজ্ঞান ট্র্যাক পরীক্ষা করুন যা fundamentals এর জন্য এই tools সঙ্গে কাজ করা করা প্রকৃতপক্ষে উৎপাদনশীল।