AI ไม่มีการโฆษณาอลวน: คู่มือสำหรับวิศวกรที่ทำงานจริง

เนื้อหา AI ส่วนใหญ่ทางออนไลน์แบ่งออกเป็นสองกลุ่ม: ความกลัวเกี่ยวกับ superintelligence หรือข้อเรียกร้องอันตื่นเต้นว่า chatbot จะแทนที่งานของคุณในวันอังคาร ไม่อันใดอันนี้ช่วยให้คุณส่งมอบอะไรได้ คู่มือนี้ข้ามทั้งสองอย่างและแนะนำวิธีการใช้ AI toolset รุ่นปัจจุบันในโครงการจริง โดยระบุข้อจำกัดอย่างชัดเจน

LLM ทำอะไรได้จริง ๆ

Large language model เช่น GPT-4 หรือ Llama 3 ทำนายโทเค็นถัดไปในลำดับ ผ่านการฝึกจากข้อความจำนวนมหาศาล นั่นคือทั้งหมด ไม่มี fact-checker ภายใน ไม่มีความจำถาวรระหว่างเซสชัน (เว้นแต่คุณสร้างมัน) และไม่มีการเข้าใจแบบที่คนเข้าใจ เมื่อคุณถามคำถาม มันกำลังสร้างการต่อเนื่องของข้อความที่น่าจะเป็นทางสถิติของคำเรียกของคุณ

สิ่งนี้มีความสำคัญในทางปฏิบัติ: โมเดลจะสร้าง Python function ที่เรียก library method ที่ไม่มีอยู่จริง เพราะวิธีการนั้น ฟังดู เหมือนสิ่งที่ library จะมี เสมอรันโค้ด เสมอตรวจสอบ API reference ปฏิบัติต่อ output ของโมเดลราวกับเป็น draft แรกจากฝึกหัด intern ที่มีความเร็ว อ่านเยอะ แต่บางครั้งโกหกโดยไม่รู้ตัว

Workflow จริง ๆ: ใช้ LLM สำหรับโค้ด

นี่คือรูปแบบที่ใช้ได้แทนการถามแค่ ChatGPT ว่า "สร้าง app ให้ฉัน":

1. เขียน function signature และ docstring ด้วยตัวเอง ระบุ types และ edge cases
2. ขอให้โมเดล implement มันตามสเปกที่แน่นอนนั้น
3. เขียน tests ของคุณเองแยกกัน — อย่าขอให้โมเดลเขียน tests สำหรับโค้ดที่มันเพิ่งเขียน มันจะเขียน tests ที่ผ่านอย่างง่าย ๆ
4. รันเทสต์ ป้อน failures กลับเป็น prompts ใหม่ ไม่ใช่คำพูดเลวน้อยแบบ "มันไม่ทำงาน"

def parse_duration(text: str) -> int:
    """
    Parse strings like '1h30m', '45s', '2d' into total seconds.
    Raise ValueError on invalid input.
    """

การให้โมเดลสัญญาที่แน่นอนนี้ทำให้ได้ output ที่ดีกว่ามาก เมื่อเทียบกับคำอธิบายที่หลวม ๆ และให้คุณมีสิ่งที่เป็นรูปธรรมเพื่อทดสอบ

Retrieval-augmented generation พูดง่าย ๆ

RAG ถูกใช้เป็นคำพูดตามแต่งแต่กลไกมันง่าย: แทนที่จะอาศัยสิ่งที่โมเดลจดจำตั้งแต่การฝึก คุณดึงเอกสารที่เกี่ยวข้องตอนที่มีการสอบถาม และใส่มันลงใน prompt

Setup พื้นฐาน:

1. Chunk เอกสารของคุณ (500-1000 tokens แต่ละชิ้นคือจุดเริ่มต้นที่พบบ่อย)
2. Embed แต่ละ chunk ด้วยโมเดลเช่น text-embedding-3-small หรือโมเดลแบบเปิด เช่น bge-small-en
3. เก็บ vectors ในสิ่งเช่น Postgres ด้วย pgvector หรือ store เฉพาะ เช่น Qdrant
4. ตอนสอบถาม embed คำถามของผู้ใช้ รัน similarity search (cosine distance เป็นมาตรฐาน) และดึงชิ้นที่ top-k เข้า prompt พร้อมกับคำถาม

SELECT content FROM docs
ORDER BY embedding <=> '[0.012, -0.045, ...]'
LIMIT 5;

นี่คือเหตุผลว่าทำไม chatbot ที่ฝึกจากข้อมูลจนถึง cutoff date ยังสามารถตอบคำถามเกี่ยวกับ internal wiki ของคุณจากสัปดาห์ที่แล้ว มันไม่ได้ทำการให้เหตุผลเกี่ยวกับบริษัทของคุณ — มันกำลังอ่านเอกสารของคุณและสรุปมัน

สถานที่ที่ classic ML ยังชนะ

ไม่ใช่ทุกปัญหาต้องการ transformer หากคุณทำนายการหลุดออกจากข้อมูล tabular ที่มีโครงสร้าง — account age, usage frequency, support tickets — gradient-boosted tree model เช่น XGBoost หรือ LightGBM มักจะมี performance ดีกว่า LLM-based approach ฝึกในนาที แทนชั่วโมง และราคาต่ำกว่ามาก ใช้ scikit-learn's RandomForestClassifier หรือ XGBoost ก่อนใช้ API call โดยเฉพาะเมื่อข้อมูลของคุณพอดีในสเปรดชีต และตัวแปรเป้าหมายของคุณคือจำนวนหรือหมวดหมู่ที่สะอาด

ค่าใช้จ่ายและ latency เป็น design constraints ไม่ใช่ลอยนวล

การเรียก GPT-4-class ใช้เงินจริงต่อโทเค็น และใช้เวลาจริงเพื่อคืน หากคุณสร้างฟีเจอร์ที่รันในทุก page load สำหรับทุกผู้ใช้ มันบวกกันอย่างรวดเร็ว และ latency จะมองเห็นได้ Cache อย่างหนักใจ ใช้โมเดลเล็ก ๆ เช่น GPT-4o-mini หรือ local Llama 3 8B สำหรับสิ่งใดที่ไม่ต้องการการให้เหตุผลระดับสูง และสงวน expensive model calls สำหรับส่วนของ pipeline ที่คุณต้องการคุณภาพจริง ๆ

Failure mode ที่ไม่มีใครเตือน

โมเดล hallucinate มากขึ้น ไม่ใช่น้อยลง เมื่อคุณขอให้มันทำสิ่งที่ปกติไปนอกการแจกแจงการฝึก — library versions ที่ยากจน internal company jargon recent CVE numbers หากคำตอบต้องถูกต้องแน่นอน (security advisory legal citation medical dose) อย่าวางใจ generation คนเดียว ตรวจสอบกับ primary source ทุกครั้ง และสร้าง verification step นั้นลงใน pipeline ของคุณ มากกว่าวางใจให้ human review หลังจากนั้น

AI tooling นั้นมีประโยชน์จริง ๆ เมื่อคุณเลิกคาดหวังให้มันคิด และเริ่มปฏิบัติต่อมันเป็น fast pattern-matcher ที่คุณต้องตรวจสอบ สร้าง verification step ตั้งแต่วันแรก และคุณจะได้ค่าจริง ๆ จากมันแทนที่จะเป็น stream ของการพูดที่มั่นใจ

หากคุณต้องการไปต่อ ตรวจสอบ Korra Studio's Python และ Data Science tracks สำหรับ fundamentals ที่ทำให้การทำงานกับเครื่องมือเหล่านี้ให้ผลผลิตจริง