AI Tanpa Hype: Panduan untuk Engineer yang Praktis

Kebanyakan konten AI online terbagi dua: kekhawatiran tentang superintelligence, atau klaim berapi bahwa chatbot akan menggantikan pekerjaan Anda minggu depan. Keduanya tidak membantu Anda mengirim apapun. Panduan ini melewati keduanya dan menjelaskan cara menggunakan generasi AI tools saat ini dalam proyek nyata, dengan batas-batasnya dijelaskan secara eksplisit.

Apa yang sebenarnya dilakukan LLM

Model bahasa besar seperti GPT-4 atau Llama 3 memprediksi token berikutnya dalam urutan, dilatih pada jumlah teks yang sangat besar. Itu saja. Tidak ada pemeriksa fakta internal, tidak ada memori persisten antar sesi (kecuali Anda membuat satu), dan tidak ada pemahaman seperti cara seseorang memahami. Ketika Anda mengajukan pertanyaan, model itu menghasilkan kelanjutan prompt Anda yang secara statistik masuk akal.

Ini penting secara praktis: model akan dengan percaya diri menghasilkan fungsi Python yang memanggil method library yang tidak ada, karena method itu terdengar seperti sesuatu yang dimiliki library. Selalu jalankan kodenya. Selalu periksa referensi API. Perlakukan output model sebagai draf pertama dari seorang intern yang cepat dan berpendidikan luas yang kadang berbohong tanpa menyadarinya.

Workflow nyata: menggunakan LLM untuk kode

Berikut adalah pola yang bekerja bukan hanya meminta ChatGPT untuk "buat saya aplikasi":

1. Tulis function signature dan docstring sendiri, spesifikasikan tipe dan edge case.
2. Minta model untuk mengimplementasikannya sesuai spec yang tepat.
3. Tulis test Anda sendiri terpisah — jangan minta model menulis test untuk kode yang baru saja ditulisnya, karena akan cenderung menulis test yang berlalu trivial.
4. Jalankan test. Umpankan kegagalan kembali sebagai prompt baru, bukan pernyataan vague "tidak bekerja".

def parse_duration(text: str) -> int:
    """
    Parse strings like '1h30m', '45s', '2d' into total seconds.
    Raise ValueError on invalid input.
    """

Memberikan model contract yang tepat ini menghasilkan output jauh lebih baik daripada deskripsi longgar, dan memberikan Anda sesuatu yang konkret untuk ditest.

Retrieval-augmented generation, dalam istilah sederhana

RAG dilempar sebagai buzzword tapi mekanismenya sederhana: daripada mengandalkan apa yang diingat model saat training, Anda mengambil dokumen relevan pada query time dan memasukkannya ke dalam prompt.

Setup dasar:

1. Chunk dokumen Anda (500-1000 token masing-masing adalah starting point umum).
2. Embed setiap chunk dengan model seperti text-embedding-3-small atau model terbuka seperti bge-small-en.
3. Simpan vector di sesuatu seperti Postgres dengan pgvector, atau dedicated store seperti Qdrant.
4. Saat query time, embed pertanyaan user, jalankan similarity search (cosine distance adalah standard), dan tarik top-k chunk ke dalam prompt bersama pertanyaan.

SELECT content FROM docs
ORDER BY embedding <=> '[0.012, -0.045, ...]'
LIMIT 5;

Inilah sebabnya chatbot yang dilatih pada data hingga tanggal cutoff masih dapat menjawab pertanyaan tentang wiki internal Anda dari minggu lalu. Itu bukan reasoning tentang perusahaan Anda — itu membaca dokumen Anda dan merangkumnya.

Di mana ML klasik masih unggul

Tidak setiap masalah membutuhkan transformer. Jika Anda memprediksi churn dari data tabular terstruktur — usia akun, frekuensi penggunaan, support ticket — model gradient-boosted tree seperti XGBoost atau LightGBM biasanya akan mengungguli pendekatan berbasis LLM, train dalam hitungan menit bukan jam, dan cost sebagian kecil untuk dijalankan. Gunakan scikit-learn's RandomForestClassifier atau XGBoost sebelum mencapai API call, terutama ketika data Anda muat dalam spreadsheet dan target variable adalah angka atau kategori yang bersih.

Cost dan latency adalah design constraint, bukan afterthought

Panggilan kelas GPT-4 harganya uang nyata per token dan membutuhkan waktu nyata untuk kembali. Jika Anda membangun feature yang dijalankan pada setiap page load untuk setiap user, itu bertambah cepat dan latency akan terlihat. Cache secara agresif, gunakan model lebih kecil seperti GPT-4o-mini atau Llama 3 8B lokal untuk apapun yang tidak membutuhkan reasoning tier atas, dan reserve panggilan model mahal untuk bagian pipeline Anda di mana kualitas benar-benar penting.

Failure mode yang tidak ada yang memperingatkan Anda tentangnya

Model hallucinate lebih banyak, bukan lebih sedikit, ketika Anda minta mereka untuk hal-hal sedikit di luar distribusi training — versi library obscure, jargon perusahaan internal, nomor CVE terbaru. Jika jawaban harus tepat (advisory keamanan, kutipan legal, dosis medis), jangan percaya generasi saja. Verifikasi terhadap primary source setiap kali, dan bangun langkah verifikasi itu ke dalam pipeline daripada mengandalkannya untuk review manusia setelahnya.

AI tooling benar-benar berguna sekali Anda berhenti mengharapkannya untuk berpikir dan mulai memperlakukannya sebagai pattern-matcher cepat yang harus Anda periksa. Bangun langkah verifikasi dari hari pertama dan Anda akan mendapat nilai nyata darinya bukan aliran nonsense yang percaya diri.

Jika Anda ingin pergi lebih jauh, lihat track Python dan Data Science Korra Studio untuk fundamental yang membuat bekerja dengan alat ini benar-benar produktif.