KI ohne Hype: Ein praktischer Leitfaden für arbeitende Ingenieure

Der meiste KI-Inhalt im Internet fällt in zwei Kategorien: Untergangsszenarien über Super-Intelligenz oder enthusiastische Behauptungen, dass ein Chatbot deinen Job bis Dienstag übernimmt. Keines davon hilft dir, etwas auszuliefern. Dieser Leitfaden überspringt beide und zeigt dir, wie du die aktuelle Generation von KI-Tools in echten Projekten einsetzt, wobei die Grenzen deutlich gemacht werden.

Was ein LLM wirklich tut

Ein großes Sprachmodell wie GPT-4 oder Llama 3 sagt das nächste Token in einer Sequenz voraus, trainiert auf riesigen Mengen an Text. Das ist alles. Es gibt keinen internen Faktenprüfer, keine Persistenz des Speichers zwischen Sitzungen (es sei denn, du baust eine ein), und kein Verständnis in der Art, wie ein Mensch versteht. Wenn du es fragst, generiert es eine statistisch plausible Fortsetzung deines Prompts.

Das ist praktisch relevant: Das Modell wird zuversichtlich eine Python-Funktion generieren, die eine Bibliotheksmethode aufruft, die nicht existiert, weil diese Methode so aussieht, als würde die Bibliothek sie haben. Führe den Code immer aus. Überprüfe immer die API-Referenz. Behandle die Modellausgabe als einen ersten Entwurf von einem schnellen, gut belesenem Praktikanten, der manchmal unwissentlich lügt.

Ein echter Workflow: LLM für Code verwenden

Hier ist ein Muster, das funktioniert, statt ChatGPT einfach zu fragen, "baue mir eine App":

1. Schreibe die Funktionssignatur und das Docstring selbst, mit Typen und Grenzfällen.
2. Bitte das Modell, es gegen diese exakte Spezifikation zu implementieren.
3. Schreibe deine eigenen Tests separat — bitte das Modell nicht, Tests für Code zu schreiben, den es gerade geschrieben hat, es wird Tests schreiben, die trivial bestehen.
4. Führe die Tests aus. Gib Fehler als neue Prompts zurück, nicht vage "es funktioniert nicht" Aussagen.

def parse_duration(text: str) -> int:
    """
    Parse strings like '1h30m', '45s', '2d' into total seconds.
    Raise ValueError on invalid input.
    """

Dem Modell diesen exakten Kontrakt zu geben, erzeugt viel bessere Ausgabe als eine vage Beschreibung, und gibt dir etwas Konkretes zum Testen.

Retrieval-augmented generation, in einfachen Worten

RAG wird als Buzzword rumgeworfen, aber der Mechanismus ist einfach: Statt dich darauf zu verlassen, was das Modell beim Training auswendig gelernt hat, rufst du relevante Dokumente zur Abfragezeit ab und steckst sie in den Prompt.

Ein einfaches Setup:

1. Teile deine Dokumente auf (500-1000 Token pro Chunk ist ein guter Anfang).
2. Bette jeden Chunk mit einem Modell wie text-embedding-3-small oder einem offenen Modell wie bge-small-en ein.
3. Speichere Vektoren in etwas wie Postgres mit pgvector, oder in einem dedizierten Store wie Qdrant.
4. Zur Abfragezeit bette die Frage des Benutzers ein, führe eine Ähnlichkeitssuche durch (Cosinus-Distanz ist Standard), und hole die top-k Chunks in den Prompt neben die Frage.

SELECT content FROM docs
ORDER BY embedding <=> '[0.012, -0.045, ...]'
LIMIT 5;

Darum kann ein Chatbot, der auf Daten bis zu einem Cutoff-Datum trainiert wurde, immer noch Fragen zu deinem internen Wiki von letzter Woche beantworten. Es denkt nicht über dein Unternehmen nach — es liest deine Dokumente und fasst sie zusammen.

Wo klassisches ML immer noch gewinnt

Nicht jedes Problem braucht einen Transformer. Wenn du Churn von strukturierten Tabellendaten vorhersagst — Kontoalter, Nutzungshäufigkeit, Support-Tickets — werden Gradient-Boosted-Tree-Modelle wie XGBoost oder LightGBM normalerweise einen LLM-basierten Ansatz übertreffen, in Minuten statt Stunden trainieren, und einen Bruchteil der Kosten zum Ausführen kosten. Greif zu scikit-learn's RandomForestClassifier oder XGBoost, bevor du einen API-Aufruf machst, besonders wenn deine Daten in ein Spreadsheet passen und deine Zielgröße eine saubere Zahl oder Kategorie ist.

Kosten und Latenz sind Design-Constraints, nicht nachträgliche Gedanken

Ein GPT-4-Aufruf kostet echtes Geld pro Token und braucht echte Sekunden zum Zurückgeben. Wenn du ein Feature baust, das bei jedem Seitenladevorgang für jeden Benutzer läuft, addiert sich das schnell und die Latenz wird sichtbar. Cache aggressiv, verwende ein kleineres Modell wie GPT-4o-mini oder ein lokales Llama 3 8B für alles, das keine erstklassige Argumentation braucht, und reserviere die teuren Modellaufrufe für die Teile deiner Pipeline, wo Qualität wirklich wichtig ist.

Der Fehlermodus, vor dem dich niemand warnt

Modelle halluzinieren mehr, nicht weniger, wenn du sie nach Dingen fragst, die leicht außerhalb ihrer Trainingsverteilung liegen — obskure Bibliotheksversionen, interne Unternehmens-Jargon, aktuelle CVE-Nummern. Wenn die Antwort exakt richtig sein muss (eine Sicherheitsmitteilung, ein Zitat, eine medizinische Dosis), vertrau der Generierung allein nicht. Überprüfe gegen eine primäre Quelle jedes Mal, und baue diesen Verifizierungsschritt in deine Pipeline ein, statt dich darauf zu verlassen, dass menschliche Überprüfung nachträglich funktioniert.

KI-Tools sind genuinely nützlich, sobald du aufhörst, dass sie denken, und anfängst, sie als einen schnellen Pattern-Matcher zu behandeln, den du überprüfen musst. Baue den Verifizierungsschritt von Tag eins ein und du bekommst echten Wert daraus, statt einen Stream von zuversichtenem Unsinn.

Wenn du weiter gehen möchtest, schau dir Korra Studio's Python und Data Science Tracks für die Grundlagen an, die echte Produktivität mit diesen Tools machen.