mxw-it Zurück zur Website
LeistungLeistung 02

KI- und LLM-Integration

Ich baue KI-Funktionen, die im Alltag bestehen: mit durchdachten Prompts, gedeckelten Kosten pro Anfrage und einer Architektur, bei der das Modell nur sieht, was es sehen darf. Kein Chatbot-Experiment, sondern ein Baustein in Ihrem Produkt.

Was KI-Integration bei mir bedeutet

KI-Integration heißt, ein Sprachmodell wie Claude von Anthropic oder GPT von OpenAI so in eine Anwendung einzubauen, dass es eine klar umrissene Aufgabe zuverlässig erledigt: Texte klassifizieren, Anfragen beantworten, Daten aus Dokumenten ziehen, Entwürfe schreiben. Das Modell ist dabei ein Modul mit definierter Ein- und Ausgabe, nicht ein Aufsatz, der irgendwo ein Chatfenster einblendet.

Der Unterschied zwischen einer Demo und einem Produkt liegt in vier Dingen: Prompt-Design, das auch bei ungewöhnlichen Eingaben stabil bleibt; Kostenkontrolle, damit ein einzelner Nutzer nicht Ihre Monatsrechnung sprengt; Schutz vor Prompt-Leaks, damit interne Anweisungen und Daten nicht über die Antwort nach außen dringen; und Evaluierung, also ein fester Satz Testfälle, gegen den jede Änderung am Prompt läuft.

Datenschutz und Anbieterwahl

Welche Daten an welchen Anbieter gehen, entscheiden wir vor der ersten Zeile Code. Ich arbeite mit Anthropic und OpenAI direkt oder über OpenRouter, wenn mehrere Modelle verglichen werden sollen, und dokumentiere die Datenflüsse so, dass Ihre Datenschutzerklärung sie beschreiben kann. Personenbezogene Daten bleiben, wo immer es geht, aus dem Prompt heraus.

Seit dem 2. August 2026 gelten die Transparenzpflichten der EU-KI-Verordnung: Nutzer müssen erfahren, wenn sie mit einem KI-System interagieren. Ich baue diesen Hinweis von Anfang an ein, statt ihn nachzurüsten.

Beleg: GeoOracle

GeoOracle ist ein tägliches Geografie-Rätsel, in dem ein Ort in der Ich-Form spricht und Spielerfragen beantwortet, ohne sich zu verraten. Das Sprachmodell antwortet in einer Rolle, ein Filter prüft jede Antwort auf Leaks, ein Cache sorgt dafür, dass dieselbe Frage nicht zweimal bezahlt wird, und die Kosten pro Rätsel sind gedeckelt. Die Rätsel selbst schreibt eine automatisierte Pipeline aus Wikidata-Fakten, mit einem zweiten Durchgang, der jede Behauptung gegen das Datenblatt prüft.

CitedBy geht den umgekehrten Weg: Es befragt mehrere Modelle mit echten Kaufabsichts-Prompts und wertet aus, ob ein Unternehmen genannt wird. Beide Produkte laufen im Betrieb, mit echten Nutzern und echten Kosten, und genau diese Erfahrung fließt in Ihre Integration.

Typische Einsatzfälle

Was ich nicht tue: ein Modell ohne Prüfung Entscheidungen treffen lassen, die Menschen betreffen, oder eine KI-Funktion einbauen, weil sie gerade erwartet wird. Wenn eine Regel oder eine Datenbankabfrage das Problem besser löst, sage ich das.

Häufige Fragen

Welche Sprachmodelle setzen Sie ein?

Vor allem Claude von Anthropic, daneben Modelle von OpenAI, Google und Meta über OpenRouter, wenn ein Vergleich oder ein günstigeres Modell für eine Teilaufgabe sinnvoll ist. Die Wahl richtet sich nach Aufgabe, Kosten und Datenschutzanforderung, nicht nach Markennamen.

Was kostet der Betrieb einer KI-Funktion?

Die Modellkosten liegen je nach Aufgabe zwischen Bruchteilen eines Cents und einigen Cent pro Anfrage. Ich rechne das vor dem Bau hoch, deckle die Kosten pro Nutzer und Tag im Code und baue einen Cache ein, damit gleiche Anfragen nicht doppelt bezahlt werden.

Ist das mit der DSGVO vereinbar?

Ja, wenn die Architektur stimmt: Personenbezogene Daten bleiben nach Möglichkeit aus dem Prompt, der Anbieter wird mit Auftragsverarbeitungsvertrag eingebunden, und die Datenschutzerklärung beschreibt den Datenfluss. Ich dokumentiere das so, dass Sie es übernehmen können; eine Rechtsberatung ersetzt das nicht.

Können Sie eine bestehende Anwendung um KI erweitern?

Ja, das ist der häufigste Fall. Die KI-Funktion läuft als eigener Dienst mit klarer Schnittstelle neben Ihrer Anwendung, unabhängig davon, in welcher Sprache sie geschrieben ist. Ein Umbau der bestehenden Software ist dafür nicht nötig.

Stand: September 2026