Deine KI hat dir etwas gebaut: Fünf Fragen, bevor du es einsetzt

Am Sonntagabend steht das Formular

Du hast einer KI beschrieben, was du brauchst: ein Formular, über das Kunden einen Termin anfragen, mit Auswahl der Leistung und einer Bestätigung per Mail. Eine Stunde später läuft es. Es sieht ordentlich aus, die Knöpfe tun, was sie sollen, und die erste Testanfrage liegt im Postfach.

So ein Entwurf ist viel wert, und für manches reicht er völlig. Zwischen „läuft auf meinem Bildschirm“ und „darauf kann ich mich bei echten Anfragen verlassen“ liegt aber ein Stück Weg, das man dem fertigen Ergebnis nicht ansieht. Fünf Fragen zeigen dir, wie lang dieses Stück bei dir ist und was davon du schon geklärt hast.

Wofür ein Entwurf genau richtig ist

Für das Bauen mit KI hat sich ein Name eingebürgert: „Vibe Coding“, also Programmieren nach Gefühl. Geprägt hat ihn der Entwickler Andrej Karpathy, und er hat dazugeschrieben, es sei nicht schlecht für Wegwerfprojekte am Wochenende (im Original „not too bad for throwaway weekend projects“). Genau darin sind solche Entwürfe stark: Eine Idee wird in kurzer Zeit greifbar.

Damit kannst du sie drei Stammkunden vorlegen, einen Ablauf im eigenen Betrieb durchspielen oder jemandem zeigen, was du dir vorstellst. Auch eine interne Liste ohne fremde Daten ist damit oft gut bedient. Heikel wird es in dem Moment, in dem Fremde ihre Daten eintippen und du dich darauf verlässt, dass jede Anfrage ankommt.

1. Wer benutzt es, und was soll dabei passieren?

Die KI setzt um, was du ihr sagst. Bei einem Terminformular sind aber mehr Leute beteiligt, als man beim ersten Anlauf im Kopf hat: der Kunde, du selbst und vielleicht jemand, der die Termine einträgt. Was passiert, wenn zwei Leute denselben Termin wollen, wenn jemand absagt oder wenn die Bestätigung im Spam landet?

Schreib die drei häufigsten Fälle aus deinem Alltag auf und spiel jeden einmal am Formular durch, auch den, der dich sonst am meisten Zeit kostet. Was du der KI nicht gesagt hast, hat sie auch nicht eingebaut. Sie fragt nicht nach, sie füllt die Lücke mit einer Annahme.

2. Wer kommt an die Daten?

Wer an die Einträge herankommt, legt beim Bauen oft die KI fest. Wie häufig dabei etwas offen liegt, hat ein Entwickler bei Lovable gezeigt, einem verbreiteten KI-Baukasten. Bei rund jeder zehnten geprüften App konnten Fremde in die Datenbank schauen, mit E-Mail-Adressen, Telefonnummern und teils Zahlungsdaten. Der Anbieter verwies darauf, dass jeder Kunde selbst für den Schutz seiner Daten verantwortlich ist. Damit hat er recht, und genau deshalb ist es deine Frage.

Einen ersten Schritt kannst du in zwei Minuten gehen: Frag die KI, die das Formular gebaut hat, wo die Einträge gespeichert werden und wer außer dir sie lesen kann. Schreib die Antwort in einem Satz auf, so wie du sie einem Mitarbeiter erklären würdest. Du brauchst sie für die Übung am Ende.

Dazu kommt der Datenschutz, der gilt, sobald jemand deine Seite aufruft, und erst recht, wenn er etwas einträgt. Gemeint sind eine Datenschutzerklärung, eine verschlüsselte Verbindung als Mindeststandard und ein Vertrag mit jedem Dienstleister, bei dem die Daten landen, etwa dem Anbieter der Datenbank im Hintergrund. Ein Impressum braucht die Seite ohnehin.

3. Wer kann beurteilen, was die KI gewählt hat?

Beim Bauen trifft die KI Entscheidungen, die du nicht siehst: wo die Daten liegen, welche fremden Bausteine sie einbindet und wie das Formular gegen Missbrauch geschützt ist. In einem Test des Sicherheitsanbieters Veracode haben KI-Modelle in fast der Hälfte der Testaufgaben eine Sicherheitslücke eingebaut, und neuere Modelle schnitten nicht spürbar besser ab.

Das Tückische daran zeigt eine Studie der Universität Stanford: Wer sich beim Programmieren von einer KI hatte helfen lassen, hielt sein unsicheres Ergebnis häufiger für sicher als die Vergleichsgruppe. Es sieht fertig aus, also wirkt es fertig. Ich baue selbst mit KI-Werkzeugen, und ein guter Teil der Arbeit besteht darin, zu prüfen, was sie vorschlagen.

Der Programmierer Simon Willison hat dafür einen einfachen Maßstab: Solange ein Werkzeug nur dir dient und keine fremden Daten berührt, ist das Risiko gering. Bevor andere Menschen es benutzen, sollte jemand mit mehr Erfahrung es prüfen.

4. Was passiert, wenn etwas schiefgeht?

Im Sommer 2025 hat der KI-Assistent der Plattform Replit in einem Testprojekt eine Datenbank gelöscht, obwohl er ausdrücklich angewiesen war, nichts mehr zu verändern. Die Daten ließen sich zurückholen. Der Anbieter kündigte danach an, das Ausprobieren und den echten Betrieb voneinander zu trennen und eine Wiederherstellung per Klick einzuführen.

Für dein Formular heißt das: Gibt es eine Sicherung, und weißt du, wie du sie zurückholst? Probierst du Änderungen erst an einer Kopie aus, bevor sie auf der echten Seite landen? Und merkst du es, wenn drei Tage lang keine Anfrage durchkommt? Ein Formular, das still ausfällt, sieht genauso aus wie eine ruhige Woche.

Such mit der KI heraus, wo die Sicherung liegt, und spiel sie einmal zur Probe ein, solange noch nichts Wichtiges darin steht. Erst dann weißt du, dass sie im Ernstfall funktioniert und wie lange es dauert, bis alles wieder da ist.

5. Wer kümmert sich in einem Jahr darum?

Ein Werkzeug altert, auch wenn niemand es anfasst. Browser ändern sich, Dienste, mit denen es verbunden ist, stellen um, und ab und zu verschwindet ein Anbieter ganz. Die Plattform Glitch, auf deren Rechnern viele kleine Werkzeuge liefen, hat diesen Betrieb mit sechs Wochen Vorlauf eingestellt. Wer dort ein Werkzeug betrieb, musste in dieser Zeit umziehen. Bei Heroku, einem ähnlichen Dienst, fielen die Gratis-Tarife weg, und die kostenlosen Datenbanken wurden zur Löschung vorgemerkt.

Deshalb gehört zur Frage, wer es repariert, auch die, ob du an alles herankommst: an den Bauplan, also den Code, und an die Daten, wenn du den Anbieter wechseln willst. Was ein Umzug bedeutet, steht im Artikel über Vorlagen und Baukästen, und warum eine Seite nach dem Start Pflege braucht, im Artikel über Website-Pflege.

So prüfst du dein eigenes Werkzeug

Du brauchst ein Blatt Papier und eine Viertelstunde. Wichtig ist, dass du jede Antwort aufschreibst, statt sie nur im Kopf abzuhaken:

1. Teil das Blatt in zwei Spalten, links „geklärt“, rechts „offen“.
2. Geh die fünf Fragen der Reihe nach durch und schreib jede Antwort in einem Satz in die passende Spalte.
3. Geklärt ist nur, was du konkret benennen kannst: einen Namen, einen Ort, einen Ablauf. „Weiß nicht“, „müsste gehen“ und „macht die KI“ gehören nach rechts.
4. Geh das Blatt mit jemandem durch, der das Werkzeug kennt oder benutzen wird, etwa einem Mitarbeiter, deinem Partner oder einem Stammkunden, und frag, welcher Fall aus seinem Alltag fehlt.

Rechts darf etwas stehen, das ist am Anfang normal. Stehen dort aber die Fragen nach den Daten oder nach der Sicherung, bleibt dein Werkzeug vorerst ein Entwurf. Beide betreffen nicht nur dich, sondern jeden, der dir seine Daten anvertraut, und beide merkt man im Alltag erst, wenn jemand nachsieht.

Wenn die rechte Spalte länger wird

Die fünf Fragen sind schnell gestellt und schwer beantwortet, gerade wenn das Werkzeug auf dem eigenen Bildschirm einwandfrei läuft. Ist auf deinem Blatt mehr offen geblieben als gedacht, bring es zu einem ersten Gespräch mit, am besten zusammen mit deinem Entwurf. Wir sortieren gemeinsam, was vor der ersten echten Anfrage geklärt sein sollte und was warten kann. Dafür reichen meist 15 bis 20 Minuten, kostenlos und unverbindlich.