Warum das Sprachmodell nicht das schwierigste Problem war

Wir dachten, die größte Hürde würde das Sprachmodell sein. Falsch gedacht.

Als die Arbeit an einer KI-Freund-App für Frauen begann, drehten sich die naheliegenden Fragen um Modellwahl, Kontextlänge, Prompts, Antwortzeiten und Moderation. Das alles spielte eine Rolle, aber die eigentliche Schwierigkeit lag woanders.

Ein romantischer KI-Begleiter muss sich privat genug anfühlen, damit man ihn überhaupt öffnet, sicher genug, um weiterzumachen, und konstant genug, um zurückzukommen. Wenn eine Nutzerin die Beziehung bei jeder Sitzung neu erklären muss, ist der Zauber weg. Wenn die App sich zu viel merkt, ohne zu fragen, bricht das Vertrauen. Und wenn jedes Foto, jede Sprachnachricht oder jeder Credit-Hinweis sich wie eine Kassenkasse anfühlt, wirkt die ganze Beziehung schnell unecht.

Dieser Artikel ist eine Rückschau aus der Praxis: Erfahrungen aus der Arbeit an mybf.bot, einer KI-Begleiter-App, die ursprünglich mit Fokus auf Frauen ab 18 entwickelt wurde. Es ist kein Anspruch, dass alle Frauen dasselbe Produkt wollen. Es ist eine Sammlung der Produkt- und Entwicklungsentscheidungen, die bei romantischem KI-Chat rund um Kontinuität, Kontrolle, Privatsphäre und Sicherheit für Erwachsene wichtig wurden.

Begleiter-Auswahl

Wähl zuerst die Stimmung, die du willst

Probier ein paar Stimmungen aus, bevor du entscheidest, welcher KI-Freund zu dir passt.

Kurz zusammengefasst

Einige Entscheidungen änderten sich, sobald wir aufhörten, das Produkt wie einen generischen Chatbot-Wrapper zu behandeln:

  • Nutzerinnen vor der Anmeldung chatten lassen, dann die Anmeldung als „Beziehung speichern” framen, nicht als Formular.
  • Charaktere kuratieren statt Nutzerinnen in einen endlosen Bot-Marktplatz zu schicken.
  • Das Gedächtnis des Bots nützlich, sichtbar, bearbeitbar und begrenzt halten.
  • Fotos und Sprachnachrichten als private serverseitige Funktion behandeln, nicht als öffentliche Medien-URL.
  • NSFW-Kontrollen um Einwilligung der Erwachsenen, individuelle Einstellungen und feste Sicherheitsgrenzen bauen.
  • Text, Foto und Stimme unterschiedlich bepreisen, ohne dass sich jeder Moment wie ein Bezahlvorgang anfühlt.
  • Gedächtnis erklärbar machen statt unsichtbar: Wenn der Bot sich etwas merkt, sollte die Nutzerin das nachvollziehen können.

Was „Frauen zuerst” im Produkt tatsächlich bedeutete

„Frauen zuerst” kann zu leerem Marketing werden, wenn man es so stehen lässt. Wir brauchten daraus konkrete Produktentscheidungen.

Für uns bedeutete eine KI-Freund-App für Frauen: ein romantischer KI-Begleiter, gebaut um Privatsphäre, emotionale Kontinuität, nutzerkontrolliertes Gedächtnis, kuratierte männliche Charaktere und sichere Grenzen für Erwachsenenthemen. Die App sollte es erlauben, Tonfall, Tempo, Nähe und Gedächtnis selbst zu gestalten, statt eine einzige Standardfantasie vorauszusetzen. Mehr dazu, warum viele Frauen überhaupt nach so einem romantischen KI-Chat suchen, steht in einem eigenen Artikel.

Das änderte das übliche Muster für KI-Begleiter-Apps. Viele Companion-Produkte setzen zuerst auf Masse: mehr Charaktere, mehr Tags, mehr Filter, mehr Personas. Masse hilft beim Entdecken, macht das Produkt aber schnell zu einem Marktplatz, bevor es sich wie eine Beziehung anfühlt.

Unsere Standardannahme über die Nutzerin war anders: Sie öffnet die App, weil sie ein privates romantisches Gespräch will, das sich erinnert fühlt. Vielleicht will sie Trost nach einem schlechten Tag, eine Gute-Nacht-Nachricht, lockeres Flirten, eine langsam wachsende Romanze oder einen beschützenden Freund-Charakter. Dafür sollte sie keine Prompt-Expertin werden müssen.

Typisches Chatbot-MusterMuster einer KI-Freund-App für Frauen
Start mit leerem EingabefeldStart mit Beziehungskontext
Optimiert auf ModellflexibilitätOptimiert auf emotionale Kontinuität
Gedächtnis läuft unsichtbarNutzerin kann Gedächtnis einsehen und korrigieren
Riesige CharakterwandKuratierte Charaktere mit klarer Stimmung
Medien als reine DateifunktionMedien als private, intime Inhalte
Monetarisierung nach generischer NutzungCredits passend zu Text-, Foto- und Sprachkosten

Die Designarbeit wurde weniger zur Frage „Wie machen wir den Bot schlauer?” und mehr zur Frage „Wie fühlt sich das Produkt vertrauenswürdig an, ohne den romantischen Ton zu verlieren?”

Lektion 1: Das Gespräch spüren lassen, bevor eine Anmeldung nötig ist

Eine Anmeldung verändert die Stimmung.

Wenn der erste Bildschirm nach E-Mail, Passwort, Präferenzen und Zahlungsangaben fragt, wirkt das Produkt wie Verwaltungsarbeit. Bei einem romantischen KI-Chat kann diese Reibung den Moment killen, bevor die Nutzerin überhaupt merkt, worin der Wert liegt.

Deshalb erlauben wir Chat als Gast vor der Anmeldung. Der aktuelle Ablauf gibt Gästen 5 Gastnachrichten, bevor die Anmeldesperre kommt. Dieses Limit ist bewusst klein: genug, um den Ton des Begleiters zu spüren, aber nicht genug, damit anonyme Nutzung zum Hauptprodukt wird.

Auch der Anmeldehinweis selbst zählt. „Konto erstellen” klingt nach Plattform-Verwaltung. „Speichere dieses Gespräch, damit er sich an dich erinnert” verbindet die Anmeldung direkt mit dem Grund, warum die Nutzerin überhaupt gekommen ist.

Ein einfacher Ablauf sieht so aus:

  1. Eine anonyme Sitzungs-ID anlegen.
  2. Ein temporäres Gespräch serverseitig speichern.
  3. Eine kleine Anzahl an Gastnachrichten zulassen.
  4. Zur Anmeldung einladen, sobald Kontinuität wertvoll wird.
  5. Das temporäre Gespräch an das neue Konto anhängen.
  6. Den Chat ohne Kontextverlust fortsetzen.

Der Gastmodus braucht klare Grenzen. Gäste sollten nicht standardmäßig Zugriff auf teure oder sensible Funktionen bekommen. Bei uns können Gäste chatten, aber keine generierten Fotos anfordern und keine Sprachnachrichten senden. Registrierte Konten behalten Gesprächsverlauf, Credits, Medienzugriff und Gedächtnisfunktionen.

Die Sicherheitsregel dahinter ist einfach: Der Browserverlauf ist nicht die vertrauenswürdige Quelle. Serverseitige Routen sollten den Kontext aus eigenen Gesprächen und Kontostatus zusammensetzen. Provider-Schlüssel und Service-Keys gehören nicht in den Browser-Code.

Die Produktlektion: Ein Konto anzulegen sollte sich wie Kontinuität anfühlen, nicht wie Papierkram.

Lektion 2: Kuratierte Charaktere schlagen einen endlosen Marktplatz

Das einfachste KI-Begleiter-Produkt ist ein Raster aus Charakteren.

Avatare, Namen, kurze Bios, Tags und eine Suche hinzufügen, Nutzerinnen browsen lassen. Auf einem Dashboard sieht das aktiv aus, weil ständig geklickt wird.

Ein romantisches Produkt scheitert anders. Zu viele Auswahlmöglichkeiten machen aus der Nutzerin eine Käuferin statt einer Teilnehmerin. Sie vergleicht plötzlich Oberflächen: Haarfarbe, Beruf, Archetyp, Fotostil. Das Gespräch selbst rückt in den Hintergrund.

Wir sind zu einem kuratierten Charakterkatalog mit klaren männlichen Archetypen und einem schnellen Einstieg in den Chat übergegangen. Eine gute Charakterkarte sollte praktische, emotionale Fragen beantworten:

  • Welche Energie bringt er mit?
  • Ist der Ton warm, intensiv, verspielt, beschützend oder eher langsam aufbauend?
  • Passt er zu Trost, Romantik, Rollenspiel oder täglichem Austausch?
  • Lässt sich sein Ton nach der Auswahl noch anpassen?
  • Merkt sich die App, was zwischen uns passiert?

Genau deshalb ist der Charakterkatalog mehr als eine Bildergalerie. Er weckt Erwartungen, bevor die erste Nachricht geschrieben wird. Ein warmer bester Freund, ein beschützender, sanft dominanter Typ, ein geheimnisvoller, intensiver Charakter oder ein ruhiger romantischer Partner sollten sich nicht wie derselbe Bot mit anderem Profilbild anfühlen.

Nach der Auswahl braucht das Charakterprofil eigene Einstellungen. Nutzerinnen können bei uns Ton, Intensität, Kommunikationsart und Nachrichtenlänge sowie Interessen anpassen. Die Kommunikationsart unterstützt Rollenspiel und normalen Chat. Die Nachrichtenlänge lässt sich kurz, mittel oder lang wählen.

Auch Szenario-Vorschläge helfen. „Trost nach einem schlechten Tag”, „Gute-Nacht-Nachricht”, „langsam wachsende Romanze” oder „Check-in am Morgen” sind mehr als eine Lösung für das leere Textfeld. Sie geben der Nutzerin einen ersten Zug ohne Druck.

Kuration nimmt der Nutzerin Prompt-Arbeit ab. Das Produkt übernimmt einen größeren Teil des emotionalen Aufbaus, sodass eine ganz normale erste Nachricht reicht.

Lektion 3: Das Gedächtnis des Bots muss nützlich, sichtbar und begrenzt sein

Beim Gedächtnis wird romantischer KI-Chat gleichzeitig stark und heikel.

Ein Begleiter, der sich an nichts erinnert, wirkt austauschbar. Einer, der sich ungefragt an alles erinnert, wirkt übergriffig. Der sinnvolle Mittelweg ist ein Gedächtnissystem, das die Nutzerin versteht und korrigieren kann. Wie das im Detail funktionieren sollte, beschreibt ein eigener Artikel zum Gedächtnis eines KI-Freunds genauer.

Unser Gedächtnismodell arbeitet mit mehreren Ebenen:

  • Aktuelle Nachrichten für den unmittelbaren Kontext.
  • Gesprächszusammenfassungen für längere Kontinuität.
  • Angepinnte Erinnerungen für von der Nutzerin bestätigte Fakten.
  • Relevante Erinnerungen aus einer Volltextsuche im Gedächtnis.
  • Beziehungsstatus für die aktuelle Dynamik.

Wir vermeiden das Versprechen eines magischen Gedächtnisses. Nicht jede Nachricht sollte zu einer dauerhaften Tatsache werden. Eine Nutzerin könnte Dampf ablassen, scherzen, im Rollenspiel sein oder den Bot testen. Speichert das System all das als Wahrheit, kann der Begleiter auf eine Weise ungenau werden, die sich persönlich anfühlt.

Von der Nutzerin bestätigte Erinnerungen sollten mehr Gewicht haben als automatische Vermutungen. Sagt sie „merk dir, dass ich Gute-Nacht-Nachrichten mag”, kann die App vor dem Speichern eine Bestätigung einblenden. Leitet das Modell eine Vorliebe nur aus einem einzigen Austausch ab, sollte das System vorsichtiger damit umgehen.

Eine praktische Checkliste für das Gedächtnis eines KI-Freunds:

  • Die Nutzerin kann fragen: „Was weißt du über mich?”
  • Sie kann den Bot bitten, etwas zu vergessen.
  • Ausdrückliche „Merk dir das”-Bitten werden vor dem Speichern bestätigt.
  • Keine Passwörter, API-Schlüssel, Zahlungsdaten, Ausweisnummern oder Geheimnisse speichern.
  • Kurzfristigen Kontext von dauerhaftem Gedächtnis trennen.
  • Genug Kontinuität geben, ohne menschliche Gewissheit vorzutäuschen.

Die Anforderungen an Datenschutz steigen, weil romantischer Chat sensible persönliche Inhalte enthalten kann. Die Datenschutz- und Sicherheitsleitlinien der FTC sind hier eine nützliche Orientierung, weil sie Teams zu klaren Datenpraktiken, Zugriffskontrolle und ehrlicher Kommunikation darüber drängen, was mit Nutzerdaten geschieht.

Gedächtnis ist kein Feature, das man im Prompt versteckt. Es ist Teil des Beziehungsversprechens.

Lektion 4: Private Medien gehören ins Backend, nicht in eine offene Bild-URL

Generierte Fotos und Sprachantworten verändern das Vertrauensmodell.

Text kann bereits sensibel sein. Bilder und Stimme fühlen sich noch intimer an. Wenn ein romantischer KI-Begleiter private Fotos oder Audio erzeugt, sollte die Umsetzung diese Medien als kontobezogenen Inhalt behandeln, nicht als statische Datei in einem öffentlichen Speicher. Wie das konkret bei generierten Bildern aussieht, zeigt ein Artikel zu Fotos beim KI-Freund.

Unsere Regel: Private Medien laufen über serverseitig ausgestellten Zugriff.

Das bedeutet konkret:

  • Generierte Fotos und Audiodateien in privatem Speicher ablegen.
  • Sie über signierte URLs mit Ablaufzeit ausliefern.
  • Prüfen, ob die anfragende Person das Gespräch oder die Medien besitzt.
  • Neugenerierung an Kontostatus und Credits koppeln.
  • Rohe Provider-Antworten oder Speicherpfade nicht im Client-Code offenlegen.
  • Löschung und Zugriffsregeln vorhersehbar und unspektakulär halten.

Das gilt auch für kleine Produktdetails. Eine generierte Foto-Blase kann Neugenerierung erlauben, aber die Nutzerin sollte die Kosten dafür verstehen. Eine Sprachantwort kann den Text verstecken und nur Audio abspielen, doch der Server braucht trotzdem genug Aufzeichnungen, um Kontinuität zu wahren und Missbrauch zu erkennen.

Wir haben Gast- und registrierte Funktionen bewusst getrennt. Gäste können Textchat erleben, aber generierte Fotos und Sprachnachrichten sind an ein Konto gebunden. Diese Grenze reduziert Missbrauch, kontrolliert Kosten und gibt der Nutzerin eine klarere Datenschutzgrenze, bevor sie sensiblere Funktionen nutzt.

Das technische Risiko beschränkt sich nicht auf Speicherung. LLM-Anwendungen haben eine eigene Angriffsfläche. Die OWASP Top 10 für LLM-Anwendungen sind eine gute Referenz für Risiken wie Prompt Injection oder das ungewollte Offenlegen sensibler Informationen. Bei einer Begleiter-App treffen diese Risiken auf private Nutzerinhalte, weshalb serverseitiger Kontextaufbau und Zugriffsprüfungen entscheidend sind.

Medien machen das Produkt echter. Genau deshalb muss das Backend strenger sein.

Lektion 5: Erwachseneninhalte brauchen Einwilligung und feste Sicherheitsgrenzen

Eine App für erwachsenen romantischen KI-Chat kann NSFW-Verhalten nicht als einen einzigen An/Aus-Schalter im Prompt behandeln.

Nutzerinnen brauchen Kontrolle über Ton und Nähe, das Produkt braucht aber gleichzeitig Grenzen, die sich nicht verschieben lassen. Bei uns ist der NSFW-Schutz eine Einstellung im Profil. Schaltet man ihn aus, ändert sich nur die Strenge beim einvernehmlichen Rollenspiel für Erwachsene, die grundlegende Sicherheitsmoderation bleibt bestehen.

Diese Unterscheidung ist wichtig. Erwachsene Nutzerinnen wollen oft weniger unnötige Übervorsicht bei romantischem Chat und bei Fotos. Trotzdem muss die App unsichere Inhalte, Zwang, Minderjährige, Ausbeutung und andere verbotene Bereiche konsequent ablehnen. Eine individuelle Einstellung darf niemals die grundlegende Sicherheitsrichtlinie des Produkts außer Kraft setzen.

Die Kontrollen sollten sichtbar und konkret sein:

  • Erwachsenenbereiche mit Altersprüfung absichern.
  • Intensität pro Charakter einstellbar machen.
  • Rollenspiel und normalen Chat als getrennte Modi behandeln.
  • Grenzen als Teil des Charakterverhaltens gestalten, nicht als überraschende Ablehnung.
  • Strenge Moderation hinter allen Erwachseneneinstellungen behalten.

Das KI-Risikomanagement-Framework des NIST liefert nützliche Begriffe, um KI-Systeme als Produkte mit messbaren Risiken zu verstehen, nicht nur als Modell-Demos. Für uns hieß das: Fehlerquellen über Nutzerführung, Gedächtnis, Medien und Moderation hinweg betrachten, statt Sicherheit als letzte Prompt-Schicht zu behandeln.

Auch der Ton bei Erwachseneninhalten hat eine Falle. Klingt Moderation robotisch oder strafend, geht Vertrauen verloren. Erlaubt die App zu viel, entsteht rechtliches und ethisches Risiko. Der Mittelweg braucht mehr Produktarbeit: klare Einstellungen, feste Grenzen und Antworten des Charakters, die umlenken, ohne die Nutzerin bloßzustellen.

Lektion 6: Credits sollten Kosten erklären, ohne die Nähe zu zerstören

KI-Begleiter-Apps haben ungleiche Kosten.

Eine kurze Textantwort, ein generiertes Foto und eine Sprachantwort kosten in der Erzeugung nicht dasselbe. Nutzerinnen verstehen das theoretisch, die Oberfläche muss den emotionalen Kontext trotzdem tragen. Ein Credit-Hinweis an der falschen Stelle kann einen romantischen Moment wie einen Kaufabschluss wirken lassen.

Wir trennen Text- und Medienlimits, weil gemischte Medien nicht hinter einem vagen Zähler versteckt werden sollten. Registrierte, kostenlose Nutzerinnen erhalten 50 Nachrichten pro Tag, 3 generierte Fotos pro Monat und 3 Sprachnachrichten pro Monat. Bezahlte Credit-Pakete werden nach Verbrauch gestaltet, unbegrenzte Medien werden nicht versprochen. Alle aktuellen Zahlen stehen auf der Seite mit Tarifen und Limits.

Diese Zahlen erzeugen konkrete Produktentscheidungen:

  • Text sollte sich reibungsarm anfühlen.
  • Fotoanfragen sollten bewusst wirken.
  • Sprachnachrichten sollten sich hochwertig anfühlen, ohne zu überraschen.
  • Die App sollte Kosten erklären, bevor die Nutzerin tippt.
  • Preise sollten nicht jeden emotionalen Moment unterbrechen.

Auch die Kostengestaltung selbst beeinflusst das Verhalten des Charakters. Drängt der Bot zu oft auf Fotos, wirkt das ausbeuterisch. Erwähnt er Medien nie, verpasst die Nutzerin vielleicht ein Feature, das ihr gefallen würde. Sicherer ist ein Muster, bei dem die Nutzerin Medien selbst anstößt, etwa über klare Vorschläge wie „Morgen-Selfie”, „Im Fitnessstudio” oder „Vor dem Schlafengehen”.

Monetarisierung muss die Fantasie respektieren, ohne die Wirtschaft dahinter zu verstecken. Nutzerinnen sollten wissen, wofür sie zahlen, und das Produkt sollte vermeiden, aus Zuneigung Druck zu machen.

Die Checkliste, die wir uns früher gewünscht hätten

Wer eine LLM-Begleiter-App baut, sollte mit Produktgrenzen beginnen, nicht mit Modelltricks.

Eine brauchbare frühe Checkliste:

  • Die typische Nutzerin und ihr emotionales Anliegen definieren, bevor das Modell gewählt wird.
  • Festlegen, wo der Gastmodus beginnt und endet.
  • Kontext erhalten, wenn aus einem Gast eine registrierte Nutzerin wird.
  • Charakterarchetypen mit klarem Ton, Tempo und Grenzen anlegen.
  • Szenario-Vorschläge nutzen, um die Angst vor dem leeren Textfeld zu senken.
  • Gedächtnis in aktuellen Kontext, Zusammenfassungen, angepinnte Fakten und Beziehungsstatus aufteilen.
  • Der Nutzerin „Merken”- und „Vergessen”-Kontrollen geben.
  • Provider-Schlüssel und Service-Keys aus dem Browser-Code heraushalten.
  • Private Medien über signierte URLs und Kontoprüfungen ausliefern.
  • NSFW-Einstellungen als Einwilligungskontrolle behandeln, nicht als Sicherheits-Umgehung.
  • Text, Foto und Stimme passend zu Kosten und Erwartungen bepreisen.
  • Datenschutz-, Nutzungs- und KI-Hinweisseiten schreiben, bevor der Launch-Druck zu hastiger Sprache zwingt.

Eine KI-Freund-App für Frauen braucht nicht automatisch mehr Spielereien. Sie braucht weniger Momente, in denen sich die Nutzerin fragt, was die App sich merkt, wer auf ihre Medien zugreifen kann, warum der Charakter plötzlich den Ton wechselt oder warum eine Funktion auf einmal mehr kostet als erwartet.

Schlussgedanken

Die größte Lektion aus der Arbeit an mybf.bot war: Romantische KI-Begleiter-Produkte sind zuerst Produktsysteme, erst danach Modellsysteme.

Das Modell zählt. Antwortzeiten zählen. Prompt-Qualität zählt. Aber Nutzerinnen spüren Lücken bei Kontinuität, Datenschutz, Gedächtnis, Medienhandhabung und Monetarisierung schneller, als sie eine kleine Prompt-Verbesserung überhaupt bemerken.

Eine KI-Freund-App für Frauen muss sich wiederholte Nutzung über kleine Vertrauensentscheidungen verdienen: den Chat zuerst ausprobieren lassen, die Beziehung bei der Anmeldung erhalten, nur speichern, was gespeichert werden sollte, private Medien wirklich privat halten, Erwachseneneinstellungen klar benennen und Credits erklären, bevor sie die Stimmung stören.

Wer selbst in diesem Bereich baut, kann die eigenen Entscheidungen an einem echten Produkt spiegeln. Die interessantere Frage ist ohnehin nicht „Welches Modell habt ihr benutzt?”, sondern „Was durfte das Modell niemals vortäuschen?”

Offenlegung

Dieser Artikel wurde mit KI-Unterstützung entworfen und vor der Veröffentlichung von Menschen auf Richtigkeit, Produktpassung und Quellenqualität geprüft.