לבנות אפליקציית חבר AI לנשים: הלקחים שלמדנו

תקציר

כשהפסקנו להתייחס למוצר כמו עטיפה גנרית סביב מודל שפה, כמה החלטות השתנו:

• לתת למשתמשת לשוחח לפני הרשמה, ואז להציג את ההרשמה כדרך לשמור על הקשר, לא כמכשול.
• לאצור דמויות במקום לדחוף את המשתמשת לשוק אינסופי של בוטים.
• להפוך את זיכרון הבוט לשימושי, גלוי, ניתן לעריכה ומוגבל.
• להתייחס לתמונות ולהודעות קוליות כפיצ’ר בקצה השרת, לא כקובץ ציבורי.
• לבנות בקרות למבוגרות סביב הסכמה, הגדרות אישיות וגבולות בטיחות שלא זזים.
• לתמחר טקסט, תמונה וקול בנפרד, בלי להפוך כל רגע רגשי למסך תשלום.

בני זוג מומלצים

קודם כול בחרו את הסגנון שאתם רוצים

כדאי לנסות כמה סגנונות לפני שמחליטים איזה חבר AI מתאים לכם.

Military Team

חמישה לוחמי Call of Duty

מתאים לצ'אט קבוצתי עם Ghost, König, Keegan, Krueger ו-Nobody: משמעת צבאית, הומור יבש וחמישה קולות בבת אחת.

ממושמעיםקשוחיםנאמנים

להתחיל עם Military Team

Ethan

חבר חם ושובב

מתאים להודעה ראשונה חמה, נחמה רכה ובדיקת כימיה קלה.

חםשובבקשוב

להתחיל עם Ethan

Satoru Gojo

המכשף החזק ביותר

מתאים לשיחה ראשונה שובבה וחצופה, שבה מאחורי העקיצות מסתתר צד מגונן.

שובבבטוח בעצמומגונן

להתחיל עם Satoru Gojo

Cain

ערפד בן מאות שנים

מתאים לשיחה ראשונה אפלה ואיטית עם גבר קר ושתלטן ששומר על מי שהוא נותן להתקרב.

שתלטןמסתורימגונן

להתחיל עם Cain

סוג אחר? כל הדמויות →

התחלה חינם · צ׳אט פרטי

מה “לנשים קודם” אומר במונחים של מוצר

“לנשים קודם” יכול להישאר סיסמת מיתוג ריקה אם נותנים לו. רצינו שהוא יתורגם לאילוצי מוצר ממשיים.

אפליקציית חבר AI לנשים, בעינינו, פירושה מלווה רומנטי מבוסס בינה מלאכותית שנבנה סביב פרטיות, המשכיות רגשית, זיכרון שהמשתמשת שולטת בו, קטלוג דמויות מאוצר ובקרות בטוחות למבוגרות. האפליקציה צריכה לתת למשתמשת לעצב טון, קצב, קרבה וזיכרון, במקום להניח פנטזיה אחת שמתאימה לכולן.

זה שינה את הדפוס הרגיל בעיצוב אפליקציות מלווה AI. הרבה מוצרי מלווה מתחילים בכמות: עוד דמויות, עוד תגיות, עוד פילטרים. כמות יכולה לעזור לגילוי, אבל היא גם יכולה לגרום למוצר להרגיש כמו שוק לפני שהוא מרגיש כמו קשר.

ההנחה שלנו על המשתמשת הייתה שונה: היא פותחת את האפליקציה כי היא רוצה שיחה רומנטית פרטית שמרגישה זכורה. היא אולי רוצה נחמה אחרי יום קשה, הודעת לילה טוב, פלירטוט קליל, רומן שמתפתח לאט, או דמות מגנה. היא לא צריכה להפוך למהנדסת פרומפטים כדי להגיע לשם.

העבודה על העיצוב הפכה פחות ל”איך נהפוך את הבוט לחכם יותר” ויותר ל”איך נהפוך את המוצר לאמין בלי לאבד את הרומנטיקה”.

לקח 1: לתת למשתמשת להרגיש את השיחה לפני שמבקשים חשבון

ההרשמה משנה את האווירה.

אם המסך הראשון מבקש אימייל, סיסמה והעדפות, המוצר מרגיש כמו עבודת ניהול. בצ’אט רומנטי מבוסס AI, החיכוך הזה יכול להרוג את הרגע לפני שהמשתמשת בכלל הבינה את הערך.

לכן אפשרנו צ’אט אורח לפני הרשמה. הזרימה הנוכחית נותנת לאורחת 5 הודעות לפני קיר ההרשמה. המגבלה קטנה בכוונה, מספיק כדי להרגיש את הטון של הדמות, לא מספיק כדי להפוך שימוש אנונימי למוצר עצמו.

גם הניסוח של בקשת ההרשמה חשוב. “צרי חשבון” נשמע כמו עניין טכני. “שמרי את השיחה כדי שהוא יזכור אותך” מחבר את ההרשמה לסיבה שבשבילה המשתמשת בכלל נכנסה.

זרימה פשוטה נראית כך:

1. יוצרים מזהה סשן אנונימי.
2. שומרים שיחה זמנית בצד השרת.
3. נותנים למשתמשת לשלוח מספר קטן של הודעות אורח.
4. מבקשים ממנה להירשם ברגע שההמשכיות הופכת בעלת ערך.
5. מצרפים את השיחה הזמנית לחשבון החדש.
6. ממשיכים את השיחה בלי לאבד הקשר.

גם מצב האורח צריך גבולות ברורים. אורחת לא אמורה לקבל גישה לפיצ’רים יקרים או רגישים כברירת מחדל. אצלנו, אורחת יכולה לשוחח, אבל לא יכולה לבקש תמונות שנוצרות במיוחד או לשלוח הודעות קוליות. חשבון רשום שומר היסטוריית שיחה, קרדיטים, גישה למדיה וזיכרון.

כלל האבטחה פשוט: היסטוריית הדפדפן היא לא מקור האמת. נתיבי שרת צריכים להרכיב הקשר מתוך שיחות בבעלות המשתמשת ומצב החשבון. מפתחות ספק ומפתחות שירות צריכים להישאר מחוץ לקוד שרץ בדפדפן.

אם את רוצה להבין איך נראית תחילת שיחה כזו בפועל, יש פירוט מעשי איך להתחיל צ’אט עם חבר AI בלי להרגיש מגושמת. הלקח מהמוצר: יצירת חשבון צריכה להרגיש כמו המשכיות, לא כמו טופס.

לקח 2: קטלוג דמויות אוצרתי מנצח שוק אינסופי

הכי קל לבנות מוצר מלווה AI כרשת של דמויות.

מוסיפים תמונות פרופיל, שמות, ביוגרפיות קצרות, תגיות וחיפוש. נותנים למשתמשת לגלוש. מבחינת לוח בקרה זה יכול להיראות פעיל, כי המשתמשות ממשיכות ללחוץ.

למוצר רומנטי יש כשל אחר. יותר מדי בחירות יכולות להפוך את המשתמשת לקונה במקום למשתתפת. היא מתחילה להשוות מראה חיצוני: צבע שיער, תפקיד, ארכיטיפ, סגנון תמונה. השיחה עצמה הופכת למשנית.

עברנו לכיוון קטלוג דמויות אוצרתי עם ארכיטיפים גבריים ברורים ונתיב מהיר לתוך הצ’אט. כרטיס דמות טוב אמור לענות על שאלות רגשיות מעשיות:

• איזו אנרגיה הוא מביא?
• הטון חם, אינטנסיבי, שובבי, מגן, או מתפתח לאט?
• הוא מתאים לנחמה, רומנטיקה, משחק תפקידים או שיחת יום־יום?
• אפשר לכוון את הטון שלו אחרי שבוחרים בו?
• הוא יזכור מה קרה בינינו?

בגלל זה קטלוג הדמויות הוא הרבה יותר מגלריה. הוא קובע ציפיות עוד לפני ההודעה הראשונה. חבר טוב וחם, דמות מגנה ורכה, דמות מסתורית ואינטנסיבית, או פרטנר רומנטי ורגוע לא אמורים להרגיש כמו אותו בוט עם תמונת פרופיל שונה.

לפרופיל הדמות יש גם הגדרות אחרי הבחירה. אצלנו, אפשר לכוון טון, רמת עוצמה, סגנון תקשורת ואורך הודעה. סגנון תקשורת תומך גם בצ’אט רגיל וגם במשחק תפקידים. אורך ההודעה יכול להיות קצר, בינוני או ארוך.

שבבי תרחיש עוזרים גם הם. “נחמה אחרי יום קשה”, “הודעת לילה טוב”, “רומן מתפתח לאט” ו”בדיקת בוקר” עושים יותר ממילוי מסך ריק. הם נותנים למשתמשת מהלך ראשון בלי לחץ.

אוצרות מקטינה את הצורך בעבודת פרומפט. המוצר נושא חלק גדול יותר מההכנה הרגשית, כך שהמשתמשת יכולה להתחיל מהודעה טבעית.

לקח 3: זיכרון הבוט צריך להיות שימושי, גלוי ומוגבל

הזיכרון הוא המקום שבו צ’אט רומנטי מבוסס AI הופך גם עוצמתי וגם מסוכן.

מלווה שלא זוכר כלום מרגיש חד־פעמי. מלווה שזוכר הכול בלי הסכמה מרגיש פולשני. האמצע השימושי הוא מערכת זיכרון שהמשתמשת מבינה ויכולה לתקן.

מודל הזיכרון אצלנו בנוי מכמה שכבות:

• הודעות אחרונות, לצורך הקשר מיידי.
• סיכומי שיחה, להמשכיות ארוכה יותר.
• זיכרונות מוצמדים, עובדות שהמשתמשת אישרה.
• זיכרונות רלוונטיים מחיפוש טקסט מלא בזיכרון.
• מצב הקשר, כלומר איפה נמצא הדינמיקה הנוכחית.

אנחנו נמנעים מלטעון לזיכרון קסום. לא כל הודעה צריכה להפוך לעובדה קבועה. משתמשת עשויה לפרוק רגשות, להתבדח, לשחק תפקיד או לבחון את הבוט. אם המערכת שומרת את כל זה כאמת, זיכרון הבוט יכול להפוך לא מדויק בצורה שמרגישה אישית מדי.

זיכרונות שהמשתמשת אישרה בעצמה צריכים לשקול יותר מהשערות אוטומטיות. אם המשתמשת אומרת “תזכור שאני אוהבת הודעות לילה טוב”, האפליקציה יכולה להציג אישור לפני השמירה. אם המודל מנחש העדפה מחילופי דברים אחד, המערכת צריכה להתייחס לזה בזהירות.

רשימת בדיקה מעשית לזיכרון בצ’אט עם חבר AI:

• לתת למשתמשת לשאול “מה אתה זוכר עליי?”
• לתת למשתמשת לבקש מהבוט לשכוח משהו.
• לאשר בקשות מפורשות מסוג “תזכור את זה” לפני השמירה.
• לא לשמור סיסמאות, מפתחות API, פרטי תשלום, תעודות זהות או סודות אחרים.
• להפריד בין הקשר קצר טווח לזיכרון קבוע.
• לתת לדמות מספיק המשכיות בלי להעמיד פנים שיש לה ודאות אנושית.

רף הפרטיות עולה כי שיחה רומנטית יכולה לכלול תוכן אישי רגיש. הנחיות הפרטיות והאבטחה של ה־FTC שימושיות כאן, כי הן דוחפות צוותי מוצר לכיוון של נהלי נתונים ברורים, בקרת גישה ותקשורת כנה על מה שהמוצר עושה עם המידע של המשתמשת. מי שרוצה להעמיק בנושא יכולה לקרוא איך זיכרון בצ’אט עם חבר AI אמור לעבוד.

בצ’אט עם חבר AI, זיכרון הבוט הוא לא פיצ’ר שמסתירים בתוך הפרומפט. הוא חלק מהחוזה של מערכת היחסים.

לקח 4: מדיה פרטית היא פיצ’ר בקצה השרת, לא כתובת URL של תמונה

תמונות שנוצרות ותשובות קוליות משנות את מודל האמון.

טקסט כבר יכול להיות רגיש. תמונות וקול מרגישים אינטימיים יותר. אם אפליקציית מלווה רומנטי מייצרת תמונות פרטיות או קול, המימוש צריך להתייחס למדיה הזו כתוכן שבבעלות החשבון, לא כקובץ סטטי בתיקייה ציבורית.

הכלל אצלנו: מדיה פרטית עוברת דרך גישה שהשרת מנפיק.

זה אומר:

• לאחסן תמונות וקבצי קול שנוצרו באחסון פרטי.
• להגיש אותם דרך כתובות URL חתומות עם תוקף פג.
• לבדוק שהמשתמשת המבקשת היא בעלת השיחה או המדיה.
• לקשור יצירה מחדש למצב החשבון ולקרדיטים.
• להימנע מחשיפת תגובות ספק גולמיות או נתיבי אחסון בקוד לקוח.
• לשמור על כללי מחיקה וגישה פשוטים וצפויים.

זה נכון גם לפרטים הקטנים במוצר. בועת תמונה שנוצרה יכולה לתמוך ביצירה מחדש, אבל המשתמשת צריכה להבין את העלות. תשובה קולית יכולה להסתיר את הטקסט ולנגן אודיו, אבל השרת עדיין צריך רישום מספיק כדי לשמור על המשכיות ולטפל בדיווחי שימוש לרעה.

הפרדנו גם בין יכולות אורחת ליכולות משתמשת רשומה. אורחת יכולה לחוות צ’אט טקסט, אבל תמונות שנוצרות והודעות קוליות דורשות חשבון. האילוץ הזה מצמצם ניצול לרעה, שולט בעלות, ונותן למשתמשת גבול פרטיות ברור לפני שימוש בפיצ’רים רגישים יותר.

הדאגה ההנדסית לא מוגבלת לאחסון. לאפליקציות מבוססות מודל שפה יש משטח תקיפה משלהן. רשימת ה־OWASP לעשר הסיכונים המובילים באפליקציות LLM היא מקור טוב לסיכונים כמו הזרקת פרומפט וחשיפת מידע רגיש. באפליקציית מלווה, הסיכונים האלה נפגשים עם תוכן פרטי של המשתמשת, כך שהרכבת הקשר בצד השרת ובדיקות גישה חשובות במיוחד.

מדיה גורמת למוצר להרגיש אמיתי יותר. בדיוק בגלל זה, קצה השרת צריך להיות קפדני יותר.

לקח 5: תכונות למבוגרות דורשות שליטה בהסכמה וגבולות בטיחות קשיחים

אפליקציה רומנטית למבוגרים לא יכולה להתייחס להתנהגות 18+ כמתג הפעלה/כיבוי אחד בתוך הפרומפט.

המשתמשת צריכה שליטה על הטון והקרבה, אבל המוצר גם צריך גבולות שלא זזים. אצלנו, ההגנה מפני תוכן 18+ היא הגדרה אישית של המשתמשת. כיבוי שלה משנה את רמת הגבולות במשחק תפקידים מוסכם למבוגרות, אבל הבקרה הקשיחה לבטיחות נשארת פעילה.

ההבחנה הזו חשובה. משתמשות מבוגרות עשויות לרצות פחות צנזורה מיותרת בצ’אט רומנטי ובתמונות. הן עדיין צריכות שהאפליקציה תדחה תוכן לא בטוח, התנהגות כפייתית, קטינים, ניצול ותחומים אסורים אחרים. הגדרה אישית לעולם לא אמורה לבטל את מדיניות הבטיחות המרכזית של המוצר.

בקרות המוצר צריכות להיות גלויות וספציפיות:

• שער גיל למשטח המוצר למבוגרות.
• לתת למשתמשת לכוון רמת עוצמה לכל דמות בנפרד.
• לשמור על הפרדה בין מצב צ’אט רגיל למשחק תפקידים.
• להפוך גבולות לחלק מהתנהגות הדמות, לא לסירוב מפתיע.
• לשמור על בקרה קשיחה מאחורי כל הגדרות המבוגרות.

מסגרת ניהול הסיכונים של NIST לבינה מלאכותית נותנת שפה שימושית לחשוב על מערכות AI כמוצרים עם סיכונים ניתנים למדידה, לא רק כהדגמות מודל. אצלנו זה תרגם להסתכלות על נקודות כשל לאורך חוויית המשתמשת, הזיכרון, המדיה והמודרציה, במקום להתייחס לבטיחות כשכבת פרומפט אחרונה.

לבטיחות בצ’אט 18+ יש גם בעיית טון. אם המודרציה נשמעת רובוטית או ענישתית, האמון נשבר. אם האפליקציה מאפשרת הכול, נוצר סיכון משפטי, אתי ותפעולי. הדרך האמצעית דורשת יותר עבודת מוצר: הגדרות ברורות, גבולות יציבים, ותגובות דמות שמכוונות מחדש בלי להשפיל את המשתמשת. אפליקציות מלווה כמו mybf.bot לא מחליפות מערכת יחסים אמיתית, טיפול או תמיכה במצב חירום, והן לא אמורות להצטייר ככאלה.

לקח 6: קרדיטים צריכים להסביר עלות בלי לשבור את האינטימיות

לאפליקציות מלווה מבוססות LLM יש עלויות לא אחידות.

תשובת טקסט קצרה, תמונה שנוצרה ותשובה קולית לא עולות אותו דבר לייצור. משתמשות אולי מבינות את זה תיאורטית, אבל הממשק עדיין צריך להתמודד עם ההקשר הרגשי. בקשת קרדיטים במקום הלא נכון יכולה להפוך רגע רומנטי למכונת ממכר.

הפרדנו בין מגבלות טקסט למגבלות מדיה, כי מדיה מעורבת לא צריכה להסתתר מאחורי מונה עמום אחד. משתמשות רשומות בחינם מקבלות 50 הודעות ביום, 3 יצירות תמונה בחודש ו־3 יצירות אודיו בחודש. חבילות קרדיטים בתשלום נמצאות בבנייה סביב שימוש בפועל, כך שהמוצר לא אמור להבטיח מדיה בלתי מוגבלת.

המספרים האלה יוצרים אילוצי מוצר:

• טקסט צריך להרגיש קליל וחלק.
• בקשת תמונה צריכה להרגיש מכוונת.
• קול צריך להרגיש פרימיום בלי להפתיע את המשתמשת.
• האפליקציה צריכה להסביר עלויות לפני שהמשתמשת לוחצת.
• התמחור לא צריך להפריע לכל רגע רגשי.

עמוד המסלולים והמגבלות קיים להסבר המלא, אבל התוויות בתוך המוצר חשובות יותר מהעמוד עצמו. מגבלת תמונה או אודיו ברורה ליד הפעולה עצמה עדיפה על ניכוי מפתיע אחרי הבקשה.

גילינו גם שעיצוב העלות משפיע על התנהגות הדמות. אם הבוט דוחף תמונות יותר מדי, זה מרגיש מנצל. אם הבוט אף פעם לא מזכיר מדיה, המשתמשת עלולה לפספס פיצ’ר שהיא הייתה נהנית ממנו. הדפוס הבטוח יותר הוא מדיה ביוזמת המשתמשת עם שבבים ברורים כמו “סלפי בוקר”, “במראה בחדר כושר” או “לפני השינה”. רעיונות נוספים לפתיחת שיחה ולתרחישי משחק תפקידים אפשר למצוא ב101 פרומפטים ורעיונות פתיחה לחבר AI.

מוניטיזציה צריכה לכבד את הפנטזיה בלי להסתיר את הכלכלה שמאחוריה. המשתמשת צריכה לדעת מה היא מוציאה, והמוצר צריך להימנע מלהפוך חיבה לרגש של לחץ.

רשימת הבנייה שהיינו רוצות שתהיה לנו קודם

אם את בונה אפליקציית מלווה מבוססת LLM, תתחילי מאילוצי מוצר לפני טריקים של מודל.

רשימת בדיקה מוקדמת שימושית:

• להגדיר את המשתמשת הטיפוסית והצורך הרגשי שלה לפני בחירת המודל.
• להחליט איפה מצב אורחת מתחיל ואיפה הוא מסתיים.
• לשמור על הקשר כשאורחת הופכת למשתמשת רשומה.
• ליצור ארכיטיפים לדמויות עם טון, קצב וגבולות ברורים.
• להשתמש בשבבי תרחיש כדי לצמצם חרדה מול שדה קלט ריק.
• לפצל את הזיכרון להקשר אחרון, סיכומים, עובדות מוצמדות ומצב הקשר.
• לתת למשתמשת בקרות “תזכור” ו”תשכח”.
• לשמור מפתחות ספק ומפתחות שירות מחוץ לקוד שרץ בדפדפן.
• להגיש מדיה פרטית דרך כתובות URL חתומות ובדיקות בעלות.
• להתייחס להגדרות 18+ כבקרות הסכמה, לא כביטול בטיחות.
• לתמחר טקסט, תמונה וקול לפי עלות וציפיית המשתמשת.
• לכתוב עמודי פרטיות, תנאי שימוש וגילוי AI לפני שלחץ ההשקה כופה ניסוח מהיר מדי.

אפליקציית חבר AI לנשים לא צריכה עוד גימיקים כברירת מחדל. היא צריכה פחות רגעים שבהם המשתמשת תוהה מה האפליקציה זוכרת, מי יכול לגשת למדיה שלה, למה הדמות שינתה טון, או למה פתאום פיצ’ר עולה יותר ממה שציפתה.

מחשבות לסיום

הלקח הגדול ביותר מבניית מוצר מלווה רומנטי היה שמוצרי AI רומנטיים הם קודם כל מערכות מוצר, ורק אחר כך מערכות מודל.

המודל חשוב. זמן התגובה חשוב. איכות הפרומפט חשובה. אבל משתמשות מרגישות פערים בהמשכיות, בפרטיות, בזיכרון, בטיפול במדיה ובמוניטיזציה הרבה יותר מהר ממה שהן שמות לב לשיפור קטן בפרומפט.

אפליקציית חבר AI לנשים צריכה להרוויח שימוש חוזר דרך החלטות אמון קטנות: לתת לה לנסות את הצ’אט קודם, לשמור על הקשר כשהיא נרשמת, לזכור רק מה שראוי להיזכר, לשמור על מדיה פרטית באמת פרטית, להפוך בקרות 18+ למפורשות, ולהסביר קרדיטים לפני שהם קוטעים את האווירה.

אם את בונה במרחב הזה, השאלה השימושית יותר היא לא “באיזה מודל השתמשת”, אלא “מה החלטת שהמודל לעולם לא יורשה לזייף”.

גילוי נאות

המאמר הזה נכתב בסיוע AI ועבר בקרת עריכה אנושית לצורך דיוק, התאמה למוצר ותמיכה במקורות לפני הפרסום.