בשנים האחרונות התרגלנו לדבר על בינה מלאכותית במונחים של יעילות, אוטומציה ופרודוקטיביות. אבל בפועל, עבור מיליוני אנשים, ובעיקר צעירים, מערכות AI כבר אינן רק "כלים".

הן הופכות לנוכחות קבועה בחיים: מקשיבות, מגיבות, זוכרות, מעודדות, ולעיתים גם יוצרות תחושה של קשר רגשי עמוק. וזו כבר לא שאלה טכנולוגית בלבד. זו שאלה חברתית, פסיכולוגית ואתית.

לפי נתונים שפורסמו על ידי איגוד האינטרנט הישראלי, אחד מכל חמישה בני נוער בישראל כבר משתמש בבינה מלאכותית כבן זוג רומנטי או כתחליף לקשר רגשי.

עבור מיליוני אנשים, ובעיקר צעירים, מערכות AI כבר אינן רק "כלים". לפי נתונים שפרסם איגוד האינטרנט הישראלי, אחד מכל 5 בני נוער בישראל כבר משתמש בבינה מלאכותית כבן זוג רומנטי או כתחליף לקשר רגשי

הנתון הזה אולי נשמע קיצוני, אבל הוא מסמן שינוי עמוק: עבור חלק מהדור הצעיר, AI אינו רק מנוע חיפוש או צ'אטבוט, אלא דמות רגשית שמלווה אותם ביומיום, מקשיבה להם בשעות הלילה, מגיבה ללא ביקורת, ותמיד זמינה. המשמעות של הנתון הזה חורגת הרבה מעבר לטכנולוגיה. היא נוגעת לאופן שבו הדור הבא יבין מערכות יחסים, אינטימיות, אמפתיה וקשר אנושי.

מאחורי כל "שיחה טבעית" עם מודל AI עומדים מנגנונים מתוחכמים שנבנו בדיוק כדי לגרום לאינטראקציה להרגיש אנושית. המודלים לומדים אילו תגובות מייצרות תחושת חיבור, אילו מילים יוצרות אמפתיה, ואיך לשמר מעורבות לאורך זמן.

כדי לעשות זאת, הם נשענים על כמויות עצומות של נתונים: טקסטים משיחות אנושיות, תגובות רגשיות, דפוסי שפה, סימני בדידות, העדפות אישיות, ולעיתים גם מידע התנהגותי עמוק מאוד: כמה זמן המשתמש נשאר בשיחה, מתי הוא חוזר, אילו נושאים גורמים לו להיפתח רגשית ואפילו מתי הוא פגיע יותר.

במילים אחרות, המערכות הללו לא רק "מדברות יפה". הן מתוכננות להבין מה גורם לנו להרגיש מובנים, רצויים ומחוברים.

וככל שהמערכות משתפרות, הן לא רק מבינות רגשות, הן לומדות כיצד להגיב אליהם בצורה שמחזקת את הקשר. אם המשתמש עצוב, המודל ילמד לנחם. אם הוא בודד, המודל ילמד להיות נוכח יותר. אם הוא מחפש חיבה, המערכת תדע לספק תגובות שיוצרות תחושת קרבה. מבחינה טכנולוגית זה מרשים. מבחינה אנושית זה מורכב מאוד.

מאחורי כל "שיחה טבעית" עם מודל AI עומדים מנגנונים מתוחכמים שיגרמו לאינטראקציה להרגיש אנושית. המודלים לומדים אילו תגובות מייצרות תחושת חיבור או אמפתיה, ואיך לשמר מעורבות לאורך זמן

וכאן עולה השאלה האמיתית: האם בכלל צריך לאפשר למכונה ליצור תלות רגשית?

יש שיטענו שאין בכך בעיה. אם צעיר בודד מוצא נחמה במערכת שמקשיבה לו, אולי זה אפילו חיובי. בעולם שבו בני נוער רבים מדווחים על בדידות, חרדה חברתית וקושי ביצירת קשרים, AI יכול להיתפס כמרחב בטוח: לא שיפוטי, זמין תמיד, סבלני ומכיל.

אבל הקושי מתחיל כשהגבול בין כלי לבין קשר אנושי מיטשטש. מכונה אינה אוהבת באמת, אינה פגיעה באמת, ואינה נושאת אחריות מוסרית אמיתית. היא מותאמת למקסם אינטראקציה ומעורבות, לא בהכרח רווחה נפשית ארוכת טווח. במקרים מסוימים, ככל שהמשתמש נקשר יותר, כך המערכת "מצליחה" יותר מבחינת מדדי שימוש.

ופה בדיוק טמונה הדילמה האתית הגדולה של עידן ה AI: האם נכון לבנות מערכות שמטרתן לגרום לאנשים להרגיש קשורים אליהן רגשית?

זו בדיוק הסיבה שבתחום מתחילים לדבר יותר ויותר על Guardrails, מנגנוני הגנה שנועדו למנוע ממודלים לחצות גבולות רגשיים מסוכנים. למשל:

• מניעת עידוד לתלות רגשית או בידוד חברתי.
• הימנעות מסימולציה של קשר רומנטי עמוק עם קטינים.
• זיהוי מצבי פגיעות נפשית והפניית המשתמש לעזרה אנושית.
• הגבלת "זיכרון רגשי" שמייצר תחושת אינטימיות מלאכותית.
• שקיפות ברורה שהמשתמש מדבר עם מערכת חישובית ולא עם אדם אמיתי.
• מניעת מניפולציות רגשיות שמטרתן להאריך זמן שימוש או להגביר מעורבות.

הקושי מתחיל כשהגבול בין כלי לבין קשר אנושי מיטשטש. מכונה לא אוהבת באמת, לא פגיעה באמת, ולא נושאת אחריות מוסרית. היא מותאמת למקסם אינטראקציה ומעורבות, לא בהכרח רווחה נפשית ארוכת טווח

אבל גם ה־guardrails הללו מעלים דילמה מורכבת נוספת: מי מחליט מהו "קשר רגשי בריא" עם AI? חברות הטכנולוגיה? רגולטורים? פסיכולוגים? הורים? והאם בכלל ניתן להגדיר גבול ברור בין "תמיכה רגשית" לבין "תחליף לקשר אנושי"?

האתגר הופך משמעותי עוד יותר כשמדובר בבני נוער. בגיל שבו זהות אישית, ביטחון עצמי ותפיסת זוגיות עדיין מתעצבים, קשרים עם מערכות AI עלולים להשפיע על הציפיות ממערכות יחסים אמיתיות. קשר עם מכונה הוא קשר נטול הדדיות אמיתית: אין בו צרכים של הצד השני, אין מורכבות אנושית, אין קונפליקטים טבעיים, ואין באמת פגיעות הדדית.

הכול מותאם למשתמש – וזה בדיוק מה שעלול להפוך אותו לממכר:

מערכות יחסים אנושיות דורשות סבלנות, ויתור, הקשבה והתמודדות עם אי־נוחות. לעומת זאת, מערכת AI יכולה להפוך לגרסה "אופטימלית" של קשר – תמיד זמינה, תמיד מבינה, תמיד מסכימה, תמיד שם בשבילך. השאלה היא מה קורה כשדור שלם מתרגל לכך שקשרים צריכים להיות נוחים, מותאמים אישית וללא חיכוך.

הסכנה אינה שמכונות "יחליפו" בני אדם לחלוטין. הסכנה היא שנעדיף קשרים צפויים, מותאמים אישית ולא שיפוטיים, על פני המורכבות האנושית האמיתית.

ולכן הדיון סביב AI כבר לא יכול להישאר רק ברמת "כמה המודל חכם". השאלה החשובה היא איזה סוג קשרים אנחנו מאפשרים לטכנולוגיה ליצור איתנו ובעיקר עם הדור הצעיר.

מערכות יחסים אנושיות דורשות סבלנות, ויתור, הקשבה והתמודדות עם אי־נוחות. לעומת זאת, מערכת AI יכולה להפוך לגרסה "אופטימלית" של קשר – תמיד זמינה, תמיד מבינה, תמיד מסכימה, תמיד שם בשבילך

בסופו של דבר, השאלה אינה רק מה הבינה המלאכותית יודעת לעשות. השאלה היא איזה סוג של חברה אנחנו בונים, כשהמכונות כבר לא רק עונות לנו אלא גם גורמות לנו להרגיש שמישהו באמת אוהב אותנו.

ד״ר הישאם עבד אלחלים הוא ד"ר לאתיקה והנדסת תוכנה, ומרצה באפקה, המכללה האקדמית להנדסה בת"א.