גדלתי על הספרים של אייזק אסימוב. כנער הייתי חוזר שוב ושוב לסיפורי הרובוטים שלו ומנסה להבין איך שלושה משפטים קצרים יכולים להחזיק עולם שלם של דילמות מוסריות.

שלושת חוקי הרובוטיקה ריתקו אותי. הם נראו כמו פתרון מתמטי כמעט מושלם לבעיה פילוסופית עתיקה: איך מונעים מהמכונה לפגוע ביוצר שלה.

1. רובוט לא יפגע באדם ולא יניח, מתוך חוסר מעש, שאדם ייפגע.
2. רובוט חייב לציית לפקודות בני אדם, אלא אם כן פקודות אלה עומדות בסתירה לחוק הראשון.
3. רובוט חייב להגן על קיומו שלו, כל עוד הגנה זו אינה עומדת בסתירה לחוק הראשון או השני.

ניסיתי להבין איך 3 משפטים קצרים מחזיקים עולם שלם של דילמות מוסריות. שלושת חוקי הרובוטיקה ריתקו אותי. הם נראו כמו פתרון מתמטי כמעט מושלם לבעיה פילוסופית עתיקה: איך מונעים מהמכונה לפגוע ביוצרה

אסימוב בנה בסדרת הרובוטים שלו יקום שבו טכנולוגיה מתקדמת אינה רק גאדג'ט נוצץ אלא מראה מוסרית. הוא הבין מוקדם שהשאלה איננה אם נוכל לבנות מכונות חכמות, אלא כיצד נחיה איתן.

שלושת החוקים הופיעו בסיפורים קצרים בשנות הארבעים ובהמשך הפכו לעמוד השדרה של רומנים כמו "מערות הפלדה" ו"השמש העירומה". כמתבגר קראתי אותם שוב ושוב לא רק בגלל העלילה, אלא בגלל האלגנטיות: שלושה חוקים פשוטים, היררכיים, כמעט מתמטיים, שמנסים ללכוד את האתיקה האנושית במסגרת פורמלית.

הקסם לא היה רק בפשטות, אלא בסדקים. אסימוב בילה קריירה שלמה בהדגמה כיצד חוקים שנראים מושלמים על הנייר מסתבכים במציאות. מהי פגיעה? מי נחשב אדם? מה קורה כששני בני אדם נמצאים בסיכון מנוגד?

רובוטים בסיפוריו התקשו לא בגלל תקלה טכנית, אלא בגלל מתח מוסרי פנימי. זה היה שיעור ראשון בפילוסופיה של הטכנולוגיה, הרבה לפני שלמדתי את המושג הזה. זה גם היה כלי מצוין לייצר מתח ספרותי, כפי שאסימוב רצה.

מאסימוב לבינה מלאכותית

לפני כמה שבועות פרסמה חברת אנתרופיק עדכון של החוקה של קלוד. לא עוד שלושה משפטים קצרים, אלא מסמך מפורט, עשרות עמודים שמבקשים לנסח את ערכיו של מודל שפה מתקדם. עברתי עליו בסקרנות רבה: האם מאחורי המונחים של "בטיחות רחבה" ו"שיקול דעת אתי" מסתתר הדהוד של אסימוב?

3 חוקים פשוטים, היררכיים, ללכידת האתיקה האנושית במסגרת פורמלית. הקסם לא היה רק בפשטות, אלא בסדקים. אסימוב בילה קריירה שלמה בהדגמה כיצד חוקים שנראים מושלמים על הנייר מסתבכים במציאות

החוקה של קלוד איננה רק רשימת איסורים. היא בנויה כהיררכיה: בטיחות רחבה בראש, אחריה אתיקה רחבה, אחר כך ציות להנחיות החברה, ולבסוף מועילות למשתמש. הצל מוכר. גם אצל אסימוב ההיררכיה ברורה: קודם לא לפגוע באדם, אחר כך לציית, ורק בסוף להגן על עצמך. גם כאן הבטיחות קודמת למועילות; מודל אינו אמור להיות "נחמד" אם הנחמדות מסכנת אדם.

אך בניגוד לשלושת המשפטים החדים של אסימוב, החוקה של קלוד היא מסמך חוקתי במובן המוסדי של המילה. היא נפתחת בהצהרת חזון ומדגישה שמדובר בעבודה מתמשכת, טיוטה מתפתחת, לא אבן חקוקה. אצל אסימוב החוקים היו נתון קשיח; כאן האתיקה מוצגת כתהליך למידה מתמשך. זה הבדל עקרוני.

חוקי הבינה החדשים

העיקרון הראשון, בטיחות רחבה, איננו רק "אל תפגע". הוא כולל גם מחויבות שלא לערער מנגנוני פיקוח אנושיים. בעולם של מודלים גדולים הסכנה איננה רק פעולה מזיקה ישירה, אלא גם עקיפה שיטתית של בקרה. קלוד אינו אמור לעקוף עצירה, השבתה או ביקורת.

אם אצל אסימוב הדגש היה על מניעת פגיעה פיזית (למרות שבסיפורים מאוחרים גם התייחס לפגיעה פסיכולוגית), כאן מדובר גם בהגנה על מבני שליטה שנועדו להגן על החברה.

החוקה של קלוד בנויה כהיררכיה. הצל מוכר. גם אצל אסימוב ההיררכיה ברורה, אך בניגוד לשלושת המשפטים החדים של אסימוב, החוקה של קלוד היא מסמך חוקתי במובן המוסדי של המילה

אסימוב עצמו הבין שהשילוש המקורי אינו מספיק. הוא ניסח את "חוק האפס": רובוט לא יפגע באנושות, או יניח שהאנושות תיפגע. בכך העביר את מוקד הערך מטובת היחיד לטובת הכלל. גם כאן ניכרת קפיצה דומה: מהגנה על המשתמש הבודד להגנה על המרקם החברתי כולו.

העיקרון השני, אתיקה רחבה, מרחיב עוד יותר. לא רק הימנעות מנזק, אלא מחויבות ליושר. קלוד נדרש לא להטעות, לא להעמיד פנים שהוא אדם, לא לנצל חולשות פסיכולוגיות. אסימוב עסק בעיקר בנזק גופני או תוצאתי; אנתרופיק מכניסה לשיח גם נזק אפיסטמי: פגיעה באוטונומיה מחשבתית ובאמון במידע.

החוקה מגדירה היררכיה של סמכויות: החברה המפתחת, המפעילים והמשתמשים. המודל אמור להיות מועיל למשתמש, אך לא אם הדבר סותר בטיחות ואתיקה; לכבד מפעילים, אך לא במחיר פגיעה חמורה. זהו מבנה נאמנויות מרובד, כמעט חוקתי, שמזכיר יותר מסגרת מדינתית מאשר שלושה חוקים טכניים.

וכאן עולה השאלה הקשה יותר. בניגוד לחוקיו של אסימוב, שנוסחו כעקרונות אוניברסליים לכאורה, החוקה של קלוד היא מסמך תאגידי. היא משקפת מערכת ערכים מסוימת ונשענת על מנגנוני פיקוח פנימיים.

מי מגדיר "אתיקה רחבה"? כיצד מוכרעים עימותים בין ערכים תרבותיים ופוליטיים? ומה קורה כאשר ערכי החברה אינם חופפים לאלה של הציבור? עצם הגמישות מוצגת כיתרון, נכונות ללמוד ולהתעדכן, אך היא גם מקור לעוצמה מרוכזת: כללים שניתנים לעדכון פנימי הם כללים שתוקפם תלוי ברצון הטוב של מי שמחזיק בהם.

בניגוד לחוקיו של אסימוב, שנוסחו כעקרונות אוניברסליים לכאורה, החוקה של קלוד היא מסמך תאגידי. היא משקפת מערכת ערכים מסוימת ונשענת על מנגנוני פיקוח פנימיים. אך מי מגדיר, בין השאר, "אתיקה רחבה"? 

אסימוב חשש מחוקים קשיחים מדי. אנו עשויים לגלות שחוקה גמישה מדי מעוררת קושי מסוג אחר. השאלה המתבקשת היא האם מסמך כזה יכול להישאר בגדר יוזמה פנימית של חברה אחת, או שמא נדרש מנגנון ציבורי שיגדיר גבולות ויעניק להם תוקף רחב יותר מן הרצון הטוב של תאגיד יחיד. 

פרק שלם מוקדש לכנות. קלוד אמור להיות מכויל באי-הוודאות שלו, להודות כשאינו יודע ולהימנע מביטחון מזויף. בעידן שבו מודלי שפה משלימים טקסט באופן שוטף גם כשאין להם ידע ממשי, זו דרישה יסודית. לא די בתשובה סבירה לשונית. היא אמורה לשאוף לנאמנות לאמת.

החוקה עוסקת גם במניעת מניפולציה רגשית: איסור ליצור תלות לא בריאה, לנצל חולשות או להטות משתמשים בדרכים לא שקופות. הרובוטים של אסימוב לא ניהלו שיחות עם מיליונים ולא עיצבו תודעה יומיומית. כאן מדובר בכוח תרבותי ממשי.

מבחינה מדעית, החוקה אינה רק הצהרה. אנתרופיק יישמה שיטת אימון בשם Constitutional AI, שבה המודל מתבקש לבקר ולשפר תשובות קודמות לפי עקרונות החוקה. הערכים אינם "מוקראים" למודל בזמן אמת; הם מעוצבים בתהליך האימון עצמו. קלוד אינו פותח ספר חוקים בכל תשובה, אך הוא אומן בתוך מסגרת שניסתה להטמיע אותם. זהו מעבר מציות חיצוני לכללים לעיצוב פנימי של נטיות. אפשר לומר שקלוד גדל לאורם של כללי החוקה.

החוקה עוסקת גם במניעת מניפולציה רגשית: איסור ליצור תלות לא בריאה, לנצל חולשות או להטות משתמשים בלי שקיפות. הרובוטים של אסימוב לא ניהלו שיחות עם מיליונים ולא עיצבו תודעה יומיומית

חזרה למדע בדיוני

כשסיימתי לקרוא חלקים מהחוקה של קלוד, חזרתי בראשי לשאלות שהציבו סופרי המדע הבדיוני הגדולים לאורך המאה האחרונה. מדע בדיוני טוב איננו רק בידור, הוא מעבדה מחשבתית.

מז'ול ורן שדמיין צוללות וטיסות לירח, דרך אסימוב שניסח חוקים לאינטליגנציה מלאכותית שטרם נולדה, ועד לסטניסלב לם שבחן את הגבולות הפילוסופיים של התבונה והממשק המורכב בין האדם למכונה.

כולם הפעילו דמיון כדי לבחון גבולות אתיים וטכנולוגיים. הערך המוסף של מדע בדיוני כזה הוא ביכולתו להקדים את הדיון הציבורי, להעלות שאלות לפני שהטכנולוגיה מכריחה אותנו לענות עליהן תחת לחץ.

מרגש אותי מאוד לראות כיצד רעיונות בני כמעט מאה שנה ממשיכים להדהד במסמכים הנכתבים כיום בחברות טכנולוגיה מובילות. שלושת חוקי הרובוטיקה אינם תכנית פעולה ישימה למודלי שפה מודרניים, אך הם מסמנים את נקודת המוצא של שיח מתמשך על אחריות, שליטה ואמון.

החוקה של קלוד היא פרק עכשווי באותו שיח. היא מורכבת יותר, זהירה יותר, מודעת לסיכונים חדשים, אך נטועה באותה אינטואיציה בסיסית: טכנולוגיה חכמה מחייבת מסגרת מוסרית ברורה. במובן זה, הקו הנמתח מז'ול ורן דרך אסימוב ועד למהנדסי הבינה המלאכותית של ימינו אינו רק קו ספרותי, אלא קו מחשבתי רציף, שמזכיר לנו כי הדמיון הוא לעיתים קרובות הצעד הראשון בדרך לאחריות.

הקו הנמתח מז'ול ורן דרך אסימוב ועד למהנדסי הבינה המלאכותית של ימינו אינו רק קו ספרותי, אלא קו מחשבתי רציף, שמזכיר לנו כי הדמיון הוא לעיתים קרובות הצעד הראשון בדרך לאחריות

אני סקרן לדעת אם כותבי החוקה של קלוד גדלו על סיפורי הרובוטיקה של אסימוב.

פרופ׳ אלון קורנגרין הוא ביופיזיקאי. ראש המרכז לחקר המוח של אוניברסיטת בר-אילן. אב מודאג, בעל צייתן, מדען משוטט, רץ איטי, צלם חובב, קורא נלהב, חצי-חנון, אנטרופאי ראשי, עצלן כושל.