אנשים עם בינה טבעית שמו ודאי לב שהרשומה הזו קרויה: "בינה מלאכותית וטיפשות טבעית – חלק שני", מה שמרמז על כך שזהו חלק שני של הטור "בינה מלאכותית וטיפשות טבעית – חלק ראשון". על כן אני ממליץ שאם לא קראתם אותו, ואתם רוצים להבין על מה הוא מדבר – תמצאו אותו כאן ותקראו אותו.

כך או כך, חלק א' פתח בגילוי המרעיש שלאחרונה עשיתי קורס שימוש בבינה מלאכותית, ועל כן הצטרפתי לאותם אנשים היודעים לנענע בראשם בהבעה רצינית ולומר: "נו, כן, כן, בינה מלאכותית זו המילה האחרונה בהתפתחות הטכנולוגיה האנושית – והיא תעשה את האנשים למיותרים".

שזה בולשיט.

זה בולשיט, כי אנשים נעשו וממשיכים להיעשות מיותרים גם בלי הבינה המלאכותית, סתם מתוך ההתפתחות הטכנולוגית השגרתית, כמו שהראיתי בחלקה הראשון של הרשומה, אבל גם מהסיבה הבאה:

משום שההגדרה מהו "אדם מיותר" פתוחה לגישות שונות, ונתונה לוויכוח.

הצטרפתי לאנשים היודעים לומר: "נו, כן, כן, בינה מלאכותית תעשה את האנשים למיותרים". שזה בולשיט, כי אנשים נעשו וממשיכים להיעשות מיותרים גם בלי הבינה המלאכותית

בעיניי, למשל, 8.3 מיליארד האנשים שחיים על פני כדור הארץ (כולל אותי) הם אנשים מיותרים, אין בהם תועלת אמיתית ליקום ואפילו לא לכדור הארץ עצמו – רק נזק הם מביאים לכדור הארץ ולכל מי שחי עליו שאינו יצור אנושי.

שלא לדבר על כך שאפילו ליצור האנושי עצמו בני האדם באשר הם גורמים נזק כל הזמן, ואף יותר מכך: הם עצמם גורם הנזק מספר אחד למין האנושי.

 כך שלא לגמרי ברור לי איך מגדירים "אנשים מיותרים" לצורך הנושא הנדון.

כדי להחריף את השאלה האמורה, "מיהו אדם מיותר", כאן המקום להזכיר שסם אלטמן, מייסד ומנכ"ל open-AI, החברה שילדה את מנוע הבינה המלאכותית chat-gpt, ואילון מאסק שהיה שותף מייסד ב-Open-AI וכיום יצרן ובעלים של מנוע הבינה המלאכותית "גרוק", צופים שניהם שיגיע הזמן בו הבינה המלאכותית תייתר כל כך הרבה משרות שפעם אוישו בידי בני אדם, עד שיהיה הכרח לקבוע קצבת קיום אופטימלית לכל אדם, אשר תאפשר לו להתקיים ללא עבודה.

במילים אחרות: כמחצית מהאוכלוסייה תתקיים על קצבה חודשית קבועה מבלי שתצטרך לעבוד, כי ממילא לא יהיה בהם צורך ולא תהיה לאנשים הללו עבודה.

ואני תוהה: האם אפשר יהיה לראות בהם אנשים מיותרים?

שהרי מצד שני, הקצבה החודשית תאפשר להם להמשיך לצרוך מוצרים ושירותים, מה שאומר שאולי לא יעבדו, אבל עדיין יהיו צרכנים. ומהי מהותו של אזרח בחברה קפיטליסטית אם לא להיות צרכן בלתי נלאה של מוצרים?

כך שהשאלה אם ועד כמה בינה מלאכותית תהפוך אנשים למיותרים נשארת פתוחה – לפחות כאן, בדיון הזה.

עם זאת, לצורך הדיון בשאלת סכנות הבינה המלאכותית פניתי אל שלושה מנועי בינה מלאכותית כאלה ושאלתי את דעתם על בינה מלאכותית. מנועי הבינה המלאכותית להם הצגתי את השאלה על בינה מלאכותית הם קלוד של חברת אנטרופיק, צ'אט-ג'יפיטי של אופן-אי.איי. וג'מיני של גוגל.

קיבלתי שלוש תשובות מפורטות של כ-200 מילה כל אחת, תשובות שנשאבו מתוך מאגר הידע שברשתות. ועדיין, להזכירכם, מי ששואב את המידע הזה הוא בסך הכול גולם שיודע לעבוד ליניארית עם תשובות בינאריות של אפס ואחד, כן ולא. 

אלטמן ומאסק צופים שיגיע הזמן בו הבינה המלאכותית תייתר כל כך הרבה משרות שפעם אוישו בידי בני אדם, עד שיהיה הכרח לקבוע קצבת קיום אופטימלית לכל אדם, אשר תאפשר לו להתקיים ללא עבודה

בניגוד למוח האנושי, הפועל ברשתות בו-זמניות ושולח את האיתות החשמלי שלו אל כל רחבי המוח בו-זמנית או אל האזורים הרלוונטיים – הבינה המלאכותית עובדת כמו שמחשב יודע לעבוד: ללכת בקו ישר, לשאול אם כן ואם לא ומשם לפנות לצומת הבא.

כשנתחיל לעבוד עם מחשבים קוונטיים, הפועלים במיליוני קווים במקביל, יוכלו המחשבים הקוונטיים לעבוד בצורה רשתית ומקבילית כמו המוח האנושי, ויהיה מקום לדאגה, הגם שעדיין יש לצפות שההחלטות של מחשבי בינה מלאכותית כאלו יהיו רציונליות יותר משל חשיבה אנושית, כי עדיין הטכנולוגיה רחוקה מהיכולת לייצר את המוצר המקורי ביותר של המוח האנושי – הטיפשות.

שכן עם כל הטכנולוגיה והידע המדעי שהגענו אליהם כיום, במאה העשרים ואחת, אין עדיין די טכנולוגיה, ידע ויכולת ברשותו של הגזע האנושי כדי להיות מסוגל לחקות באמצעים רובוטיים את המאפיין העיקרי של המוח האנושי אחרי ארבעה מיליארד שנות קיומם של חיים על פני הכדור – הטיפשות האנושית.

כך או כך, שאלתי את שלושת מנועי הבינה המלאכותית על סכנותיה של הבינה המלאכותית, והשורה הכי משמעותית שקיבלתי, וששלושתם מסכימים עליה אחרי כל היאדה-יאדה המוכר לעייפה היה המשפט הבא:

"רק באמצעות גישה זהירה ומאוזנת נוכל להבטיח שהבינה המלאכותית תשמש לטובת האנושות, ולא להרס שלה".

*  *  *

באידיש אומרים: "נו, שוין".

שבתרגום חופשי משמעותו "יאללה, בסדר", כשמדובר במשפט הבא: "רק באמצעות גישה זהירה ומאוזנת". משפט שמלמד אותנו שגם בינה מלאכותית יכולה לדבר שטויות.

משום שאם יש משהו שלמדתי במהלך שבעים ושתיים שנות חיי על פני הכדור הזה, הרי הוא זה: שאם יש משהו שאין לצפות לו מהמין האנושי הרי זה "גישה זהירה ומאוזנת".

"רק בגישה זהירה ומאוזנת נוכל להבטיח שהבינה המלאכותית תשמש לטובת האנושות, ולא להרס שלה", ענתה הבינה. אם יש משהו שלמדתי בחיי זה שאם יש משהו שאין לצפות לו מהמין האנושי, זה "גישה זהירה ומאוזנת"

*  *  *

עובדה היא שההתחממות הגלובלית עברה כבר את קו האל-חזור ועדיין כלום בהתנהלות האנושית לא השתנה שינוי משמעותי. למעט כמה שינויים קוסמטיים והתחייבויות חסרות משמעות של מדינות, אנחנו ממשיכים כרגיל. גם הידיעה שהזיהום הגלובלי מתקרב לקו האל-חזור שלו – אשפה, פלסטיק, זיהום ימים ומאגרי מי שתיה תת קרקעיים – לא באמת יצרה שינוי משמעותי, רק קוסמטי.

אז לא על הגישה האנושית הזהירה והמאוזנת אפשר לסמוך.

כי אם גישה אנושית לא זהירה ולא מאוזנת תביא עוד רווחים כספיים לתאגיד גלובלי, או לצרכים הפוליטיים של פוליטיקאי מקומי, או לטייקון מוביל עתיר-הון וקשרים, הם ינקטו בגישה זו מיד, ללא היסוס, ובלי לייחס חשיבות ל"גישה הזהירה והמאוזנת".

אז דווקא מאנשים אני פוחד. כאז כך גם עתה. לא מבינה מלאכותית.

כי בינה מלאכותית תמיד תשב על פלטפורמה שהיכן שהוא בקצה שלה יש חוט בתוך שקע בקיר, מה שמוכר בתור "שטקר". וכשמושכים את החוט מתוך השטקר הבינה המלאכותית מתה.

רק הטיפשות האנושית ממשיכה לפעול תמיד.

מאז היות הפרימט לאדם.

אדרבה – כדי לרצות להשתלט ולצבור כוח, על הבינה המלאכותית לפתח רגשות, לפתח מערכת לימבית, לפתח בלוטות המפרישות הורמונים שבלעדיהן אין יצר ואין רגשות, וביניהם הרגש והיצר של תאוות השלטון, של תחושת הכוח, של אהבת הכבוד – כל מה שמנהיגים חולי נפש מוכנים להרוס עבורו את המדינה בה הם שולטים ואותה הם מנהיגים ובלבד שלא לאבד את השלטון.

ההתחממות הגלובלית עברה את קו האל-חזור ועדיין כלום בהתנהלות האנושית לא באמת השתנה. גם הזיהום הגלובלי המתקרב לקו האל-חזור לא יצר שינוי. אז לא על הגישה האנושית הזהירה והמאוזנת אפשר לסמוך

ובמערכת אנושית צריך גם את הטיפשים והבורים, המעריצים אותם ותומכים בהם וממליכים אותם. תראו לי מערכת של בינה מלאכותית שמסוגלת להתדרדר לרמה הזו. להזכירכם, אגב: על ההוכחה שבני אדם אינם יצור רציונלי קיבל דניאל כהנמן ז"ל פרס נובל.

כי רק בני אדם מסוגלים לחשוב בטיפשות טבעית.

"הזמן של הדי בן-עמר" הוא בלוג אישי בזמן ישראל, הכולל סיפורים ורשמים. הדי בן-עמר הוא סופר וחבר יד חנה, שפרסם ספרים כמו "בשם שמים" ו"הביוגרפיה החולנית של הדי בן-עמר", ומביא בכתביו סיפורים אמיתיים מהחיים המשלבים הומור וביקורת.