קשה לדמיין עולם המאפשר לכל חברה פרטית לגייס כסף כדי לפתח פצצת אטום משלה. קשה עוד יותר לדמיין מצב שבו אותן חברות פרטיות מחליטות מתי, איפה ואיך להשתמש באותן פצצות, בלי שלממשלות השונות תהיה בכלל אמירה בנושא.

הבינה המלאכותית היא אומנם לא פצצת אטום – היא לא משמיעה קול פיצוץ עז כשמפעילים אותה וגם לא זורעת הרס סביבתי וגופני אדיר כשלוחצים על כפתור ההפעלה שלה – אך יש כמעט קונצנזוס בין המומחים שהיא, לכל הפחות, בעלת פוטנציאל מסוכנות לאנושות, אם היא לא מפותחת בצורה אחראית ומבוקרת.

למרות החשש, בקהילת ה־AI יש הסכמה שהסיכון לאנושות לא יגיע מרובוטים בעלי בינה שיבצעו טבח בכל אזרחי כדור הארץ. התרחיש המדאיג כרגע הוא מהשתלטות מכונות הבינה המלאכותית על האנושות. כך, למשל, ג'ף הינטון ויהושע בנג'ו, שנחשבים לוותיקים והחשובים מבין חוקרי הבינה המלאכותית בעולם, העלו חשש שהטכנולוגיה הזו תהיה בשלב מסוים חכמה יותר מהאדם.

לדבריהם, זה לא יהיה סביר שישות חכמה יותר תישאר תחת שליטה של ישות פחות אינטליגנטית ממנה. לטענתם, בעזרת אותה אינטליגנציה על־אנושית, מערכות בינה מלאכותית יוכלו לבצע מניפולציות על בני האדם.

אילוסטרציה: בינה מלאכותית (צילום: Tanapong Sungkaew / Alamy Stock Photo)

אחד התרחישים שמעלים החוקרים הוא שיום אחד הבינה המלאכותית אפילו תנסה לשמר את עצמה. כלומר, תנקוט בכל דרך מניפולטיבית אפשרית כדי למנוע את כיבויה, או במילים אחרות: למנוע את מותה – בדיוק מה שבני אדם עושים במצב הישרדותי, רק יותר טוב.

לפי אותו תרחיש, הבינה המלאכותית לאו דווקא תשמיד את האנושות, אלא סביר יותר שתשתלט עליה בדרכים מתוחכמות, ובכך תכפיף לכאורה את בני האדם אליה. חוקרים אחרים מובילים בתחום לא מכחישים שתרחיש הבלהות הזה יכול תאורטית להתקיים אבל סקפטיים לגבי הסבירות שהוא באמת יתממש.

OpenAI הפכה כמעט בן רגע מעמותה לא גדולה במיוחד לאחת מחברות הטכנולוגיה החשובות בעולם. בעצם, המהלך של אלטמן פתח רשמית את "מרוץ החימוש" של כל ענקיות הטכנולוגיה

לדבריהם, בגלל המודעות בקרב מפתחי המערכות לסיכון הזה, הם לעולם לא יביאו למצב שיאפשר לו להתממש. חוקרים אחרים טוענים שמערכת הבינה המלאכותית עוד רחוקה מלעקוף את האינטליגנציה האנושית.

סאגת פיטורי סם אלטמן שמה לראשונה סימן שאלה גדול על כל ההנחות הלכאורה מרגיעות האלו. אלטמן,  בן 37 בלבד, הוא מומחה ליצירת חברות הזנק. OpenAI – החברה שייסד יחד עם אילון מאסק ואנשי עסקים נוספים בשנת 2015 – הוציאה לשוק את ה־ChatGPT בסוף השנה שעברה.

מנכ"ל OpenAI סם אלטמן נואם בכנס פיתוח בקליפורניה, 6 בנובמבר 2023 (צילום: JUSTIN SULLIVAN / GETTY IMAGES NORTH AMERICA / Getty Images via AFP)

מדובר בצ'אט בוט מבוסס בינה מלאכותית, ששבר שיאים בקצב ההצטרפות של משתמשים חדשים. OpenAI הפכה כמעט בן רגע מעמותה לא גדולה במיוחד לאחת מחברות הטכנולוגיה החשובות בעולם. המהלך של אלטמן פתח רשמית את "מרוץ החימוש" של כל ענקיות הטכנולוגיה בניסיון להצטייד בכלי AI משלהם.

אבל כמו בכל דרמה טובה, גם פה הגיעה הנפילה – והיא הייתה מוזרה במיוחד. ב־17 בנובמבר אלטמן פוטר במפתיע מתפקידו על־ידי דירקטוריון OpenAI. הסיבה הרשמית להדחתו הייתה שהוא "לא גלוי באופן עקבי בתקשורת שלו עם הדירקטוריון".

מאחורי המשפט הסתום הזה עומדת ההנחה ש־OpenAI הגיעה לפריצת דרך טכנולוגית דרמטית מהסוג שהמומחים חוששים ממנו. החברה הצליחה לגרום למכונה ללמוד, להבין ולפתור סוגיות מתמטיות באופן עצמאי

מאחורי המשפט הסתום הזה עומדת ההנחה ש־OpenAI הגיעה לפריצת דרך טכנולוגית דרמטית מהסוג שהמומחים חוששים ממנו. מדובר בפרויקט חשאי בשם *Q ("קיו סטאר"), שבמסגרתו הצליחה החברה לגרום למכונה ללמוד, להבין ולפתור סוגיות מתמטיות באופן עצמאי.

ההנחה היא שהיכולת הדרמטית הזו, שאף חברה לא הצליחה להגיע אליה עד היום, תאפשר עם הזמן לבינה המלאכותית להיות חכמה יותר אפילו מהבינה האנושית. לפי רויטרס, מספר חוקרים בחברה נבהלו מהממצא – ושלחו מכתב אזהרה בהול לדירקטוריון.

אינטליגנציה מלאכותית. אילוסטרציה (צילום: iStock)

החשש הוא שפיתוח פרויקט *Q עלול לאיים על עתיד האנושות. זה היה למעשה האות לפרוץ סוג של מלחמת עולם בתוך OpenAI. כיום, תחום ה־AI בארה"ב פרוץ לגמרי: אין בו תקנים, אין גוף מקצועי שמפקח עליו – ואין אפילו אישורים שצריך להשיג כדי לפתח אותו.

מצד אחד היו גורמים בחברה שטענו שבהיעדר אותה רגולציה ממשלתית, על השוק הפרטי להיות המבוגר האחראי בעניין ובאחריותו למנוע נזק לאנושות. המשמעות: האטה בפיתוח ה־AI לטובת חיזוק מנגנוני הבטיחות והגברת השקיפות שלו.

מהצד השני עמדו אלטמן וחבורה גדולה של מפתחים שתמכו בניצול השוק הפרוץ להאצת הפיתוח של התחום, גם אם זה יבוא על חשבון ביטחון עתיד האנושות

מהצד השני עמדו אלטמן וחבורה גדולה של מפתחים שתמכו בניצול השוק הפרוץ להאצת הפיתוח של התחום, גם אם זה יבוא על חשבון ביטחון עתיד האנושות. דירקטוריון OpenAI ניסה להיות בצד האחראי של ההיסטוריה אבל הוכרע במערכה בתוך חמישה ימים כמעט בנוקאאוט לטובת אלטמן וחבריו.

הפעם אלטמן חזר כבר על תקן האיש הכול יכול. וזו, למען הסר ספק, בשורה לא משמחת לאנושות. מה שגרם לדירקטוריון לעשות בסופו של דבר סיבוב פרסה היה אגו וכסף.

מנכ"ל OpenAI סם אלטמן מעיד בפני הסנאט האמריקאי בוושינגטון, 16 במאי 2023 (צילום: ANDREW CABALLERO-REYNOLDS / AFP)

אחרי שאלטמן היה בדרכו לעבור למיקרוסופט – ואחרי שעובדים רבים איימו לנטוש את החברה – בדירקטוריון הבינו שאם הם לא יעשו את אותה פריצת דרך בתחום בעצמם, אז חברה אחרת תגרוף את הכסף הגדול.

במילים אחרות: אם כבר הולכים אולי לפגוע באנושות אז לפחות שהחברה שלהם תהיה זו שתגרוף את התהילה עד אז. הדרמה ב־OpenAI חשפה בעיקר את חוסר השקיפות בקבלת ההחלטות בחברה. היא גם חשפה את העובדה שפיתוח הבינה המלאכותית נתון בידי צוות קטן וחשאי הפועל מאחורי דלתיים סגורות.

החשש כמובן הוא שמעבר לזה שאין שום רגולציה הדורשת מהצוות להוכיח את הבטיחות והיעילות של המוצרים שלהם, החל מהשבוע הם יוכלו תאורטית להניע את אותו תרחיש בלהות ממנו חוששים בקהילת ה־AI

החשש כמובן הוא שמעבר לזה שאין שום רגולציה הדורשת מהצוות להוכיח את הבטיחות והיעילות של המוצרים שלהם, החל מהשבוע הם יוכלו תאורטית להניע את אותו תרחיש בלהות ממנו חוששים בקהילת ה־AI בעולם, אם רק ירצו בכך. כל זה בזמן שאין אף מבוגר אחראי שיעצור אותם.

מדובר במקרה שאין לו אח ורע בעולם הנוכחי. בזמן שכל דבר קטן המאיים על האנושות מעמיד את כל מנהיגי העולם על הרגליים האחוריות, במקרה הזה קיימת אדישות – או יותר נכון חוסר אונים – מצד הממשל האמריקאי. אולי בגלל שמדובר בתחום חדש שהמחוקק הבירוקרטי הגדול והמסורבל לא מספיק מהיר כדי לתפוס.

מנכ"ל OpenAI סם אלטמן מרצה ביוניברסיטי קולג' לונדון, 24 במאי 2023 (צילום: AP Photo/Alastair Grant)

ועד שהמנהיגים יתעוררו, כולנו נצטרך כנראה לסמוך על אלטמן והקולגות שלו בענקיות הטכנולוגיה, שיפעילו גם שיקול דעת ומידת אחריות לצד הרצון הגדול שלהם להיות פורצי הדרך הגדולים בתחום.