הסכנה הבאה - בינה מלאכותית אמינה

רובוט עם בינה מלאכותית, אילוסטרציה (צילום: iStock / demaerre)
iStock / demaerre
רובוט עם בינה מלאכותית, אילוסטרציה

אנשים שמתקשים לחבר מילה למילה (כפי שבנימין נתניהו המסכן מעיד על סביבתו) עשויים לבקש מ-ChatGPT את הביקורת הכי טובה על הרומן הרביעי שלהם, וביקורת כזו "תימצא". הדבר גם משעשע וגם מרגיע. "מקום העבודה שלי בטוח אם כך", יחשבו לעצמם. אבל אם הם חכמים, קול קטן בראש יוסיף: לעת עתה.

רבים מהמתנסים בבינה מלאכותית גנרטיבית מגיעים לאותן שתי מסקנות מהירות. ראשית: זה מדהים, כי זה כותב ומסביר יותר טוב מרבים מעמיתיי! שנית: זה מפחיד, כי זה כותב ומסביר יותר טוב מרבים מעמיתיי! לחוששים נחמה פורתא: זה מפשל די הרבה.

רבים מהמתנסים בבינה מלאכותית גנרטיבית מגיעים לאותן שתי מסקנות מהירות. ראשית: זה מדהים, כי זה כותב ומסביר יותר טוב מרבים מעמיתיי. שנית: זה מפחיד, כי זה כותב ומסביר יותר טוב מרבים מעמיתיי

חוסר היכולת הזה לסמוך על תוצאות השאילתות (על אף שנמסרו במה שנראה כביטחון עצמי מוחלט) עמד במרכזם של מספר דיוני פאנל שהשתתפתי בהם לאחרונה על בינה מלאכותית ועיתונות. לעת עתה, התעשייה נזהרת מאוד עם זה. אבל שאלה ברורה תלויה באוויר: מה אם יפתרו את הבעיה? אחרי הכל, אם יש דבר אחד שנכון לכל טכנולוגיה מלבד עדכוני מיקרוסופט, זה שהיא ממשיכה להשתפר.

פניתי עם החשש הזה ל-ChatGPT כמקובל היום, וקיבלתי תשובה זו: "אני מאמין שככל שהבינה המלאכותית תמשיך להתקדם, יהיו שיפורים משמעותיים ביכולתה לאמת את תוצאות השאילתות. נכון לעכשיו, מערכות בינה מלאכותית לא יכולות באופן עצמאי לאמת את דיוק המידע שהם מייצרים, אבל צפוי שהדורות הבאים יידעו להצליב מידע, להעריך מקורות ולהבחין בין מקורות אמינים ובלתי אמינים.

"ההתקדמות עשויה להוביל למערכות בינה מלאכותית שמספקות תגובות מדויקות ואמינות יותר", הוסיף הצ'טGPT. "טכניקות כמו אלגוריתמים של בדיקת עובדות ואינטגרציית גרפים של ידע והיגיון הסתברותי יכולות לאפשר למערכות בינה מלאכותית להעריך את אמינות המידע שהן מספקות בצורה יעילה יותר".

כמובן, "כמודל גדול של שפה טבעית" – הבוט מזכיר לך זאת ללא לאות – אין כאן דעות או אג'נדה מעבר לניתוח טהור. אבל נדמה היה שהפירוט המוגזם של המשפט האחרון מכיל יותר מרמז לסוג של שמחה לאיד כמעט אנושית. או אנושית לחלוטין. קצת קשה להבדיל.

"כמודל גדול של שפה טבעית" – הבוט מזכיר לך זאת ללא לאות – אין כאן דעות או אג'נדה מעבר לניתוח טהור. אבל נדמה היה שהפירוט המוגזם של המשפט האחרון מכיל יותר מרמז לסוג של שמחה לאיד כמעט אנושית

הטענה משכנעת – אבל כידוע, היא יכולה להיות גם לא נכונה. ייתכן ש-ChatGPT מצא מאמר סאטירי על חשיבה הסתברותית ב-Onion. אז התייעצתי עם אליק אייזנברג, יזם סדרתי מצליח בלונדון, שהסטארטאפ שלו Scroll.AI מפתח כלים שרלוונטיים לדיון הזה.

"כאשר אנו מתחבטים כיצד להתקדם, אמון הופך לדאגה מרכזית עבור AI", אישר אליק, שאינו מכחיש את היותו אדם עם דעות. "עבור עיתונאים ויוצרי תוכן אחרים, בינה מלאכותית יכולה להיות אדירה אם אתה משתמש בה נכון, ולהוביל להתמוטטויות הרסניות אם נעשה בה שימוש לרעה. אני מסכים שהאיטרציות הקרובות יתייחסו לזה לעומק".

אם זה נכון – אם יהיה סביר מאוד שהתוצאה של שאילתה תהיה נכונה כתורה מסיני, אזי שההשלכות דרמטיות. זה יאמר שהקול הקטן בראש צדק.

תארו לעצמכם תרחיש שבו מערכת AI מחוללת לא רק מאמרים מלומדים לכאורה מקוריים, דו"חות כספים או תוכן שיווקי, אלא גם כוללת הערות שוליים, קישורים והפניות לגמרי נכונים, כדי לבסס ולהוכיח באופן משכנע את הטענות.

תארו לעצמכם אם עורכים יתחילו להבין שהסיכוי לקבל כזבים קטן לאין ערוך מאצל כתב מצוי, שסובל מכל המגבלות והחסרונות המרתיחים של בני אנוש (ואף עשוי להיות נוכל). בעצם, אם המחליטים בכל התחומים יגיעו למסקנה שתוכן שנוצר על ידי בינה מלאכותית לא שונה מבחינת האמינות ממה  שנוצר על ידי אדם.

מה אם בעתיד, כשהטכנולוגיה תשתפר, עורכים יתחילו להבין שהסיכוי לקבל כזבים קטן לאין ערוך מאשר אצל כתב מצוי, שסובל מכל המגבלות והחסרונות המרתיחים של בני אנוש (ואף עשוי להיות נוכל)

או אז אפשר יהיה לתת ל-AI לכתוב את הטור הזה במקומי ולא תהיה סיבה יותר גדולה לחשוד שמבורר בגיבוב של שטויות. אני יכול לטעון שזה לא יכיל את אותה מידה של הומור, סגנון, פואטיקה של הלשון וחוכמה אנושית, אבל מדוע לאמין לי? אני בן אדם עם אג'נדה.

(או אולי אני לא? לך תדע)

מדובר במהפכה בתעשיות יצירת התוכן כולן, לא רק תקשורת (וכתיבת תסריטים!) אלא גם שיווק, פרסום, יח"צ ושירותי ייעוץ אסטרטגי.

לעסקים במצוקה תהיה הבחירה לשכור יועצים כמו אלה מחברת MCKINSEY ולבלות חודשים במחיצת צעירים יהירים בחליפות – או להעלות את פרופיל החברה, הדו"ח השנתי, נתונים פיננסים ועוד כהנה וכהנה למערכת, ולהמתין כשלוש שניות. ואז לבקש תיקון מסוים, ולהמתין עוד כשלוש שניות. עד שזה יספק את הסחורה. וזה יספק.

זו כנראה יעורר פיטורים המוניים וכיווץ במגוון רחב של תעשיות.

אז כמה זמן יש לנו?

OpenAI, יצרנית ChatGPT, כבר לא מעמידה פנים שהיא נזהרת, וצועדת ללא מורא אל תוך הלילה.

באירועים האחרונים היא הציגה שורה של פיתוחים, כולל מתן אפשרות לכל משתמש לבנות גרסה מותאמת אישית של הבוט, שאותה יוכל אפילו למכור בחנות אפליקציות ייעודית. והעיקר, בדיוק בזמן, מתייחס לבעיית האימות.

לעסקים במצוקה תהיה הבחירה לשכור יועצים ולבלות חודשים במחיצת צעירים יהירים בחליפות – או להעלות את פרופיל החברה, הדו"ח השנתי, נתונים פיננסים ועוד למערכת, ולהמתין כשלוש שניות

כלי חדש, שנקרא ChatGPT4 Turbo, צפוי להיות "הרבה יותר מדויק בהקשרים ארוכים", לדברי המנכ"ל סם אלטמן, מכיוון שהוא יוכל לקלוט כמויות גדולות יותר של טקסט לשימוש כהוראות – מכמה אלפי תווים כיום עד 300 עמודי טקסט.

ההתמודדות עם זה תהיה אתגר חברתי גדול. זה עשוי סוף סוף לשנות את הנרטיב שאומר כבר מאות שנים שיש ללעוג ל"לודיסטים" – כלומר לחוששים מטכנולוגיה.

כן, האנושות רק הרוויחה מהמהפכה התעשייתית ומהאוטומציה של תעשיית הטקסטיל, שהטריפה את הלודיסטים המקוריים באנגליה – אבל האתגר העומד בפני ה"לודיטים החדשים" הוא שונה בסדרי גודל.

נצטרך למצוא דרכים לייעד ולתעל עובדים לפונקציות ופרדיגמות ש-AI גנרטיבי לא יכול לשכפל. במידה רבה, זה יכלול תחומים הקשורים לאישיות אמיתית, השראה אמיתית וברק ייחודי. זה עשוי להעביר ביקוש אדיר לסוגים מסוימים של עבודת כפיים. גם פוליטיקה וזנות, אני חושש. אולי גם שירה; קצת פחות ברור אם יהיה עד אז ביקוש.

בסופו של דבר זה יסתכם במה שהציבור רוצה. נתחיל לשמוע דיבורים על הכנסה אוניברסלית מובטחת, ועל מיסוי דרקוני של מוצרי וחברות בינה מלאכותית. תחום אחד עשוי לפרוח – תעשיית הרגולציה של בינה מלאכותית ויצירת מנגנוני אחריות, שיבטיחו כי תוכן שנוצר בבינה מלאכותית לא יאיים על החברה באלף ואחד דרכים. זה הולך להיות פוליטי מאוד.

האנושות הרוויחה מהמהפכה התעשייתית ומאוטומציית תעשיית הטקסטיל, שהטריפה את הלודיסטים (החוששים מטכנולוגיה) המקוריים באנגליה – אבל האתגר העומד בפני ה"לודיטים החדשים" שונה בסדרי גודל

כך או כך, ייתכן שהחברה עומדת בפני משהו קטלני ממש. במקום שהנושא הזה ישלוט בשיח, בינתיים אנחנו מתקוטטים על השטויות הרגילות. החרדים אותם חרדים, המתנחלים אותם מתנחלים, האנטישמים אותם אנטישמים, וחמאס אותו חמאס. אז הנה העניין: נקבל פחות או יותר את מה שמגיע.

דן פרי שירת כעורך ראשי של סוכנות איי-פי במזה"ת (מבסיסו בקהיר) לאחר תפקידים דומים באירופה, אפריקה והאיים הקריביים. שימש כיו"ר התאחדות עתונאי החוץ בישראל. איש היי טק ויזמות בעבר ובהווה. עקבו אחריו ב: https://danperry.substack.com

פוסטים המתפרסמים בבלוגים של זמן ישראל מייצגים את כותביהם בלבד. הדעות, העובדות וכל תוכן המוצג בפוסט זה הם באחריות הבלוגר/ית וזמן ישראל אינו נושא באחריות להם. במקרה של תלונה, אנא צרו קשר.
עוד 1,020 מילים
סגירה