היי, כאן דרור גלוברמן עם Skip intro על חדשנות, טכנולוגיה, ואתם. השבוע:
- התורה כבר המציאה מעקות בטיחות ל-AI
- מזמן לא הזמנתי אתכם להרצאה
- הררי: למה אף אחד לא בכלא?
- חתן נובל: בראנו אלוהים בצלם האדם
- ערב סרט עם המסמכים של מטא
+ מחשבה אחת בדרך לקלפי
בפרשת השבוע ״לך לך״, מצווה אלוהים על אברהם אבינו לעזוב את חרן ולצאת לדרך.
רגע, שנייה, לא התבלבלתם בניוזלטר. הכל בסדר, תכף תבינו.
גם אברם - המיתוג הקודם של אבינו - לא הבין מיד. לאן ללכת? שאל את אדוני צבאות.
תכף חוזר אליך עם הוראות מדויקות, אומר לו השם, יש לי משהו על הגז, רק תתחיל לזוז. אברהם יוצא ואוסף איתו אנשים על הדרך. נהיה לו שבט קטן. לאן הולכים? לא יודעים, אבל לפחות ביחד.
גם אנחנו במסע מהיר ליעד לא ברור. הבינה המלאכותית וטכנולוגיות אחרות מאיצות שינויים עצומים, חברתיים, כלכליים, פוליטיים. רק שבניגוד לאברהם אבינו, אנחנו במסע הזה קצת לבד. יש לכל אחד כמה מיני-שבטים, אבל בסוף היום כל אחד מול המסך שלו, מול החלומות שלו, מול הילדים שלו, מול חשבון הבנק שלו ומול הפחדים שלו. במובן הזה, לאברהם אבינו עם אתון באמצע המדבר הסורי היה אולי יותר קל במסע ליעד לא ידוע. כי היתה לו קהילה סביבו.
את זה סיפרתי השבוע ל-150 ראשי קהילות יהודיים של ארגון קול העם שבבית הנשיא. נפגשנו בבודפשט, לא רחוק מהמקום שבו נולד הרצל, לשיחה על מה שמעסיק את כולם בכל העולם: האתגרים ש-AI מציב לאנשים וקהילות כמו בדידות, חוסר ביטחון תעסוקתי, חוסר משמעות, קיטוב ושנאה. מה יש ליהדות להציע?
לא מעט קצות חוט - ותודה לרב אופק מאיר מנכ״ל מרכז חינוך ליאו באק שעזר לי לזהות.
למשל, ידעתם שהתורה לא התפשרה על בטיחות?
ברצינות. בספר דברים כתוב ״כִּי תִבְנֶה בַּיִת חָדָשׁ, וְעָשִׂיתָ מַעֲקֶה לְגַגֶּךָ״. יש לך גג או מרפסת? שים מעקה! והמפרשים כבר הוסיפו הגדרות של מידות, וחוזק, ואפילו איזה גג פטור (גג משופע, שלא עומדים עליו). למה זה רלוונטי? זה בדיוק מה שמטריד עכשיו את עולם הבינה המלאכותית. בנינו בית חדש - מנועי בינה מלאכותית. ומסתבר שאנשים נופלים מהגג כי אין מעקות בטיחות. Guardrails. שגיאות, בריחות, פריצות. ואין קהילה שתתפוס אותם למטה, כי הבינה המלאכותית, המסכים ורשתות מפרקים אותה.
את ההרצאה ״הכל בראש״ אני מגלגל כמה פעמים בשבוע כבר כמעט שלוש שנים. וכשאני אומר ״מגלגל״ זה לא רק מופיע איתה - אלא משנה אותה משבוע לשבוע. גם היא יצאה לדרך מתישהו בתחילת 2024 ואין לדעת לאן תגיע.
מה יש בה? תובנות וכלי עבודה אישיים - מה אני צריך לשנות ולעשות כדי להישאר על הרכבת הזו ולא להיזרק החוצה. זה לא רק כלים וטכנולוגיה - יותר חשוב לדבר על איך אנחנו חושבים, עובדים, לומדים, משנים ונכשלים. ואז אפשר גם להצליח.
בקיצור, מזמן לא פתחתי הרצאה לקהל, והנה הגיעה ההזדמנות: יום שישי 6 בנובמבר, 10:00 בבוקר, מרכז נגה בהרצליה. 60 שקלים לכרטיס. חצי כבר עפו. החצי השני כאן.
״הכל בראש״ | יום שישי, 6 בנובמבר, 10:00 | מרכז נגה, הרצליה | לכרטיסים
השבוע יצא לי לפגוש כמות חריגה של אנשים עם IQ חריג בשלל אירועים ומדינות. אני מנסה לרכז לכם כמה דובדבנים שמעסיקים אותי מאז.
באמצע השיחה שלי עם יובל נח הררי החיבור נפל. זה היה באמצע יום העיון של חבר הנאמנים באוניברסיטה העברית, לרגל חנוכת מרכז פדרמן לבינה מלאכותית. כשהפרופ׳ חזר, הסכמנו שזו דוגמה טובה לכמה מסוכן לסמוך רק על טכנולוגיה.
אז מי אחראי כשסוכן AI עושה נזק?
״אנחנו עוד לא יודעים״, ענה. אבל סוכני בינה מלאכותית כבר פורצים לאתרים ומערכות לכאורה ״בעצמם״. זה מדאיג שאף אחד עוד לא יושב בכלא על זה, ענה הררי. ״אם בני אדם היו פורצים למערכות של מדינה אחרת, מישהו היה יושב". ומשם הגיעה התובנה המלחיצה באמת: אין תקדים בהיסטוריה או בביולוגיה לישות פחות נבונה ששולטת לאורך זמן בישות נבונה ממנה בהרבה. הוא הצביע על הסתירה בשוק ההון: ״טריליוני דולרים מושקעים בהנחה ש-AI יהיה חכם מאיתנו בהרבה - אחרת אין דרך להחזיר את ההשקעה - ובאותה נשימה החברות מבטיחות לנו שנדע לשלוט בו״.
אז מה יקרה אם נעצור את הפיתוח? הקשיתי. הרי טראמפ ודומיו יגידו שסין תעקוף את אמריקה. הררי לא היסס: ״מי שדורש מדנמרק לוותר על גרינלנד, אמר, צריך להסתכל במראה לפני שהוא מתלונן שמדינות לא מצליחות לסמוך זו על זו״. בעיניו זה הפרדוקס הגדול של הרגע. ארה"ב, סין וחברות ה-AI אומרות שאי אפשר לסמוך על בני אדם אחרים ולכן אסור להאט - אבל אותם אנשים בטוחים שיוכלו לסמוך על אינטליגנציית־על זרה. "אם אתה לא סומך על בני אדם אחרים, למה שתסמוך על AI?". עם בני אדם יש לנו אלפי שנות ניסיון. עם AI אין לנו שום ניסיון.
בסוף, השיחה נעשתה אישית. אני בן 50, אמר הפרופסור, והמודל שלי לקשר כבר נקבע מול ההורים, האחיות ובן הזוג. אבל ילד שהחבר הכי טוב שלו, אולי הראשון, הוא AI - יבנה את מודל ההיקשרות הזה מול מכונה. "זה ניסוי נורא, ואנחנו עורכים אותו על מיליוני שפני ניסיון אנושיים, בלי שלמישהו יש מושג מה יצא ממנו".
"בספר בראשית כתוב שהאדם נברא בצלם אלוהים. כשאני מקשיב לאנשים מדברים על AI, לפעמים נדמה לי שבראנו אלוהים בצלם האדם".
גם פרופ' יואל מוקיר, זוכה פרס נובל לכלכלה לשנת 2025, נאם מעל אותה במה. מבחינתו AI זה רק כלי. כלי עם תכונות יוצאות דופן, אבל שום דבר מעבר לזה. הוא אפילו לא אוהב את המילה "סוכן", כי היא משדרת משהו אנושי, וקשה היה לפספס שזו תשובה ישירה להררי, שדיבר שעה קודם על "סוציולוגיה של AI".
את הטיעון שלו הוא בנה על החוק הראשון של היסטוריון הטכנולוגיה מלווין קרנצברג: טכנולוגיה אינה טובה, אינה רעה, וגם אינה נייטרלית. ואז הוסיף שרבי עקיבא אמר את זה כבר לפני אלפיים שנה: "הכל צפוי והרשות נתונה". AI ישנה הכל, ולכן הוא לא נייטרלי. לטובה או לרעה? זה תלוי בנו.
החלק שהכי הפתיע אותי היה האופטימיות שלו לגבי אי שוויון. הוא מודה שכמה אנשים עשו מ-AI הון שהוא עצמו כינה "מגונה", אבל מעריך שבטווח הארוך AI דווקא יצמצם את הפערים. לבנות את הטכנולוגיה אולי עולה הון, אבל מהשירות יכול ליהנות כל אחד במחיר מגוחך. המשמעות, אומר חתן פרס נובל, היא שהפער בידע בין האליטה המשכילה לכל השאר מצטמצם, וכוח המיקוח של רופאים, עורכי דין ומהנדסים נחלש. "הילד שלך חולה. למי אתה מתקשר? לרופא, או לצ'אט? אני יכול לשאול את הצ'אט ולדעת כמעט כמו הרופא שלי. זה פחות טוב אם אתה רופא, אבל טוב אם אתה מטופל. ויש יותר מטופלים מרופאים".
בפאנל שהנחיתי עם שני בוגרי האוניברסיטה העברית שבונים את התעשייה הזו, ד"ר זאב פרבמן, ממייסדי לייטריקס, ושרה לוי, מייסדת ומנכ"לית סטארט־אפ לדאטה ארגוני, שמעתי שני משפטים שנשארו איתי. לוי סיפרה שבחברה שלה יש היום עשרה מפתחים, כשבעבר היו צריכים שלושים או ארבעים, ושבשנה הקרובה היא לא מתכוונת לגייס אף מפתח, רק אנשי מכירות. היא גם הזהירה מתופעה שהיא רואה בארגונים: אנשים שמועסקים כדי לסדר את הסביבה לרובוטים, לנקות ולהגדיר להם כללים. "זה מטורף, כי הבאנו את הרובוטים כדי שיעזרו לנו".
את פרבמן שאלתי - מה יישאר מהאקדמיה? האוניברסיטאות עלולות להתרחק מהמירוץ ומהמפעל לייצור אנשי המקצוע. היא עשויה להיות פחות מפעל ויותר מנזר מימי הביניים, כמקום שבו לקבוצת אנשים יש את הפריבילגיה לחשוב בלי לרוץ.
ואם כבר דיברנו על קהילה, מאזיני ״בזמן שעבדתם״ מוזמנים להקרנה מיוחדת של הסרט החשבון החברתי (The social reckoning) של ארון סורקין על ההדלפה הגדולה ממטא, שעסקנו בה כאן לא מעט: פרנסס האוגן, עובדת פייסבוק שעזבה את החברה עם ערימות של מסמכים מרשיעים ישר לידי הוול סטריט ז׳ורנל ו-60 דקות. מרשיעים במה? בזה שבכיריה ידעו שהמוצרים שלהם, ובעיקר אינסטגרם, פוגעים בנערות, והקפידו לא לעשות כלום.
ההקרנה המיוחדת ביום ראשון 25.10 בסינמה סיטי גלילות. כרטיסים אחרונים כאן.
כולם עסוקים בגורלם של המנהיגים, ברגשות והזדהות.
רגשות והזדהות זה חשוב, אבל בבחירות הקרובות אני מבקש מכם דבר אחד: אל תחשבו על גורל המנהיגים. השאלה ״מה מגיע להם״ היא השאלה הלא חשובה שרבים שואלים, וההצבעה היא לא פרס ולא עונש. שימו את עצמכם במרכז, ותשאלו שאלה אחת: מה ומי יתפקד היטב בכל התחומים כדי לדאוג לעתיד שלכם ושל הילדים שלכם. ותלכו להצביע.