יובל נח הררי: על מי אנחנו סומכים בעידן ה־AI?

השבוע יצא לי לפגוש כמות חריגה של אנשים עם IQ חריג בשלל אירועים ומדינות. אני מנסה לרכז לכם כמה דובדבנים שמעסיקים אותי מאז.

באמצע השיחה שלי עם יובל נח הררי החיבור נפל. זה היה באמצע יום העיון של חבר הנאמנים באוניברסיטה העברית, לרגל חנוכת מרכז פדרמן לבינה מלאכותית. כשהפרופ׳ חזר, הסכמנו שזו דוגמה טובה לכמה מסוכן לסמוך רק על טכנולוגיה.

אז מי אחראי כשסוכן AI עושה נזק?

״אנחנו עוד לא יודעים״, ענה. אבל סוכני בינה מלאכותית כבר פורצים לאתרים ומערכות לכאורה ״בעצמם״. זה מדאיג שאף אחד עוד לא יושב בכלא על זה, ענה הררי. ״אם בני אדם היו פורצים למערכות של מדינה אחרת, מישהו היה יושב". ומשם הגיעה התובנה המלחיצה באמת: אין תקדים בהיסטוריה או בביולוגיה לישות פחות נבונה ששולטת לאורך זמן בישות נבונה ממנה בהרבה. הוא הצביע על הסתירה בשוק ההון: ״טריליוני דולרים מושקעים בהנחה ש-AI יהיה חכם מאיתנו בהרבה - אחרת אין דרך להחזיר את ההשקעה - ובאותה נשימה החברות מבטיחות לנו שנדע לשלוט בו״.

אז מה יקרה אם נעצור את הפיתוח? הקשיתי. הרי טראמפ ודומיו יגידו שסין תעקוף את אמריקה. הררי לא היסס: ״מי שדורש מדנמרק לוותר על גרינלנד, אמר, צריך להסתכל במראה לפני שהוא מתלונן שמדינות לא מצליחות לסמוך זו על זו״. בעיניו זה הפרדוקס הגדול של הרגע. ארה"ב, סין וחברות ה-AI אומרות שאי אפשר לסמוך על בני אדם אחרים ולכן אסור להאט - אבל אותם אנשים בטוחים שיוכלו לסמוך על אינטליגנציית־על זרה. "אם אתה לא סומך על בני אדם אחרים, למה שתסמוך על AI?". עם בני אדם יש לנו אלפי שנות ניסיון. עם AI אין לנו שום ניסיון.

בסוף, השיחה נעשתה אישית. אני בן 50, אמר הפרופסור, והמודל שלי לקשר כבר נקבע מול ההורים, האחיות ובן הזוג. אבל ילד שהחבר הכי טוב שלו, אולי הראשון, הוא AI - יבנה את מודל ההיקשרות הזה מול מכונה. "זה ניסוי נורא, ואנחנו עורכים אותו על מיליוני שפני ניסיון אנושיים, בלי שלמישהו יש מושג מה יצא ממנו".