היי, כאן דרור גלוברמן עם Skip intro על חדשנות, טכנולוגיה, ואתם. השבוע:
- אוריך חשב שבנה סוכן. התברר שזה סוכן כפול.
- הפרצות שהשאיר הן בדיוק מה שמפחיד את כולנו.
- הסוכן ביקש את כרטיס האשראי שלי. לתת?
- חמש שאלות לפני שלוחצים ״אישור״.
- למי אני כן נותן את המפתחות.
סביב אוריך התלכדו שתי תקלות קיצוניות לבלאגן אטומי.
תקלה ראשונה: איש הסוד הכי קרוב לראש הממשלה מועסק כפרילנסר עובד מן החוץ שלא כפוף לשום פיקוח והדרכה של בטחון מידע.
כולם עוסקים במבוכות שבחשיפת השיחות שלו עם סביבת נתניהו. אבל האמת שזו בעיה שלו.
אותי מעניין איזה מידע רגיש מצוי ברשות איש הסוד של נתניהו, כמו מבצע גדול שמתוכנן או אפילו הלו״ז של ראש הממשלה - מידע רגיש ללא ספק. איזה מידע סודי באמת נמצא בשיחות הוואטסאפ שעוד יחשפו? איזה נזק עלול להיגרם למדינה מכך שאדם שיודע סודות לא כפוף לשום דבר?
תקלה שניה: אוריך התפתה להאמין שאם הוא מסוגל להרכיב תוכנות עם בינה מלאכותית, זה אומר שהוא איש תוכנה. שהוא יודע לפרוס תוכנה ברשת, לחבר ולהפעיל אותה.
מסתבר שהוא לא.
אוריך הרכיב בעזרת קלוד תוכנה שסרקה מקורות ברשת וסיפקה לוואטסאפ שלו התראות על פרסומים על הזוג נתניהו מדי 90 שניות. מבחינה דוברותית, זו עבודה מקצועית ומרשימה.
רק שכדי לחבר את צינור העדכונים לוואטסאפ, אוריך נעזר באיזה שירות דיגיטלי מהאמירויות - כך לפי הפרסומים של בר פלג ועומר בן יעקב ב״הארץ״.
וכאן הגענו לפירצה #1: מסתבר כשאתה מחבר את הוואטסאפ שלך לשירות באמירויות, אתה בעצם מספק להם יכולת טכנית וחוקית להציץ לך לוואטסאפ בלי צווי בית משפט ובלי נעליים. אם מישהו באמירויות שם לב מי נפל להם ליד - איש הסוד של ראש ממשלה של מדינה זרה ומעניינת במיוחד - הם בטח לא יכלו להישאר אדישים לפיתוי. לכו תדעו, אולי השירות האמירתי הוא בכלל מלכודת דבש.
פירצה #2: אוריך הכניס את הקוד המזהה של הוואטסאפ שלו לתוך התוכנה שהרכיב, הציב אותה בגיטהאב ונתן לה לפעול. רק שהוא לא העביר את הקוד למצב ״פרטי״. וכך יכול כל העולם, כולל עיתונאי ״הארץ״, לגלות לא רק את התוכנה שהוא מפעיל, אלא גם את המפתח הטכני לוואטסאפ שלו.
המון הזדמנויות נתן אוריך לפרוץ לו לוואטסאפ, ואכן שוחררו שיחות פרטיות מאוד מבחינתו באתרים אנונימיים. כך שאנחנו לא יודעים מי פרץ, ואפילו לא יודעים שהיתה פריצה. אבל מתוכן ההודעות והתגובה של אוריך ובני שיחו נראה שהשיחות אותנטיות.
ולמה נכנסתי לכל זה?
כי זו בדיוק הדילמה שכולנו נמצאים בה.
"יש את גרוק בוט, dots של chatGPT, אינסטינקט, מיוז של מטא, ספארק של גוגל, קלוד - למי אתם נותנים הרשאות לגשת לאיזה מידע הפרטי שלכם ולמה״?
התחלנו לדבר על זה בשבוע שעבר: מחכה לכם נוחות קיצונית אם תסכימו לחבר כל אחד מסוכני הבינה המלאכותית האלה למייל, ליומן ולכרטיס האשראי. מצד שני, אתם לא רוצים להיות אוריך.
שלחתי את אינסטינקט, הסוכן שחי בתוך וואטסאפ, למשימה צנועה - תמצא לרונן, לעמרי ולי שלושה כרטיסים לסטנד אפ של דניאל חן בתל אביב. חזר אחרי כמה דקות עם תאריכים וכסאות ספציפיים לרכישה, ואמר לי - תכניס כאן את כרטיס האשראי ואני קונה לשלושתכם.
הו, הפיתוי.
אז איך נחליט?
שאלתי בטוויטר וגם בלינקדאין וקיבלתי תשובות מרבים וחכמים.
הנה כמה דברים לחשוב עליהם לפני שמאשרים:
- כשאנשים פרטיים מחברים סוכנים מהטלפון בלי צוות אבטחה אישי, הגבולות של הבוט הם מה שנגדיר בשנייה הראשונה של לחיצת ה״אישור״. רוב הסוכנים יבקשו כמה שיותר גישה לכמה שיותר שירותים. אבל ההמלצה הגורפת היא לצמצם. לתת גישה אך ורק לשירותים המינימליים שנחוצים לאותה משימה. אם אפשר לקרוא את היומן בלי הרשאה לכתוב? עדיף. לכתוב רק טיוטות במייל בלי הרשאה לשלוח? עדיף.
- החברות והסוכנים נאבקים ביניהם על הזכות להיות שומרי המידע האישי שלנו. השאלה באיזה מחיר. מטא למשל משתמשת בשיחות עם Meta AI כדי להתאים פרסומות בפייסבוק ובאינסטגרם, בלי אפשרות ביטול.
- איפה המידע מעובד. Siri AI של אפל מעבדת משימות פשוטות במכשיר, מורכבות בענן הפרטי של אפל, וכבדות בענן של גוגל. אפל מצהירה שהמידע לא נשמר ולא נחשף לאף אחד. Gemini Spark, לעומת זאת, קורא את המייל והיומן ברציפות על שרתי גוגל. תורין קלוסובסקי מ-EFF טוען שכדאי להתייחס למייל כאילו שהוא "כמעט פומבי".
- ער תמיד, או רק כשפונים אליו. זו ההחלטה שרוב המשתמשים לא יודעים שהם מקבלים. עוזר שפותחים עונה כששואלים אותו. סוכן שתמיד ער רואה כל מה שיגיע.
- כל מי שמזמין אותך לפגישה מדבר עם הסוכן שלך. חוקרים מאוניברסיטת תל אביב, הטכניון ו-SafeBreach השתלטו על Gemini מבחוץ דרך הזמנה ליומן, והפעילו דוד, פתחו חלונות וכיבו אורות. הם הדגימו 15 דרכים לניצול הסוכנים. גוגל תיקנה והוסיפה דרישה לאישור לפני ביצוע פעולות מסוכנות. הלקח: חובה לזכור שהמייל והיומן פתוחים לכל מי שירצה לשלוח לנו משהו, וכל מכשיר שמחובר לאותו עוזר עלול להרחיב את הנזק.
רק שבאמת של החיים, כל השיקולים האלה מעקרים את כל הקטע של סוכן. ההבטחה לנוחות טמונה בדיוק בזה שהוא נגיש לכל המידע והחשבונות ניגש לכל השירותים וממלא בקשות מורכבות בשנייה - תזמין לי כרטיסים לדניאל חן - בלי צורך להגדיר אותו מחדש לכל משימה. אז מה הרווחנו?
אז זה כלל האצבע שלי. אתם ממש מוזמנים לא להסכים ולא לאמץ.
- לא נותן הרשאות לחברות קטנות וחדשות שאין להן טרק רקורד של אמינות ומוניטין לאבד. אינסטינקט? קסום ככל שיהיה, אני מוכן לדבר איתו בוואטסאפ, אבל את כרטיס האשראי שלי הוא לא יקבל.
- חברות עם טרק רקורד של בגידה באמון, פעולה נגד טובת המשתמשים, התחמקות ושקרים? גם הן בחוץ. כן מטא, אני מסתכל עלייך.
- נשארתי בגדול עם ג׳מיני, ChatGPT וקלוד. יש לי העדפה קלה לג׳מיני, היות שהוא בתוך אותו עולם של גוגל שבו המידע הרגיש שלי ממילא נמצא. כשאפל תציע לי שירותים כאלה, ייתכן שהיא תקפוץ לראש התור, בגלל השיקולים שפירטתי קודם.
אני סקרן מאוד, זקוק מאוד לעזרה תפעולית ביומיום, ובעיקר רוצה לספר לכם מגוף ראשון. לכן אני לוקח על עצמי קצת יותר סיכונים ממה שהייתי ממליץ לכל אחד אחר. ושהאל יהיה בעזרי.
מה אתם עושים? אילו הרשאות נותנים למי? השיבו למייל הזה וספרו לי