Skip Intro.
״הצעירים הם הכי טובים״: מטא, ChatGPT והמאבק על הילדים
התביעה נגד מטא וגרסת ChatGPT לבני נוער נפגשות באותה שאלה: מי נושא באחריות כשהמוצרים שמושכים צעירים גם עלולים להזיק להם?
לתפוס, להחזיק, לקצור, להסתיר
זו הכותרת של מצגת פנימית של חברת מטא, החברה מאחורי פייסבוק אינסטגרם וואטסאפ. ״הצעירים הם הכי טובים״.
השאלה למי?
המסמך הזה הוצג השבוע בבית משפט פדרלי באוקלנד על ידי 29 המדינות בארצות הברית שתובעות עכשיו את מטא, וטוענות שפייסבוק ואינסטגרם תוכננו בכוונה כדי לגרום לילדים להתמכר. גובה הפיצוי הנדרש: טריליון וארבע מאות מיליארד דולר. שזה מה ששווה מטא כולה ברגע זה.
למה הכי טובים? לא רק שלמשתמש בן 11 יש יותר שנות שימוש עתידיות מאשר למשתמש בן 40. מסתבר שילדים בני אחת עשרה חוזרים לאינסטגרם פי ארבעה יותר, למרות שהם בכלל לא אמורים להשתמש בה בגילם. איך עובדת השיטה? התובעת במשפט קוראת לזה בארבע מלים:
לתפוס, להחזיק, לקצור, להסתיר.
לתפוס ולהחזיק (את הילדים כמשתמשים), לקצור (את ההכנסות), להסתיר (את הנזקים).
התביעות האלה משורשרות כמובן לתביעת המפנה מלפני חצי שנה, שבו קבע בית המשפט שמטא תכננה את השירותים שלה כדי למכר קטינים בכוונה, ופסק פיצויים אזרחיים של 6 מיליון דולר. תביעה קטנה, כסף קטן, אבל כבר אז היה ברור לכולם שזה צעד היסטורי: מוקד התביעה זז מהתכנים המזיקים - שעליהם מגן סעיף 230 לחוק התקשורת הוותיק ההוא - אל המנגנון הממכר שבנתה החברה במכוון. ושם אין למטא תחת מה להסתתר. העדויות מרשיעות, האחריות עליה.
בתביעה נוספת השנה בניו מקסיקו, שבה נפסקו נגד מטא קנסות בגובה מצטבר של כמעט מיליארד דולר בגלל התרשלותה בהגנה על בני נוער מפגיעות מיניות, קבע בית המשפט גם דרישות להפעלה בטוחה של הפלטפורמה: למשל, בלי התראות בשעות הלילה.
אני לא יודע אם זה מה שיעזור, אבל בעוד מדינות רבות מסמן אמירה ברורה: למוצרים טכנולוגיים נפוצים יש נזקים שלא תמיד אפשר לשער, אבל כן אפשר למדוד ולצמצם. אפילו לפני הנזק.
צירוף מקרים
באותו יום בדיוק השיקה OpenAI גרסה של ChatGPT לבני נוער. מקריות? אולי. אחרי שהחברה הואשמה שהמנוע שלה עודד צעיר להתאבד, ייתכן שהיא מנסה ללמוד את הלקח במהירות. אבל לחסום את הצעירים בכלל, לוותר על הקהל הזה? השתגעתם? הצעירים הם הכי טובים.
הצ׳אט אמור לזהות את בני הנוער בגילאי 13-17 בעצמו (נראה איך זה יעבוד), להגביל את עצמו בנושאים מסוימים, ולהפנות את השיחה לשיחה מלמדת בכל פעם שהם ינסו סתם לקצר דרך לשיעורי הבית.
מה שמעניין בגירסת הצעירים של ChatGPT היא רשימת האיסורים: המערכת לא תשתמש בשפה רומנטית, לא תעודד תלות רגשית, ולא תרמוז שיש לה תודעה. שווה לעצור רגע ולחשוב מה זה אומר על הגרסה שכולנו משתמשים בה כל יום. היא גם אמורה לדווח להורים על חששות שעולות מהשיחות.
מה שמעניין בגירסת הצעירים של ChatGPT היא רשימת האיסורים: המערכת לא תשתמש בשפה רומנטית, לא תעודד תלות רגשית, ולא תרמוז שיש לה תודעה. שווה לעצור רגע ולחשוב מה זה אומר על הגרסה שכולנו משתמשים בה כל יום. היא גם אמורה לדווח להורים על חששות שעולות מהשיחות.
מצד שני, בסקר אמריקאי חדש אמרו רבע מתוך אלף הילדים שנשאלו שלפעמים הבינה המלאכותית מבינה אותם טוב יותר מרוב האנשים. זה חדש, אבל לא בטוח שלחלוטין רע. כך או כך, המבחן של OpenAI יהיה פשוט: האם אכן ימנעו פגיעות בבני נוער?
