האם הייתם נותנים לבינה המלאכותית להצביע במקומכם?

דמיינו סוכן דיגיטלי שמכיר אתכם לעומק. הוא יודע מהם סדרי העדיפויות שלכם, מהם הקווים האדומים שלכם ואיזה ערכים מנחים אתכם. הוא מסוגל לקרוא הצעות חוק, לנהל משא ומתן עם סוכנים של אזרחים אחרים, ואפילו להצביע במקומכם.

זה אולי נשמע כמו תרחיש מסרט עתידני, אבל הטכנולוגיה כבר מתקרבת לשם. סוכנים מבוססי בינה מלאכותית מסוגלים לחקות עמדות אנושיות מורכבות ברמת דיוק הולכת ומשתפרת. אלא שהשאלה החשובה באמת היא לא רק אם המכונה יכולה להחליף אותנו, אלא אם אנחנו מוכנים לאפשר לה לעשות זאת.

נפגשנו לשיחה עם גלעד וולקין, מוסמך התוכנית ללימודי פוליטיקה סייבר וממשל בבית הספר למדע המדינה, ממשל ויחסים בינלאומיים, ודוקטורנט שחוקר את גבולות הלגיטימציה של הצבעה באמצעות שיבוטים דיגיטליים, בהנחיית פרופ׳ אודי זומר.

כשהדמוקרטיה פוגשת את הבינה המלאכותית

המחקר של וולקין מתחיל ממשבר כפול שמלווה דמוקרטיות רבות. מצד אחד, אמון הציבור בנבחריו נמצא בירידה. מצד שני, אזרחים רבים מרגישים שאין להם יכולת ממשית להשפיע בין מערכת בחירות אחת לבאה אחריה.

אל החלל הזה נכנסת הבינה המלאכותית עם הבטחה מפתה: סוכן אישי יוכל לייצג כל אזרח בדיונים רבים, להשקיע זמן וקשב שאין לאדם עצמו, ולוודא שקולו יישמע גם בהחלטות שבהן הוא לא יכול להשתתף ישירות.

"אבל כאן בדיוק מתעוררת הבעיה," מסביר וולקין. "אזרחות לא מסתכמת בקבלת התוצאה היעילה ביותר. דמוקרטיה נשענת גם על שיח אנושי, על היכולת להתווכח, לשכנע, להתפשר ולעיתים גם לשנות עמדה. אם נמסור את כל אלה למכונה, ייתכן שנקבל החלטות יעילות יותר, אבל נאבד חלק מהתהליך שהופך אותן ללגיטימיות."

השיבוטים הצליחו. בני האדם נכשלו

כדי לבדוק היכן עובר הגבול, בנה וולקין ל-66 סטודנטים שיבוט דיגיטלי אישי שאומן על בסיס העמדות והערכים של כל אחד מהם. המשתתפים והשיבוטים קיבלו את אותה המשימה: לחלק תקציב ציבורי.

התהליך כלל הצבעה אישית ראשונית, משא ומתן רציף והצבעה סופית. כדי שתוכנית תאושר, היה עליה לקבל לפחות 30 אחוזים מסך הנקודות. הרף הגבוה חייב את המשתתפים לתאם עמדות, להתפשר ולבנות קואליציות.

התוצאות היו חדות. בני האדם לא הצליחו לאשר אפילו תוכנית אחת בהצבעה הסופית. השיבוטים, לעומתם, ידעו להתפשר, יצרו קואליציות מחושבות והעבירו שתי תוכניות.

במבחן התוצאה, המכונות ניצחו. אלא שאז הגיע הממצא המפתיע באמת.

המכונה ניצחה, אבל כמעט אף אחד לא נתן לה להצביע

"למרות ההצלחה של השיבוטים, רק אחד מכל שמונה משתתפים הסכים לאמץ את בחירת השיבוט שלו כהצבעה מחייבת," מספר וולקין. "אפילו שביעות רצון מהתוצאה ותחושה שהשיבוט ייצג היטב את עמדות המשתתף לא הספיקו כדי לשכנע אותו להעביר לאלגוריתם את סמכות ההכרעה."

אחד המשתתפים ניסח זאת כך: "לראות את הבינה המלאכותית משיגה תוצאות טובות יותר לימד אותי שכוחה האמיתי של הדמוקרטיה נמצא בלגיטימציה פוליטית ובהסכמה רחבה, ולא בקבלת ההחלטות הרציונליות ביותר."

וולקין טוען שהממצא הזה חושף פער עמוק בין יעילות ללגיטימציה. אנחנו עשויים להעריך את יכולתה של המכונה להגיע להסכמה ואפילו להיות מרוצים מהחלטתה, אבל עדיין להרגיש שהזכות להכריע צריכה להישאר בידיים אנושיות.

איפה עובר הגבול? תלוי מה מונח על הכף

ההתנגדות להעברת ההחלטה לשיבוט לא הייתה זהה בכל התחומים. ככל שההכרעה נגעה יותר בליבת הזהות, באחריות הקולקטיבית ובחיים הלאומיים, כך גבר הסירוב.

בהחלטות מקומיות ויומיומיות, כמו חלוקת תקציב של רשות מקומית, 39 אחוזים סירבו להעביר לשיבוט את סמכות ההצבעה. בבחירות ארציות שיעור הסירוב עלה ל-68 אחוזים, ובהכרעות הנוגעות לביטחון לאומי הוא הגיע ל-70 אחוזים.

לדברי וולקין, הציבור מוכן לשקול סיוע טכנולוגי כשהחלטות קרובות, מצומצמות וניתנות לתיקון. ככל שהמחיר הערכי והציבורי עולה, כך מתחזקת הדרישה שהאדם עצמו יהיה זה שיישא באחריות ויכריע.

ימין ושמאל מסכימים על דבר אחד

"אחד הממצאים המסקרנים במחקר הוא שהגבול הזה הופיע במקום דומה להפליא בקרב קבוצות שונות. ימין ושמאל, חילונים ודתיים, כולם גילו פתיחות זהירה לשימוש בבינה מלאכותית כיועצת, אך התנגדו באופן רחב להחלפת שיקול הדעת האנושי," מספר וולקין.

"בתקופה של קיטוב פוליטי וחברתי, זו הסכמה שאינה מובנת מאליה והיא עשויה לשמש בסיס לקביעת כללים משותפים לדמוקרטיה הדיגיטלית, עוד לפני שהשימוש בשיבוטים אישיים יהפוך לחלק מחיי היומיום."

שיבוט מדויק עדיין אינו אזרח

שאלנו את וולקין מה בכל זאת גורם לאנשים לסמוך יותר על השיבוט שלהם?

"המחקר מצא שככל שהשיבוט ייצג את עמדותיהם בדיוק רב יותר, המשתתפים הביעו נכונות גדולה יותר להישען עליו. עם זאת, גם ייצוג מושלם לא גרם להם להסכים למסור לו את זכות ההצבעה. גורם נוסף היה היכולת להבין איך השיבוט הגיע להחלטה. ככל שהמשתתפים הבינו טוב יותר את ההיגיון של המכונה, כך גדלה פתיחותם לשלב אותה בתהליכים דמוקרטיים."

"אבל גם כאן, הפתיחות נעצרה לפני ההצבעה המחייבת," טוען וולקין. "כאשר נשאלו אלו תנאים יידרשו אם הצבעה באמצעות שיבוטים תיושם בעתיד, המשתתפים הציבו שלוש דרישות מרכזיות: שקיפות מלאה בנימוקי השיבוט, אפשרות לבטל כל החלטה שלו, וכתובת אנושית ברורה שתישא באחריות. "

במילים אחרות, אפשר לתת למכונה לייעץ, לנתח ולהציע. את המילה האחרונה אנחנו עדיין רוצים לשמור לעצמנו.

יועץ כן, מחליף לא

וולקין מסכם: "היכולת הטכנולוגית היא לא המכשול המרכזי. גם כשהשיבוט מצליח יותר, מתפשר טוב יותר ומייצג את האזרח בדיוק רב, הוא נותר העתק של האזרח ולא האזרח עצמו."

הממצאים מחזקים עיקרון בסיסי בתיאוריה הדמוקרטית: הכרעה פוליטית אינה רק הדרך להגיע לתוצאה טובה. היא קשורה גם להשתתפות, לאחריות ולהסכמה של מי שיחיו עם השלכות ההחלטה.

בינתיים, השיבוט הדיגיטלי זוכה לכל היותר במעמד של יועץ שמעשיר את שיקול הדעת. האדם נשאר המכריע. השאלה הפתוחה היא אם הגבול הזה יישאר במקומו גם כשהשימוש בשיבוטים יהפוך לשגרה, וההחלטות שיופקדו בידיהם יהיו קטנות, יומיומיות וקלות לביטול.

כתבה מאת מיכל בכר, הפקולטה למדעי החברה.