מאת פרופסורפרייזר סמפסון, לשעבר נציב מצלמות ביומטריה ומצלמות מעקב בבריטניה
מאז שחר הטכנולוגיה, היינו בקשר עם הכלים שלנו. כך אומר ג'ורג' דייסון ב"אנלוגיה" שם הוא ממפה את האבולוציה המעגלית שלנו משבבי צור למיקרו. בקפיצה מ-Adze ל-Azure, קרבה עשויה להיות אחת הסיבות מאחורי האינסטינקטים המוקדמים של שוכני הקוד שלנו לפיהם בינה מלאכותית (AI) חייבת להיות 'ניתנת להסבר'. אבל זה יניח שכל הטכנולוגיות האחרות בשימוש נפוץ מובנות באופן מיידי ומלא על ידי כל המשתמשים בהן. לא הכרנו הרבה מהכלים שלנו כבר זמן מה, ואתה לא צריך לחזור לשחר הטכנולוגיה כדי לראות את זה - אי שם בסביבות אמצע הבוקר. כשאנשים פרקו את מחשב המקינטוש הביתי הראשון שלהם, כמה הבינו את פעולתו של ממשק המשתמש הגרפי שלו? ההורים שלי לא. מצביעי מחשב התפתחו מ-CAT לעכבר; עם הגעת משטח המגע לא היה צורך לתפוס לא את המכשיר ולא את התיאוריה שלו, רק קבל את כושר ההמצאה שמאפשר לנו לעבוד מרחוק. מדוע אם כן צריכה טכנולוגיה שמקורה בינה מלאכותית להיות שונה?
דבר אחד ב-AI שאינו שונה מתקופות קודמות הוא הפחד האטוויסטי שהוא מעורר. כמה ויכוחים על עצם קיומה של AI יכולים באותה קלות להיות על מכשפות. אין שום דבר חדש בנאופוביה, אפילו כשהאגודלים המנוגדים שלנו נוקשים בכל הכיתות. מלבד אמונות טפלות עתיקות, ישנן מספר סיבות אמפירית מדוע AI עשוי להזדקק להסבר ספציפי, והראשונה היא האבולוציה - לא שלנו אלא הכלים שלנו. בין אם נהנינו מהבנה עמוקה עם המכונות התעשייתיות שלנו עד כה ובין אם לאו, הפעם הכלים יוכלו להתפתח בלעדינו (או אפילו למרות)נו. זו אולי (עדיין) לא אבולוציה במובן הביולוגי, אבל הכשרון להנצחה עצמית וחיקוי ראויה להסבר.
הכלים של העידן הבא יוכלו ללמד את עצמם ולהיות בקשרי דיבור אחד עם השני, מעבר לפרמטרים של התכנות הראשוני שלהם. כלים אוטודידקטיים ואידיואלקטיים הם יותר מגרסה 2.0 של כל מה שהיה קודם. הם זן חדש וההתמודדות עם ההשלכות שלהם דורשת יותר מאשר מיומנות דיגיטלית, במיוחד כאשר הם משמשים את המדינה. בינה מלאכותית כנראה צריכה להסביר את עצמה כי היא יכולה.
סיבה נוספת לכך שכלי AI צריכים להיות ניתנים להסבר היא קבלת החלטות אוטומטית. קופסאות שחורות בלתי מוסברות מובילות חזרה לכישוף של כובע המיון; עם כלים מהחיים האמיתיים אנחנו צריכים לדעת איך ההחלטות שלהם מתקבלות. באשר לבני האדם שנמצאים במעגל שעליו אנו תוקעים כל כך הרבה, אם הם יתערבו ויעקפו החלטות בינה מלאכותית, מוטב שבני האדם יהיו יותר מאשר רק דיבורים עם הכלים שלהם. ההסבר הוא תיאור התפקיד שלהם.
ושם הכלים המשמשים את המדינה לקבלת החלטות עלינו, על חיינו, על חירותנו ועל פרנסתנו, הצורך בהסבר הוא הגדול ביותר. קחו דוגמה שיטורית. בין אם נהגים מבינים אותם ובין אם לא, אנחנו משפשפים יחד עם מצלמות מהירות במשך עשרות שנים. איך ייראו ויישמעו ויחשבו כלי בטיחות בדרכים התומכים בבינה מלאכותית? אם הם מדברים עם הטלמטיקה שלנו ברכב, הם יידעו מה עשינו מאחורי ההגה בשנה האחרונה, לא רק במייל האחרון. האם הם יהיו ביחסי דיבור עם מושבעים, בתי משפט וחקירות ציבוריות, ישחזרו אירועים שהתרחשו לפני שהם בכלל הומצאו, יחד עם כל הצלילים, הריחות והתחושה הנלווים, ולא רק תמונות וסטטיסטיקות? הרבה תלוי בסוג הבינה המלאכותית המעורבת, אבל אפילו בינה מלאכותית צרה העניקה למשטרה טווח הגעה חדש כמו ביומטריה מרחוק. התאמת נתונים היסטוריים לביטול והשלכה היא דבר אחד, אבל כוח קבלת ההחלטות הפוטנציאלי של AI הוא התמורה האמיתית. בינה מלאכותית תאיץ את השיטור האקטוארי כמו מאיץ ההדרונים הגדול של אכיפת החוק (בניכוי 10,000 מדענים ומחזור פרויקטים בן עשר שנים). אם נוכל לחזות תאונות, למנוע תקריות ולמנוע עבריינות, לחסוך זמן, כסף וחיים באמצעות AI, האם זה לא יהיה עברייני מוסרית שלא? זה יצטרך ממשל ערני יתר מלווה בהסבר חד משמעי. מַדוּעַ? מחקר שנערך לאחרונה ב-CENTRIC דיווח שכמעט שלושה מתוך ארבעה משתתפים ב-30 מדינות הסכימו שהמשטרה צריכה להשתמש בבינה מלאכותית כדי לחזות פשעים לפני שהם מתרחשים (74.3%). זהו צעד אבולוציוני קצר מאוד - ואולי שאי אפשר לעמוד בפניו - עבור הכלים לנסות לזהות את העבריין העתידי. בדרך זו שוכנת גלקסיה עצומה של חומר אפל.
לבסוף, AI משבשת את הדומיננטיות של אבותינו. דייסון הגיע למסקנה שאנחנו הולכים ל"עולם שבו בני אדם מתקיימים יחד עם טכנולוגיות שהם כבר לא שולטים בו". אולי ההבדל הגדול ביותר של AI טמון כאן, עם הצגת הסדר חלוקת הכוח הראשון עם הכלים שלנו, המחליף את הסמכות המוחלטת שלנו עליהם ומביא את הסיכוי שאולי נצטרך להסביר להם את עצמנו.
אם תמיד נהנינו מיחסים אינטימיים עם הכלים שלנו בעבר, אנחנו כנראה הדור האחרון שבו זה מחזיק מעמד. ככל שהכלים שלנו התרבו, ירדנו לאחור וכעת אנחנו בקושי נהנים מהנהנים עם מכשירים שמחזקים את חיי היומיום שלנו.
להיות 'בתנאי דיבור' מתאר מוכנות הדדית לעסוק. מנקודת מבט אחת, שלנו הוא למעשה הדור הראשון שמדבר עם הכלים שלו - והראשון מאז שחר הטכנולוגיה שבו הכלים שלנו אולי לא נמצאים בקשר איתנו. זה ראוי להסבר.
על המחבר
פרייזר סמפסון, לשעבר נציב מצלמות ביומטריה ומצלמות מעקב בבריטניה, הוא פרופסור לממשל וביטחון לאומי ב-CENTRIC(המרכז למצוינות בטרור, חוסן, מודיעין וחקר פשע מאורגן) ומנהל לא ביצועי ב-.
נושאי מאמר
||||
