בעוד שהמשרד לביטחון המולדת של ארה"ב (DHS) מפתח מדיניות ונהלים לטיפול בסיכון הטיה מטכנולוגיות המשתמשות בבינה מלאכותית,בְּדִיקָהעל ידי משרד האחריות הממשלתית (GAO) מצא כי למחלקה אין מדיניות או נהלים "כדי להעריך סיכוני הטיה משימוש בכל טכנולוגיית הזיהוי, התצפית והניטור" שנפרסת בכל הסוכנויות המרכיבות אותה.
GAO מצא עוד כי בעוד ש"סוכנויות אכיפת החוק של DHS עשויות לבקש עצה מהמשרד לזכויות האזרח וחירויות האזרח (CRCL) בנושאי הטיה הקשורים לשימוש בטכנולוגיה... אין דרישות לעשות זאת. כתוצאה מכך, רמת הסקירה של CRCL של טכנולוגיות איתור, תצפית וניטור השתנתה".
"על ידי פיתוח מדיניות ונהלים כדי להעריך ולטפל בסיכון להטיה הנובעת מהשימוש של סוכנויות אכיפת החוק של DHS בטכנולוגיות זיהוי, תצפית וניטור, CRCL יכולה לעזור להבטיח שטכנולוגיות אלו אינן פוגעות בזכויות האזרח וחירויות האזרח על ידי הכנסת הטיה, " אמר GAO.
לפי ה-GAO, הבעיות הללו קיימות מאז ספטמבר 2023, כאשר דיווח ש-DHS - ומשרד המשפטים - "יכולים לעשות יותר כדי להבטיח שההכשרה והפרטיות יתקיימו. באותה תקופה, GAO הציע עשר המלצות, כולל שאכיפת ההגירה והמכס (ICE) תקים ויישמה תהליך למעקב תקופתי אם צוות המשתמש בשירותי זיהוי פנים לתמיכה בחקירות פליליות השלים דרישות הכשרה".
כדי לבצע את משימתו להגן על האומה, DHS פנה יותר ויותר לטכנולוגיות זיהוי, תצפית וניטור מתקדמות, מקוראי לוחיות רישוי אוטומטיים ועד למערכות זיהוי פנים מונעות בינה מלאכותית, מה שמגביר באופן משמעותי את יכולות המעקב של DHS. אבל, כפי שחשפה ביקורת של GAO, ארסנל טכנולוגי זה נושא השלכות עמוקות על הפרטיות ועל הסיכון להטיה, ויוצר צומת עמוס של חירויות ביטחון וחירויות אזרחיות.
הפריסה של DHS של למעלה מ-20 סוגי טכנולוגיות מעקב במרחבים ציבוריים מייצגת הרחבה דרמטית של טווח התצפית שלה. רבים מהכלים הללו פועלים ללא צורך בצו, וממנפים את ההנחה שאנשים במרחב הציבורי אינם יכולים לצפות לפרטיות באופן סביר. לדוגמה, קוראי לוחות רישוי אוטומטיים ומצלמות עמודים, המותקנות לרוב לעין או מוסתרות על עמודי שירות, לוכדים זרם רציף של נתונים, כולל מידע על לוחיות רישוי וצילומי וידאו בחדות גבוהה. בנוסף, תוכנה אנליטית, חלקן מופעלת על ידי AI, משפרת את היכולת לזהות, לעקוב ולנתח דפוסי פעילות.
מערכות כאלה, אמנם חשובות לאין ערוך בחקירות פליליות ובפעולות אבטחת גבולות, מעוררות גם דאגות משמעותיות בנוגע לפרטיות הפרט. היכולת של טכנולוגיות אלו לאסוף ולנתח מידע אישי מזהה (PII) – מלוחיות רישוי ועד נתונים ביומטריים – מעלה את רוח הרפאים של מצב מעקב שבו עוקבים בקפדנות אחר תנועותיהם והאסוציאציות של אנשים.
ביקורת ה-GAO מדגישה ש-DHS לא יישם באופן אחיד מדיניות המתייחסת להגנת הפרטיות המרכזית על פני מערך הטכנולוגיות שלו. GAO מצא כי העקרונות הבסיסיים של פרטיות - מזעור נתונים, מפרט מטרה, אבטחת נתונים, מגבלות שמירה ואחריות - מיושמים באופן לא עקבי על פני סוכנויות המרכיבים של DHS כגון ICE, מכס והגנה על גבולות (CBP), והשירות החשאי.
לדוגמה, בעוד שהמדיניות של CBP עבור מצלמות לא סמויות שנלבשות על הגוף משלבות את כל שש הגנות הפרטיות המתוארות בהנחיות DHS, המדיניות שלה עבור מצלמות עמודים אינה מתייחסת לאף אחת מהן. באופן דומה, המדיניות של ICE עבור קוראי לוחיות רישוי אוטומטיים מכסה היטב את אמצעי ההגנה על הפרטיות, אך אלה של מצלמות עמוד וטכנולוגיות אחרות הן פחות מקיפות.
GAO אמר כי "DHS עורך הערכות השפעת פרטיות כדי לספק לציבור מידע על האופן שבו הסוכנות מתכננת לטפל בהגנות מרכזיות על פרטיות", אך יש צורך במדיניות... כדי לכוון את העובדים כיצד עליהם ליישם את הגנות הפרטיות הללו בעת שימוש בטכנולוגיה מסוימת. על ידי דרישה שמדיניות השימוש בכל טכנולוגיה תתייחס להגנת הפרטיות המרכזית, לסוכנויות DHS תהיה ביטחון טוב יותר שהגנות הפרטיות מיושמות ושמשתמשי הטכנולוגיה מודעים לאחריותם להגן על הפרטיות".
ללא הנחיות ברורות, אמר GAO, אנשי הסוכנות עלולים בטעות לעשות שימוש לרעה בנתונים או לא ליישם אמצעי הגנה נחוצים, ולחשוף אנשים לסיכונים של מעקב לא מורשה והפרות מידע. יתרה מזאת, הסתמכות על הערכות השפעת פרטיות (PIAs) כדי ליידע עובדים על חובות פרטיות הוכחה כלא מספקת, אמר GAO, וציין כי PIAs, למרות כלי שקיפות קריטי, לרוב חסרים פרטים תפעוליים ואינם מותאמים לניואנסים הספציפיים של טכנולוגיות בודדות.
המרכיבים את האתגרים הללו היא התופעה המכונה "אפקט הפסיפס", שבה נצברים פיסות נתונים שונות ממקורות שונים כדי ליצור דיוקן מפורט וחושפני של אדם. לדוגמה, קוראי לוחיות רישוי אוטומטיים הלוכדים את מיקומי הרכב, בשילוב עם נתוני זיהוי פנים ותשומות מעקב אחרות, יכולים להניב תובנות לגבי שגרת יומו של אדם, אסוציאציות ואפילו השתייכות פוליטית או דתית.
הממצאים של GAO מדגישים כי יכולות כאלה, אף שאינן בלתי חוקיות מטבען, מהוות השפעה מצמררת על פעילויות המוגנות חוקתית כגון חופש הביטוי והתכנסות. הידיעה או התפיסה של מעקב מתמיד עשויים גם להרתיע אנשים מלהשתתף במחאות פומביות או לעסוק בצורות אחרות של התנגדות.
מעבר לדאגות הפרטיות הברורות, הביקורת של GAO מאירה אור קריטי על הסיכונים של הטיה בפריסת הטכנולוגיה של DHS. בעוד שלכלים מונעי בינה מלאכותית יש הבטחה לשיפור היעילות והדיוק של המעקב, הם גם מגבירים את הסיכון להטיות מערכתיות ואלגוריתמיות.
דוח הביקורת של GAO מדגיש כי מדיניות ונהלים קיימים של DHS נופלים בהתייחסות לסיכונים אלה באופן מקיף. בעוד שהמחלקה מפתחת הנחיה להערכת והפחתת הטיות ספציפיות לבינה מלאכותית, היא לא הרחיבה את המאמצים הללו כדי להקיף את החבילה הרחבה יותר של טכנולוגיות איתור, תצפית וניטור. חוסר הפיקוח הזה מותיר פערים משמעותיים בשמירה על חירויות האזרח, במיוחד עבור קהילות מודרות שמושפעות באופן לא פרופורציונלי מנגנוני מעקב.
GAO ציין כי "בעוד ש-DHS מפתחת מדיניות ונהלים כדי להבטיח שטכנולוגיות AI יוערכו על הטיה, אין לה תוכניות לפתח מדיניות או נהלים כאלה לטכנולוגיות זיהוי, תצפית וניטור אחרות", כי "זה לא נדרש לכך. ” GAO הוסיף כי "CBP, ICE והשירות החשאי הצהירו שאין להם מדיניות או נהלים להעריך את השימוש שלהם בכל טכנולוגיית זיהוי, תצפית וניטור במיוחד עבור הטיה".
בינתיים, ההשלכות של מעקב מוטה הן מרחיקות לכת. זיהוי שגוי ומיקוד מפלה עלולים להוביל למעצרים שגויים, חקירות פולשניות, והתמוטטות אמון בין רשויות אכיפת החוק והקהילות שהם משרתים. יתרה מכך, החלטות לגבי היכן וכיצד לפרוס טכנולוגיות מעקב - כמו תעדוף אזורי פשיעה גבוהים - יכולות להעצים בטעות פערים גזעיים וכלכליים בשיטות אכיפת החוק.
הביקורת של GAO אינה רק מתעדת את החסרונות הללו; הוא מספק מפת דרכים לרפורמה. בין ההמלצות שלה ניתן למנות פיתוח של מדיניות ונהלים חזקים כדי להעריך ולהפחית הטיות בכל טכנולוגיות המעקב, לא רק באלה המופעלות על ידי AI. אמצעים כאלה יסייעו להבטיח שטכנולוגיות DHS לא ישפיעו באופן לא פרופורציונלי על קבוצות ספציפיות או יפגעו בזכויות האזרח.
דוח הביקורת גם מדגיש את הצורך של DHS לשפר את הגנת הפרטיות שלו על ידי הטמעתם ישירות במדיניות התפעולית של כל טכנולוגיה. מדיניות זו צריכה לנסח קווים מנחים ברורים לגבי איסוף, שמירה ושיתוף של נתונים, כמו גם לאכוף אחריות באמצעות ביקורת וסקירות פיקוח.
יתר על כן, GAO קורא לשקיפות רבה יותר ושיתוף פעולה בין DHS והמשרד לזכויות האזרח וחירויות האזרח שלו. על ידי דרישהכדי להתייעץ עם CRCL על הטיה אפשרית והשלכות פרטיות לפני פריסת טכנולוגיות חדשות, DHS יכול לטפח תרבות של אחריות וערנות אתית, אמר GAO.
הנושאים שהועלו על ידי ביקורת GAO משתרעים מעבר ל-DHS, ומשקפים ויכוחים חברתיים רחבים יותר על תפקידה של הטכנולוגיה בממשל ובאכיפת החוק. התפשטותם המהירה של כלי מעקב גברה על פיתוחן של מסגרות משפטיות ואתיות להסדרת השימוש בהם. פיגור רגולטורי זה משאיר מקום לניצול לרעה של כוח ולשחיקת אמון הציבור במוסדות שנועדו להגן ולשרת.
כפי שממחישה הביקורת של GAO על DHS, אתגרי הפרטיות וההטיה בטכנולוגיה אינם בלתי עבירים, אך הם מחייבים מאמץ ומחויבות משותפים. על ידי יישום המלצות ה-GAO, DHS יכול ליצור תקדים לשימוש אחראי ושוויוני בטכנולוגיות מעקב - איזון בין ציווי הביטחון הלאומי לבין זכויות היסוד של האנשים שהוא משרת.
השאלה היא לא האם הטכנולוגיה תמשיך למלא תפקיד מרכזי באכיפת החוק, אלא האם השימוש בה יונחה על ידי עקרונות המקיימים את הכבוד, השוויון והפרטיות של כל הפרטים. ההימור, כפי שמבהירה בבירור ביקורת GAO, לא יכול להיות גבוה יותר.
נושאי מאמר
||||||||
