לחוק ה-AI של האיחוד האירופי יהיו השפעות נרחבות על פני תעשיות שונות. אחד התחומים שבהם השימוש בבינה מלאכותית יוסדר הוא משהו שרובנו חווינו - מעברי גבול.
האיחוד האירופי בוחן כעת טכנולוגיית גבול חדשה באמצעות מספר פרויקטים של חדשנות, כולל אלה המסתמכים על ביומטריה. ביניהם ניתן למנות את Odysseus במימון Horizon Europe ו-FlexiCross שהסבירו לאחרונהסַדנָהכיצד הם משלבים את תקנת חוק AI ומנהלים דאגות אתיות וחברתיות בטכנולוגיות אבטחה לניהול גבולות.
"עדיין די מוקדם לומר איך היישום ילך", אומרת דנה אוניגה, מנהלת פרויקטים בחברת התוכנה הרומניתכְּחוֹל.
שני הפרויקטים בוחנים כיום טכנולוגיות גבול בגבולות מדינות כמו יוון, רומניה, מולדובה ובולגריה.
Odysseus נועד להקל על מעברי הגבול באמצעות אימות זהות חלק, דרכונים דיגיטליים ווירטואליים, התאמת פנים, אימות התנהגותי וטכנולוגיות אחרות כגון רחפנים. בפרויקט מעורבים 14 שותפים מ-12 מדינות באירופה, כולל חברות כמו Simavi וספקי טכנולוגיה ביומטריתו.
באופן דומה, FlexiCross (חוויה גמישה ומשופרת במעבר גבולות לנוסעים ורשויות) שואפת להגביר את אבטחת הגבולות תוך ייעול הניהול עם כלים כגון הערכת סיכונים חזויה, בדיקות ביומטריות, חילופי נתונים, ממשקי אדם-מכונה, מציאות מוגברת למודעות מצב ועוד. .
המשימה של הפרויקט היא לספק ערכת כלים הכוללת לפחות 20 מודולים. עם זאת, ניתוח הסיכון האתי שלה הראה הרבה תחומים שצריך לשפר, לדברי יואנה כריסטינה קוטוי, חוקרת משפטית ב-הנדסה הנדסה אינפורמטיקה SPA.
הסיכונים שהוערכו כללו הכל מהטיה וטיפול לא צודק בזיהוי ביומטרי ומערכות זיהוי דפוסים חריגים ועד התחשמלות ממזל"טים או מערכות ביומטריות לא תקינות.
"סיכון נוסף שזיהינו הוא המתח והחרדה המוגברים בקרב מטיילים עקב מעקב מתמיד ושימוש במערכות ניטור מתקדמות כגון רחפנים, סריקות טביעות אצבע ובדיקות ביומטריות אחרות במעברי הגבול", אומר קוטוי.
אבטחת מידע ובטיחות הופיעו כסיכון השולט, ואחריו חששות לגבי מעקב, סיכון לבריאות ובטיחות ובסופו של דבר הפרה של זכויות מטיילים כגון חופש ושוויון. FlexiPass המציא מגוון אסטרטגיות כדי להפחית אותן.
על פי הניתוח שלהם, יש לטפל בהטיה על ידי הבטחת גיוון באיסוף הנתונים במהלך אימון האלגוריתמים, חידוד אלגוריתמי זיהוי ומתן אפשרויות סינון חלופיות. יש לצמצם מעקב או שימוש בלתי הולם בטכנולוגיה, במיוחד זיהוי ביומטרי על ידי אכיפת בקרת גישה קפדנית.
לבסוף, יש להציע לנוסעים תמיכה כאשר הם לחוצים בעוד שרשויות הגבול צריכות ליישם תהליך בדיקת גבולות ברור ושקוף. באופן מפתיע, אמצעי הפחתה נוסף היה צמצום השימוש בטכנולוגיות בכל הזדמנות אפשרית.
אודיסאוס, לעומת זאת, הציג נוהל לניתוח משפטי וסיווג ברמת הסיכון באמצעות כלים של האיחוד האירופי כגון EU AI Act Compliance Checker ו-ALTAI (Assessment List for Trustworthy Artificial Intelligence). בעקבות ההערכות, הפרויקט יציג אמצעי ציות.
"יש הרבה שאלות שצריך להעלות כשאנחנו מדברים על היבטים אתיים", אומר אוניגה. "יש שלטון חוק, יישום, הסבר, בדיקות ואימותים שצריך לעשות, איכות השירות".
נושאי מאמר
|||||||||
