קבוצות זכויות דורשות עדיפות לזכויות אדם ביישום חוק בינה מלאכותית

קבוצה של יותר מ-20 ארגוני זכויות אזרח חתמה על מכתב הקורא לנציבות האירופית לתת עדיפות לזכויות אדם בגיבוש הקווים המנחים הקרובים ליישום חוק הבינה המלאכותית, לרבות אמצעים טובים יותר למערכות ביומטריות - אחד הנושאים השנויים במחלוקת בחקיקה.

הנחיות חוק AI נועדו לציין את היישום המעשי של ספר החוקים, שנכנס לתוקף באוגוסט אשתקד. קבוצות זכויות הדגישו קווים מנחים הקשורים לזיהוי ביומטרי מרחוק, סיווג ביומטרי לפי גזע, מגדר וסמנים אחרים, גירוד תמונות פנים מהאינטרנט וזיהוי רגשות.

כל מקרי השימוש בבינה מלאכותית הללו נחשבים כ"סיכון בלתי מתקבל על הדעת" לזכויות היסוד והם אסורים, על פי חוק הבינה המלאכותית. החוק, לעומת זאת,לנסיבות ספציפיות, לרבות למטרות אכיפת חוק.

חוק הבינה המלאכותית צריך לציין שפיתוח זיהוי ביומטרי מרחוק לייצוא נופל תחת האיסור. הארגונים אומרים גם שלא צריך להספיק שכוחות המשטרה יציבו שלט או יחלקו פליירים האומרים שאזור מסוקר כדי להבטיח את חוקיות המעקב הביומטרי. לבסוף, הקבוצות קוראים לאסור על זיהוי ביומטרי בדיעבד (RBI).

"בעוד שאנו ממשיכים לקרוא לאיסור מלא על RBI בדיעבד על ידי גורמים פרטיים וציבוריים, אנו קוראים שסעיף 'עיכוב משמעותי' יהיה לפחות 24 שעות לאחר הלכידה", הקבוצותלוֹמַר.

האיסור הנוכחי על גירוד לא ממוקד של תמונות פנים משאיר מקום לפרצות בעייתיות: מערכות כמואוֹ, המתיימרים לשמור רק מידע ביוגרפי או כתובות URL ולא תמונות הפנים בפועל נופלות כיום מחוץ לאיסור ועל הנציבות לשקול למחוק את ההגדרה המוצעת של מאגר תמונות פנים כדי למנוע זאת.

יש להרחיב את איסור הסיווג הביומטרי כך שיכלול קטגוריות כמו "אתניות" ו"זהות מגדרית". ארגוני זכויות האזרח מצפים גם שחברות ינסו להסוות מוצרים לזיהוי רגשות ככלי בריאות ובטיחות כדי לברוח מהאיסור וקוראים למחוקקים באיחוד האירופי להגדיר בבירור את ההבדל בין המערכות הללו.

יש לכלול מפרטים אלה בהנחיות חוק הבינה המלאכותית כדי למנוע נשק של טכנולוגיה נגד קבוצות שוליים ושימוש בלתי חוקי במעקב ביומטרי המוני. האיחוד האירופי צריך גם להבטיח שהתייעצויות עתידיות הקשורות ליישום ספר החוקים יתנו קול משמעותי לחברה האזרחית ולקהילות המושפעות, כך מסכמים הקבוצות.

החותמים כוללים Privacy International, Access Now, European Digital Rights (EDRi), AlgorithmWatch, Amnesty International ועוד.

ההנחיות של הנציבות האירופית עבור רשויות לאומיות וספקי AI ומפריצים אמורים להיות. בדצמבר, משרד הבינה המלאכותית האירופיהתייעצות שמטרתה להגדיר מערכות בינה מלאכותית ושיטות AI האסורות המשמשות לגיבוש ההנחיות.