מדינת ניו יורק עשתה צעד משמעותי קדימה כדי להבטיח שהשימוש שלה ב-AI יתבצע באחריות. החקיקה לאחרונהחוק הסנאט S7543B, הידוע כחוק הפיקוח החקיקתי על קבלת החלטות אוטומטיות בממשלה (LoADing Act), מקים מסגרת מקיפה לשימוש של המדינה ב-AI ששמה דגש על שקיפות, אחריות והגנה על זכויות הפרט.
גם המושל Kathy Hochul חתמה על חוק אחבילת חקיקהשמחזק את ההגנות על הנתונים האישיים של הצרכנים. הוצ'ול אמר בהצהרה כי "תושבי ניו יורק לעולם לא צריכים לדאוג שמידע אישי שלהם יעשה שימוש לרעה או ייפול לידיים הלא נכונות. הוצ'ול אמרה כי חבילת החקיקה עליה חתמה מהווה "פעולה נועזת להטיל אחריות על חברות, לחזק את ההגנות ולהעניק לצרכנים את השקיפות והביטחון שהם צריכים ומגיעים להם".
חקיקת חוק ה-LOADinG מציבה את ניו יורק כמובילה בממשל האחראי של AI ומערכות אוטומטיות. באמצעות הפעלת מנגנוני פיקוח קפדניים, המדינה שואפת לרתום את היתרונות של ההתקדמות הטכנולוגית תוך שמירה על זכויות ורווחת תושביה.
מכיוון שבינה מלאכותית ממשיכה לחדור כמעט לכל היבטי המינהל הציבורי, העקרונות המתוארים בחוק הטעינה יכולים לשמש מודל למדינות אחרות המבקשות לאזן בין חדשנות לאחריות אתית. הדגש של המעשה על פיקוח אנושי, הערכות השפעה קבועות ושקיפות משקפים גישה מקיפה לשילוב טכנולוגיה בפעולות ממשלתיות מבלי לפגוע בזכויות הפרט.
המטרה העיקרית של חוק הטעינה היא להסדיר את הפריסה של מערכות אוטומטיות לקבלת החלטות על ידי סוכנויות מדינה. למערכות אלו, המוגדרות כתוכנה המשתמשת באלגוריתמים, מודלים חישוביים או טכניקות בינה מלאכותית כדי לקבל או לסייע בקבלת החלטות, יש פוטנציאל להשפיע על הטבות הסיוע הציבורי, חירויות האזרח, הבטיחות והרווחה. מתוך הכרה בכך, החקיקה מחייבת שכל סוכנות ממלכתית המשתמשת בטכנולוגיה כזו חייבת להבטיח שהיא כפופה ל"פיקוח אנושי רציף ומשמעותי". החוק החדש נועד למנוע החלטות אוטומטיות בלתי מבוקרות שעלולות להשפיע לרעה על זכויותיהם של אנשים.
חוק הטעינה "מחייב חשיפה של מערכות אוטומטיות לקבלת החלטות שכבר נמצאות בשימוש, אוסר על שימוש בלתי מורשה במערכות קבלת החלטות אוטומטיות על ידי סוכנויות או ישויות מדינה מטעם סוכנות ללא ביקורת אנושית משמעותית וכאשר, כאשר מורשים, דורשים פרסום של הערכת השפעה".
אבן יסוד בחוק החדש היא הדרישה מסוכנויות המדינה לבצע הערכות השפעה יסודיות לפני הטמעת מערכות אוטומטיות לקבלת החלטות. סוכנויות מדינה המתכננות להשתמש במערכות אוטומטיות לקבלת החלטות, כפי שמותר לפי סעיף 402 לחקיקה, חייבות להבטיח שמערכות אלו כפופות לפיקוח אנושי עקבי ומשמעותי.
לפני פריסת מערכת כזו, תחילה יש להשלים הערכת השפעה ולאישור על ידי אנשים שאחראים להבטיח פיקוח נאות ויישום חוקי של הטכנולוגיה. לאחר ההערכה הראשונית, סוכנויות נדרשות לערוך הערכת השפעה חדשה לפחות כל שנתיים. אם נעשו שינויים משמעותיים במערכת שעלולים לשנות את תוצאותיה או השפעותיה, יש לבצע הערכה חדשה. הערכות אלו משמשות סקירה מפורטת של אופן פעולת המערכת והשפעותיה הפוטנציאליות.
הערכות ההשפעה חייבות לכלול תיאור ברור של יעדי המערכת, הערכה של יכולת המערכת להשיג את יעדיה ביעילות והסבר מפורט על תכנון ופיתוח המערכת. ההערכה חייבת לכלול גם סיכום של האלגוריתמים, שיטות החישוב וכלי הבינה המלאכותית המשמשים, כמו גם מידע על הנתונים והתהליכים הכרוכים באימון ובתכנון המערכת.
בנוסף, סוכנויות המדינה חייבות לערוך בדיקות כדי להבטיח שהמערכת פועלת בצורה מדויקת, הוגנת וללא משוא פנים. כמו כן, עליהם להעריך אם המערכת מייצרת תוצאות מפלות על סמך גורמים כגון גזע, אתניות, דת, מגדר, נטייה מינית, מוגבלות או מאפיינים מוגנים אחרים. אם מזוהים פערים בתוצאות, ההערכה חייבת להתוות אסטרטגיות לטיפול בבעיות אלה ולמתן אותן. תהליך קפדני זה נועד להבטיח שמערכות קבלת החלטות אוטומטיות מיושמות בצורה אחראית, אתית ובאופן המקיים הוגנות ושוויון.
כדי לשמור על פיקוח שוטף, החוק קובע כי הערכות השפעה ייערכו לפחות אחת לשנתיים. יתר על כן, כל שינוי משמעותי במערכת קיימת העלולים לשנות את תוצאותיה מחייב הערכה חדשה. תהליך הערכה מתמשך זה נועד להבטיח שככל שהטכנולוגיה מתפתחת, היישום שלה יישאר בקנה אחד עם הסטנדרטים האתיים והאינטרס הציבורי.
השקיפות מתחזקת עוד יותר על ידי הדרישה שכל הערכת השפעה תוגש למושל, לנשיא הזמני של הסנאט וליושב ראש האספה לפחות שלושים יום לפני יישום המערכת. הוראה זו מקלה על פיקוח חקיקתי ומאפשרת קבלת החלטות מושכלת בדרגים הגבוהים ביותר של ממשל המדינה.
החוק מתייחס גם לתהליך הרכש על ידי איסור על סוכנויות מדינה לרכוש שירותים או מערכות המשתמשות בקבלת החלטות אוטומטית מבלי להבטיח ביקורת אנושית משמעותית. צעד זה מונע אימוץ של טכנולוגיות שעלולות להיות מזיקות ומעודד בחירת מערכות העומדות בסטנדרטים האתיים והמשפטיים של המדינה.
לפי החוק, "סקירה אנושית משמעותית" מתייחסת למעורבות פעילה של אדם אחד או יותר בפיקוח ובקרה על תהליך קבלת ההחלטות האוטומטי. אנשים אלה חייבים להיות בקיאים בסיכונים, מגבלות ופונקציונליות של המערכת, וחייבים לקבל הדרכה לגבי השימוש בה. הם מוסמכים להתערב בתהליך קבלת ההחלטות, ויש להם סמכות לאשר, לדחות או לשנות כל החלטה שהוצעה או התקבלה על ידי המערכת האוטומטית. זה מבטיח שהשיפוט האנושי יישאר מרכזי בהחלטות המושפעות מטכנולוגיה כזו.
במקרים שבהם הערכת השפעה מגלה שמערכת אוטומטית של קבלת החלטות מייצרת תוצאות מפלות או מוטות, החקיקה מחייבת את הרשות הממלכתית להפסיק לאלתר את השימוש בה. פעולה נחרצת זו מדגישה את מחויבותה של המדינה למניעת פגיעה ולשמירה על עקרונות ההגינות והשוויון.
חוק הסנאט S7543B מייצג גישה פרואקטיבית ולכאורה מחושבת היטב לשימוש אחראי בבינה מלאכותית על ידי הממשלה. על ידי קביעת קווים מנחים ברורים ומנגנוני פיקוח, ניו יורק מוכיחה את מחויבותה למינוף הטכנולוגיה בצורה יעילה ואמיתית. חוק הטעינה לא רק מתייחס לדאגות הנוכחיות, אלא הוא גם מהווה תקדים לממשל טכנולוגי עתידי, ומבטיח שככל שה-AI מתפתח, יישומו במדינה יישאר בקנה אחד עם ערכי הוגנות, שקיפות ואחריות.
החוק מחייב גם הערכות של פגיעויות אבטחת סייבר וסיכוני פרטיות, יחד עם פיתוח אמצעי הגנה כדי להפחית את כל הבעיות שזוהו.
משלימה את חוק הטעינה היא סדרת האמצעים החקיקתיים שחתם הנגיד הוכול בחוק העוסקים בהיבטים שונים של פרטיות דיגיטלית, אבטחה והגנת הצרכן. חוק אחד מחייב חברות מדיה חברתית להציג בבירור את תנאי השירות שלהן כדי ליידע את המשתמשים ולהגיש דיווחים על תנאים אלה ליועץ המשפטי לממשלה, עם עונשים על אי ציות. הצעת חוק נוספת מחזקת אמצעי הגנה לנתונים רפואיים וביטוחיים, במטרה להפחית את סיכוני גניבת זהות.
כדי לשפר את אבטחת הסייבר הממשלתית, חוק חדש נוסף מחייב את סוכנויות המדינה לרכוש סחורות ושירותי מחשוב המתואמים למסגרת אבטחת הסייבר של המכון הלאומי לתקנים וטכנולוגיה. בנוסף, עסקים מחויבים כעת להודיע לצדדים המושפעים על פרצות מידע תוך 30 יום ולהודיע מיידית למחלקת השירותים הפיננסיים אם תושבי ניו יורק נפגעים.
צעד נפרד אוסר על שימוש בפלטפורמות מדיה חברתית לגביית חובות, בעוד שהתקנות לשירותי היכרויות מקוונים הוחמרו, המחייבות גילויים ופרוטוקולים ברורים יותר לטיפול בחשבונות הונאה.
נושאי מאמר
|||||||
