המשרד לביטחון המולדת (DHS) פורסם זה עתהספר הפעלה עבור פריסת בינה מלאכותית יצירתית במגזר הציבורימתווה מסגרת מקיפה לשילוב בינה מלאכותית גנרטיבית (GenAI) באחריות בפעולות המגזר הציבורי. הדו"ח נותן עדיפות לשיקולים מרכזיים כמו פרטיות, אבטחה, זכויות אזרח, שקיפות ואימות מקוון.
DHS אמר, "ספר המשחקים נועד לפגוש ארגונים בכל מקום בו הם נמצאים במסע שלהם להבין ולשלב טכנולוגיית AI בעבודתם. כל ארגון במגזר הציבורי יכול להתחיל היום להעריך ולאסוף משאבים, לטפח רכישה פנימית ולהניח את הבסיס לפריסה יעילה של GenAI."
"ההוצאה של ספר המשחק הזה מסמנת צעד משמעותי קדימה במאמצים שלנו לשלב שימוש בטוח ומאובטח ב-AI באחריות וביעילות בתוך המגזר הציבורי", אמר מנהל המידע הראשי של DHS, אריק היסן. "על ידי שיתוף החוויות והשיטות המומלצות שלנו, אנו שואפים להעצים סוכנויות ממשלתיות אחרות למנף בינה מלאכותית בצורה שתשפר את המשימות שלהן תוך שמירה על הזכויות והפרטיות של האנשים שהם משרתים."
DHS אמר כי "ההתקדמות המהירה והמסחור של GenAI מציגים הזדמנויות וגם אתגרים משמעותיים עבור [DHS] וארגונים במגזר הציבורי בכל הרמות", וציין כי "בהתאם לצו ביצוע 14110, המדגיש את הפריסה האחראית של טכנולוגיות AI, [זה] יזמה באופן יזום תוכניות פיילוט של GenAI כדי לחקור את הפוטנציאל שלהן בשיפור יכולות המשימה שלנו."
"יוזמות פיילוט אלו סיפקו תובנות חשובות לגבי היישומים המעשיים של GenAI בתוך הפעילות שלנו", אומר DHS, ו"הדגישו את החשיבות של גישה מדודה ומתחשבת לאינטגרציה של AI, המבטיחה שהפריסות שלנו אחראיות, אמינות ואפקטיביות הגנה על הפרטיות, זכויות האזרח וחירויות האזרח".
מוקדם יותר השנה, ה-DHS פרסמה אמפת הדרכים של בינה מלאכותיתמתאר את תוכניותיו לתוך הבטחת זכויות הפרטיות, זכויות האזרח וחירויות האזרח של יחידים מוגנים.
אחד הנושאים המרכזיים של ספר המשחקים הוא שמירה על פרטיות הפרט במהלך פריסת GenAI. DHS מדגישה בקרות מחמירות על הטיפול בנתונים רגישים, במיוחד בתרחישים שבהם GenAI מתממשק עם מידע ציבורי או אישי. כדי להפחית סיכונים, DHS דורש קווים מנחים ברורים המגדירים אילו נתונים ניתן לשתף עם מערכות GenAI ומגביל שימוש לא מורשה.
הערכות השפעת הפרטיות הן חלק בלתי נפרד מהמסגרת הזו, ומבטיחות שכל השימושים ב-GenAI עומדים בחוקי הפרטיות והתקנות הפדרליים, אמר DHS. יתר על כן, ספר המשחקים מחייב פיקוח אנושי בהערכת תפוקות GenAI, ומחזק את העיקרון שכלים אלה חייבים להשלים את קבלת ההחלטות האנושיות במקום להחליף אותה לחלוטין. על ידי הטמעת אנשי מקצוע בתחום הפרטיות בצוותי פרויקטים משולבים בפיילוט, DHS sys יצרה תרבות של ניהול פרטיות פרואקטיבי הממזער סיכונים כגון פרצות מידע או חשיפה לא מכוונת של מידע רגיש.
ספר המשחקים גם מדגיש את הצורך באמצעי אבטחת סייבר חזקים בעת יישום מערכות GenAI. מתוך הכרה בפגיעויות הפוטנציאליות הגלומות במערכות AI, DHS פיתחה הנחיות אבטחה המותאמות לתשתיות קריטיות ויישומים במגזר הציבורי. אמצעים אלה כוללים הערכות סיכונים מקיפות, בדיקות מערכת לאיתנות יריביים ועמידה קפדנית בפרוטוקולי אבטחת סייבר קיימים.
פריסות GenAI חייבות להיות משולבות בסביבות IT מאובטחות, שלעתים קרובות דורשות תצורות מותאמות אישית או שימוש במודלים מיוחדים כגון מערכות AI בעלות משקל פתוח לפעולות לא מקוונות. DHS אומר כי יכולת ההסתגלות הזו חיונית במיוחד עבור יישומים רגישים כמו חקירות אכיפת חוק או שירותי הגירה שבהם אבטחת המידע היא מעל הכל. ספר המשחק גם מייעץ לניטור רציף של כלי GenAI כדי לאפשר זיהוי מוקדם והפחתה של איומי אבטחה.
הבטחת היישום האתי של GenAI היא אבן יסוד במסגרת של DHS. ספר המשחקים מדגיש שוב ושוב את החשיבות של התאמת השימוש בבינה מלאכותית עם זכויות חוקתיות, חירויות אזרח וחוקים נגד אפליה. אסור ל-GenAI להנציח או להחמיר הטיות, בין אם בנתוני אימון או בתפוקות שלהם. עיקרון זה הוא קריטי בתחומים כמו עיבוד הגירה, שבהם לכל הטיה אלגוריתמית יכולה להיות השלכות משמעותיות על אנשים.
כדי להגן על זכויות האזרח, DHS אומר שהוא שיבץ אנשי מקצוע פיקוח - כולל מומחי חירויות האזרח - בכל שלב בתהליך הפיילוט. גישה שיתופית זו מאפשרת זיהוי בזמן אמת של סיכונים ויישום פעולות מתקנות, תוך טיפוח אמון במערכות GenAI. לדוגמה, הדרישה לשקיפות והסבר בכלי GenAI מבטיחה שכל מחזיקי העניין, כולל הציבור, יכולים להבין כיצד מתקבלות החלטות.
שקיפות היא חיונית בבניית אמון בפריסות GenAI. DHS אומרת שהיא התחייבה לשתף בגלוי שימושים לא רגישים של GenAI באמצעות AI Use Case Inventory, משאב שנועד ליידע את הציבור ובעלי עניין אחרים על יישומי AI ברחבי המחלקה. יוזמה זו עולה בקנה אחד עם מנדטים ממשלתיים רחבים יותר לאחריות במערכות בינה מלאכותית.
ספר המשחקים גם מדגיש את החשיבות של משוב איטרטיבי ובדיקות שמישות כדי לחדד את כלי GenAI. מעורבות מחזיקי עניין, הן פנימית והן חיצונית, היא נושא שחוזר על עצמו. על ידי בקשת קלט ממשתמשים, גופי פיקוח והציבור, DHS אומר שהיא יצרה מנגנונים לשיפור השקיפות והשימושיות של המערכת תוך התייחסות לחששות מתעוררים.
למרות שאינו מוקד עיקרי, ספר המשחקים מתייחס בנוסף לאתגרי אימות מקוון בפריסת GenAI. הבטחה שמשתמשים ומערכות המתקשרות עם GenAI מאומתות כראוי היא אמצעי אבטחה בסיסי. DHS מציע לשלב את GenAI עם מסגרות אימות קיימות, כגון אימות רב-גורמי ואימות זהות דיגיטלית, כדי לחזק את שלמות המערכת. אמצעי הגנה אלו חשובים במיוחד ביישומים הכוללים גישה לנתונים סודיים או סביבות קבלת החלטות בעלות חשיבות גבוהה.
ספר המשחקים מגדיר שימוש אחראי ב-GenAI כהתאמת מערכות בינה מלאכותית לערכים דמוקרטיים ולמטרות חברתיות. אמינות מושגת באמצעות מאפיינים כמו אמינות, בטיחות, שקיפות והגינות. כדי ליישם את העקרונות הללו, DHS קבע קווים מנחים מקיפים להערכת מערכות GenAI, כולל הדיוק, הפרשנות וההשפעות הפוטנציאליות שלהן על זכויות האזרח.
DHS פיתחה גם תוכניות הכשרה כדי להבטיח שהעובדים בקיאים היטב ביכולות ובמגבלות של GenAI. תוכניות אלו שואפות להנחיל הבנה משותפת של שיטות בינה מלאכותיות אחראיות ברחבי מפעל ה-DHS. גישה זו לא רק מפחיתה סיכונים, אלא היא גם מטפחת תרבות של חדשנות אתית, אומר DHS.
ספר המשחקים גם דוגל במודל ממשל מובנה המשלב בעלי עניין מגוונים, ממומחים טכניים ועד אנשי מקצוע בתחום חירויות האזרח. על ידי בניית צוותים חוצי-פונקציות, DHS אומר שהוא הבטיח שפריסות GenAI נהנות מקשת רחבה של מומחיות ונקודות מבט. מבני ממשל מספקים גם מסגרת להתמודדות עם האתגרים האתיים, המשפטיים והתפעוליים שמציבה GenAI.
הDHS Playbook עבור פריסת GenAI במגזר הציבורימייצג צעד קריטי קדימה בשילוב בינה מלאכותית באחריות בפעולות ממשלתיות. על ידי התייחסות לפרטיות, אבטחה, זכויות אזרח, שקיפות ואימות מקוון, המסגרת מבטיחה שפריסות GenAI הן אפקטיביות והן מותאמת לערכים החברתיים.
הגישה ההוליסטית של ספר המשחקים לא רק מפחיתה סיכונים אלא גם מציבה סטנדרט לאופן שבו ארגונים במגזר הציבורי יכולים לרתום את הפוטנציאל הטרנספורמטיבי של AI בצורה אחראית ואתית. בעוד DHS ממשיך לשכלל את האסטרטגיות שלו, ספר המשחקים שלו משמש כמדריך יסוד לקידום בינה מלאכותית מהימנה בשירות של טובת הציבור.
נושאי מאמר
||||||
