מתקדם בקצב מהיר. החוקים והשיטות החברתיות שלנו לא עומדים בקצב. בעלי עניין מגוונים, מרגולטורים ועד אמנים, מביאים קשת רחבה של דאגות לשולחן. המודעות הציבורית עדיין נמוכה יחסית, ויש צורך בחינוך נוסף. הטרמינולוגיה הפועלת אינה יעילה ומיושן. החולשה הקולקטיבית שלנו בזיהוי מדיה מזויפת ושימוש בחשיבה ביקורתית יכולה להוביל להשלכות משנות חיים עבור אלה שנפגעו. בינתיים, איומים פוטנציאליים על תוצאות הבחירות עלולים להיראות מוגזמים - אבל מכיוון שתוכן מזויף מסוגל להתפשט במהירות דרך רשתות חברתיות, הוא יכול לשחוק את מארג האמון החברתי הכולל ולזרוק את האמת לכאוס של אי ודאות.
מה אנחנו יכולים לעשות? בזמן האחרוןסדנת deepfakeבהנחיית האגודה האירופית לביומטריה (EAB), קבוצת מומחים שוקלת כיצד ניתן לשלב חקיקה, רגולציה, חינוך וטכנולוגיה להגנה יעילה מפני האיום העמוק המתהווה. השאלה הגורפת היא חמורה ביותר: כשזה מגיע לזה, מה המציאות שווה לנו?
יצירת וזיהוי עמוק של זיוף ב'מירוץ עכברים' מחזורי: פיטר אייזרט
עבור פיטר אייזרט, ראש טכנולוגיות חזון והדמיה ויו"ר המחלקה למחשוב חזותי באוניברסיטת הומבולדט, היצירה והזיהוי של זיופים עמוקים נתפסים בסוג של לולאה חוזרת. ריבוי כלים מזויפים עמוקים שקל לגשת אליהם הוביל לשכלול מתמשך. Eisert משתמש בדימוי של גלגל אוגר כדי לסמל את המאמץ המתמשך לפתח בינה מלאכותית שיעילה בזיהוי אלה יותר ויותר.
"ראינו עלייה עצומה באיכות הזיוף העמוק", אומר Eisert. במירוץ העכברים בין בינה מלאכותית מכוונת הונאה ובינה מלאכותית הגנתי, אסטרטגיות זיהוי חייבות להתפתח במקביל לדפוסי התקפה.
Eisert מתאר סוגים שונים של זיוף פנים עמוק.לשים פנים של מישהו על הגוף של מישהו אחר. שחזור פנים מבצע מניפולציות על הבעות פנים או תנוחות. ניתן ליצור זיופים עמוקים סינתטיים לחלוטין עם מודל GAN או דיפוזיה. השיטות ממשיכות להתפתח: Eisert מצביע על "התזת גאוס" - טכניקה חדשה שמניבה זיוף פנים עמוק ברזולוציה גבוהה. כל איטרציה חדשה מציגה סוגים שונים של חפצים המופיעים במקומות שונים ובהקשרים שונים.
אם זיהוי הזיוף העמוק אמור לעמוד בקצב הדור, הוא חייב להתפתח בזמן. גלאי זיוף עמוק נוכחיים רבים מבוססים פריים אחר פריים. אבל Eisert אומר שהם צריכים להסתכל על השפעות זמניות ו"חוסר עקביות לאורך זמן" - מידע סמנטי וזמני בתוכן, כמו קצב לב או זרימת דם זמנית בפנים, למשל - כאינדיקטורים פוטנציאליים.
אחשוב גם. אם מערכי נתונים כוללים יותר מדי חפצים שקל לזהות, דגמי בינה מלאכותית יקפצו בקלות על החפצים האלה, ולא יכללו היטב. "אנו זקוקים לנתוני זיוף עמוק באיכות גבוהה כדי להכשיר גלאים חזקים", אומר Eisert, כדי "להקשות על תוקפים חדשים למצוא את החורים בחלל הסמוי שלך שאינם מכוסים על ידי הגלאי שלך."
אסטרטגיות הדרכה כגון AltFreezing או Real Forensics מציעות דרכים שונות לבעיה כיצד לאמן גלאים לשים לב למאפיינים הזמניים. ישנן אפשרויות נוספות: פרמטרים של הבעות פנים וטביעת אצבע אווטאר - טכנולוגיית מזהה משתמש שפותחה על ידי NVIDIA - המשתמשת בדינמיקה של הפנים עבור.
ההשלכות העיקריות מ-Eisert הן שהעקביות הזמנית עדיין לא מנוצלת במלואה לזיהוי, ויש צורך בערכות נתונים באיכות גבוהה עם מגוון רחב של נתונים לאימון.
"לא קל לעין האנושית לזהות זיופים עמוקים": אן-קתרין פרייברג
Ann-Kathrin Freiberg של BioID, שעשתה לאחרונה שיחת צהריים של EAB על זיופים עמוקים, מביאה פרספקטיבה של התעשייה לסדנה. היא מדגישה הרבה מאותן נקודות מהשיחה הקודמת: זיופים עמוקים משמשים לפעילויות פליליות כמו פישינג, הונאות שיחות וידאו למנכ"ל, הונאות רומנטיות וברובן -, שאליו משויכים יותר מ-90 אחוז מתוכן ה-deepfake.
טכנולוגיית Deepfake היא גם איום על הדמוקרטיה. קמפיינים של דיסאינפורמציה מזויפים שגורמים להתערבות בבחירות יכולים להתפשט במהירות, עם תוכן שמסתובב וזוכה לאלפי צפיות בתוך שעות. גם אם סרטון עבר מניפולציות, אומר פרייברג, "הרבה אנשים כבר ראו אותו".
למרבה הצער, אנשים אינם מצוידים היטב לזיהוי; העין האנושית עדיין עושה עבודה די גרועה, וזה רק יהפוך לקשה יותר ככל שהטכנולוגיה ליצור זיופים עמוקים תשתפר. יתר על כן, נראה שלחלקם לא אכפת אם אישי ציבור מסוימים אינם אמיתיים. פרייברג מצביעה על סנסציית האינסטגרם איטנה לופז, דוגמנית דיפפייק (או "נשמה וירטואלית") שיש לה 329,000 עוקבים ומכניסה אלפי יורו בחודש עבור הסוכנות הספרדית שיצרה אותה. "לאנשים לא באמת אכפת שהיא נוצרת בינה מלאכותית", אומר פרייברג.
כדי לרסן גם איומים בודדים כמו גניבת זהות ופגיעה במוניטין, וגם איומים חברתיים כמו התערבות בבחירות, שיטות זיהוי עמוק מזויפות חייבות להישאר מעודכנות. זה בינה מלאכותית מול בינה מלאכותית בזירת ה-deepfake, אבל ההתאמה היא לא רק גלדיאטורי - ולא ניתן לנצח רק על ידי אלגוריתם. פרייברג מאמין במפתח לאפקטיביותהיא גישה הוליסטית המשלבת אוריינות מדיה (מודעות למה שאנו חולקים וכיצד) עם רגולציה כגון חוק הבינה המלאכותית של האיחוד האירופי, ופתרונות תמיכה טכנית כגון סימון מים וניתוח מקור מצלמה.
'המעגל נסגר כאן': מתאוש לאבוז
איתור זיופים עמוקים פירושו קודם כל להגדיר אותם. כך אומר מתאוש לאבוז מאוניברסיטת קמניץ לטכנולוגיה. לאבוז מבחין בין ההיבטים הטכניים, הטיפולולוגיים, האפקטיביים והסובייקטיביים של זיופים עמוקים. כל אלה מתארים את הגישה ההוליסטית הדרושה כדי להילחם בהם.
הדיבור של לאבוז נטה מ"קיבעון טכני" כדי לקלוט את כולו. הטכנולוגיה זקוקה למסגרת הנכונה, הוא אומר. זה אומר להבין לא רק את היקף הבעיה, אלא גם את טבעה.
למשל, הנושא שלהוא נושא של בטיחות נשים, שכן 99 אחוזים מהפורנו המזויף הוא של נשים. נשים שהיו קורבנות לזיופים עמוקים סובלות מהשלכות פיזיות ופסיכולוגיות ארוכות טווח.
קשר את זה לעובדה ש-98 אחוז מהווידאו המזויף קשור לפורנו, ויש לך זיוף עמוק כאיום גדול במיוחד על נשים.
מהצד השני, עדיין יש מקום למגוון שימושים לזיופים עמוקים, ולתגובה הולמת. ולהשפעות של הפרעה מינימלית אפילו ממתקפות מזויפות עמוקות יכולות להיות השלכות שמהדהדות על פני המערכת האקולוגית הביטחונית, מהתדלוקלפגיעה באמון בתקשורת ובמידע.
התקנות, אומר לאבוז, נופלות לעתים קרובות מהאמצעים המתאימים להגנה על המשתמשים. הוא גם דן בהגנות כמו סימון מים, גיבוב ביומטרי וטכניקות אחרות שניתן להשתמש בהן כדי לאמת מדיה. צעדי הנגד חייבים לחרוג מהמישור המשפטי, ויש צורך בהשקעה וכלים אנושיים והון. יש להתאים את הטכנולוגיה למודעות,, חוסן ודרכים להפחתת הגברה. יש להוכיח אכיפה אפקטיבית.
לאבוז אומר "המעגל נסגר כאן". החברה חייבת לנוע מהר יותר כדי לוודאתמיד נחשף בבירור, להתאים מערכות משפטיות לשקף איומים וצרכים חדשים (כגון עזרה לקורבנות של פורנו מזויף עמוק), ובאופן כללי לחזק את החוסן החברתי ואת המודעות הציבורית. "האם קורבנות של זיופים עמוקים באמת יודעים מה הם יכולים לעשות במצב הזה? אני רואה חולשות עצומות איך להגיב ברגעים קריטיים".
בסופו של דבר, לאבוז נשען את גישתו ההוליסטית על שלושה עמודי תווך, המאשרים רבות מההצהרות של אייזרט ופרייברג. רגולציה ואמצעים משפטיים, טכנולוגיה ומערכות איתור והגברת החוסן החברתי הם הדרכים לצאת מהדילמה העמוקה שלנו. זה ידרוש דיאלוג, גמישות ורוחב כדי למצוא פתרונות.
"זה לא קשור למניעת חדשנות", הוא אומר. "זה על החזרת האמון הבסיסי בטכנולוגיה בחברה שלנו."
'עיצוב, איתור ואז הסבר': ג'אן לוקה מרסיאליס
ג'אן לוקה מרסיאליס מנהל אתהיחידה הביומטרית של sAIfer Lab. המעבדה עובדת על גישות לזיהוי פאסיבי של זיוף עמוק, ועל טקסונומיה של גילוי זיוף עמוק שמחלקה מספר גישות זיהוי: זיהוי כללי ברשת/בלתי מכוון, מבוסס חפצים חזותיים, מבוסס עקביות זמנית, אותות ביולוגיים וטביעות אצבע של מצלמה/GAN. (במילים אחרות, אצבעות נוספות, בעיות במצמוץ, קצב לב ורעש דיגיטלי.) למידה עמוקה ורשתות עצביות קונבולוציוניות הן אפשרות נוספת להגברת הזיהוי.
מעבדת sAIfer של מרסיאליס עוסקת בעבודה מתמשכת למיפוי התהליכים הטכניים העומדים בבסיס שיטות זיהוי הזיוף העמוק. זה משקף את המאמץ של הקהילה הגדולה יותר לא רק לזהות זיופים עמוקים, אלא להגדיר ולהבחין מה הם.
"אתה לא יכול לראות או לגעת בזיוף של אודיו": ג'ניפר וויליאמס
"עיבוד דיבור ואודיו דרש בעבר דוקטורט שלם בהנדסת חשמל. עכשיו, זה יכול להיות כל אחד שיוצר את הזיופים העמוקים האלה." כך אומרת ג'ניפר וויליאמס, פרופסור אסיסטנטית באוניברסיטת סאות'המפטון, ומסקרת את הזווית השמיעתית של ההרס העמוק.לנצל הטיה בשמיעה אנושית, המאפשרת לצליל "להתעלל עלינו". דיבור הוא נתונים ביומטריים המייצגים זהות ייחודית. אם זה נפגע, התוצאות יכולות לנוע בין הונאה פיננסית לפירוק מוחלט של היכולת להאמין למה שאתה שומע.
"עבור אנשים מסוימים", אומר וויליאמס, "זו באמת בעיה של המציאות עצמה."
טכנולוגיית סינתזת הקול התקדמה במהירות. בשנת 2016, SPSS עצבי חדשני בשם מרלין עדיין נשמע כמו רובוט סטריאוטיפי. עכשיו יש לנוופקידי ציבור וירטואליים המשמיעים הצהרות בשם ממשלות לאומיות. מקרי שימוש חיוביים הביאו לשינוי סייסמי בטכנולוגיית הקול, אשר מנוצלת לאחר מכן למטרות פליליות.
ווילימס אומר שהתקפות שמע עמוקות מגיעות במגוון צורות:
התקפות הקלטה והשמעה חוזרות הן המקום שבו "האדם המדבר הוא למעשה האדם הנכון, אך הנאום נלכד והושמע מחדש כך שהמילים עלולות להיות מחוץ להקשר." ניתן להשיג זאת באמצעות הקלטת מקור פשוטה של קולו של אדם. ניתן לחבר הקלטות לקטעים אחרים של אמיתי אולשנות הקשר. (תחשוב על מה יכול לנבוע מכך שלרמאי אין יותר מאשר הקלטה שלך אומר "כן").
המרת קול "דורש רמקול מקור כדי לומר בדיוק את המילים הנכונות." לאחר מכן הוא יכול להמיר את הקול של רמקול המקור לזה של כל מספר של רמקולי יעד. תוכן הנאום נשאר זהה אבל הקול משתנה.
"מכניס לפה של מישהו מילים שהוא מעולם לא אמר בעבר" באמצעות הטבעת רמקול. זה דורש למידת מכונה מתוחכמת וכמויות משמעותיות של נתוני אימון, ומאפשר שליטה בדברים כמו גובה צליל, פרוזודיה וגוון רגשי.
זיופים עמוקים חלקיים הם המקום שבו אתה מבצע עריכות קטנות ופשוטות כדי לערבב מדיה אמיתית ומזויפת. זה משלב מספר סוגים של יכולות עריכה ולמידת מכונה.
חפצים עבורמזוהים בקלות רבה יותר בתדרים גבוהים יותר, לרוב מחוץ לטווח השמיעה האנושית. הם יכולים להתרחש כקפיצות בלתי נשמעות, רעשי זמזום מחוסר התאמה של פאזה ספורדית, ובבעיות בהכרזה או בקצב הנשימה. הם אינם מופצים באופן עקבי בזמן.
מבחינה משפטית, ישנם אתגרים סוציו-טכניים במערכת המשפט, וחילוקי דעות לגבי רבים מהמונחים המשמשים לדיון בזיוף אודיו עמוק - מונחים כמו "סינטטי" ו"אותנטי". נוף טכני משתנה אינו שם לב להתאמות האיטיות יותר של הרגולטורים.
וויליאמס והצוות שלה באוניברסיטת סאות'המפטון בנו מערכת לזיהוי זיוף עמוק שנקראבָּרִיא וּשָׁלֵם(The Southampton Audio Forensic Evaluator), שדורש רק שנייה אחת של אודיו כדי לספק החלטות מודל מדויקות וניתנות להסבר. הוא משלב מודל תפיסה אנושית, דגם מערכת קול, מודל דיבור רגשי, חוסן רעשים, הסביבה האקוסטית וגלאי אנומליות בתדר גבוה. מבחינה עיצובית, הוא שואף להיות מהיר, קל לשימוש, ניתן להרחבה עבור כמויות גדולות של נתונים, וישים על פני מקרי שימוש.
״עכשיו זה רגע מפתח; Chat GPT הוא רק בן שנתיים'': בנואה פאוב
חברת Benoit Fauve של ביומטריה קוליתגם בוחן כמה מהשיקולים הגדולים יותר סביב זיוף שמע עמוק. הוא עוקב אחר האבולוציה של זיופי שמע עמוקים משיטות זיוף מוקדמות ועד תחילת עידן הזיוף העמוק.באמצע שנות ה-2010. המונח "זיוף עמוק" נטבע ב-Reddit בשנת 2017. מאז, זו הייתה עקומה מתמדת כלפי מעלה של פיתוח והשקעה בזיופים עמוקים וכיצד להילחם בהם.
הרגע הנוכחי, שבו בינה מלאכותית גנראטיבית אפשרה בום של זיוף עמוק של שמע, הוא המפתח, אומר Fauve. אבל, כמו וויליאמס, הוא מדגיש שחלק מהשפה חייבת להיות מסובכת כדי להשיג את תנוחת ההגנה החזקה ביותר, ושאוריינות לגבי זיופים עמוקים היא חלק מרכזי במשוואה.
"אנחנו כאן כדי לבנות מערכת אתית ובטוחה": לוק אריגוני
Luke Arrigoni, שהקים סטארט-אפ טכנולוגיות להגנה על דמיון דיגיטלי, ממקד את עסקיו ברישוי מקוון והגנה על אישי ציבור. לדבריו, Loti Watchtower משלב הגנה על זיהוי פנים (הסרה של זיופים עמוקים לא מורשים וכו') ועבירות - שבהן, למשל, חוזים לייצוגי בינה מלאכותית של כישרונות להופיע בפרסומות נועדו לטובת הטאלנט.
אבל אם יש מסר מקיף מהסדנה, הוא שזיופים עמוקים ישפיעו בקרוב על כולם, אם הם לא כבר. הטכנולוגיה מתקדמת, ושיטות הזיהוי מתקשות לעמוד בקצב. גלגל האוגר ממשיך להתגלגל; מרוץ העכברים העכברוש ממשיך.
נושאי מאמר
||||||||||
