'כלכלת כוונות' מונעת בינה מלאכותית יכולה להנחות את ההתנהגות הדיגיטלית שלנו. (d3sign/Getty Images)
שיחהכלים (AI) עשויים בקרוב "להשפיע באופן סמוי" על קבלת ההחלטות של משתמשים בגבול מסחרי חדש שנקרא "כלכלת הכוונות", חוקרי אוניברסיטת קיימברידג'הזהיר בעיתוןפורסם ביום שני.
המחקר טוען שהשוק הפוטנציאלי ה"מכניס אך מטריד" שמתעורר ל"אותות דיגיטליים של כוונה" יכול, בעתיד הקרוב, להשפיע על כל דבר, החל מרכישת כרטיסים לסרט ועד להצבעה למועמדים פוליטיים.
ההיכרות ההולכת וגוברת שלנו עם צ'אטבוטים, מורים דיגיטליים וסוכני AI אחרים כביכול "אנתרופומורפיים" עוזרת לאפשר את המערך החדש הזה של "טכנולוגיות שכנוע", הוסיפה.
זה יראה AI משלבת ידע על ההרגלים המקוונים שלנו עם יכולת הולכת וגדלה להכיר את המשתמש ולצפות את רצונותיו ולבנות "רמות חדשות של אמון והבנה", ציינו שני מחברי העיתון.
לא מסומן, שיכול לאפשר "מניפולציה חברתית בקנה מידה תעשייתי", טענו הזוג, ממרכז לבורהולמה של קיימברידג' לעתיד המודיעין (LCFI), במאמר שפורסם ב-סקירת מדעי הנתונים של הרווארד.
זה מאפיין כיצד המגזר המתפתח הזה - המכונה "כלכלת הכוונות" - יציב את תשומת הלב והסגנונות התקשורתיים של המשתמשים ויחבר אותם לדפוסי התנהגות ובחירות שהם עושים.
"כלי בינה מלאכותית כבר מפותחים כדי לעורר, להסיק, לאסוף, להקליט, להבין, לחזות, ובסופו של דבר לתפעל ולתמרן תוכניות ומטרות אנושיות", מחבר שותף Yaqub Chaudharyאמר.
הבינה המלאכותית החדשה תסתמך על מה שנקרא מודלים של שפה גדולה - או LLMs - כדי למקד את הקצב, הפוליטיקה, אוצר המילים, הגיל, המין, ההיסטוריה המקוונת ואפילו העדפותיו של חנופה והשתלבות של המשתמש, על פי המחקר.
זה יהיה מקושר עם טכנולוגיות בינה מלאכותיות מתפתחות אחרות שמציעות להשיג מטרה נתונה, כמו מכירת טיול בקולנוע, או לכוון שיחות לפלטפורמות מסוימות, מפרסמים, עסקים ואפילו ארגונים פוליטיים.
מחבר שותף ג'וני פןהזהיר: "אלא אם כן יהיה רגולציה, כלכלת הכוונות תתייחס למניעים שלך כאל המטבע החדש."
"זו תהיה הבהלה לזהב למי שמכוון, נווט ומוכר כוונות אנושיות", הוסיף.
"עלינו להתחיל לשקול את ההשפעה הסבירה שתהיה לשוק כזה על שאיפות אנושיות, כולל בחירות חופשיות והוגנות, עיתונות חופשית ותחרות הוגנת בשוק, לפני שנהיה קורבנות להשלכות הלא מכוונות שלה".
פן ציין כי המודעות הציבורית לנושא היא "המפתח להבטיח שלא נלך בדרך הלא נכונה".
