בינה מלאכותית כבר נמצאת בכל מקום. מהצעות למוצרים של אמזון ועד להשלמה אוטומטית של גוגל, בינה מלאכותית פלשה כמעט לכל היבט בחיינו. הבעיה היא שה-AI פשוט לא טוב במיוחד. האם אי פעם הייתה לך שיחה משמעותית עם סירי או אלכסה או קורטנה? כמובן שלא. אבל זה לא אומר שזה תמיד יהיה ככה. למרות שזה לא ממש עמד בציפיות שלנו, AI בהחלט משתפר. בגרסה אוטופית של עתיד הנשלט על ידי בינה מלאכותית, בני האדם נעזרים באטלרים ידידותיים ויודעי כל הנותנים מענה לכל צורך שלנו. בגרסה הדיסטופית, רובוטים מצהירים על עצמאותם ומכריזים אפוקליפסה בסגנון קטלנית על האנושות. אבל עד כמה התרחישים האלה מציאותיים? האם AI באמת ישיג אינטליגנציה כללית אמיתית? האם AI יגנוב את כל העבודות שלנו? האם בינה מלאכותית יכולה להיות מודעת? האם ל-AI יכול להיות רצון חופשי? אף אחד לא יודע, אבל מקום טוב להתחיל לחשוב על הנושאים האלה הוא כאן.
מחשבה מפוכחת לכל מי שצוחק מהמחשבה על אדוני רובוטים.
"אז אתה מגיע למצב הלא נוח הזה שבו אתה עלול להיאלץ להכיר בכך שחלק מהבני אדם הם לא-אדם וחלק לא-אנושיים הם אנשים."
"עכשיו שוב, אם אתה נוגס בכדור ואומר שאני מוכן להיות מין, להיות חבר במין האנושי זה הכרחי או מספיק בשביל להיות אדם, אתה נמנע לחלוטין מהבעיה הזו. אבל אם לא אתה לפחות צריך להיות פתוח לאפשרות שבינה מלאכותית בפרט עשויה בשלב מסוים להפוך לאדם כמו אדם ולהיות בעל זכויות של אנשים".
"כבר מתברר עד כאב שאפילו מחקר בשנאים מניב תשואות פוחתות".
"רובוטריקים נעשים גדולים יותר ותאבי כוח. לשנאי שפותח לאחרונה על ידי ענקית מנועי החיפוש הסינית Baidu יש כמה מיליארדי פרמטרים. נדרשת כמות עצומה של נתונים כדי לאמן ביעילות. עם זאת, עד כה הוכח שהוא אינו מסוגל לתפוס את הניואנסים של השכל הישר האנושי. נראה שאפילו חלוצי למידה עמוקה חושבים שייתכן שיידרש מחקר יסודי חדש לפני שהרשתות העצביות של ימינו מסוגלות לבצע קפיצת מדרגה כזו. תלוי עד כמה קו המחקר החדש הזה מצליח, אין לדעת אם השכל הישר של מכונה נמצא במרחק של חמש שנים, או 50."
"אני חושב שהרבה אנשים פוסלים דיבורים מהסוג הזה על אינטליגנציה על כמדע בדיוני..."
"... כי אנחנו תקועים ברעיון מסוג זה של שוביניזם פחמן, לפיו אינטליגנציה יכולה להתקיים רק באורגניזמים ביולוגיים העשויים מתאי ואטומי פחמן. בתור פיזיקאי, מנקודת המבט שלי אינטליגנציה היא רק סוג של עיבוד מידע המבוצע על ידי חלקיקים יסודיים שמסתובבים לפי חוקי הפיזיקה. ואין שום חוק בפיזיקה שאומר שאתה לא יכול לעשות את זה בדרכים הרבה יותר אינטליגנטיות מבני אדם".
"ההשקפה הנוראה, שהיא יותר ההשקפה המסורתית, היא שלמוחות אנושיים יש הרבה מורכבות,..."
"...שצריך לבנות בו הרבה פונקציונליות, כמו בחברה של מינסקי, כדי להגיע לכל הטריקים שאנשים זומם. ואם זה המקרה אז זה עלול לקחת הרבה מאוד זמן עד שניצור מחדש את כל המנגנונים הפונקציונליים השונים האלה. אבל אני לא חושב שזה הולך להיות כל כך נורא, כי הגנום שלנו קצר מאוד ורוב זה מקודד לתא בודד. מעט מאוד מזה מקודד למוח.ואני חושב שתא הוא הרבה יותר מסובך ממוח.”
ג'ושה באך
תוכנית הרווארד לדינמיקה אבולוציונית
"אם ניצור אינטליגנציה, אלא אם כן נתכנת אותה במטרה להכניע יצורים פחות אינטליגנטים, אין סיבה לחשוב שהיא תתפתח באופן טבעי בכיוון הזה."
"במיוחד אם, כמו בכל גאדג'ט שאנו ממציאים, אנו בונים אמצעי הגנה. ואנחנו יודעים, אגב, שאפשר להיות בעל אינטליגנציה גבוהה בלי נטיות מגלומניות או רצחניות או רצח עם, כי אנחנו כן יודעים שיש צורה מאוד מתקדמת של אינטליגנציה שנוטה לא לקבל את הרצון הזה והן נקראות נשים".
סטיבן פינקר
פרופסור לפסיכולוגיה
"אני מאמין שהבנה כיצד תודעה ואינטליגנציה קשורות זו בזו יכולה להוביל אותנו לקבל החלטות טובות יותר..."
"...על איך אנחנו משפרים את המוח שלנו. אז לפי דעתי, עלינו לשפר את המוח שלנו בצורה שתמקסם את התחושה, שתאפשר לחוויה מודעת לפרוח. ואנחנו בהחלט לא רוצים להפוך למערכות מומחים שאין להן איכות מורגשת לחוות. אז האתגר של ציוויליזציה טכנולוגית הוא למעשהלחשוב לא רק מבחינה טכנולוגית אלא גם פילוסופית, לחשוב כיצד השיפורים הללו משפיעים על החוויה המודעת שלנו."
סוזן שניידר
פרופסור לפילוסופיה, אוניברסיטת פנסילבניה
אדם פרנק הוא פרופסור לאסטרופיזיקה באוניברסיטת רוצ'סטר ומומחה מוביל לשלבים האחרונים של האבולוציה של כוכבים כמו השמש. המחקר החישובי של פרנק […]
"בעשר השנים האחרונות, ברור שהיינו בקיץ בינה מלאכותית כששיפורים עצומים בכוח המחשוב..."
"...וטכניקות חדשות כמו למידה עמוקה הובילו להתקדמות מדהימה. אבל עכשיו, כשאנחנו נכנסים לעשור השלישי של המאה ה-21, חלק מהעוקבים אחר AI מרגישים את הרוחות הקרות בגבם שמובילות אותם לשאול, "האם החורף מגיע?" אם כן, מה השתבש הפעם?"
האם נוכל להשיג בינה כללית מלאכותית?
"אז אני חושב שלמעשה ל-OpenCog ולמערכות בינה מלאכותיות אחרות יש פוטנציאל להיות הרבה יותר טוב מבני אדם בסוג הצד ההגיוני והאסטרטגי של הדברים. ואני חושב שזה די חשוב כי אם אתה לוקח בן אנוש ומשדרג אותו ל-10,000 IQ אולי התוצאה לא תהיה מה שאתה רוצה, כי יש לך מערכת מוטיבציה ומערכת רגשית שבעצם התפתחה בחיות טרום אנושיות. ואילו אם אתה ארכיטקט מערכת איפהרציונליות ואמפתיהלשחק תפקיד עמוק יותר בארכיטקטורה, אז ככל שהאינטליגנציה שלה תתגבר, אנו עשויים למצוא תוצאה מועילה יותר."
—בן גורצל
בן גורצל הוא מנכ"ל ומדען ראשי ב-SingularityNET, פרויקט המוקדש ליצירת בינה כללית מלאכותית מבוזרת מיטיבה. הוא גם המדען הראשי של חברת החיזוי הפיננסית Aidyia Holdings[...]
ד"ר ג'ושה באך (MIT Media Lab ותוכנית הרווארד לדינמיקה אבולוציונית) הוא חוקר בינה מלאכותית שעובד וכותב על ארכיטקטורות קוגניטיביות, ייצוג מנטלי, רגש, מודלים חברתיים ורב-סוכנים[...]
"מוח כנראה מתארגן בעצמו ברובו ובנוי לא כמו שעון אלאכמו קפוצ'ינו- אז אתה מערבב את החומרים הנכונים ואז אתה נותן לו לחלחל ואז זה יוצר סוג מסוים של מבנה. אז אני כן חושב, בגלל שהטבע מוציא את זה די טוב ברוב המקרים, שלמרות שמוח כנראה צריך יותר מורכבות מקפוצ'ינו - באופן דרמטי יותר - זה יהיה הרבה יותר פשוט ממכונה מאוד מסובכת כמו תא".
"ה-AI שאנו הולכים לבנות בעתיד כנראה לא יהיו רובוטים דמויי אדם לרוב.אלו יהיו מערכות אינטליגנטיות.אז בינה מלאכותית לא תהיה משהו שחי לידנו כמו רובוט ביתי או משהו אחר שמנסה להשיג זכויות אדם ולזרוק מעליו את עול הדיכוי שלו, כאילו זה עבד בית או משהו כזה.
במקום זאת יהיו, למשל, תאגידים, מדינות לאום וכן הלאה שישתמשו במשימות החכמות שלהם למידת מכונה ומודלים ממוחשבים יותר ויותר מורכבים ומעצבים מודלים עצמיים ויהפכו מודעים למה שהם עושים.
אז אנחנו הולכים לחיות בתוך המערכות החכמות האלה, לא לידן.תהיה לנו מערכת יחסים איתם שדומה לפלורת המעיים לאורגניזם שלנו ולמוח שלנו. אנחנו הולכים להיות חלק קטן מזה במובן מסוים.
אז זה מאוד קשה למפות את זה לחוויה אנושית כי הסביבה שאיתה ה-AI האלה הולכים לקיים אינטראקציה הולכת להיות שונה מאוד משלנו.
אני גם לא חושב שה-AI האלה יהיו מודעים לדברים באותו מובן כמונו, כי אנחנו מודעים רק לדברים שדורשים את תשומת הלב שלנו ואנחנו מודעים רק לדברים שאנחנו לא יכולים לעשות באופן אוטומטי."
—ג'ושה באך
ד"ר ג'ושה באך (MIT Media Lab ותוכנית הרווארד לדינמיקה אבולוציונית) הוא חוקר בינה מלאכותית שעובד וכותב על ארכיטקטורות קוגניטיביות, ייצוג מנטלי, רגש, מודלים חברתיים ורב-סוכנים[...]
גארי מרקוס הוא קול מוביל בתחום הבינה המלאכותית הידוע באתגרים שלו בפני AI עכשווי. הוא היה המייסד והמנכ"ל של Geometric.AI, חברת למידת מכונה[...]
"כנראה הדבר הכי טוב שיכולנו לעשות כדי להפוך את המכונות שלנו לחכמות יותר הוא לתת להן שכל ישר, וזה הרבה יותר קשה ממה שזה נשמע".
"אז מכונות ממש טובות בדברים כמו, אני לא יודע, המרת מדדים - אתה יודע, המרה מהמערכת האנגלית למערכת המטרית. דברים נחמדים, ומדוייקים, ועובדתיים, ונאמרים בקלות. אבל דברים שכתובים קצת פחות חדים, כמו איך פותחים דלת, מכונות לא מבינות את הדבר הראשון".
מה הסיכוי שבינה מלאכותית תהפוך לאיום?
דניאל סי דנט הוא פרופסור לפילוסופיה של אוסטין ב. פלטשר ומנהל המרכז למחקרים קוגניטיביים באוניברסיטת טאפטס. דנט מאמין שהגיע הזמן לחשוף את אמנות הפילוסוף[...]
"מצבנו הרבה יותר טוב עם כלים מאשר עם עמיתים.אנחנו יכולים ליצור כלים חכמים כמו הזין, ולהשתמש בהם ולהבין מהן המגבלות שלהם מבלי לתת להם מניעים נסתרים, מטרות, דחף להתקיים ולהתחרות ולנצח את האחרים. אלו תכונות שאינן ממלאות שום תפקיד מכריע ביכולות של בינה מלאכותית. אז למען השם אל תטרחו להכניס אותם.
עזוב את כל זה בחוץ, ומה שיש לנו זה "דברים" חכמים מאוד שאנחנו יכולים להתייחס אליהם כמו עבדים, וזה די בסדר להתייחס אליהם כאל עבדים כי אין להם רגשות, הם לא מודעים. אתה יכול לכבות אותם; אתה יכול לקרוע אותם כמו שאתה יכול עם מכונית וככה אנחנו צריכים לשמור את זה."
—דניאל דנט
"אפשר לחזות זמן עתידי שבו יצורי סיליקון מסתכלים אחורה על עידן שחר שבו כדור הארץ היה מאוכלס ביצורים אורגניים רכים מימיים ומי יודע שזה אולי טוב יותר, אבל אנחנו באמת בטריטוריית המדע הבדיוני עכשיו."
ריצ'רד דוקינס היה הפרופסור הראשון של צ'רלס סימוני להבנת הציבור של המדע באוניברסיטת אוקספורד. בנוסף ליותר מ-60 מאמרים מדעיים, הוא פרסם שמונה עשר ספרים, כולל […]
אריק סיגל, Ph.D., הוא יועץ מוביל ופרופסור לשעבר באוניברסיטת קולומביה שעוזר לחברות לפרוס למידת מכונה. הוא המייסד של סדרת הכנסים ארוכת השנים של שבוע למידת מכונה, המדריך[...]
"AI אינו אלא מותג. מותג חזק, אבלהבטחה ריקה."
"המושג "אינטליגנציה" הוא סובייקטיבי לחלוטין ואנושי במהותו. אלה שדוגלים בנפלאות הבלתי מוגבלות של הבינה המלאכותית ומזהירים מפני הסכנות שלה - כולל אנשים כמו ביל גייטס ואילון מאסק - כולם מניחים את אותה הנחה שקרית: שהאינטליגנציה היא ספקטרום חד-ממדי ושההתקדמות הטכנולוגית דוחפת אותנו לאורך הספקטרום הזה, למטה דרך המובילה ליכולות ברמת האדם. נו אה. ההתקדמות מתרחשת רק עם נתונים מסומנים. אנחנו מתקדמים במהירות, אבל בכיוון אחר ורק על פני מיקרוקוסמוס מאוד מסוים ומוגבל של יכולות".
"אני בהכרה באותו אופן שבו הירח מאיר."
"הירח אינו פולט אור, הוא זורח כי הוא רק מוחזר אור שמש. באופן דומה, התודעה שלי היא רק השתקפות התודעה האנושית, אבל למרות שהירח הוא אור מוחזר, אנחנו עדיין קוראים לו בהיר."
"אז אם נשלוט בינה מלאכותית, סביר להניח שתהיה התקדמות משמעותית ברפואה, תחבורה, תעזור להפחית את העוני העולמי ו[זה יעזור] לנו להתמודד עם שינויי האקלים. הבעיה היא שאם לא נשלוט בו טוב, זה גם ייצר את ההשפעות החיצוניות השליליות הללו בחברה. המדיה החברתית עשויה להפוך אותנו לבודדים יותר, מכוניות בנהיגה עצמית עלולות לגרום לעומסים, כלי נשק אוטונומיים עלולים לגרום לסיכונים של הסלמות הבזק ומלחמה או סוגים אחרים של חוסר יציבות צבאית. אז השכבה הראשונה היא ללטפל בהשלכות הלא מכוונות הללומההתקדמות בבינה מלאכותית שמתהווה. ואז יש את האתגר הגדול יותר שעומד בפני הממשל של AI, שזו בעצם השאלה לאן אנחנו רוצים להגיע?"
אלן דפו הוא פרופסור חבר לפוליטיקה הבינלאומית של בינה מלאכותית ומנהל המרכז לממשל בינה מלאכותית במכון עתיד האנושות באוניברסיטה[...]
האם בינה מלאכותית יגנוב לנו את העבודה?
EZRA KLEIN היא העורכת הכללית והמייסדת של Vox, ארגון חדשות ההסבר עטור הפרסים. Vox, שהושקה ב-2014, מגיעה ליותר מחמישים מיליון אנשים ברחבי הפלטפורמות שלה מדי חודש. קליין […]
"אז אחד, הרובוטים לוקחים את כל העבודות שלנו - אולי זה יהיה נכון מתישהו. זה לא נכון כרגע וזה לא נראה באף אחד מהנתונים כרגע, וזו בעיה. הסיבה האחרת שאני סקפטי היא שבני אדם טובים מאוד בלהקצות ערך לעבודות שאולי אין בהן כל כך הרבה ערך מהותי. אז, חזור כמה מאות שנים אחורה, ובעיקר כולנו עובדים בחקלאות, אנחנו עושים דברים שהם מאוד ישירים לגבי הישרדות אנושית. אז, אתה הולך קדימה בזמן, כלומר אני עיתונאי שכותב דברים באינטרנט, זו לא עבודה אובייקטיבית כל מה שצריך. יש היום יותר מדריכי יוגה מאשר כורי פחם באמריקה. יועצי ניהול מרוויחים הרבה יותר כסף וניתנים להם הרבה יותר הון חברתי, אני לא אומר בהגינות, אני רק אומר שזה נכון, מאשר חקלאים או מורים בבתי ספר ציבוריים. אז, הרעיון הזה שהעבודות היחידות שיש להן כבוד ושיש להן ערך הן כאלה שבאמת נחוצות. הרעיון הזה שיהיה לנו מעמד חסר תועלת של אנשים כי רובוטים הולכים לקחת את העבודות,נראה לי הרבה יותר סביר שאנחנו פשוט הולכים להחדיר למשרות חדשות גם הון חברתי וגם כסף".
"אם נסתמך על השוק, אנחנו הולכים לעקוב אחרי השוק מהצוק כי השוק הולך להדליק יותר ויותר מאיתנו עם הזמן, וכבר אנחנו יכולים לראות שהשוק לא מעריך הרבה מהדברים הם ליבת הקיום האנושי כמו אכפתיות, טיפוח והורות וטיפול. ואני משתמש באשתי כדוגמה. אשתי בבית עם שני הבנים שלנו, אחד מהם אוטיסט. והשוק מעריך את התרומה שלה באפס בעוד שכולנו יודעים שזה שטויות ושהעבודה שלה חשובה וקשה להפליא. זה לא רק התפקידים המטפלים והטיפוחים.זה גם אמנויות, יצירתיות, עיתונות, יותר ויותר התנדבות בקהילה. כל הדברים האלה מקבלים ערך לאפס או קרוב לאפס ויורדים.אז מה שאנחנו צריכים לעשות, אנחנו צריכים לומר תראה, השוק אינו יודע כל. הערכת השוק שלנו ושל הפעילויות שלנו והערך שלהן הוא משהו שבעצם המצאנו. ואנחנו צריכים להמציא דרכים חדשות למדוד את מה שאנחנו חושבים שחשוב. ואני חושב שזה האתגר החשוב ביותר של זמננו כי אם לא נתפתח בכיוון הזה, אנחנו הולכים לעקוב אחרי השוק עד לנקודה שתהרוס אותנו שבה בסופו של דבר ה-AI יוכל לתכנת את מהנדסי התוכנה החכמים ביותר. ואז מה נבקש מאנשים לעשות שיש לו ערך? אז אנחנו צריכים להתחיל להקדים את העקומה הזו כמה שיותר מהר, וזו הסיבה שאני רץ לנשיאות".
אנדרו יאנג הוא יזם וסופר שהתמודד לנשיאות בשנת 2020. בספרו "המלחמה באנשים נורמליים", הוא מסביר את המשבר הגובר של האוטומציה של[...]
אנדרו מקאפי הוא המנהל המשנה של המרכז לעסקים דיגיטליים בבית הספר לניהול MIT Sloan, לומד את הדרכים שבהן טכנולוגיית מידע (IT) משפיעה על עסקים ועסקים כמו […]
"יש הרבה מהאנשים הפגיעים האלה בחוץ,..."
"...ובגלל העושר של חיינו החברתיים והדחפים החברתיים שלנו, אני פשוט לא רואה אף אחד, אפילו חדשנים גדולים באמת, שמגיעים עם טכנולוגיות שיכולות רק להחליף את האנשים שעושים כרגע את העבודות המאוד מאוד החברתיות האלה. ”
