האם בני אדם יחיו בשלום בעתיד שנשלט על ידי בינה מלאכותית? - עתיד הבינה המלאכותית P6

כשזה מגיע לאנושות, בוא נגיד שאין לנו את הרקורד הגדול ביותר בכל הנוגע למגורים משותפים עם 'האחר'. בין אם זה רצח העם של היהודים בגרמניה או הטוטסי ברואנדה, שעבוד של אפריקאים על ידי מדינות מערביות או עבדים משוחררים בדרום מזרח אסיה עַכשָׁיו עבודה במדינות המפרץ במזרח התיכון, או אפילו הרדיפה הנוכחית שחווים מקסיקנים בארה"ב או פליטים סורים במדינות נבחרות של האיחוד האירופי. בסך הכל, הפחד האינסטינקטיבי שלנו מאלה שאנו תופסים כשונים מאיתנו יכול להוביל אותנו לנקוט בפעולות ששולטים או (במקרים קיצוניים) משמידים את אלה שאנו חוששים מהם.

האם אנו יכולים לצפות למשהו שונה כאשר הבינה המלאכותית הופכת להיות דמוית אדם באמת?

האם נחיה בעתיד שבו נתקיים יחד עם ישויות AI-רובוט עצמאיות, כפי שניתן לראות בסאגת מלחמת הכוכבים, או שבמקום זאת נרדוף ונשעבד יצורים בינה מלאכותית כפי שמתואר בזיכיון של Bladerunner? (אם לא ראית אף אחד ממרכיבי תרבות הפופ האלה, למה אתה מחכה?)

אלו השאלות בפרק הסיום הזה של ה עתיד הבינה המלאכותית הסדרה מקווה לענות. זה משנה כי אם התחזיות של חוקרי בינה מלאכותית מובילות נכונות, אז עד אמצע המאה, אנו, בני האדם, נשתף את עולמנו עם שפע של ישויות בינה מלאכותית מגוונות - אז מוטב שנבין דרך לחיות לצדן בשלווה.

האם בני אדם יכולים אי פעם להתחרות עם אינטליגנציות מלאכותיות?

תאמינו או לא, אנחנו יכולים.

האדם הממוצע (בשנת 2018) כבר עדיף אפילו על הבינה המלאכותית המתקדמת ביותר. כפי שמתואר אצלנו פרק פתיחה, האינטליגנציות הצרות המלאכותיות של היום (ANI) טובות לאין שיעור מבני אדם ספציפי משימות שהם נועדו להן, אבל חסרי תקווה כשהם מתבקשים לקחת על עצמם משימה מחוץ לעיצוב הזה. בני אדם, לעומת זאת, יחד עם רוב בעלי החיים האחרים על פני כדור הארץ, מצטיינים ביכולת ההסתגלות שלנו לרדוף אחרי מטרות במגוון רחב של סביבות - א. הגדרה של מודיעין בה דגלו מדעני המחשב מרקוס האטר ושיין לג.

התכונה הזו של הסתגלות אוניברסלית לא נראית כמו עניין גדול, אבל היא דורשת את היכולת להעריך מכשול למטרה, לתכנן ניסוי כדי להתגבר על המכשול הזה, לנקוט בפעולה לביצוע הניסוי, ללמוד מהתוצאות ואז להמשיך לרדוף אחרי המטרה. כל החיים על הפלנטה מבצעים באופן אינסטינקטיבי את לולאת ההסתגלות הזו אלפי עד מיליוני פעמים בכל יום, ועד שבינה מלאכותית תוכל ללמוד לעשות את אותו הדבר, הם יישארו כלי עבודה חסרי חיים.

אבל אני יודע מה אתה חושב: כל הסדרה הזו על עתיד תחזיות הבינה המלאכותית שבהינתן מספיק זמן, ישויות בינה מלאכותית יהפכו בסופו של דבר לחכמות בדיוק כמו בני אדם, וזמן קצר לאחר מכן, הרבה יותר חכמות מבני אדם.

פרק זה לא יחלוק על האפשרות הזו.

אבל המלכודת אליה נופלים הרבה פרשנים היא לחשוב שמכיוון שהאבולוציה לקחה מיליוני שנים לייצר מוחות ביולוגיים, היא תהיה חסרת תקנה ברגע ש-AI יגיעו לנקודה שבה הם יכולים לשפר את החומרה והתוכנה שלהם במחזורים קצרים כמו שנים, חודשים , אולי אפילו ימים.

למרבה המזל, לאבולוציה נותרה מאבק כלשהו, ​​בין השאר הודות להתקדמות האחרונה בהנדסה גנטית.

מכוסה לראשונה בסדרה שלנו על עתיד האבולוציה האנושית, זיהו גנטיקאים 69 גנים נפרדים שמשפיעים על האינטליגנציה, אבל יחד הם משפיעים רק על מנת המשכל בפחות משמונה אחוזים. זה אומר שיכולים להיות מאות, או אלפי, גנים שמשפיעים על האינטליגנציה, ונצטרך לא רק לגלות את כולם, אלא גם ללמוד כיצד לתמרן את כולם יחד לפני שנוכל לשקול להתעסק עם עובר. DNA. 

אבל עד אמצע שנות ה-2040, תחום הגנומיקה יבשיל לנקודה שבה ניתן למפות ביסודיות את הגנום של העובר, ועריכות ב-DNA שלו ניתנות לסימולציה ממוחשבת כדי לחזות במדויק כיצד שינויים בגנום שלו ישפיעו על העתיד הפיזי והרגשי שלו. , והכי חשוב לדיון הזה, תכונות האינטליגנציה שלו.

במילים אחרות, עד אמצע המאה, בערך כאשר רוב חוקרי הבינה המלאכותית מאמינים שבינה מלאכותית תגיע ואולי תעלה על אינטליגנציה ברמת האדם, נשיג את היכולת לשנות גנטית דורות שלמים של תינוקות אנושיים כדי להיות חכמים יותר מהדורות שקדמו. אוֹתָם.

אנו הולכים לעבר עתיד שבו בני אדם סופר אינטליגנטים יחיו לצד בינה מלאכותית סופר אינטליגנטית.

ההשפעה של עולם מלא בבני אדם סופר אינטליגנטים

אז, על כמה חכמים אנחנו מדברים כאן? לצורך ההקשר, ה-IQs של אלברט איינשטיין וסטיבן הוקינג קיבלו ציון של בערך 160. ברגע שנגלה את הסודות מאחורי הסמנים הגנומיים השולטים באינטליגנציה, נוכל לראות בני אדם שנולדו עם מנת משכל העולה על 1,000.

זה חשוב כי מוחות כמו איינשטיין והוקינג עזרו להצית את פריצות הדרך המדעיות שנמצאות כעת בסלע של העולם המודרני שלנו. לדוגמה, רק חלק זעיר מאוכלוסיית העולם מבין משהו בפיזיקה, אבל אחוז ניכר מהתמ"ג העולמי תלוי בממצאיו - טכנולוגיות כמו הסמארטפון, מערכת הטלקומוניקציה המודרנית (אינטרנט) וה-GPS לא יכולים להתקיים ללא מכניקת הקוונטים .

בהתחשב בהשפעה הזו, איזה סוג של התקדמות יכולה האנושות לחוות אילו נולדנו דור שלם של גאונים? מאות מיליונים של איינשטיין?

אי אפשר לנחש את התשובה שכן העולם לא ראה ריכוז כזה של גאוני על.

איך האנשים האלה בכלל יהיו?

לטעימה, רק שקול את המקרה של האדם המתועד החכם ביותר, ויליאם ג'יימס סידיס (1898-1944), בעל מנת משכל של כ-250. הוא ידע לקרוא עד גיל שנתיים. הוא דיבר שמונה שפות עד גיל שש. הוא התקבל לאוניברסיטת הרווארד עד גיל 11. וסידיס חכם רק רבע ממה שהביולוג חושב שבני אדם יכולים להיות יום אחד עם עריכה גנטית.

(הערה צדדית: אנחנו מדברים כאן רק על אינטליגנציה, אנחנו אפילו לא נוגעים בעריכה גנטית שיכולה להפוך אותנו לעל-אנושיים פיזית. קראו עוד כאן.)

למעשה, ייתכן מאוד שבני אדם ובינה מלאכותית יכולים להתפתח יחד על ידי יצירת מעין לולאת משוב חיובית, שבה בינה מלאכותית מתקדמת עוזרת לגנטיקאים לשלוט בגנום האנושי ליצור בני אדם חכמים יותר ויותר, בני אדם שיפעלו לאחר מכן ליצירת בינה מלאכותית יותר ויותר חכמה, וכך עַל. אז, כן, בדיוק כפי שחוקרי AI חוזים, כדור הארץ יכול מאוד לחוות פיצוץ מודיעיני באמצע המאה, אבל בהתבסס על הדיון שלנו עד כה, בני אדם (לא רק AI) ייהנו מהמהפכה הזו.

סייבורגים בינינו

ביקורת הוגנת על הטיעון הזה על בני אדם סופר אינטליגנטים היא שגם אם נשלוט בעריכה גנטית עד אמצע המאה, יעברו עוד 20 עד 30 שנה עד שהדור החדש הזה של בני אדם יבשיל לנקודה שבה הם יכולים לתרום התקדמות משמעותית החברה ואף את שדה המשחק האינטלקטואלי לצד בינה מלאכותית. האם הפיגור הזה לא ייתן ל-AI יתרון משמעותי נגד האנושות אם הם יחליטו להפוך ל'רשעים'?

זו הסיבה שכגשר בין בני האדם של היום לעל-אנושיים של מחר, החל משנות ה-2030 של המאה ה-XNUMX, נראה את ההתחלה של מעמד חדש של בני אדם: הסייבורג, הכלאה של אדם ומכונה.

(למען ההגינות, תלוי איך אתה מגדיר סייבורגים, הם כבר קיימים מבחינה טכנית - ספציפית, אנשים עם גפיים תותבות כתוצאה מפצעי מלחמה, תאונות או פגמים גנטיים בלידה. אבל כדי להישאר ממוקדים בהקשר של פרק זה, אנו נתמקד בתותבות שנועדו להגביר את המוח והאינטליגנציה שלנו.)

נדון לראשונה אצלנו עתיד המחשבים בסדרה, חוקרים מפתחים כעת תחום ביו-אלקטרוניקה בשם Brain-Computer Interface (BCI). זה כרוך בשימוש במכשיר סריקת מוח או שתל כדי לנטר את גלי המוח שלך, להמיר אותם לקוד ואז לשייך אותם לפקודות כדי לשלוט בכל דבר שמופעל על ידי מחשב.

אנחנו עדיין בתחילת הימים, אבל באמצעות BCI, קטועי גפיים נמצאים כעת בדיקת גפיים רובוטיות נשלט ישירות על ידי המוח שלהם, במקום באמצעות חיישנים המחוברים לגדם שלהם. כמו כן, אנשים עם מוגבלויות קשות (כגון אנשים עם quadriplegia) נמצאים כעת באמצעות BCI כדי לנווט את כיסאות הגלגלים הממונעים שלהם ולתפעל זרועות רובוטיות. אבל עזרה לקטועי קטועי גפיים ולאנשים עם מוגבלות לנהל חיים עצמאיים יותר אינו ההיקף של מה ש-BCI תהיה מסוגלת לו.

מה שבשנות ה-2030 ייראה כמו קסדה או סרט שיער יפנה בסופו של דבר את מקומו להשתלות מוח (סוף שנות ה-2040) שיחברו את מוחנו לענן הדיגיטלי (אינטרנט). בסופו של דבר, תותבת מוח זו תפעל כהמיספרה שלישית עבור מוחנו - כך שבעוד שההמיספרה השמאלית והימנית שלנו מנהלות את יכולות היצירתיות והלוגיקה שלנו, ההמיספרה הדיגיטלית החדשה הזו, המוזנת בענן תאפשר גישה כמעט מיידית למידע ותשפר את הקוגניטיבי. תכונות שבהן בני אדם נופלים לעתים קרובות ממקבילותיהם בינה מלאכותית, כלומר מהירות, חזרות ודיוק.

ובעוד שתלי המוח האלה לא בהכרח יעצימו את האינטליגנציה שלנו, הם יהפכו אותנו ליכולים ועצמאיים הרבה יותר, בדיוק כמו שהסמארטפונים שלנו עושים היום.

עתיד מלא באינטליגנציות מגוונות

כל הדיבורים האלה על בינה מלאכותית, סייבורגים ובני אדם סופר אינטליגנטים פותחים נקודה נוספת לשקול: העתיד יראה מגוון עשיר בהרבה של אינטליגנציות ממה שראינו אי פעם בהיסטוריה האנושית או אפילו בהיסטוריה של כדור הארץ.

תחשוב על זה, לפני סוף המאה הזו, אנחנו מדברים על עולם עתידי מלא ב:

• אינטליגנציות של חרקים
• אינטליגנציות של בעלי חיים
• אינטליגנציות אנושיות
• אינטליגנציות אנושיות משופרות מבחינה קיברנטית
• אינטליגנציה כללית מלאכותית (AGIs)
• אינטליגנציות-על מלאכותיות (ASIs)
• אינטליגנציות סופר אנושיות
• אינטליגנציות-על אנושיות משופרות מבחינה קיברנטית
• מוחות היברידיים וירטואליים אנושיים-AI
• עוד כמה קטגוריות ביניים שאנו מעודדים את הקוראים לעשות סיעור מוחות ולשתף בקטע התגובות.

במילים אחרות, העולם שלנו הוא כבר בית למגוון מגוון של מינים, כל אחד עם סוגי האינטליגנציות הייחודיים שלו, אבל העתיד יראה מגוון גדול עוד יותר של אינטליגנציות, והפעם ירחיב את הקצה הגבוה יותר של הסולם הקוגניטיבי. אז בדיוק כפי שהדור של היום לומד לחלוק את העולם שלנו עם החרקים ובעלי החיים שתורמים למערכת האקולוגית שלנו, הדורות הבאים יצטרכו ללמוד איך לתקשר ולשתף פעולה עם מגוון רחב של אינטליגנציות שאנחנו בקושי יכולים לדמיין היום.

כמובן, ההיסטוריה אומרת לנו ש'שיתוף' מעולם לא היה צד חזק לבני אדם. מאות עד אלפי מינים נכחדו עקב התפשטות אנושית, רק מאות תרבויות פחות מתקדמות נעלמו תחת כיבוש האימפריות המתרחבות.

הטרגדיות הללו נובעות מהצורך האנושי במשאבים (מזון, מים, חומרי גלם וכו') ובחלקן מהפחד וחוסר האמון בין תרבויות או עמים זרים. במילים אחרות, הטרגדיות של העבר ושל ההווה נובעות מסיבות ישנות כמו הציוויליזציה עצמה, והן רק יחמירו עם הצגת כל המעמדות החדשים הללו של אינטליגנציות.

השפעה תרבותית של עולם מלא באינטליגנציות מגוונות

הפליאה והפחד הם שני הרגשות שיסכמו בצורה הטובה ביותר את הרגשות הסותרים שאנשים יחוו ברגע שכל סוגי האינטליגנציות החדשות הללו ייכנסו לעולם.

'פלא' על כושר ההמצאה האנושי המשמש ליצירת כל האינטליגנציות האנושיות והאינטליגנציות החדשות הללו, ועל האפשרויות שהן עשויות ליצור. ואז 'חוששים' מחוסר ההבנה וההיכרות שיהיו לדורות הנוכחיים של בני אדם עם הדורות הבאים של הישויות ה'משופרות' הללו.

אז כשם שעולם החיות הוא לגמרי מעבר להבנת החרק הממוצע, ועולמם של בני האדם הוא לגמרי מעבר להבנה של החיה הממוצעת, עולם הבינה המלאכותית ואפילו בני אדם סופר אינטליגנטים יהיו הרבה מעבר לטווח של מה שיש היום אדם ממוצע יוכל להבין.

ולמרות שהדורות הבאים יוכלו לתקשר עם האינטליגנציות הגבוהות החדשות הללו, זה לא שיהיה לנו הרבה במשותף. בפרקים המציגים AGIs ו-ASIs, הסברנו מדוע לנסות לחשוב על אינטליגנציות AI כמו אינטליגנציות אנושיות יהיה טעות.

בקצרה, הרגשות האינסטינקטיביים המניעים את המחשבה האנושית הם המורשת הביולוגית האבולוציונית מדורות אנושיים בשווי של כמה אלפי שנים שחיפשו באופן פעיל משאבים, שותפים להזדווגות, קשרים חברתיים, הישרדות וכו'. לעתיד בינה מלאכותית לא תהיה עם המטען האבולוציוני הזה. במקום זאת, לאינטליגנציות הדיגיטליות הללו יהיו מטרות, אופני חשיבה, מערכות ערכים ייחודיות לחלוטין לעצמן.

כמו כן, בדיוק כפי שבני אדם מודרניים למדו לדכא היבטים של הרצונות האנושיים הטבעיים שלהם הודות לאינטלקט שלנו (למשל, אנו מגבילים את בני הזוג המיניים שלנו כאשר אנו נמצאים במערכות יחסים מחויבות; אנו מסכנים את חיינו למען זרים בשל מושגים דמיוניים של כבוד וסגולה וכו') , על-אנושיים עתידיים עשויים להתגבר לחלוטין על האינסטינקטים הקדמוניים הללו. אם זה אפשרי, אז באמת יש לנו עסק עם חייזרים, לא רק במעמד חדש של בני אדם.

האם יהיה שלום בין גזעי העל העתידיים לכולנו?

שלום מגיע מאמון ואמון מגיע מהיכרות וממטרות משותפות. אנחנו יכולים להוריד את ההיכרות מהשולחן מכיוון שכבר דנו כיצד לבני אדם לא משופרים יש מעט במשותף, קוגניטיבי, עם אינטלקטים העל הללו.

בתרחיש אחד, הפיצוץ המודיעיני הזה ייצג את עלייתה של צורה חדשה לגמרי של אי שוויון, כזו שיוצרת מעמדות חברתיים מבוססי אינטליגנציה, שכמעט בלתי אפשרי עבור אלה מהמעמדות הנמוכים לקום מהם. ובדיוק כפי שהפער הכלכלי המתרחב בין העשירים והעניים גורם היום לתסיסה, הפער בין המעמדות/אוכלוסיות השונות של המודיעין עלול ליצור מספיק פחד וטינה שיכולים להסתבך לצורות שונות של רדיפה או מלחמה כוללת. עבור קוראי הקומיקס האחרים בחוץ, זה עשוי להזכיר לכם את סיפור הרקע הקלאסי של הרדיפה מהזיכיון X-men של מארוול.

התרחיש החלופי הוא שהאינטלקטים העל העתידיים האלה פשוט ימצאו דרכים לתמרן רגשית את ההמונים הפשוטים יותר לקבל אותם לחברה שלהם - או לפחות עד לנקודה שנמנעת מכל אלימות. 

אז איזה תרחיש ינצח? 

ככל הנראה, נראה משהו מתנגן באמצע. עם תחילתה של מהפכת המודיעין הזו, נראה את הרגיל 'טכנופני,' אותו מומחה לדיני טכנולוגיה ומדיניות, אדם טירר, מתאר כך שהוא עוקב אחר הדפוס החברתי הרגיל:

• הבדלי דורות שמובילים לפחד מהחדש, במיוחד אלה שמשבשים את ההתנהגות החברתית או מחסלים מקומות עבודה (קרא על ההשפעה של AI ב עתיד העבודה סִדרָה);
• "היפרנוסטלגיה" לימים הטובים, שבמציאות מעולם לא היו טובים כל כך;
• התמריץ לכתבים ופרשנים לעורר פחד על טכנולוגיה חדשה ומגמות בתמורה לקליקים, צפיות ומכירות מודעות;
• אינטרסים מיוחדים שמרפקים זה לזה עבור כסף או פעולה ממשלתית בהתאם לאופן שבו הקבוצה שלהם מושפעת מהטכנולוגיה החדשה הזו;
• עמדות אליטיסטיות של מבקרי אקדמיה ותרבות החוששים מטכנולוגיות חדשות שהציבור ההמוני מאמץ;
• אנשים המקרינים את הוויכוחים המוסריים והתרבותיים של אתמול והיום על הטכנולוגיות החדשות של המחר.

אבל כמו כל התקדמות חדשה, אנשים יתרגלו לזה. חשוב יותר, בעוד ששני מינים אולי לא חושבים זהים, אפשר למצוא שלום באמצעות אינטרסים או מטרות משותפים הדדיים.

לדוגמה, ה-AI החדש הזה יכול ליצור טכנולוגיות ומערכות חדשות לשיפור חיינו. ובתמורה, מימון ותמיכה ממשלתית ימשיכו לקדם את האינטרסים של בינה מלאכותית באופן כללי, במיוחד הודות לתחרות הפעילה בין תוכניות AI סיניות וארה"ב.

כמו כן, בכל הנוגע ליצירת על-אנושיים, פלגים דתיים במדינות רבות יתנגדו למגמה להתעסק גנטית בתינוקותיהם. עם זאת, המעשיות והאינטרס הלאומי ישברו בהדרגה את המחסום הזה. לגבי הראשונים, הורים יתפתו להשתמש בטכניקת עריכה גנטית כדי להבטיח שילדיהם ייולדו ממחלות וללא פגמים, אבל המטרה הראשונית הזו היא מדרון חלקלק לעבר שיפור גנטי פולשני יותר. כמו כן, אם סין תתחיל לשפר גנטית דורות שלמים מאוכלוסייתם, לארה"ב יהיה ציווי אסטרטגי ללכת בעקבותיה או להסתכן בפיגור קבוע שני עשורים מאוחר יותר - וכך גם לשאר העולם.

עד כמה שכל הפרק הזה קורא אינטנסיבי, אנחנו צריכים לזכור שהכל יהיה תהליך הדרגתי. זה יהפוך את העולם שלנו לשונה מאוד ומאוד מוזר. אבל נתרגל לזה, וזה יהפוך לעתיד שלנו.

סדרת העתיד של בינה מלאכותית

בינה מלאכותית היא החשמל של מחר: עתיד הבינה המלאכותית סדרת P1

איך הבינה הכללית המלאכותית הראשונה תשנה את החברה: עתיד הבינה המלאכותית סדרת P2

כיצד ניצור את ה- Artificial Super Intelligence: Future of Artificial Intelligence P3 הראשון

האם בינה-על מלאכותית תחסל את האנושות? עתיד הבינה המלאכותית P4

כיצד יתגונן בני אדם מפני בינה-על מלאכותית: עתיד הבינה המלאכותית P5