כיצד הבינה הכללית המלאכותית הראשונה תשנה את החברה: עתיד הבינה המלאכותית P2

בנינו פירמידות. למדנו לרתום חשמל. אנו מבינים כיצד נוצר היקום שלנו לאחר המפץ הגדול (בעיקר). וכמובן, הדוגמה הקלישאית, העלינו אדם על הירח. עם זאת, למרות כל ההישגים הללו, המוח האנושי נותר הרחק מחוץ להבנת המדע המודרני והוא, כברירת מחדל, האובייקט המורכב ביותר ביקום הידוע - או לפחות ההבנה שלנו לגביו.

בהתחשב במציאות הזו, זה לא אמור להיות מזעזע לחלוטין שעדיין לא בנינו בינה מלאכותית (AI) בדומה לבני אדם. בינה מלאכותית כמו דאטה (מסע בין כוכבים), רייצ'ל (בלייד ראנר) ודיוויד (פרומתאוס), או בינה מלאכותית לא אנושית כמו סמנתה (היא) ו-TARS (בין כוכבים), כל אלו הן דוגמאות לאבן הדרך הגדולה הבאה בפיתוח בינה מלאכותית: בינה כללית מלאכותית (AGI, לפעמים מכונה גם HLMI או Human Level Machine Intelligence). 

במילים אחרות, האתגר שעומד בפני חוקרי בינה מלאכותית הוא: איך אנחנו יכולים לבנות מוח מלאכותי הדומה לזה שלנו כשאין לנו אפילו הבנה מלאה של איך המוח שלנו פועל?

נחקור את השאלה הזו, יחד עם האופן שבו בני אדם יתמודדו מול AGIs עתידיים, ולבסוף, כיצד החברה תשתנה יום לאחר הכרזת ה-AGI הראשונה לעולם. 

מהי בינה כללית מלאכותית?

עצב בינה מלאכותית שיכולה לנצח את השחקנים המובילים בשחמט, Jeopardy ו-Go, בקלות (®Deep Blue דיפ בלו, ווטסון, ו AlphaGO בהתאמה). עצב בינה מלאכותית שיכולה לתת לך תשובות לכל שאלה, להציע פריטים שאולי תרצה לקנות, או לנהל צי של מוניות נסיעות - חברות שלמות של מיליארדי דולרים בנויות סביבן (גוגל, אמזון, אובר). אפילו AI שיכול להסיע אותך מצד אחד של הארץ לצד השני... ובכן, אנחנו עובדים על זה.

אבל בקשו מבינה מלאכותית לקרוא ספר ילדים ולהבין את התוכן, המשמעות או המוסר שהוא מנסה ללמד, או שאלו מבינה מלאכותית להבדיל בין תמונה של חתול לזברה, ובסופו של דבר תגרמו ליותר מכמה קצרים. 

הטבע בילה מיליוני שנים בפיתוח מכשיר מחשוב (מוח) המצטיין בעיבוד, הבנה, למידה ולאחר מכן פעולה על מצבים חדשים ובתוך סביבות חדשות. השווה את זה לחצי המאה האחרונה של מדעי המחשב שהתמקדה ביצירת מכשירי מחשוב שהותאמו למשימות הייחודיות להן תוכננו. 

במילים אחרות, האדם-מחשב הוא גנרליסט, בעוד שהמחשב המלאכותי הוא מומחה.

המטרה של יצירת AGI היא ליצור בינה מלאכותית שיכולה לחשוב וללמוד יותר כמו אדם, דרך ניסיון ולא דרך תכנות ישיר.

בעולם האמיתי, המשמעות היא ש-AGI עתידית ילמד איך לקרוא, לכתוב ולספר בדיחה, או ללכת, לרוץ ולרכוב על אופניים בעיקר בכוחות עצמו, דרך הניסיון שלו בעולם (באמצעות כל גוף או איברי/מכשירי חישה שאנו נותנים לו), ובאמצעות האינטראקציה שלו AI אחרים ובני אדם אחרים.

מה יידרש כדי לבנות בינה כללית מלאכותית

למרות שקשה מבחינה טכנית, יצירת AGI חייבת להיות אפשרית. אם למעשה, יש תכונה עמוקה בחוקי הפיזיקה - האוניברסליות של החישוב - שאומר בעצם כל מה שאובייקט פיזי יכול לעשות, מחשב חזק מספיק, לשימוש כללי צריך, באופן עקרוני, להיות מסוגל להעתיק/לדמות.

ועדיין, זה מסובך.

למרבה המזל, יש הרבה חוקרי בינה מלאכותית חכמים על המקרה (שלא לדבר על הרבה מימון תאגידי, ממשלתי וצבאי שתומכים בהם), ועד כה, הם זיהו שלושה מרכיבים מרכזיים שלדעתם יש צורך לפתור כדי להביא AGI לתוך העולם שלנו.

נתונים גדולים. הגישה הנפוצה ביותר לפיתוח בינה מלאכותית כוללת טכניקה הנקראת למידה עמוקה - סוג מסוים של מערכת למידת מכונה הפועלת על ידי הוצאת כמויות ענק של נתונים, ריסוק הנתונים הללו ברשת של נוירונים מדומים (שמודל של המוח האנושי), ואז להשתמש בממצאים כדי לתכנת את התובנות שלו. לפרטים נוספים על למידה עמוקה, לקרוא את זה.

לדוגמה, ב2017, גוגל האכילה את הבינה המלאכותית שלה באלפי תמונות של חתולים שמערכת הלמידה העמוקה שלה השתמשה בהן כדי ללמוד לא רק כיצד לזהות חתול, אלא להבדיל בין גזעי חתולים שונים. זמן לא רב לאחר מכן, הם הודיעו על השחרור הממשמש ובא של עדשה של Google, אפליקציית חיפוש חדשה המאפשרת למשתמשים לצלם כל דבר וגוגל לא רק תגיד לך מה זה, אלא תציע תוכן קונטקסטואלי שימושי שמתאר אותו - שימושי בעת נסיעה ואתה רוצה ללמוד עוד על אטרקציה תיירותית ספציפית. אבל גם כאן, Google Lens לא יתאפשר בלי מיליארדי התמונות הרשומות כיום במנוע חיפוש התמונות שלה.

ועדיין, שילוב הנתונים הגדול הזה ולמידה עמוקה עדיין לא מספיק כדי להביא ל-AGI.

אלגוריתמים טובים יותר. בעשור האחרון, חברת בת של גוגל ומובילה בתחום הבינה המלאכותית, DeepMind, עשתה חיל על ידי שילוב החוזקות של למידה עמוקה עם למידת חיזוק - גישת למידת מכונה משלימה שמטרתה ללמד בינה מלאכותית כיצד לבצע פעולות בסביבות חדשות כדי להשיג הישגים. מטרה מוגדרת.

הודות לטקטיקה ההיברידית הזו, הבינה המלאכותית הבכורה של DeepMind, AlphaGo, לא רק לימדה את עצמה איך לשחק ב-AlphaGo על ידי הורדת הכללים ולימוד האסטרטגיות של שחקני אמן אנושיים, אלא לאחר ששיחקה מול עצמה מיליוני פעמים הצליחה לנצח את שחקני AlphaGo הטובים ביותר. באמצעות מהלכים ואסטרטגיות שלא נראו קודם לכן במשחק. 

כמו כן, ניסוי התוכנה Atari של DeepMind כלל מתן AI מצלמה כדי לראות מסך משחק טיפוסי, תכנותו עם היכולת להזין הזמנות משחק (כמו כפתורי ג'ויסטיק), ומתן לו את המטרה הייחודית להגדיל את הניקוד שלו. התוצאה? תוך ימים, הוא לימד את עצמו איך לשחק וכיצד לשלוט בעשרות משחקי ארקייד קלאסיים. 

אך עד כמה שההצלחות המוקדמות הללו מרגשות, נותרו כמה אתגרים מרכזיים שצריך לפתור.

ראשית, חוקרי AI עובדים על ללמד AI טריק שנקרא 'chunking' שמוחות בני אדם ובעלי חיים טובים בו בצורה יוצאת דופן. במילים פשוטות, כאשר אתה מחליט לצאת לקנות מצרכים, אתה יכול לדמיין את המטרה הסופית שלך (קניית אבוקדו) ותוכנית גסה לגבי איך תעשה זאת (צא מהבית, בקר במכולת, קנה האבוקדו, לחזור הביתה). מה שאתה לא עושה זה לתכנן כל נשימה, כל צעד, כל מגירה אפשרית בדרכך לשם. במקום זאת, יש לך רעיון (נתח) בראש שלך לאן אתה רוצה ללכת ולהתאים את הטיול שלך לכל מצב שמתרחש.

עד כמה שזה עשוי להרגיש לכם, היכולת הזו היא אחד היתרונות המרכזיים שעדיין יש למוח האנושי על פני AI - היא היכולת להגדיר מטרה ולרדוף אחריה מבלי לדעת כל פרט מראש ולמרות כל מכשול או שינוי סביבתי שאנו עושים. עלול להיתקל. מיומנות זו תאפשר ל-AGI ללמוד בצורה יעילה יותר, ללא צורך בנתונים הגדולים שהוזכרו לעיל.

אתגר נוסף הוא היכולת לא רק לקרוא ספר אלא להבין את המשמעות או ההקשר מאחוריו. לטווח ארוך, המטרה כאן היא שבינה מלאכותית תקרא כתבה בעיתון ויוכל לענות במדויק על מגוון שאלות לגבי מה שהוא קורא, בערך כמו כתיבת דו"ח ספר. היכולת הזו תהפוך בינה מלאכותית מפשוט מחשבון שמצמצם מספרים לישות שמפרקת משמעות.

בסך הכל, התקדמות נוספת באלגוריתם למידה עצמית שיכול לחקות את המוח האנושי ישחק תפקיד מפתח ביצירת AGI בסופו של דבר, אך לצד העבודה הזו, קהילת הבינה המלאכותית זקוקה גם לחומרה טובה יותר.

חומרה טובה יותר. באמצעות הגישות הנוכחיות שהוסברו לעיל, AGI יתאפשר רק לאחר שנשפר ברצינות את כוח המחשוב הזמין להפעלתו.

לצורך ההקשר, אם לקחנו את יכולת החשיבה של המוח האנושי והמרנו אותה למונחים חישוביים, אז ההערכה הגסה של היכולת המנטלית של אדם ממוצע היא אקספפל אחת, השווה ל-1,000 פטפלופ ('פלופ' מייצג פעולות נקודה צפה לפי שני ומודד את מהירות החישוב).

לשם השוואה, עד סוף 2018, מחשב העל החזק בעולם, של יפן AI ברידג'ינג ענן יזמזם ב-130 פטפלופים, הרבה פחות מאקספלופ אחד.

כפי שמתואר אצלנו מחשבים פרק אצלנו עתיד המחשבים סדרות, גם ארה"ב וגם סין פועלות לבנות מחשבי-על משלהן עד 2022, אבל גם אם הם יצליחו, זה עדיין לא יספיק.

מחשבי העל הללו פועלים על כמה עשרות מגה וואט של כוח, תופסים כמה מאות מטרים רבועים של שטח, ובנייתם ​​עולה כמה מאות מיליונים. מוח אנושי משתמש בעוצמה של 20 וואט בלבד, נכנס לגולגולת בהיקף של כ-50 ס"מ, וישנו שבעה מיליארד (2018). במילים אחרות, אם אנחנו רוצים להפוך את AGIs לנפוצים כמו בני אדם, נצטרך ללמוד איך ליצור אותם בצורה יותר כלכלית.

לשם כך, חוקרי בינה מלאכותית מתחילים לשקול הפעלת בינה מלאכותית עתידית עם מחשבים קוונטיים. מתואר ביתר פירוט ב- מחשבים קוונטיים בפרק בסדרת עתיד המחשבים שלנו, המחשבים האלה עובדים בצורה שונה מהותית מהמחשבים שבנינו בחצי המאה האחרונה. לאחר ששוכלל בשנות ה-2030 של המאה ה-2018, מחשב קוונטי יחיד יבצע חישוב של כל מחשב-על הפועל כיום ב-XNUMX, ברחבי העולם. הם גם יהיו הרבה יותר קטנים ויצרכו הרבה פחות אנרגיה ממחשבי העל הנוכחיים. 

איך בינה כללית מלאכותית תהיה עדיפה על אדם?

הבה נניח שכל אתגר המפורט לעיל מתברר, כי חוקרי בינה מלאכותית מוצאים הצלחה ביצירת ה-AGI הראשון. במה מוח AGI יהיה שונה משלנו?

כדי לענות על שאלה מסוג זה, עלינו לסווג מוחות AGI לשלוש קטגוריות, אלו שחיות בתוך גוף רובוט (נתונים מ מסע בין כוכבים), כאלה שיש להם צורה פיזית אך מחוברים באופן אלחוטי לאינטרנט/ענן (הסוכן Smith מ המטריקס) ואלה ללא צורה פיזית שחיים לחלוטין במחשב או באינטרנט (סמנתה מ ספריה).

כדי להתחיל, AGIs בתוך גוף רובוטי מבודד מהאינטרנט יתחרו בשוויון עם המוח האנושי, אבל עם יתרונות נבחרים:

• זיכרון: בהתאם לעיצוב הצורה הרובוטית של ה-AGI, הזיכרון לטווח הקצר וזיכרון המידע המפתח שלהם בהחלט יהיו עדיפים על בני אדם. אבל בסופו של יום, יש גבול פיזי לכמה שטח כונן קשיח אתה יכול לארוז לתוך הרובוט, בהנחה שנעצב אותם כך שיראו כמו בני אדם. מסיבה זו, הזיכרון לטווח ארוך של AGIs יתנהג מאוד כמו זה של בני אדם, וישכח באופן פעיל מידע וזיכרונות שנחשבים מיותרים לתפקודו העתידי (על מנת לפנות 'שטח דיסק').
• מהירות: הביצועים של נוירונים בתוך המוח האנושיים מגיעים ל-200 הרץ בערך, בעוד שמיקרו-מעבדים מודרניים פועלים ברמת גיגה-הרץ, אז מהר יותר פי מיליוני מנוירונים. המשמעות היא שבהשוואה לבני אדם, AGIs עתידיים יעבדו מידע ויקבלו החלטות מהר יותר מבני אדם. שימו לב, זה לא בהכרח אומר שה-AGI הזה יקבל החלטות חכמות או נכונות יותר מבני אדם, רק שהם יכולים להגיע למסקנות מהר יותר.
• ביצועים: במילים פשוטות, המוח האנושי מתעייף אם הוא פועל זמן רב מדי ללא מנוחה או שינה, וכשהוא עושה זאת, הזיכרון שלו ויכולת הלמידה וההיגיון שלו נפגעים. בינתיים, עבור AGIs, בהנחה שהם נטענים מחדש (חשמל) באופן קבוע, לא תהיה להם את החולשה הזו.
• יכולת שדרוג: לאדם, לימוד הרגל חדש יכול לקחת שבועות של תרגול, לימוד מיומנות חדשה יכולה לקחת חודשים, ולימוד מקצוע חדש יכול לקחת שנים. עבור AGI, תהיה להם את היכולת ללמוד הן על ידי ניסיון (כמו בני אדם) והן על ידי העלאת נתונים ישירה, בדומה לאופן שבו אתה מעדכן באופן קבוע את מערכת ההפעלה של המחשב שלך. עדכונים אלה יכולים לחול על שדרוגי ידע (מיומנויות חדשות) או שדרוגי ביצועים לצורה הפיזית של AGI. 

לאחר מכן, בואו נסתכל על AGIs שיש להם צורה פיזית, אבל גם מחוברים אלחוטית לאינטרנט/ענן. ההבדלים שאנו יכולים לראות עם רמה זו בהשוואה ל-AGIs שאינם מחוברים כוללים:

• זיכרון: ל-AGIs אלו יהיו כל היתרונות לטווח הקצר שיש למחלקת ה-AGI הקודמת, פרט לכך שהם ייהנו גם מזיכרון מושלם לטווח ארוך מכיוון שהם יכולים להעלות את הזיכרונות הללו לענן כדי לגשת אליהם בעת הצורך. ברור שהזיכרון הזה לא יהיה נגיש באזורים עם קישוריות נמוכה, אבל זה יהפוך פחות לדאגה במהלך שנות ה-2020 וה-2030, כאשר יותר מהעולם יתחבר לאינטרנט. קרא עוד ב פרק אחד שלנו עתיד האינטרנט סדרה. 
• מהירות: בהתאם לסוג המכשול שעומד בפני AGI, הם יכולים לגשת לכוח המחשוב הגדול יותר של הענן כדי לעזור להם לפתור אותו.
• ביצועים: אין הבדל בהשוואה ל-AGIs לא מחוברים.
• יכולת שדרוג: ההבדל היחיד בין AGI זה בכל הנוגע לשדרוג הוא שהם יכולים לגשת לשדרוגים בזמן אמת, באופן אלחוטי, במקום צורך לבקר ולהתחבר למחסן שדרוג.
• קולקטיבי: בני אדם הפכו למין הדומיננטי בכדור הארץ לא בגלל שהיינו החיה הכי גדולה או חזקה, אלא בגלל שלמדנו איך לתקשר ולשתף פעולה בדרכים שונות כדי להשיג מטרות קולקטיביות, מציד ממותה צמרית ועד לבניית תחנת החלל הבינלאומית. צוות של AGIs ייקח את שיתוף הפעולה הזה לשלב הבא. בהתחשב בכל היתרונות הקוגניטיביים המפורטים לעיל ולאחר מכן לשלב את זה עם היכולת לתקשר באופן אלחוטי, הן באופן אישי והן על פני מרחקים ארוכים, צוות עתידי של AGI/כוורת יכול תיאורטית להתמודד עם פרויקטים ביעילות רבה יותר מאשר צוות של בני אדם. 

לבסוף, הסוג האחרון של AGI הוא הגרסה ללא צורה פיזית, כזו שפועלת בתוך מחשב, ויש לה גישה לכל כוח המחשוב ולמשאבים המקוונים שיוצריה מספקים לו. בתוכניות מדע בדיוני ובספרים, AGIs אלה בדרך כלל לובשים צורה של עוזרים/חברים וירטואליים מומחים או מערכת הפעלה מפוקפקת של חללית. אבל בהשוואה לשתי הקטגוריות האחרות של AGI, AI זה יהיה שונה בדרכים הבאות;

• מהירות: בלתי מוגבלת (או, לפחות למגבלות החומרה שיש לה גישה אליה).
• זיכרון: ללא הגבלה  
• ביצועים: עלייה באיכות קבלת ההחלטות הודות לגישה שלה למרכזי מחשוב-על.
• יכולת שדרוג: מוחלטת, בזמן אמת, ועם מבחר בלתי מוגבל של שדרוגים קוגניטיביים. כמובן, מכיוון שלקטגוריית AGI זו אין צורת רובוט פיזית, לא יהיה לה צורך בשדרוגים הפיזיים הזמינים אלא אם כן השדרוגים הללו הם למחשבי העל שבהם הוא פועל.
• קולקטיבי: בדומה לקטגוריית AGI הקודמת, AGI חסרת גוף זו תשתף פעולה ביעילות עם עמיתיה ל-AGI. עם זאת, לאור הגישה הישירה יותר שלה לכוח מחשוב בלתי מוגבל ולגישה למשאבים מקוונים, AGIs אלה בדרך כלל יקחו תפקידי מנהיגות בקולקטיב AGI כולל. 

מתי האנושות תיצור את הבינה הכללית המלאכותית הראשונה?

אין תאריך מוגדר שבו קהילת המחקר של AI מאמינה שהם ימציאו AGI לגיטימי. עם זאת, א 2013 סקר מתוך 550 מבכירי חוקרי הבינה המלאכותית בעולם, שבוצעו על ידי הוגי מחקר הבינה המלאכותית המובילים ניק בוסטרום ווינסנט סי מולר, הביאו ממוצע של טווח הדעות לשלוש שנים אפשריות:

• חציון שנה אופטימית (10% סבירות): 2022
• שנה ריאלית חציונית (50% סבירות): 2040
• חציון שנה פסימית (סבירות של 90%): 2075 

עד כמה התחזיות האלה מדוייקות לא ממש משנה. מה שכן משנה הוא שהרוב המכריע של קהילת המחקר של AI מאמין שנמציא AGI במהלך חיינו ובתחילת המאה הזו יחסית. 

כיצד יצירת אינטליגנציה כללית מלאכותית תשנה את האנושות

אנו חוקרים את ההשפעה של ה-AI החדשים הללו בפירוט לאורך הפרק האחרון ממש בסדרה זו. עם זאת, לפרק זה, נגיד שיצירת AGI תהיה דומה מאוד לתגובה החברתית שנחווה אם בני אדם ימצאו חיים על מאדים. 

מחנה אחד לא יבין את המשמעות וימשיך לחשוב שמדענים עושים עניין גדול ביצירת מחשב נוסף חזק יותר.

מחנה אחר, ככל הנראה מורכב מלודיטים ואנשים בעלי גישה דתית, יפחד מה-AGI הזה, מתוך מחשבה שזו תועבה שהוא ינסה להשמיד את האנושות בסגנון SkyNet. מחנה זה יתמוך באופן פעיל במחיקת/השמדת AGIs על כל צורותיהם.

מהצד השני, המחנה השלישי יראה ביצירה זו אירוע רוחני מודרני. בכל הדרכים החשובות, ה-AGI הזה יהיה צורת חיים חדשה, כזו שחושבת אחרת מאיתנו ושמטרותיה שונות משלנו. ברגע שתוכרז על יצירת AGI, בני האדם כבר לא יחלקו את כדור הארץ רק עם בעלי חיים, אלא גם לצד מעמד חדש של יצורים מלאכותיים שהאינטליגנציה שלהם שווה או עדיפה משלנו.

המחנה הרביעי יכלול אינטרסים עסקיים שיחקרו כיצד הם יכולים להשתמש ב-AGI כדי לתת מענה לצרכים עסקיים שונים, כמו מילוי פערים בשוק העבודה והאצת פיתוח סחורות ושירותים חדשים.

לאחר מכן, יש לנו נציגים מכל רמות הממשל שימעדו על עצמם בניסיון להבין איך להסדיר את ה-AGIs. זו הרמה שבה כל הוויכוחים המוסריים והפילוסופיים יגיעו לראש, במיוחד אם להתייחס ל-AGIs האלה כרכוש או כאל אנשים. 

ולבסוף, המחנה האחרון יהיה סוכנויות הצבא והביטחון הלאומי. למען האמת, יש סיכוי טוב שההכרזה הפומבית על ה-AGI הראשון עשויה להתעכב בחודשים עד שנים רק בגלל המחנה הזה. למה? מכיוון שהמצאת AGI, תוביל תוך זמן קצר ליצירת בינת-על מלאכותית (ASI), כזו שתייצג איום גיאופוליטי מסיבי והזדמנות העולה בהרבה על המצאת הפצצה הגרעינית. 

מסיבה זו, הפרקים הבאים יתמקדו לחלוטין בנושא של ASIs והאם האנושות תשרוד לאחר המצאתה.

(דרך דרמטית מדי לסיים פרק? אתה בטוח.)

סדרת העתיד של בינה מלאכותית

בינה מלאכותית היא החשמל של מחר: עתיד הבינה המלאכותית P1

כיצד ניצור את ה- Artificial Super Intelligence: Future of Artificial Intelligence P3 הראשון 

האם בינה-על מלאכותית תחסל את האנושות? עתיד הבינה המלאכותית P4

כיצד יתגונן בני אדם מפני בינה-על מלאכותית: עתיד הבינה המלאכותית P5

האם בני אדם יחיו בשלום בעתיד שנשלט על ידי בינה מלאכותית? עתיד הבינה המלאכותית P6