כיצד ניצור את הבינה המלאכותית הראשונה: עתיד הבינה המלאכותית P3

עמוק לתוך מלחמת העולם השנייה, כוחות נאצים התגלגלו בהרבה מאירופה. היו להם נשק מתקדם, תעשייה יעילה בזמן מלחמה, חי"ר מונע בקנאות, אבל מעל הכל, הייתה להם מכונה בשם אניגמה. מכשיר זה אפשר לכוחות הנאצים לשתף פעולה בבטחה למרחקים ארוכים על ידי שליחת הודעות מקודדות מורס זה לזה בקווי תקשורת סטנדרטיים; זו הייתה מכונת צופן בלתי ניתנת לחדירה לפורצי קוד אנושיים. 

למרבה המזל, בעלות הברית מצאו פתרון. הם כבר לא היו צריכים מוח אנושי כדי לשבור את האניגמה. במקום זאת, באמצעות המצאה של אלן טיורינג המנוח, בעלות הברית בנו כלי חדש ומהפכני בשם בומבה הבריטית, מכשיר אלקטרומכני שפענח לבסוף את הקוד הסודי של הנאצים, ובסופו של דבר עזר להם לנצח במלחמה.

הבומב הזה הניח את הבסיס למה שהפך למחשב המודרני.

עבד לצד טיורינג במהלך פרויקט הפיתוח של Bombe IJ Good, מתמטיקאי וקריפטולוג בריטי. הוא ראה בשלב מוקדם של משחק הקצה שהמכשיר החדש הזה יכול להביא יום אחד. ב נייר 1965, הוא כתב:

"תנו למכונה אולטרה-אינטליגנטית להיות מוגדרת כמכונה שיכולה לעלות בהרבה על כל הפעילויות האינטלקטואליות של כל אדם חכם ככל שיהיה. מכיוון שתכנון מכונות הוא אחת מהפעילויות האינטלקטואליות הללו, מכונה אולטרה-אינטליגנטית יכולה לתכנן מכונות טובות עוד יותר; אז יהיה ללא ספק "פיצוץ מודיעיני", והאינטליגנציה של האדם תישאר הרחק מאחור... לפיכך המכונה האולטרה-אינטליגנטית הראשונה היא ההמצאה האחרונה שהאדם צריך לעשות אי פעם, בתנאי שהמכונה צייתנית מספיק כדי לספר לנו איך לשמור על שליטה".

יצירת הבינה העל המלאכותית הראשונה

עד כה בסדרת עתיד הבינה המלאכותית שלנו, הגדרנו את שלוש הקטגוריות הרחבות של בינה מלאכותית (AI), מ- בינה צרה מלאכותית (ANI) ל בינה כללית מלאכותית (AGI), אבל בפרק הסדרה הזה, נתמקד בקטגוריה האחרונה - זו שמולידה התרגשות או התקפי פאניקה בקרב חוקרי בינה מלאכותית - בינה-על מלאכותית (ASI).

כדי לעטוף את הראש סביב מה זה ASI, תצטרך לחשוב אחורה לפרק האחרון שבו תיארנו כיצד חוקרי AI מאמינים שהם ייצרו את ה-AGI הראשון. בעיקרון, זה ייקח שילוב של אלגוריתמים טובים יותר להזנת נתונים גדולים (כאלה שמתמחים בשיפור עצמי ויכולות למידה דמויות אדם) הממוקמים בחומרת מחשוב חזקה יותר ויותר.

בפרק זה, תיארנו גם כיצד מוח AGI (ברגע שהוא יקבל את יכולות השיפור העצמי ויכולות הלמידה הללו שאנו בני האדם לוקחים כמובנות מאליהן) בסופו של דבר יעלה על המוח האנושי בדרך של מהירות מחשבה מעולה, זיכרון משופר, ביצועים בלתי נלאים, ו יכולת שדרוג מיידית.

אבל כאן חשוב לציין ש-AGI ישתפר רק עד לגבולות החומרה והנתונים שיש לו גישה אליהם; מגבלה זו יכולה להיות גדולה או קטנה בהתאם לגוף הרובוט שאנו נותנים לו או קנה המידה של המחשבים שאנו מאפשרים לו גישה אליהם.

בינתיים, ההבדל בין AGI ל-ASI הוא שהאחרון, באופן תיאורטי, לעולם לא יתקיים בצורה פיזית. הוא יפעל כולו בתוך מחשב-על או רשת של מחשבי-על. בהתאם למטרות של יוצריו, הוא עשוי גם לקבל גישה מלאה לכל הנתונים המאוחסנים באינטרנט, כמו גם לכל מכשיר או אדם שמזין נתונים באינטרנט ומעליו. זה אומר שלא יהיה גבול מעשי לכמה ASI זה יכול ללמוד וכמה הוא יכול להשתפר בעצמו. 

וזה השפשוף. 

הבנת הפיצוץ המודיעיני

תהליך זה של שיפור עצמי ש-AI יזכו בסופו של דבר כשהם הופכים ל-AGIs (תהליך שקהילת AI מכנה שיפור עצמי רקורסיבי) עלול להיפטר מלולאת משוב חיובית שנראית בערך כך:

AGI חדש נוצר, ניתנת גישה לגוף רובוט או למערך נתונים גדול, ולאחר מכן ניתנת למשימה הפשוטה של ​​חינוך עצמו, שיפור האינטליגנציה שלו. בהתחלה, ל-AGI הזה יהיה מנת משכל של תינוק שמתקשה לתפוס מושגים חדשים. עם הזמן, הוא לומד מספיק כדי להגיע ל-IQ של מבוגר ממוצע, אבל זה לא נעצר כאן. שימוש ב-IQ למבוגרים חדש זה הופך להיות הרבה יותר קל ומהיר להמשיך את השיפור הזה עד לנקודה שבה ה-IQ שלו תואם לזה של בני האדם החכמים ביותר הידועים. אבל שוב, זה לא נעצר שם.

תהליך זה מתערב בכל רמה חדשה של אינטליגנציה, בעקבות חוק האצת ההחזרים עד שהוא מגיע לרמה הבלתי ניתנת לחישוב של אינטליגנציה-על - במילים אחרות, אם לא בודקים אותו ומקבלים משאבים בלתי מוגבלים, AGI ישתפר בעצמו ל-ASI, אינטלקט מעולם לא היה קיים בטבע.

זה מה ש-IJ Good זיהה לראשונה כשתיאר את 'הפיצוץ המודיעיני' הזה או את מה שתיאורטיקנים מודרניים של AI, כמו ניק בוסטרום, מכנים את אירוע 'ההמראה' של ה-AI.

הבנת אינטליגנציה-על מלאכותית

בשלב זה, חלקכם בוודאי חושבים שההבדל העיקרי בין אינטליגנציה אנושית לאינטליגנציה של ASI הוא כמה מהר כל צד יכול לחשוב. ולמרות שזה נכון שהעתיד התיאורטי הזה ASI יחשוב מהר יותר מבני אדם, היכולת הזו כבר די נפוצה בכל מגזר המחשבים של היום - הסמארטפון שלנו חושב (מחשב) מהר יותר ממוח אנושי, מחשב העל חושב מהר יותר מיליוני פעמים מסמארטפון, ומחשב קוונטי עתידי יחשוב מהר יותר. 

לא, מהירות היא לא תכונת האינטליגנציה שאנו מסבירים כאן. זו האיכות. 

אתה יכול להאיץ את המוח של הסמויד או קורגי שלך ככל שתרצה, אבל זה לא מתורגם להבנה חדשה כיצד לפרש שפה או רעיונות מופשטים. אפילו עם עשור או שניים נוספים, הכלבים האלה לא יבינו פתאום איך ליצור או להשתמש בכלים, שלא לדבר על ההבדלים העדינים יותר בין מערכת כלכלית קפיטליסטית לסוציאליסטית.

כשזה מגיע לאינטליגנציה, בני אדם פועלים במישור אחר מאשר בעלי חיים. באופן דומה, אם ASI יגיע למלוא הפוטנציאל התיאורטי שלו, המוח שלהם יפעל ברמה הרבה מעבר להישג ידו של האדם המודרני הממוצע. להקשר מסוים, בואו נסתכל על היישומים של ASI אלה.

כיצד עשויה בינה-על מלאכותית לעבוד לצד האנושות?

בהנחה שממשלה או תאגיד מסוימים מצליחים ליצור ASI, כיצד הם יכולים להשתמש בו? לדברי בוסטרום, ישנן שלוש צורות נפרדות אך קשורות ל-ASI הללו:

• אורקל. כאן, היינו מקיימים אינטראקציה עם ASI כמו שאנחנו כבר עושים עם מנוע החיפוש של Google; אנחנו נשאל אותה שאלה, אבל לא משנה כמה מורכבת השאלה האמורה, ה-ASI יענה עליה בצורה מושלמת ובאופן המותאם לך ולהקשר של השאלה שלך.
• Genie. במקרה זה, נקצה ל-ASI משימה ספציפית, והיא תתבצע לפי הפקודה. חקר תרופה לסרטן. בוצע. מצא את כל כוכבי הלכת החבויים בתוך צבר התמונות של 10 שנים מטלסקופ החלל האבל של נאס"א. בוצע. הנדס כור היתוך עובד כדי לפתור את הדרישה לאנרגיה של האנושות. אברה קדברה.
• שליט. כאן, ל-ASI מוקצה משימה פתוחה וניתן לו החופש לבצע אותה. לגנוב את סודות המו"פ מהמתחרה הארגונית שלנו. "קַל." גלה את זהותם של כל המרגלים הזרים המסתתרים בגבולותינו. "על זה." להבטיח את המשך השגשוג הכלכלי של ארצות הברית. "אין בעיה."

עכשיו, אני יודע מה אתה חושב, כל זה נשמע די מופרך. לכן חשוב לזכור שכל בעיה/אתגר שיש בחוץ, אפילו אלו שהכשילו את המוחות המבריקים בעולם עד היום, כולם ניתנים לפתרון. אבל הקושי של בעיה נמדד לפי האינטלקט המתמודד איתה.

במילים אחרות, ככל שהמוח מופעל על אתגר גדול יותר, כך קל יותר למצוא פתרון לאתגר האמור. כל אתגר. זה כמו מבוגר שמתבונן בתינוק שנאבק להבין מדוע הוא לא יכול להכניס גוש מרובע לפתח עגול - עבור המבוגר, להראות לתינוק שהגוש צריך להיכנס דרך הפתח המרובע יהיה משחק ילדים.

באופן דומה, אם ה-ASI העתידי הזה יגיע למלוא הפוטנציאל שלו, המוח הזה יהפוך לאינטלקט החזק ביותר ביקום הידוע - חזק מספיק כדי לפתור כל אתגר, מורכב ככל שיהיה. 

זו הסיבה שחקרי בינה מלאכותית רבים מכנים את ה-ASI ההמצאה האחרונה שהאדם יצטרך לעשות אי פעם. אם נשכנע לעבוד לצד האנושות, זה יכול לעזור לנו לפתור את כל הבעיות הדוחקות ביותר בעולם. אנחנו אפילו יכולים לבקש ממנו לחסל את כל המחלות ולסיים את ההזדקנות כפי שאנו מכירים אותה. האנושות יכולה בפעם הראשונה לרמות את המוות לצמיתות ולהיכנס לעידן חדש של שגשוג.

אבל אפשרי גם ההפך. 

אינטליגנציה היא כוח. אם שחקנים גרועים מנוהלים או יקבל הנחיות, ה-ASI הזה יכול להפוך לכלי הדיכוי האולטימטיבי, או שהוא יכול להשמיד את האנושות כליל - תחשוב על Skynet מהמחסל או האדריכל מסרטי מטריקס.

למען האמת, אף אחד מהקיצוניים אינו סביר. העתיד תמיד מבולגן הרבה יותר ממה שצופים האוטופים והדיסטופים. זו הסיבה שכעת, כאשר אנו מבינים את הרעיון של ASI, שאר הסדרה הזו תחקור כיצד ASI ישפיע על החברה, כיצד החברה תתגונן מפני ASI נוכל, וכיצד עשוי להיראות העתיד אם בני אדם ובינה מלאכותית יחיו זה לצד זה -צַד. תמשיך לקרוא.

סדרת העתיד של בינה מלאכותית

בינה מלאכותית היא החשמל של מחר: עתיד הבינה המלאכותית סדרת P1

איך הבינה הכללית המלאכותית הראשונה תשנה את החברה: עתיד הבינה המלאכותית סדרת P2

האם בינה-על מלאכותית תחסל את האנושות?: סדרת העתיד של בינה מלאכותית P4

איך בני אדם יתגונו מפני בינה-על מלאכותית: עתיד הבינה המלאכותית סדרת P5

האם בני אדם יחיו בשלום בעתיד שנשלט על ידי בינה מלאכותית?: סדרת העתיד של הבינה המלאכותית P6