Quantumrun

בילד קרעדיט: Quantumrun

ווי יומאַנז וועט באַשיצן קעגן אַ קינסטלעך סופּערינטעלליגענסע: צוקונפֿט פון קינסטלעך סייכל P5

דוד טאַל, פֿאַרלאַג, פיוטשעריסט
@ DavidTalWrites
לינקעדין

דינסטיק, 09/15/2020 - 13:15

די יאָר איז 65,000 בק, און ווי אַ טהילאַקאָלעאָ, איר און דיין מין זענען געווען די גרויס יעגערס פון אלטע אויסטראַליע. דו האסט פריי ארומגעוואנדערט איבערן לאנד און געלעבט אין גלייכקייט מיט די פריינדליכע רויב און רויב וואס האבן פארנומען דאס לאנד צוזאמען מיט דיר. די סעאַסאָנס געבראכט ענדערונגען, אָבער דיין סטאַטוס אין די כייַע מלכות איז געבליבן אַנטשולדיקן פֿאַר ווי לאַנג ווי איר און דיין אָוועס קען געדענקען. דא ן אי ן א טא ג האב ן זי ך באװיזן .

קלאַנג איז אַז זיי זענען אנגעקומען פון די ריז וואַסער וואַנט, אָבער די באשעפענישן געווען מער באַקוועם לעבעדיק אויף לאַנד. די דאזיקע באשעפענישן האט איר אלײן געמוזט זען.

עס האָט געדויערט עטלעכע טעג, אָבער איר לעסאָף געמאכט עס צו די ברעג. די פייַער אין די הימל איז געווען באַשטעטיקן, אַ גאנץ צייַט צו שפּיאָן אויף די באשעפענישן, אפֿשר אפילו פּרובירן עסן איינער צו זען ווי זיי געשמאַק.

איר געפֿינען איינער.

ע ס אי ז געגאנגע ן אוי ף צװ ײ פיס , או ן הא ט ניש ט געהא ט קײ ן פוטער . ס׳האט אויסגעזען שװאך. ונימפּרעסיוו. קוים ווערט די מורא וואָס עס האָט געפֿירט צווישן די מלכות.

איר אָנהייבן צו קערפאַלי מאַכן דיין צוגאַנג ווי די נאַכט טשייסאַז אַוועק די ליכט. איר ווערט נענטער. דעמאָלט איר פרירן. הויך נויזיז קלינגען אויס און דעמאָלט פיר נאָך פון זיי דערשייַנען אויס פון די וואַלד הינטער אים. ווי פילע זענען דאָרט?

די באַשעפעניש גייט די אנדערע אין די טרילינע, און איר נאָכפאָלגן. און די מער איר טאָן, די מער מאָדנע סאָונדס איר הערן ביז איר דערקענען אפילו מער פון די באשעפענישן. איר נאָכפאָלגן אין אַ ווייַטקייט ווי זיי אַרויסגאַנג די וואַלד אין אַ פּאָליאַנע ביי די ברעג. עס זענען פילע פון זיי. אבער מער וויכטיג, זיי זיצן אלע רואיג ארום א פייער.

די דאזיקע פייערן האסטו שוין געזען. אי ן דע ר הײסע ר צײ ט פלעג ט דא ס פײע ר אי ן הימל , אמא ל באזוכ ן דא ם לאנד , או ן פארברענע ן גאנצ ע װעלדער . די באשעפענישן, אויף די אנדערע האַנט, זיי האָבן עפעס קאַנטראָולד עס. וואָס פֿאַר אַ באַשעפענישן קענען פאַרמאָגן אַזאַ מאַכט?

איר קוק אין דער ווייַטקייט. מער קומען איבער די ריזיגע וואסער וואנט.

איר נעמען אַ שריט צוריק.

די באשעפענישן זענען נישט ווי די אנדערע אין די מלכות. זיי זענען עפּעס גאָר נייַ.

איר באַשליסן צו לאָזן און וואָרענען דיין קרובים. אויב זייער נומערן וואַקסן צו גרויס, ווער ווייסט וואָס קען פּאַסירן.

***

עס איז געגלויבט אַז די טהילאַקאָלעאָ איז יקסטינגקט אַ לעפיערעך קורץ צייַט נאָך דעם אָנקומען פון יומאַנז, צוזאַמען מיט די מערהייַט פון די אנדערע מעגאַפאָנאַ אויף די אַוסטראַליאַן קאָנטינענט. קיין אנדערע שפּיץ מאַממאַליאַן פּרעדאַטערז גענומען זיין אָרט - דאָס איז סייַדן איר ציילן יומאַנז אין דער קאַטעגאָריע.

דער פאָקוס פון דעם סעריע קאַפּיטל איז די פאָקוס פון דעם סעריע קאַפּיטל: וועט אַ צוקונפֿט קינסטלעך סופּערינטעלליגענסע (ASI) מאַכן אונדז אַלע באַטעריז און דעמאָלט צאַפּן אונדז אין די מאַטריץ, אָדער מענטשן וועלן געפֿינען אַ וועג צו ויסמיידן אַ קאָרבן פון סי-פי, אַי דאָמסדייַ פּלאַנעווען?

אַזוי ווייַט אין אונדזער סעריע אויף די צוקונפֿט פון קינסטלעך סייכל, מיר האָבן יקספּלאָרד אַלע מינים פון אַי, אַרייַנגערעכנט די positive פּאָטענציעל פון אַ באַזונדער פאָרעם פון אַי, די אַסי: אַ קינסטלעך זייַענדיק וועמענס צוקונפֿט סייכל וועט מאַכן אונדז קוקן ווי אַנץ אין פאַרגלייַך.

אבער ווער ס צו זאָגן אַז אַ זייַענדיק אַזאַ קלוג וואָלט אָננעמען אָרדערס פון מענטשן אויף אייביק. וואָס וועלן מיר טאָן אויב די טינגז גיין דרום? ווי וועלן מיר באַשיצן קעגן אַ זשוליק ASI?

אין דעם קאַפּיטל, מיר וועלן דורכשניידן די פאַלש כייפּ - אין מינדסטער ווי עס שייך צו די דיינדזשערז פון 'מענטשלעך יקסטינגשאַן מדרגה' - און פאָקוס אויף די רעאַליסטיש זעלבסט-פאַרטיידיקונג אָפּציעס בנימצא צו וועלט גאַווערמאַנץ.

קענען מיר האַלטן אַלע ווייַטער פאָרשונג אין אַ קינסטלעך סופּערינטעלידזשאַנס?

געגעבן די פּאָטענציעל ריסקס אַז אַ ASI קען פּאָזע פֿאַר מענטשהייַט, דער ערשטער קלאָר ווי דער טאָג קשיא צו פרעגן איז: קענען מיר ניט נאָר האַלטן אַלע ווייַטער פאָרשונג אין אַי? אָדער בייַ מינדסטער פאַרווערן קיין פאָרשונג וואָס קען ברענגען אונדז דיינדזשעראַסלי נאָענט צו שאַפֿן אַן ASI?

קורץ ענטפֿערן: ניין.

לאַנג ענטפער: לאָמיר קוקן אין די פאַרשידענע פּלייַערס ינוואַלווד דאָ.

אויף דער פאָרשונג מדרגה, עס זענען צו פילע אַי ריסערטשערז הייַנט פון צו פילע סטאַרטאַפּס, קאָמפּאַניעס און אוניווערסיטעטן אַרום די וועלט. אויב איין פירמע אָדער מדינה באַשלאָסן צו באַגרענעצן זייער אַי פאָרשונג השתדלות, זיי וואָלט פשוט פאָרזעצן אנדערש.

דערווייַל, די מערסט ווערטפול קאָמפּאַניעס פון דעם פּלאַנעט מאַכן זייער מאַזל פון זייער אַפּלאַקיישאַן פון אַי סיסטעמען צו זייער ספּעציפיש געשעפטן. אַסקינג זיי צו האַלטן אָדער באַגרענעצן זייער אַנטוויקלונג פון אַי מכשירים איז ענלעך צו אַסקינג זיי צו האַלטן אָדער באַגרענעצן זייער צוקונפֿט וווּקס. פינאַנסיאַללי, דאָס וואָלט סטראַשען זייער לאַנג-טערמין געשעפט. ליגאַלי, קאָרפּעריישאַנז האָבן אַ פידסיאַרי פֿאַראַנטוואָרטלעכקייט צו קעסיידער בויען ווערט פֿאַר זייער סטייקכאָולדערז; אַז מיטל יעדער קאַמף וואָס וואָלט באַגרענעצן דעם וווּקס פון דעם ווערט קען פירן צו אַ פּראָצעס. און אויב קיין פּאָליטיקער געפרוווט צו באַגרענעצן אַי פאָרשונג, די ריז קאָרפּעריישאַנז וואָלט נאָר באַצאָלן די נייטיק לאַביינג פיז צו טוישן זייער מיינונג אָדער די מחשבות פון זייער חברים.

פֿאַר קאַמבאַט, פּונקט ווי טערעראַסץ און פרייהייט פייטערז אַרום די וועלט האָבן געוויינט גערילאַ טאַקטיק צו קעמפן קעגן בעסער-פאַנדאַד מיליטעריז, קלענערער אומות וועלן האָבן אַ ינסעניוו צו נוצן אַי ווי אַ ענלעך טאַקטיש מייַלע קעגן גרעסערע אומות וואָס קען האָבן אַ נומער פון מיליטעריש אַדוואַנטידזשיז. פּונקט אַזוי, פֿאַר שפּיץ מיליטעריז, ווי די וואָס געהערן צו די יו. אין אנדערע ווערטער, אַלע מיליטאַריעס וועלן פאָרזעצן צו פינאַנצן אַי נאָר צו בלייבן באַטייַטיק אין דער צוקונפֿט.

ווי וועגן רעגירונגס? אמת, רובֿ פּאַלאַטישאַנז די טעג (2018) זענען טעקנאַלאַדזשיקאַללי אַנליטעראַט און האָבן קליין פארשטאנד פון וואָס אַי איז אָדער זיין צוקונפֿט פּאָטענציעל - דאָס מאכט זיי גרינג צו מאַניפּולירן דורך פֿירמע אינטערעסן.

און אויף אַ גלאבאלע מדרגה, באַטראַכטן ווי שווער עס איז געווען צו איבערצייגן וועלט גאַווערמאַנץ צו צייכן די 2015 פּאַריז אַגרעעמענט צו מאַכנ זיך קלימאַט ענדערונג - און אַמאָל געחתמעט, פילע פון די אַבלאַגיישאַנז זענען נישט אפילו ביינדינג. ניט בלויז דאָס, קלימאַט ענדערונג איז אַן אַרויסגעבן וואָס מענטשן זענען פיזיקלי יקספּיריאַנסט גלאָובאַלי דורך ינקריסינגלי אָפט און שטרענג וועטער געשעענישן. איצט, ווען גערעדט וועגן צושטימען צו לימאַץ אויף אַי, דאָס איז אַן אַרויסגעבן וואָס איז לאַרגעלי ומזעיק און קוים פאַרשטיייק פֿאַר דעם ציבור, אַזוי גוט גליק צו קויפן-אין קיין סאָרט פון "פּאַריז אַגרעעמענט" פֿאַר לימיטינג אַי.

אין אנדערע ווערטער, עס זענען צו פילע אינטערעסן צו פאָרשונג אַי פֿאַר זייער אייגענע ענדס צו האַלטן קיין פאָרשונג וואָס יווענטשאַוואַלי קענען פירן צו אַ ASI.

קענען מיר שטייַג אַ קינסטלעך סופּערינטעלידזשאַנס?

דער ווייַטער גלייַך קשיא איז קענען מיר שטייַג אָדער קאָנטראָלירן אַן ASI אַמאָל מיר ינעוואַטאַבלי מאַכן איינער?

קורץ ענטפער: ווידער, ניין.

לאַנג ענטפער: טעכנאָלאָגיע קענען ניט זיין קאַנטיינד.

פֿאַר איין, נאָר באַטראַכטן די טויזנטער צו מיליאַנז פון וועב דעוועלאָפּערס און קאָמפּיוטער סייאַנטיס אין דער וועלט וואָס קעסיידער טשאַרן אויס נייַע ווייכווארג אָדער נייַע ווערסיעס פון יגזיסטינג ווייכווארג. קענען מיר האָנעסטלי זאָגן אַז יעדער פון זייער ווייכווארג ריליסיז איז 100 פּראָצענט זשוק-פריי? די באַגז זענען וואָס פאַכמאַן כאַקערז נוצן צו גאַנווענען די קרעדיט קאַרטל אינפֿאָרמאַציע פון מיליאַנז אָדער די קלאַסאַפייד סיקריץ פון אומות - און דאָס זענען מענטש כאַקערז. פֿאַר אַ ASI, אַסומינג עס האט אַ ינסעניוו צו אַנטלויפן זיין דיגיטאַל שטייַג, דער פּראָצעס פון דערגייונג באַגז און ברייקינג דורך ווייכווארג וואָלט זיין אַ ווינטל.

אָבער אפילו אויב אַן אַי פאָרשונג מאַנשאַפֿט האָט געפֿונען אַ וועג צו קעסטל אַן ASI, דאָס קען נישט מיינען אַז די ווייַטער 1,000 טימז וועלן אויך רעכענען עס אויס אָדער זיין ינסענטיווייזד צו נוצן עס.

עס וועט נעמען ביליאַנז פון דאָללאַרס און אפֿשר אפילו דעקאַדעס צו שאַפֿן אַן ASI. די קאָרפּעריישאַנז אָדער גאַווערמאַנץ וואָס ינוועסטירן דעם מין פון געלט און צייט וועלן דערוואַרטן אַ באַטייטיק צוריקקער אויף זייער ינוועסמאַנט. און פֿאַר אַן ASI צו צושטעלן דעם טיפּ פון צוריקקער - צי דאָס איז צו שפּיל די לאַגער מאַרק אָדער אויסטראַכטן אַ נייַ ביליאָן דאָללאַרס פּראָדוקט אָדער פּלאַנירן אַ ווינינג סטראַטעגיע צו קעמפן אַ ביגער אַרמיי - עס וועט דאַרפֿן פריי אַקסעס צו אַ ריז דאַטן שטעלן אָדער אפילו די אינטערנעט זיך צו פּראָדוצירן די קערט.

און אַמאָל אַן ASI גיינז אַקסעס צו די וועלט 'ס נעטוואָרקס, עס זענען קיין געראַנטיז אַז מיר קענען שטאָפּן עס צוריק אין זיין שטייַג.

קענען אַ קינסטלעך סופּערינטעלידזשאַנס לערנען צו זיין גוט?

רעכט איצט, אַי ריסערטשערז זענען נישט באַזאָרגט וועגן אַ ASI ווערן בייז. די גאנצע בייז, אַי סי-פי טראָפּע איז נאָר יומאַנז אַנטהראָפּאָמאָרפיזינג ווידער. א צוקונפֿט אַסי וועט זיין ניט גוט אָדער בייז - מענטש קאַנסעפּס - פשוט אַמאָראַליש.

די נאַטירלעך האַשאָרע דעריבער איז אַז געגעבן דעם ליידיק עטישע שיווערשטיין, אַי ריסערטשערז קענען פּראָגראַם אין דער ערשטער ASI עטישע קאָודז וואָס זענען אין שורה מיט אונדזער אייגענע אַזוי אַז עס וועט נישט סוף אַרויף אַנליש טערמינאַטאָרס אויף אונדז אָדער טורנינג אונדז אַלע אין מאַטריץ באַטעריז.

אָבער די האַשאָרע בייקס אין אַ צווייטיק האַשאָרע אַז אַי ריסערטשערז זענען אויך עקספּערץ אין עטיקס, פילאָסאָפיע און פּסיכאָלאָגיע.

אין אמת, רובֿ זענען נישט.

לויט דער קאַגניטיוו סייקאַלאַדזשאַסט און מחבר, סטיווען פּינקער, די פאַקט מיטל אַז די אַרבעט פון קאָודינג עטיקס קענען גיין פאַלש אין אַ פאַרשיידנקייַט פון פאַרשידענע וועגן.

פֿאַר בייַשפּיל, אפילו די בעסטער-ינטענטיד אַי ריסערטשערז קען ינאַדווערטאַנטלי קאָד אין די ASI שוואַך געדיכט עטישע קאָודז וואָס אין זיכער סינעריאָוז קענען אָנמאַכן די ASI צו שפּילן ווי אַ סאָסיאָפּאַט.

פּונקט אַזוי, עס איז אַן גלייך ליקעליהאָאָד אַז אַן אַי פאָרשער פּראָגראַמען עטישע קאָודז וואָס אַרייַננעמען די פאָרשער ס ינייט בייאַסיז. פֿאַר בייַשפּיל, ווי וואָלט אַן אַסי ביכייוו אויב געבויט מיט עטיקס דערייווד פון אַ קאָנסערוואַטיווע ווס ליבעראַל פּערספּעקטיוו, אָדער פון אַ בודדהיסט קעגן אַ קריסטלעך אָדער יסלאַמיק טראַדיציע?

איך טראַכטן איר זען די אַרויסגעבן דאָ: עס איז קיין וניווערסאַל גאַנג פון מענטש מאָראַל. אויב מיר וועלן אַז אונדזער ASI זאָל האַנדלען מיט אַן עטישע קאָד, פֿון וואַנען וועט דאָס קומען? וואָס כּללים טאָן מיר אַרייַננעמען און ויסשליסן? ווער באשליסט?

אָדער לאָמיר זאָגן אַז די אַי ריסערטשערז מאַכן אַן ASI וואָס איז בישליימעס אין לויט מיט די הייַנט ס מאָדערן קולטור נאָרמז און געזעצן. דערנאָך, מיר נוצן דעם ASI צו העלפֿן פעדעראלע, שטאַט / קליינשטעטלדיק און שטאָטיש ביוראַקראַסיעס פונקציאָנירן מער יפישאַנטלי און בעסער דורכפירן די נאָרמז און געזעצן (אַ מסתּמא נוצן פאַל פֿאַר אַ ASI דורך די וועג). נו, וואָס כאַפּאַנז ווען אונדזער קולטור ענדערונגען?

ימאַגינע אַן ASI איז געווען באשאפן דורך די קאַטהאָליק טשורטש אין די הייך פון זייַן מאַכט בעשאַס מעדיעוואַל אייראָפּע (1300-1400s) מיט דער ציל פון העלפּינג די קירך פירן די באַפעלקערונג און ינשורינג שטרענג אַדכיראַנס צו די רעליגיעז דאָגמאַ פון דער צייט. יאָרהונדערט שפּעטער, וואָלט פרויען געניסן די זעלבע רעכט ווי זיי טאָן הייַנט? וואָלט מינדערהייטן זיין פּראָטעקטעד? וואָלט פריי רייד זיין פּראָמאָטעד? וואָלט די צעשיידונג פון קירך און שטאַט זיין ענפאָרסט? מאָדערן וויסנשאַפֿט?

דאָס הײסט, װילן מיר אַרײַנלאָזן די צוקונפֿט מיט די הײַנטיקע מוסר־ און מנהגים?

אַן אַלטערנאַטיווע צוגאַנג איז איינער שערד דורך קאָלין עלען, קאָ-מחבר פון דעם בוך, מאָראַליש מאשינען: לערנען ראָובאַץ רעכט פון פאַלש. אַנשטאָט טריינג צו קאָד שטרענג עטישע כּללים, מיר האָבן די ASI לערנען פּראָסט עטיקס און מאָראַל אין די זעלבע שטייגער ווי יומאַנז טאָן, דורך דערפאַרונג און ינטעראַקשאַנז מיט אנדערע.

די צרה דאָ, אָבער, איז אויב אַי ריסערטשערז טאָן ניט בלויז רעכענען אויס ווי צו לערנען אַן אַסי אונדזער קראַנט קולטור און עטישע נאָרמז, אָבער אויך ווי צו אַדאַפּט צו נייַע קולטור נאָרמז ווען זיי אויפשטיין (עפּעס גערופן 'ינדירעקט נאָרמאַטיוויטי'), ווי אַזוי דעם ASI דיסיידז צו יוואַלוו זייַן פארשטאנד פון קולטור און עטישע נאָרמז ווערט אַנפּרידיקטאַבאַל.

און דאָס איז די אַרויסרופן.

אויף די איין האַנט, אַי ריסערטשערז קענען פּרובירן צו קאָדירן שטרענג עטישע סטאַנדאַרדס אָדער כּללים אין די ASI צו פּרובירן און קאָנטראָלירן זיין נאַטור, אָבער ריזיקירן אַנפאָרסין קאַנסאַקווענסאַז פון סלאַפּי קאָודינג, אַנינטענשאַנאַל פאָרורטייל און געזעלשאַפטלעך נאָרמז וואָס קען איין טאָג ווערן אַוטדייטיד. אויף די אנדערע האַנט, מיר קענען פּרווון צו באַן די ASI צו לערנען צו פֿאַרשטיין מענטשלעך עטיקס און מאָראַל אויף אַ שטייגער וואָס איז גלייַך אָדער העכער צו אונדזער אייגענע פארשטאנד און דערנאָך האָפֿן אַז עס קענען אַקיעראַטלי יוואַלוו זיין פארשטאנד פון עטיקס און מאָראַל ווען די מענטשלעך געזעלשאַפט פּראָגרעסיז. פאָרויס איבער די קומענדיק דעקאַדעס און סענטשעריז.

אין קיין פאַל, יעדער פּרווון צו ייַנרייען אַן ASI ס גאָולז מיט אונדזער אייגענע גיט אַ גרויס ריזיקירן.

וואָס אויב שלעכט אַקטערז פּערפּאַסלי מאַכן בייז קינסטלעך סופּערינטעלידזשאַנס?

צוליב דעם געדאַנק וואָס איז געשילדערט ביז איצט, איז עס אַ שיין קשיא צו פרעגן צי עס איז מעגלעך פֿאַר אַ טעראָריסט גרופּע אָדער אַ זשוליק פאָלק צו שאַפֿן אַ 'בייז' אַסי פֿאַר זייער אייגן צילן.

דאָס איז זייער מעגלעך, ספּעציעל נאָך פאָרשונג ינוואַלווד מיט קריייטינג אַן ASI איז עפעס בנימצא אָנליין.

אָבער ווי פריער דערמאנט, די קאָס און עקספּערטיז ינוואַלווד אין קריייטינג דער ערשטער ASI וועט זיין ריזיק, טייַטש דער ערשטער ASI וועט מסתּמא זיין באשאפן דורך אַן אָרגאַניזאַציע וואָס איז קאַנטראָולד אָדער שווער ינפלואַנסט דורך אַ דעוועלאָפּעד פאָלק, מסתּמא די יו. עס., טשיינאַ און יאַפּאַן ( קארעע און איינער פון די לידינג אי.יו. לענדער זענען לאַנג שאַץ).

אַלע פון די לענדער, כאָטש קאָמפּעטיטאָרס, יעדער האָבן אַ שטאַרק עקאָנאָמיש ינסעניוו צו האַלטן וועלט אָרדענונג - די ASIs זיי שאַפֿן וועט פאַרטראַכטנ דעם פאַרלאַנג, אפילו בשעת פּראַמאָוטינג די אינטערעסן פון די אומות זיי ייַנרייען זיך מיט.

אויף שפּיץ פון דעם, די טעאָרעטיש סייכל און מאַכט פון אַ ASI איז גלייך צו די קאַמפּיוטינג מאַכט עס גיינז אַקסעס צו, טייַטש די ASI פון דעוועלאָפּעד אומות (וואָס קענען פאַרגינענ זיך אַ בינטל פון ביליאָן דאָללאַרס סופּערקאַמפּיוטערז) וועט האָבן אַ ריזיק מייַלע איבער ASI ס פון קלענערער אומות אָדער פרייַ פאַרברעכער גרופּעס. אויך, ASIs וואַקסן מער ינטעליגענט, מער געשווינד מיט צייט.

אַזוי, געגעבן דעם הויפּט אָנהייב, קאַמביינד מיט אַ גרעסערע אַקסעס צו רוי קאַמפּיוטינג מאַכט, אויב אַ שאָטנדיק אָרגאַניזאַציע / פאָלק מאַכן אַ געפערלעך ASI, די ASIs פון דעוועלאָפּעד אומות וועלן אָדער טייטן עס אָדער שטייַג עס.

(די שורה פון טראכטן איז אויך וואָס עטלעכע אַי ריסערטשערז גלויבן אַז עס וועט שטענדיק זיין דורך איין ASI אויף דעם פּלאַנעט, זינט דער ערשטער ASI וועט האָבן אַזאַ אַ אָנהייב איבער אַלע סאַקסידאַד ASIs אַז עס קען זען צוקונפֿט ASIs ווי טרעץ צו זיין געהרגעט אַוועק. דאָס איז נאָך אן אנדער סיבה וואָס פעלקער זענען פאַנדינג פארבליבן פאָרשונג אין אַי, נאָר אין פאַל עס וועט ווערן אַ 'ערשטער אָרט אָדער גאָרנישט' פאַרמעסט.)

ASI סייכל וועט נישט פאַרגיכערן אָדער ופרייַסן ווי מיר טראַכטן

מיר קענען נישט האַלטן אַן ASI פון זיין באשאפן. מיר קענען נישט קאָנטראָלירן עס אין גאנצן. מיר קענען נישט זיין זיכער אַז עס וועט שטענדיק האַנדלען אין לויט מיט אונדזער שערד מינהגים. זשע, מיר אָנהייבן צו געזונט ווי העליקאָפּטער עלטערן דאָ!

אָבער וואָס סעפּערייץ מענטשהייַט פון דיין טיפּיש אָוווערפּראַטעקטיוו פאָטער איז אַז מיר געבן געבורט צו אַ זייַענדיק וועמענס סייכל וועט וואַקסן וואַסט ווייַטער פון אונדזער. (און ניין, עס איז נישט די זעלבע ווי ווען דיין עלטערן בעטן איר צו פאַרריכטן זייער קאָמפּיוטער ווען איר קומען היים פֿאַר אַ באַזוכן.)

אין פריערדיקן קאפיטלען פון דער צוקונפֿט פון קינסטלעך סייכל סעריע, מיר יקספּלאָרד וואָס אַי ריסערטשערז טראַכטן אַז די סייכל פון אַ ASI וועט וואַקסן ווייַטער פון קאָנטראָל. אָבער דאָ, מיר וועט פּלאַצן די בלאָז ... מין פון.

איר זען, סייכל טוט נישט נאָר מאַכן זיך פון דין לופט, עס איז דעוועלאָפּעד דורך דערפאַרונג וואָס איז שייפּט דורך דרויסנדיק סטימיאַליי.

אין אנדערע ווערטער, מיר קענען פּראָגראַם אַן אַי מיט די פּאָטענציעל צו ווערן סופּער ינטעליגענט, אָבער אויב מיר ופּלאָאַד אין עס אַ פּלאַץ פון דאַטן אָדער געבן עס אַנריסטריקטיד אַקסעס צו די אינטערנעט אָדער אפילו נאָר געבן עס אַ ראָבאָט גוף, עס וועט נישט לערנען עפּעס צו דערגרייכן דעם פּאָטענציעל.

און אפילו אויב עס באַקומען אַקסעס צו איינער אָדער מער פון די סטימיאַליי, וויסן אָדער סייכל ינוואַלווז מער ווי בלויז קאַלעקטינג דאַטן, עס ינוואַלווז די וויסנשאפטלעכע אופֿן - מאַכן אַן אָבסערוואַציע, פאָרמינג אַ קשיא, אַ כייפּאַטאַסאַס, דורכפירן יקספּעראַמאַנץ, מאַכן אַ מסקנא, שווענקען. און איבערחזרן אויף אייביק. ספּעציעל אויב די יקספּעראַמאַנץ אַרייַנציען גשמיות טינגז אָדער אַבזערווינג מענטשן, די רעזולטאַטן פון יעדער עקספּערימענט קען נעמען וואָכן, חדשים אָדער יאָרן צו זאַמלען. דאָס טוט נישט אפילו נעמען אין חשבון די געלט און רוי רעסורסן דארף צו דורכפירן די יקספּעראַמאַנץ, ספּעציעל אויב זיי אַרייַנציען בנין אַ נייַ טעלעסקאָפּ אָדער פאַבריק.

אין אנדערע ווערטער, יאָ, אַן ASI וועט לערנען געשווינד, אָבער סייכל איז נישט מאַגיש. איר קענט נישט נאָר פאַרטשעפּען אַן ASI צו אַ סופּערקאַמפּיוטער און דערוואַרטן אַז עס זאָל זיין אַלע-וויסן. עס וועט זיין פיזיש קאַנסטריינץ צו די ASI ס אַקוואַזישאַן פון דאַטן, טייַטש עס וועט זיין גשמיות קאַנסטריינץ צו די גיכקייַט אַז עס וועט וואַקסן מער ינטעליגענט. די קאַנסטריינץ וועט געבן מענטשהייַט די צייט וואָס עס דאַרף צו שטעלן די נויטיק קאָנטראָלס אויף דעם ASI אויב עס הייבט צו האַנדלען מיט מענטשלעך צילן.

אַ קינסטלעך סופּערינטעלידזשאַנס איז בלויז געפערלעך אויב עס קומט אין די פאַקטיש וועלט

אן אנדער פונט וואָס איז פאַרפאַלן אין די גאנצע ASI געפאַר דעבאַטע איז אַז די ASIs וועט נישט עקסיסטירן אין די. זיי וועלן האָבן אַ גשמיות פאָרעם. און אַלץ וואָס האט אַ גשמיות פאָרעם קענען זיין קאַנטראָולד.

ערשטער, פֿאַר אַן ASI צו דערגרייכן זיין סייכל פּאָטענציעל, עס קען נישט זיין כאַוזד אין אַ איין ראָבאָט גוף, ווייַל דער גוף וואָלט באַגרענעצן זיין קאַמפּיוטינג וווּקס פּאָטענציעל. (דאָס איז וואָס ראָבאָט ללבער וועט זיין מער צונעמען פֿאַר די AGIs אָדער קינסטלעך אַלגעמיינע אינטעליגענטן דערקלערט אין קאַפּיטל צוויי פון דעם סעריע, ווי Data from Star Trek אָדער R2D2 פֿון Star Wars. קלוג און טויגעוודיק ביינגז, אָבער ווי יומאַנז, זיי וועלן האָבן אַ שיעור צו ווי קלוג זיי קענען באַקומען.)

דאָס מיינט אַז די צוקונפֿט אַסיס וועט רובֿ מסתּמא עקסיסטירן אין אַ סופּערקאַמפּיוטער אָדער נעץ פון סופּערקאַמפּיוטערז וואָס זענען זיך כאַוזד אין גרויס בנין קאַמפּלעקסאַז. אויב אַן ASI ווענדן פּיאַטע, מענטשן קענען אָדער קער אַוועק די מאַכט צו די בנינים, שנייַדן זיי אַוועק פון די אינטערנעט, אָדער נאָר באָמבע די בנינים. טייַער, אָבער דואַבאַל.

אָבער איר קען פרעגן, קענען די ASIs נישט רעפּלאַקייט זיך אָדער צוריק זיך? יאָ, אָבער די רוי טעקע גרייס פון די ASIs וועט מסתּמא זיין אַזוי גרויס אַז די בלויז סערווערס וואָס קענען שעפּן זיי געהערן צו גרויס קאָרפּעריישאַנז אָדער גאַווערמאַנץ, טייַטש זיי וועלן נישט זיין שווער צו גיינ אַף.

קען אַ קינסטלעך סופּערינטעלידזשאַנס אָנצינדן אַ יאָדער מלחמה אָדער נייַ פּלאָגן?

אין דעם פונט, איר קען זיין טראכטן צוריק צו אַלע די דאָאָמסדיי סי-פי שאָוז און קינאָ איר וואָטשט וואַקסן אַרויף און טראַכטן אַז די ASIs זענען נישט בלייַבן אין זייער סופּערקאַמפּיוטערז, זיי האָבן פאַקטיש שעדיקן אין די פאַקטיש וועלט!

נו, לאמיר דאס צעברעכן.

פֿאַר בייַשפּיל, וואָס אויב אַן ASI טרעטאַנז די פאַקטיש וועלט דורך יבערמאַכן אין עפּעס ווי אַ Skynet ASI פֿון דער פֿילם פראַנטשייז, די טערמינאַטאָר. אין דעם פאַל, די ASI וואָלט דאַרפֿן צו secretly דופּן אַ גאַנץ מיליטעריש ינדאַסטרי קאָמפּלעקס פון אַ אַוואַנסירטע פאָלק אין בנין ריז פאבריקן וואָס קענען טשערן אויס מיליאַנז פון קיללער דראָון ראָובאַץ צו טאָן זיין בייז באַפעלן. אין דעם טאָג און עלטער, דאָס איז אַ סטרעטש.

אנדערע פּאַסאַבילאַטיז אַרייַננעמען אַ ASI טרעטאַנינג יומאַנז מיט יאָדער מלחמה און ביאָ וועפּאַנז.

צום ביישפּיל, אַן ASI מאַניפּיאַלייץ די אָפּערייטערז אָדער כאַקס אין די קאַטער קאָודז וואָס קאַמאַנדז אַ אַוואַנסירטע פאָלק ס יאָדער אַרסענאַל און לאָנטשיז אַ ערשטער סטרייק וואָס וועט צווינגען די אַפּאָוזינג לענדער צו שלאָגן צוריק מיט זייער אייגענע יאָדער אָפּציעס (ווידער, ריכאַשינג די טערמינאַטאָר באַקסטאָרי). אָדער אויב אַן ASI כאַקס אין אַ פאַרמאַסוטיקאַל לאַבאָראַטאָריע, טאַמפּערז מיט די מאַנופאַקטורינג פּראָצעס און פּויזאַנז מיליאַנז פון מעדיציניש פּילז אָדער אַנלישיז אַ דעדלי ויסברוך פון עטלעכע סופּער ווירוסעס.

ערשטער אַוועק, די יאָדער אָפּציע איז אַוועק די טעלער. מאָדערן און צוקונפֿט סופּערקאַמפּיוטערז זענען שטענדיק געבויט לעבן סענטערס (שטעט) פון השפּעה אין קיין געגעבן לאַנד, ד"ה די ערשטער טאַרגאַץ צו זיין אַטאַקירט בעשאַס קיין געגעבן מלחמה. אפילו אויב די הייַנט ס סופּערקאַמפּיוטערס ייַנשרומפּן צו די גרייס פון דעסקטאַפּס, די ASIs וועט נאָך האָבן אַ גשמיות בייַזייַן, וואָס מיטל צו עקסיסטירן און וואַקסן, זיי דאַרפֿן אַנינטעראַפּטיד אַקסעס צו דאַטן, קאַמפּיוטינג מאַכט, עלעקטרע און אנדערע רוי מאַטעריאַלס, וואָס אַלע וואָלט זיין שטרענג. ימפּערד נאָך אַ גלאבאלע יאָדער מלחמה. (צו זיין שיין, אויב אַן ASI איז באשאפן אָן אַ 'ניצל אינסטינקט', די יאָדער סאַקאָנע איז אַ זייער פאַקטיש געפאַר.)

דאָס מיינט - ווידער, אויב די ASI איז פּראָוגראַמד צו באַשיצן זיך - אַז עס וועט אַקטיוולי אַרבעטן צו ויסמיידן קיין קאַטאַסטראָפיק נוקלעאַר אינצידענט. מין פון ווי די מיוטשואַלי אַשורד צעשטערונג (MAD) דאָקטערין, אָבער געווענדט צו אַי.

און אין דעם פאַל פון פּויזאַנד פּילז, אפֿשר אַ ביסל הונדערט מענטשן וועלן שטאַרבן, אָבער מאָדערן פאַרמאַסוטיקאַל זיכערקייַט סיסטעמען וועט זען די טיידאַנד פּיל לאגלען אַוועקגענומען פון די שעלוועס אין עטלעכע טעג. דערווייַל, מאָדערן ויסברוך קאָנטראָל מיטלען זענען פערלי סאַפיסטאַקייטיד און ווערן בעסער מיט יעדער גייט פארביי יאָר; די לעצטע הויפּט ויסברוך, די 2014 מערב אפריקע עבאָלאַ ויסברוך, דויסט ניט מער ווי אַ ביסל חדשים אין רובֿ לענדער און פּונקט אונטער דריי יאָר אין די מינדסטער דעוועלאָפּעד לענדער.

אויב עס איז מאַזלדיק, אַן ASI קען ויסמעקן עטלעכע מיליאָן מיט אַ וויראַל ויסברוך, אָבער אין אַ וועלט פון נייַן ביליאָן אין 2045, דאָס וואָלט זיין לעפיערעך נישטיק און נישט ווערט די ריזיקירן פון ויסמעקן.

אין אנדערע ווערטער, מיט יעדער גייט פארביי יאָר, די וועלט איז דעוועלאָפּינג אלץ מער זיכערהייט קעגן אַ טאָמיד וויידאַנינג קייט פון מעגלעך טרעץ. אַן ASI קענען מאַכן אַ באַטייטיק סומע פון שעדיקן, אָבער עס וועט נישט סוף מענטשהייַט סייַדן מיר אַקטיוולי העלפֿן עס צו טאָן דאָס.

דיפענדינג קעגן אַ זשוליק קינסטלעך סופּערינטעלידזשאַנס

אין דעם פונט, מיר האָבן גערעדט אַ קייט פון מיסקאַנסעפּשאַנז און יגזאַדזשעריישאַנז וועגן ASIs, און נאָך קריטיקס וועט בלייַבן. טהאַנקפוללי, לויט רובֿ עסטאַמאַץ, מיר האָבן דעקאַדעס איידער דער ערשטער ASI קומט אין אונדזער וועלט. און ווייַל פון די נומער פון גרויס מחשבות איצט ארבעטן אויף דעם אַרויסרופן, די שאַנסן זענען אַז מיר וועלן לערנען ווי צו באַשיצן זיך קעגן זשוליק ASI אַזוי אַז מיר קענען נוץ פון אַלע די סאַלושאַנז וואָס אַ פרייַנדלעך ASI קענען מאַכן פֿאַר אונדז.

פֿון Quantumrun ס פּערספּעקטיוו, פאַרטיידיקונג קעגן די ערגסט פאַל ASI סצענאַר וועט אַרייַנציען אַליינינג אונדזער אינטערעסן מיט ASIs.

מעשוגע פֿאַר אַי: צו פאַרטיידיקן קעגן די ערגסט פאַל סינעריאָוז, פעלקער דאַרפֿן צו (1) שאַפֿן אַן עטישע 'ניצול אינסטינקט' אין זייער ריספּעקטיוו מיליטעריש אַסי; (2) מיטטיילן זייער ריספּעקטיוו מיליטעריש ASI אַז זיי זענען נישט אַליין אויף דעם פּלאַנעט, און (3) געפינען אַלע די סופּערקאַמפּיוטערז און סערווער סענטערס וואָס קענען שטיצן אַן ASI צוזאמען קאָוסטליינז אין גרינג דערגרייכן פון קיין באַליסטיק באַפאַלן פון אַ פייַנט פאָלק. דאָס סאָונדס סטראַטידזשיקלי מעשוגע, אָבער ענלעך צו די מיוטשואַלי אַשורד דעסטרוקטיאָן דאָקטערין וואָס פּריווענטיד אַן אַלע-אויס יאָדער מלחמה צווישן די יו. באַוואָרענען גלאבאלע שלום אָבער אויך זיך.

לעגיסלאַט אַי רעכט: א העכערע שכל וועט אומבארעכטיגט רעבעלירן קעגן א נידעריגער בעל, דערפאר דארפן מיר זיך אוועקדרייען פון פאדערן א בעל-דינער באציאונג מיט די אסי'ס צו עפעס מער ווי א שותפות מיט קיינמאל גוטס. א positive שריט צו דעם ציל איז צו געבן צוקונפֿט אַסי לעגאַל פּערזענלעכקייט סטאַטוס וואָס אנערקענט זיי ווי ינטעליגענט לעבעדיק ביינגז און אַלע די רעכט וואָס קומען מיט דעם.

ASI שולע: קיין טעמע אָדער פאַך וועט זיין פּשוט פֿאַר אַ ASI צו לערנען, אָבער די מערסט וויכטיק סאַבדזשעקץ וואָס מיר וועלן די ASI צו בעל זענען עטיקס און מאָראַל. אַי ריסערטשערז דאַרפֿן צו מיטאַרבעטן מיט סייקאַלאַדזשאַסס צו אַנטוויקלען אַ ווירטואַל סיסטעם צו באַן אַן ASI צו דערקענען positive עטיקס און מאָראַל פֿאַר זיך אָן די נויט פֿאַר שווער קאָדירונג פון קיין טיפּ פון געבאָט אָדער הערשן.

אַטשיוואַבאַל צילן: סוף אַלע האַס. סוף אַלע צאָרעס. דאס זענען ביישפילן פון שרעקלעך אַמביגיואַס צילן מיט קיין קלאָר לייזונג. זיי זענען אויך געפערלעך גאָולז צו באַשטימען צו אַן ASI זינט עס קען קלייַבן צו טייַטשן און סאָלווע זיי אין וועגן וואָס זענען געפערלעך פֿאַר מענטש ניצל. אַנשטאָט, מיר דאַרפֿן צו באַשטימען ASI מינינגפאַל מישאַנז וואָס זענען קלאר דיפיינד, ביסלעכווייַז עקסאַקיוטאַד און אַטשיוואַבאַל ווייַל פון זיין טעאָרעטיש צוקונפֿט סייכל. שאפן געזונט-דיפיינד מישאַנז וועט נישט זיין גרינג, אָבער אויב זיי זענען פאַרטראַכט געשריבן, זיי וועלן פאָקוס אַן ASI צו אַ ציל וואָס ניט בלויז האלט מענטשהייַט זיכער, אָבער ימפּרוווז די מענטשלעך צושטאַנד פֿאַר אַלע.

קוואַנטום ענקריפּשאַן: ניצן אַ אַוואַנסירטע ANI (קינסטלעך שמאָל סייכל סיסטעם דיסקרייבד אין קאַפּיטל איין) צו בויען טעות / זשוק-פריי דיגיטאַל זיכערהייט סיסטעמען אַרום אונדזער קריטיש ינפראַסטראַקטשער און וועפּאַנז, און ווייַטער באַשיצן זיי הינטער קוואַנטום ענקריפּשאַן וואָס קענען ניט זיין כאַקט דורך אַ ברוט קראַפט באַפאַלן.

ANI זעלבסטמאָרד פּיל. שאַפֿן אַ אַוואַנסירטע ANI סיסטעם וועמענס בלויז ציל איז צו זוכן און צעשטערן זשוליק ASI. די איין-ציל מגילה וועט דינען ווי אַ "אַוועק קנעפּל" וואָס, אויב געראָטן, וועט ויסמיידן גאַווערמאַנץ אָדער מיליטעריז וואָס האָבן צו דיסייבאַל אָדער בלאָזן אַרויף בנינים וואָס פאַרמאָגן אַסיס.

פון קורס, דאָס זענען נאָר אונדזער מיינונגען. די פאלגענדע ינפאָגראַפיק איז באשאפן דורך אַלעקסיי טורטשין, וויזשוואַליזינג אַ פאָרשונג פּאַפּיר דורך Kaj Sotala און Roman V. Yampolskiy, אַז סאַמערייזד די קראַנט רשימה פון סטראַטעגיעס אַי ריסערטשערז באַטראַכטן ווען עס קומט צו פאַרטיידיקן קעגן זשוליק אַסי.

די פאַקטיש סיבה מיר זענען דערשראָקן פון אַ קינסטלעך סופּערינטעלידזשאַנס

דורך לעבן, פילע פון אונדז טראָגן אַ מאַסקע וואָס כיידז אָדער ריפּרעסיז אונדזער דיפּער ימפּאַלסיז, גלויבן און פירז צו בעסער סאָושאַלייז און מיטאַרבעטן אין די פאַרשידן געזעלשאַפטלעך און אַרבעט קרייזן וואָס רעגירן אונדזער טעג. אבער אין געוויסע צייטן אינעם לעבן פון יעדן איינעם, צי צייטווייליג צי שטענדיק, פאסירט עפעס וואס דערמעגלעכט אונז צו ברעכן די קייטן און אראפרייסן די מאַסקעס.

פֿאַר עטלעכע, דעם ינטערווינינג קראַפט קענען זיין ווי פּשוט ווי געטינג הויך אָדער טרינקט איינער צו פילע. פֿאַר אנדערע, דאָס קען קומען פון די מאַכט גאַינעד דורך אַ העכערונג אין אַרבעט אָדער אַ פּלוצעמדיק זעץ אין דיין געזעלשאַפטלעך סטאַטוס דאַנק צו עטלעכע אַקאַמפּלישמאַנט. און פֿאַר אַ מאַזלדיק ביסל, עס קען קומען פון סקאָרינג אַ באָאָטלאָאַד פון לאָטעריע געלט. און יאָ, געלט, מאַכט און דרוגס קענען אָפט פּאַסירן צוזאַמען.

די פונט איז, פֿאַר גוט אָדער שלעכט, ווער מיר זענען אין די האַרץ ווערט אַמפּלאַפייד ווען די ריסטריקשאַנז פון לעבן צעלאָזן אַוועק.

אַז איז וואָס קינסטלעך סופּערינטעלידזשאַנס רעפּראַזענץ צו די מענטש מינים - די פיייקייט צו צעלאָזן די לימיטיישאַנז פון אונדזער קאָלעקטיוו סייכל צו קאַנגקער קיין מינים-מדרגה אַרויסרופן דערלאנגט פֿאַר אונדז.

אַזוי די פאַקטיש קשיא איז: אַמאָל דער ערשטער ASI פריי אונדז פון אונדזער לימיטיישאַנז, ווער וועט מיר אַנטדעקן זיך צו זיין?

אויב מיר ווי אַ מינים אַקט צו די העכערונג פון עמפּאַטי, פרייהייט, יוישער און קאָלעקטיוו געזונט-ווייל, די גאָולז וואָס מיר שטעלן אונדזער ASI צו וועט פאַרטראַכטנ זיך די positive אַטריביוץ.

אויב מיר ווי אַ מינים פירן אויס פון מורא, דיסטראַסט, די אַקיומיאַליישאַן פון מאַכט און רעסורסן, די ASI מיר מאַכן וועט זיין ווי טונקל ווי די געפֿונען אין אונדזער ערגסט סי-פי גרויל דערציילונגען.

אין די סוף פון די טאָג, מיר ווי אַ געזעלשאַפט דאַרפֿן צו ווערן בעסער מענטשן אויב מיר האָפֿן צו שאַפֿן בעסער אַי.