AI אַליינמאַנט: מאַטטשינג קינסטלעך סייכל גאָולז גלייַכן מענטש וואַלועס

• וועגן דעם מחבר
• מחבר נאָמען

  קוואַנטומרון פאָרסייט
• יאנואר קסנומקס, קסנומקס

קינסטלעך סייכל (AI) אַליינמאַנט איז ווען די גאָולז פון אַ אַי סיסטעם גלייַכן מענטש וואַלועס. קאָמפּאַניעס ווי OpenAI, DeepMind און Anthropic האָבן טימז פון ריסערטשערז וועמענס בלויז פאָקוס איז צו לערנען גאַרדריילז פֿאַר פאַרשידענע סינעריאָוז אין וואָס דאָס קען פּאַסירן.

אַי אַליינמאַנט קאָנטעקסט

לויט אַ 2021 אוניווערסיטעט פון קאָרנעל פאָרשונג לערנען, עטלעכע שטודיום האָבן געוויזן אַז מכשירים אָדער מאָדעלס באשאפן דורך אַלגערידאַמז ווייַזן פאָרורטייל פֿון די דאַטן וואָס זיי זענען טריינד אויף. פֿאַר בייַשפּיל, אין נאַטירלעך שפּראַך פּראַסעסינג (NLP), סעלעקטעד נלפּ מאָדעלס טריינד אויף לימיטעד דאַטן שטעלט האָבן שוין דאַקיומענטאַד מיט פֿאָרויסזאָגן באזירט אויף שעדלעך דזשענדער סטערעאָטיפּעס קעגן וואָמען. סימילאַרלי, אנדערע שטודיום געפונען אַז אַלגערידאַמז טריינד אויף טאַמפּערד דאַטן שטעלן ריזאַלטיד אין ראַסיש בייאַסט רעקאַמאַנדיישאַנז, ספּעציעל אין פּאַליסינג.

עס זענען פילע ביישפילן אין וואָס מאַשין לערנען סיסטעמען האָבן דורכגעקאָכט ערגער פֿאַר מינאָריטעטן אָדער גרופּעס וואָס ליידן פון קייפל דיסאַדוואַנטידזשיז. אין באַזונדער, אָטאַמייטיד פיישאַל אַנאַליסיס און כעלטקער דיאַגנאָסטיקס טיפּיקלי טאָן ניט אַרבעט זייער גוט פֿאַר פרויען און מענטשן פון קאָלירן. ווען קריטיש סיסטעמען וואָס זאָל זיין באזירט אויף פאקטן און לאָגיק אַנשטאָט פון עמאָציע זענען געניצט אין קאַנטעקסץ ווי אַלאַקייטינג כעלטקער אָדער בילדונג, זיי קענען מאַכן מער שעדיקן דורך מאכן עס האַרדער צו ידענטיפיצירן די ריזאַנינג הינטער די רעקאַמאַנדיישאַנז.

ווי אַ רעזולטאַט, טעק פירמס שאַפֿן אַי אַליינמאַנט טימז צו פאָקוס אויף בעכעסקעם אַלגערידאַמז שיין און מענטשלעך. פאָרשונג איז יקערדיק צו פֿאַרשטיין די ריכטונג פון אַוואַנסירטע אַי סיסטעמען, ווי געזונט ווי די טשאַלאַנדזשיז וואָס מיר קען טרעפן ווען אַי קייפּאַבילאַטיז וואַקסן.

דיסראַפּטיוו פּראַל

לויט Jan Leike, הויפּט פון אַי אַליינמאַנט אין OpenAI (2021), ווייַל אַי סיסטעמען האָבן ווערן טויגעוודיק בלויז אין די 2010 ס, עס איז פאַרשטיייק אַז רובֿ אַי אַליינמאַנט פאָרשונג איז געווען טעאָריע-שווער. ווען ימענסלי שטאַרק אַי סיסטעמען זענען אַליינד, איינער פון די טשאַלאַנדזשיז וואָס מענטשן האָבן איז אַז די מאשינען קען מאַכן סאַלושאַנז וואָס זענען צו קאָמפּליצירט צו אָפּשאַצן און אַססעסס אויב זיי מאַכן זינען עטיקלי.

Leike דיווייזד אַ רעקורסיווע באַלוינונג מאָדעלינג (רם) סטראַטעגיע צו פאַרריכטן דעם פּראָבלעם. מיט RRM, עטלעכע "העלפער" אַי זענען געלערנט צו העלפן אַ מענטש אָפּשאַצן ווי גוט אַ מער קאָמפּליצירט אַי פּערפאָרמז. ער איז אָפּטימיסטיש וועגן די מעגלעכקייט פון שאַפֿן עפּעס ער רעפערס צו ווי אַ "אַליינמאַנט מוופּ." אין סטאַרטאַפּ טערמינען, אַ MVP (אָדער מינימום ווייאַבאַל פּראָדוקט) איז די סימפּלאַסט מעגלעך פּראָדוקט וואָס אַ פירמע קענען בויען צו פּרובירן אַ געדאַנק. די האָפענונג איז אַז אַ טאָג, אַי שוועבעלעך מענטש פאָרשטעלונג אין ריסערטשינג אַי און זייַן אַליינמאַנט מיט וואַלועס און אויך פאַנגקשאַנאַל.

כאָטש ינקריסינג אינטערעס אין אַי אַליינמאַנט איז אַ נעץ positive, פילע אַנאַליס אין דעם פעלד טראַכטן אַז פיל פון די "עטיקס" אַרבעט אין לידינג אַי לאַבס איז נאָר עפֿנטלעכע באַציונגען דיזיינד צו מאַכן טעק קאָמפּאַניעס קוקן גוט און ויסמיידן נעגאַטיוו פּירסעם. די מענטשן טאָן ניט דערוואַרטן עטישע אַנטוויקלונג פּראַקטיסיז צו ווערן אַ בילכערקייַט פֿאַר די קאָמפּאַניעס עניטיים באַלד.

די אַבזערוויישאַנז ונטערשטרייַכן די וויכטיקייט פון ינטערדיססיפּלינאַרי אַפּראָוטשיז פֿאַר ווערט אַליינמאַנט השתדלות, ווייַל דאָס איז אַ לעפיערעך נייַ געגנט פון מאָראַליש און טעכניש אָנפרעג. פאַרשידענע צווייגן פון וויסן זאָל זיין טייל פון אַ ינקלוסיוו פאָרשונג אַגענדאַ. די איניציאטיוו ווייזט אויך די נויט פֿאַר טעקנאַלאַדזשיס און פּאַלאַסימייקערז צו בלייבן אַווער פון זייער געזעלשאַפטלעך קאָנטעקסט און סטייקכאָולדערז, אפילו ווען אַי סיסטעמען ווערן מער אַוואַנסירטע.

ימפּלאַקיישאַנז פון אַי אַליינמאַנט

ברייטער ימפּלאַקיישאַנז פון אַי אַליינמאַנט קען אַרייַננעמען: 

• קינסטלעך סייכל לאַבאָראַטאָריעס הירינג פאַרשידן עטיקס באָרדז צו אָוווערסי פּראַדזשעקס און מקיים עטישע אַי גיידליינז. 
• גאַווערמאַנץ שאַפֿן געזעצן וואָס דאַרפן קאָמפּאַניעס צו פאָרלייגן זייער פאַראַנטוואָרטלעך אַי פריימווערק און ווי זיי פּלאַנירן צו אַנטוויקלען זייער אַי פּראַדזשעקס.
• געוואקסן קאָנטראָווערסיעס וועגן די נוצן פון אַלגערידאַמז אין ראַקרוטמאַנט, עפנטלעך סערוויילאַנס און געזעץ ענפאָרסמאַנט.
• רעסעאַרטשערס זענען פייערד פון גרויס אַי לאַבאָראַטאָריעס רעכט צו קאָנפליקט פון אינטערעס צווישן עטיקס און פֿירמע צילן.
• מער דרוק פֿאַר גאַווערמאַנץ צו רעגולירן אַוואַנסירטע אַי סיסטעמען וואָס זענען ביידע ינקרעדאַבלי שטאַרק אָבער קענען פּאַטענטשאַלי אָנרירן מענטשנרעכט.

פראגעס צו באַמערקן אויף

• ווי קענען פירמס זיין פאַראַנטוואָרטלעך פֿאַר די אַי סיסטעמען זיי שאַפֿן?
• וואָס זענען די אנדערע פּאָטענציעל דיינדזשערז אויב עס איז אַי מיסאַליגנמאַנט?