Franken-Algorithms: אַלגערידאַמז ניטאָ זשוליק

• וועגן דעם מחבר
• מחבר נאָמען

  קוואַנטומרון פאָרסייט
• אפריל קסנומקס, קסנומקס

ווי מאַשין לערנען (ML) אַלגערידאַמז ווערן מער אַוואַנסירטע, זיי זענען ביכולת צו לערנען און אַדאַפּט זיך צו פּאַטערנז אין גרויס דאַטאַסעץ אויף זייער אייגן. דער פּראָצעס, באקאנט ווי "אָטאַנאַמאַס לערנען," קען רעזולטאַט אין דער אַלגערידאַם דזשענערייטינג זיין אייגענע קאָד אָדער כּללים צו מאַכן דיסיזשאַנז. די פּראָבלעם מיט דעם איז אַז די קאָד דזשענערייטאַד דורך די אַלגערידאַם קען זיין שווער אָדער אוממעגלעך פֿאַר יומאַנז צו פֿאַרשטיין, וואָס מאכט עס טשאַלאַנדזשינג צו פּינפּוינט בייאַסיז. 

Franken-Algorithms קאָנטעקסט

Franken-Algorithms רעפערס צו אַלגערידאַמז (די כּללים וואָס קאָמפּיוטערס נאָכגיין ווען פּראַסעסינג דאַטן און ריספּאַנדינג צו קאַמאַנדז) וואָס זענען געווארן אַזוי קאָמפּליצירט און ינטערטוויינד אַז מענטשן קענען ניט מער דיסייפערן זיי. דער טערמין איז אַ נאָדל צו מרים שעליס וויסנשאַפֿט בעלעטריסטיק וועגן אַ "פאַרזעעניש" באשאפן דורך די משוגע געלערנטער ד"ר פרענקענשטיין. כאָטש אַלגערידאַמז און קאָודז זענען די בנין בלאַקס פון גרויס טעק און האָבן ערלויבט Facebook און Google צו זיין די ינפלוענטשאַל קאָמפּאַניעס וואָס זיי זענען איצט, עס איז נאָך אַזוי פיל וועגן די טעכנאָלאָגיע אַז מענטשן טאָן ניט וויסן. 

ווען פּראָוגראַמערז בויען קאָודז און לויפן זיי דורך ווייכווארג, ML אַלאַוז קאָמפּיוטערס צו פֿאַרשטיין און פאָרויסזאָגן פּאַטערנז. בשעת גרויס טעק קליימז אַז אַלגערידאַמז זענען אָביעקטיוו ווייַל מענטשלעך ימאָושאַנז און אַנפּרידיקטאַביליטי טאָן ניט השפּעה זיי, די אַלגערידאַמז קענען יוואַלוו און שרייַבן זייער אייגענע כּללים, וואָס פירן צו דיזאַסטראַס רעזולטאַטן. דער קאָד דזשענערייטאַד דורך די אַלגערידאַמז איז אָפט קאָמפּלעקס און אָופּייק, וואָס מאכט עס שווער פֿאַר ריסערטשערז אָדער פּראַקטישנערז צו טייַטשן די דיסיזשאַנז פון די אַלגערידאַם אָדער צו ידענטיפיצירן קיין בייאַסיז וואָס קען זיין פאָרשטעלן אין די באַשלוס-מאכן פּראָצעס פון די אַלגערידאַם. דער ראָאַדבלאָקק קענען מאַכן באַטייַטיק טשאַלאַנדזשיז פֿאַר געשעפטן וואָס פאַרלאָזנ זיך די אַלגערידאַמז צו מאַכן דיסיזשאַנז, ווייַל זיי קען נישט קענען צו פֿאַרשטיין אָדער דערקלערן די ריזאַנינג הינטער די דיסיזשאַנז.

דיסראַפּטיוו פּראַל

ווען Franken-Algorithms זענען זשוליק, עס קען זיין אַ ענין פון לעבן און טויט. א ביישפּיל איז געווען אַן צופאַל אין 2018 ווען אַ זעלבסט-דרייווינג מאַשין אין אַריזאָנאַ האָט שלאָגן און געהרגעט אַ פרוי ריידינג אַ בייק. די אַלגערידאַמז פון די מאַשין זענען נישט ביכולת צו ריכטיק ידענטיפיצירן איר ווי אַ מענטש. עקספערטן זענען צעריסן געווארן איבער די שורש סיבה פון דעם עקסידענט — איז דער קאר נישט פראגראמירט געווארן, און איז דער אלגאריטם געווארן צו קאמפליצירט פאר זיין אייגענעם גוטן? וואָס פּראָוגראַמערז קענען שטימען אויף, אָבער, איז אַז עס דאַרף זיין אַ פאַרזע סיסטעם פֿאַר ווייכווארג קאָמפּאַניעס - אַ קאָד פון עטיקס. 

אָבער, דעם עטיקס קאָד קומט מיט עטלעכע פּושבאַקק פון גרויס טעק ווייַל זיי זענען אין די געשעפט פון סעלינג דאַטן און אַלגערידאַמז, און קענען נישט פאַרגינענ זיך צו זיין רעגיאַלייטאַד אָדער פארלאנגט צו זיין טראַנספּעראַנט. דערצו, אַ פריש אַנטוויקלונג וואָס האָט געפֿירט דייַגע פֿאַר גרויס טעק עמפּלוייז איז די ינקריסינג נוצן פון אַלגערידאַמז אין די מיליטער, אַזאַ ווי Google 'ס שוטפעס מיט די יו דעפּאַרטמענט פון דיפענס צו ינקאָרפּערייט אַלגערידאַמז אין מיליטעריש טעק, ווי אָטאַנאַמאַס דראָנעס. די אַפּלאַקיישאַן האט געפירט צו עטלעכע עמפּלוייז רעזיגנירן און עקספּערץ וואָיסינג קאַנסערנז אַז אַלגערידאַמז זענען נאָך צו אַנפּרידיקטאַבאַל צו זיין געוויינט ווי מאָרד מאשינען. 

אן אנדער דייַגע איז אַז Franken-Algorithms קען פּערפּעטשאַווייט און אפילו פאַרגיכערן בייאַסיז רעכט צו די דאַטאַסעץ זיי זענען טריינד אויף. דער פּראָצעס קען פירן צו פאַרשידן געזעלשאַפטלעך ישוז, אַרייַנגערעכנט דיסקרימינאַציע, ינאַקוואַלאַטי, און פאַלש ערעסץ. ווייַל פון די כייטאַנד ריסקס, פילע טעק קאָמפּאַניעס אָנהייבן צו אַרויסגעבן זייער עטישע אַי גיידליינז צו זיין טראַנספּעראַנט וועגן ווי זיי אַנטוויקלען, נוצן און מאָניטאָר זייער אַלגערידאַמז.

ברייטער ימפּלאַקיישאַנז פֿאַר Franken-Algorithms

פּאָטענציעל ימפּלאַקיישאַנז פֿאַר Franken-Algorithms קען אַרייַננעמען:

• אַנטוויקלונג פון אָטאַנאַמאַס סיסטעמען וואָס קענען מאַכן דיסיזשאַנז און נעמען אַקשאַנז אָן מענטש פאַרזע, רייזינג קאַנסערנז וועגן אַקאַונטאַביליטי און זיכערקייַט. אָבער, אַזאַ אַלגערידאַמז קען רעדוצירן די קאָס פון דעוועלאָפּינג ווייכווארג און ראָובאַטיקס וואָס קענען אָטאַמייט מענטשלעך אַרבעט אין רובֿ ינדאַסטריז. 
• מער דורכקוק אויף ווי אַלגערידאַמז קענען אָטאַמייט מיליטעריש טעכנאָלאָגיע און שטיצן אָטאַנאַמאַס וועפּאַנז און וועהיקלעס.
• געוואקסן דרוק פֿאַר גאַווערמאַנץ און ינדאַסטרי פירער צו ינסטרומענט אַן אַלגערידאַם קאָד פון עטיקס און רעגיאַליישאַנז.
• Franken-Algorithms דיספּראַפּאָרשאַנאַטלי פּראַל אויף זיכער דעמאָגראַפיק גרופּעס, אַזאַ ווי נידעריק-האַכנאָסע קהילות אָדער מינאָריטעט פּאַפּיאַליישאַנז.
• Franken-Algorithms קען פּערפּעטשאַווייט און פאַרגרעסערן דיסקרימינאַציע און פאָרורטייל אין באַשלוס-מאכן, אַזאַ ווי הירינג און לענדינג דיסיזשאַנז.
• די אַלגערידאַמז זענען געניצט דורך סייבער קרימאַנאַלז צו מאָניטאָר און גווורע וויקנאַסאַז אין סיסטעמען, ספּעציעל אין פינאַנציעל אינסטיטוציעס.
• פּאָליטיש אַקטערז ניצן זשולדיק אַלגערידאַמז צו אָטאַמייט פֿאַרקויף קאַמפּיינז ניצן דזשענעראַטיוו אַי סיסטעמען אין וועגן וואָס קענען השפּעה אויף ציבור מיינונג און שאַטן ילעקשאַנז.

פֿראגן צו באַטראַכטן

• ווי טאָן איר טראַכטן אַלגערידאַמז וועט אַנטוויקלען אין דער צוקונפֿט?
• וואָס קענען גאַווערמאַנץ און קאָמפּאַניעס טאָן צו קאָנטראָלירן Franken-Algorithms?