Franken-Algorithms: Οι αλγόριθμοι έχουν γίνει αδίστακτοι

• Συγγραφέας:
• όνομα συγγραφέα

  Quantumrun Foresight
• Απρίλιος 12, 2023

Καθώς οι αλγόριθμοι μηχανικής μάθησης (ML) γίνονται πιο προηγμένοι, είναι σε θέση να μαθαίνουν και να προσαρμόζονται μόνοι τους σε μοτίβα μεγάλων συνόλων δεδομένων. Αυτή η διαδικασία, γνωστή ως «αυτόνομη μάθηση», μπορεί να έχει ως αποτέλεσμα ο αλγόριθμος να δημιουργεί τον δικό του κώδικα ή κανόνες για τη λήψη αποφάσεων. Το ζήτημα με αυτό είναι ότι ο κώδικας που δημιουργείται από τον αλγόριθμο μπορεί να είναι δύσκολο ή αδύνατο να κατανοηθεί από τον άνθρωπο, καθιστώντας δύσκολο τον εντοπισμό των προκαταλήψεων. 

Περιβάλλον Franken-Algorithms

Οι αλγόριθμοι Franken αναφέρονται σε αλγόριθμους (οι κανόνες που ακολουθούν οι υπολογιστές όταν επεξεργάζονται δεδομένα και ανταποκρίνονται σε εντολές) που έχουν γίνει τόσο περίπλοκοι και αλληλένδετοι που οι άνθρωποι δεν μπορούν πλέον να τους αποκρυπτογραφήσουν. Ο όρος είναι ένα νεύμα στην επιστημονική φαντασία της Mary Shelley για ένα «τέρας» που δημιουργήθηκε από τον τρελό επιστήμονα Δρ Φρανκενστάιν. Ενώ οι αλγόριθμοι και οι κώδικες είναι τα δομικά στοιχεία της μεγάλης τεχνολογίας και επέτρεψαν στο Facebook και την Google να είναι οι εταιρείες με επιρροή που είναι τώρα, υπάρχουν ακόμα τόσα πολλά για την τεχνολογία που οι άνθρωποι δεν γνωρίζουν. 

Όταν οι προγραμματιστές δημιουργούν κώδικες και τους εκτελούν μέσω λογισμικού, η ML επιτρέπει στους υπολογιστές να κατανοούν και να προβλέπουν μοτίβα. Ενώ η μεγάλη τεχνολογία ισχυρίζεται ότι οι αλγόριθμοι είναι αντικειμενικοί επειδή τα ανθρώπινα συναισθήματα και το απρόβλεπτο δεν τους επηρεάζουν, αυτοί οι αλγόριθμοι μπορούν να εξελιχθούν και να γράψουν τους δικούς τους κανόνες, οδηγώντας σε καταστροφικά αποτελέσματα. Ο κώδικας που δημιουργείται από αυτούς τους αλγόριθμους είναι συχνά πολύπλοκος και αδιαφανής, γεγονός που καθιστά δύσκολο για τους ερευνητές ή τους επαγγελματίες να ερμηνεύσουν τις αποφάσεις του αλγορίθμου ή να εντοπίσουν τυχόν προκαταλήψεις που μπορεί να υπάρχουν στη διαδικασία λήψης αποφάσεων του αλγορίθμου. Αυτό το εμπόδιο μπορεί να δημιουργήσει σημαντικές προκλήσεις για τις επιχειρήσεις που βασίζονται σε αυτούς τους αλγόριθμους για τη λήψη αποφάσεων, καθώς ενδέχεται να μην είναι σε θέση να κατανοήσουν ή να εξηγήσουν το σκεπτικό πίσω από αυτές τις αποφάσεις.

Αποδιοργανωτικός αντίκτυπος

Όταν οι αλγόριθμοι Franken γίνονται απατεώνες, μπορεί να είναι θέμα ζωής και θανάτου. Ένα παράδειγμα ήταν ένα ατύχημα το 2018 όταν ένα αυτοοδηγούμενο αυτοκίνητο στην Αριζόνα χτύπησε και σκότωσε μια γυναίκα που οδηγούσε ποδήλατο. Οι αλγόριθμοι του αυτοκινήτου δεν κατάφεραν να την αναγνωρίσουν σωστά ως άνθρωπο. Οι ειδικοί είχαν προβληματιστεί σχετικά με τη βασική αιτία του ατυχήματος—μήπως το αυτοκίνητο δεν είχε προγραμματιστεί σωστά και μήπως ο αλγόριθμος έγινε πολύ περίπλοκος για το καλό του; Αυτό στο οποίο μπορούν να συμφωνήσουν οι προγραμματιστές, ωστόσο, είναι ότι πρέπει να υπάρχει ένα σύστημα εποπτείας για τις εταιρείες λογισμικού — ένας κώδικας δεοντολογίας. 

Ωστόσο, αυτός ο κώδικας δεοντολογίας συνοδεύεται από κάποια ώθηση από τη μεγάλη τεχνολογία, επειδή ασχολούνται με την πώληση δεδομένων και αλγορίθμων και δεν έχουν την πολυτέλεια να ρυθμίζονται ή να απαιτείται να είναι διαφανείς. Επιπλέον, μια πρόσφατη εξέλιξη που έχει προκαλέσει ανησυχία στους μεγάλους τεχνολογικούς υπαλλήλους είναι η αυξανόμενη χρήση αλγορίθμων εντός του στρατού, όπως η συνεργασία της Google με το Υπουργείο Άμυνας των ΗΠΑ για την ενσωμάτωση αλγορίθμων στη στρατιωτική τεχνολογία, όπως τα αυτόνομα drones. Αυτή η εφαρμογή οδήγησε ορισμένους υπαλλήλους να παραιτηθούν και ειδικούς να εκφράσουν ανησυχίες ότι οι αλγόριθμοι εξακολουθούν να είναι πολύ απρόβλεπτοι για να χρησιμοποιηθούν ως μηχανές θανάτωσης. 

Μια άλλη ανησυχία είναι ότι οι αλγόριθμοι Franken μπορεί να διαιωνίσουν και ακόμη και να ενισχύσουν τις προκαταλήψεις λόγω των συνόλων δεδομένων στα οποία εκπαιδεύονται. Αυτή η διαδικασία μπορεί να οδηγήσει σε διάφορα κοινωνικά ζητήματα, συμπεριλαμβανομένων των διακρίσεων, της ανισότητας και των παράνομων συλλήψεων. Εξαιτίας αυτών των αυξημένων κινδύνων, πολλές εταιρείες τεχνολογίας αρχίζουν να δημοσιεύουν τις ηθικές κατευθυντήριες γραμμές τεχνητής νοημοσύνης τους για να είναι διαφανείς σχετικά με τον τρόπο ανάπτυξης, χρήσης και παρακολούθησης των αλγορίθμων τους.

Ευρύτερες επιπτώσεις για τους αλγόριθμους Franken

Οι πιθανές επιπτώσεις για τους αλγόριθμους Franken μπορεί να περιλαμβάνουν:

• Ανάπτυξη αυτόνομων συστημάτων που μπορούν να λαμβάνουν αποφάσεις και να αναλαμβάνουν ενέργειες χωρίς ανθρώπινη επίβλεψη, εγείροντας ανησυχίες σχετικά με τη λογοδοσία και την ασφάλεια. Ωστόσο, τέτοιοι αλγόριθμοι μπορεί να μειώσουν το κόστος ανάπτυξης λογισμικού και ρομποτικής που μπορούν να αυτοματοποιήσουν την ανθρώπινη εργασία στις περισσότερες βιομηχανίες. 
• Περισσότερος έλεγχος για το πώς οι αλγόριθμοι μπορούν να αυτοματοποιήσουν τη στρατιωτική τεχνολογία και να υποστηρίξουν αυτόνομα όπλα και οχήματα.
• Αυξημένη πίεση για τις κυβερνήσεις και τους ηγέτες του κλάδου να εφαρμόσουν έναν κώδικα δεοντολογίας και κανονισμών αλγορίθμου.
• Franken-Algorithms που επηρεάζουν δυσανάλογα ορισμένες δημογραφικές ομάδες, όπως κοινότητες χαμηλού εισοδήματος ή πληθυσμούς μειονοτήτων.
• Οι αλγόριθμοι Franken θα μπορούσαν να διαιωνίσουν και να ενισχύσουν τις διακρίσεις και τις μεροληψίες στη λήψη αποφάσεων, όπως αποφάσεις προσλήψεων και δανεισμού.
• Αυτοί οι αλγόριθμοι χρησιμοποιούνται από εγκληματίες του κυβερνοχώρου για την παρακολούθηση και την εκμετάλλευση αδυναμιών σε συστήματα, ιδιαίτερα σε χρηματοπιστωτικά ιδρύματα.
• Πολιτικοί παράγοντες που χρησιμοποιούν αδίστακτους αλγόριθμους για να αυτοματοποιήσουν τις εκστρατείες μάρκετινγκ χρησιμοποιώντας συστήματα παραγωγής τεχνητής νοημοσύνης με τρόπους που μπορούν να επηρεάσουν την κοινή γνώμη και να επηρεάσουν τις εκλογές.

Ερωτήσεις προς εξέταση

• Πώς πιστεύετε ότι θα αναπτυχθούν περαιτέρω οι αλγόριθμοι στο μέλλον;
• Τι μπορούν να κάνουν οι κυβερνήσεις και οι εταιρείες για να ελέγξουν τους αλγόριθμους Franken;