Κατευθυντήριες γραμμές ηθικής στην τεχνολογία: Όταν το εμπόριο αναλαμβάνει την έρευνα

• Συγγραφέας:
• όνομα συγγραφέα

  Quantumrun Foresight
• Φεβρουάριος 15, 2023

Περίληψη Insight

Λόγω των πιθανών κινδύνων και της αλγοριθμικής μεροληψίας που μπορεί να προκαλέσουν τα συστήματα τεχνητής νοημοσύνης (AI) σε επιλεγμένες μειονοτικές ομάδες, πολλές ομοσπονδιακές υπηρεσίες και εταιρείες απαιτούν όλο και περισσότερο από τους παρόχους τεχνολογίας να δημοσιεύουν ηθικές οδηγίες σχετικά με τον τρόπο ανάπτυξης και ανάπτυξης της τεχνητής νοημοσύνης. Ωστόσο, η εφαρμογή αυτών των οδηγιών στην πραγματική ζωή είναι πολύ πιο περίπλοκη και θολή.

Η ηθική συγκρούεται με το πλαίσιο

Στη Silicon Valley, οι επιχειρήσεις εξακολουθούν να διερευνούν τον καλύτερο τρόπο εφαρμογής των ηθικών αρχών στην πράξη, συμπεριλαμβανομένης της ερώτησης, «πόσο κοστίζει να δοθεί προτεραιότητα στην ηθική;» Στις 2 Δεκεμβρίου 2020, η Timnit Gebru, συνεπικεφαλής της ομάδας ηθικής τεχνητής νοημοσύνης της Google, δημοσίευσε ένα tweet λέγοντας ότι είχε απολυθεί. Ήταν ευρέως σεβαστή στην κοινότητα της τεχνητής νοημοσύνης για την προκατάληψη και την έρευνα αναγνώρισης προσώπου. Το περιστατικό που οδήγησε στην απόλυσή της αφορούσε ένα έγγραφο που είχε συντάξει από κοινού, το οποίο η Google αποφάσισε ότι δεν πληρούσε τα πρότυπα δημοσίευσής της. 

Ωστόσο, ο Gebru και άλλοι υποστηρίζουν ότι η απόλυση είχε ως κίνητρο τις δημόσιες σχέσεις και όχι την πρόοδο. Η απόλυση έλαβε χώρα αφού ο Gebru αμφισβήτησε την εντολή να μην δημοσιευτεί μια μελέτη σχετικά με το πώς η τεχνητή νοημοσύνη που μιμείται την ανθρώπινη γλώσσα μπορεί να βλάψει περιθωριοποιημένους πληθυσμούς. Τον Φεβρουάριο του 2021, η συν-συγγραφέας του Gebru, Margaret Mitchell, απολύθηκε επίσης. 

Η Google δήλωσε ότι ο Μίτσελ παραβίασε τον κώδικα δεοντολογίας και τις πολιτικές ασφαλείας της εταιρείας μετακινώντας ηλεκτρονικά αρχεία εκτός της εταιρείας. Η Μίτσελ δεν έδωσε περισσότερες λεπτομέρειες για τους λόγους της απόλυσής της. Η κίνηση πυροδότησε μια χιονοστιβάδα κριτικής, οδηγώντας την Google να ανακοινώσει αλλαγές στις πολιτικές της για την ποικιλομορφία και την έρευνα έως τον Φεβρουάριο του 2021. Αυτό το περιστατικό είναι μόνο ένα παράδειγμα του πώς οι συγκρούσεις ηθικής διχάζουν τις μεγάλες εταιρείες τεχνολογίας και τα υποτιθέμενα αντικειμενικά ερευνητικά τους τμήματα.

Αποδιοργανωτικός αντίκτυπος

Σύμφωνα με το Harvard Business Review, η μεγαλύτερη πρόκληση που αντιμετωπίζουν οι ιδιοκτήτες επιχειρήσεων είναι να βρουν μια ισορροπία μεταξύ των εξωτερικών πιέσεων για να ανταποκριθούν σε ηθικές κρίσεις και των εσωτερικών απαιτήσεων των εταιρειών και των βιομηχανιών τους. Οι εξωτερικές επικρίσεις ωθούν τις εταιρείες να επαναξιολογήσουν τις επιχειρηματικές τους πρακτικές. Ωστόσο, οι πιέσεις από τη διοίκηση, τον ανταγωνισμό του κλάδου και τις γενικές προσδοκίες της αγοράς για τον τρόπο λειτουργίας των επιχειρήσεων μπορούν μερικές φορές να δημιουργήσουν αντισταθμιστικά κίνητρα που ευνοούν το status quo. Αντίστοιχα, οι ηθικές συγκρούσεις θα αυξάνονται μόνο καθώς εξελίσσονται οι πολιτιστικοί κανόνες και καθώς οι εταιρείες (ιδιαίτερα οι εταιρείες τεχνολογίας με επιρροή) συνεχίζουν να πιέζουν τα όρια στις νέες επιχειρηματικές πρακτικές που μπορούν να εφαρμόσουν για τη δημιουργία νέων εσόδων.

Ένα άλλο παράδειγμα εταιρειών που αγωνίζονται με αυτήν την ηθική ισορροπία είναι η εταιρεία Meta. Για να αντιμετωπίσει τις δημοσιοποιημένες ηθικές του ελλείψεις, το Facebook δημιούργησε ένα ανεξάρτητο εποπτικό συμβούλιο το 2020, με την εξουσία να ανατρέπει τις αποφάσεις εποπτείας περιεχομένου, ακόμη και αυτές που λαμβάνονται από τον ιδρυτή Mark Zuckerberg. Τον Ιανουάριο του 2021, η επιτροπή έλαβε τις πρώτες της αποφάσεις για αμφισβητούμενο περιεχόμενο και ανέτρεψε τις περισσότερες από τις υποθέσεις που είδε. 

Ωστόσο, με δισεκατομμύρια αναρτήσεις στο Facebook καθημερινά και έναν ανείπωτο αριθμό καταγγελιών περιεχομένου, το εποπτικό συμβούλιο λειτουργεί πολύ πιο αργά από τις παραδοσιακές κυβερνήσεις. Ωστόσο, το συμβούλιο είχε κάνει ορισμένες έγκυρες συστάσεις. Το 2022, η επιτροπή συμβούλεψε τις Meta Platforms να καταπολεμήσουν τα περιστατικά doxxing που δημοσιεύονται στο Facebook, απαγορεύοντας στους χρήστες να μοιράζονται τις διευθύνσεις κατοικιών ατόμων σε πλατφόρμες, ακόμη και αν είναι διαθέσιμες στο κοινό. Το συμβούλιο υποστήριξε επίσης ότι το Facebook ανοίξει ένα κανάλι επικοινωνίας για να εξηγήσει με διαφάνεια γιατί συμβαίνουν παραβιάσεις και πώς αντιμετωπίζονται.

Συνέπειες των συγκρούσεων ηθικής του ιδιωτικού τομέα

Οι ευρύτερες συνέπειες των συγκρούσεων ηθικής στον ιδιωτικό τομέα μπορεί να περιλαμβάνουν: 

• Περισσότερες εταιρείες δημιουργούν ανεξάρτητα συμβούλια δεοντολογίας για να επιβλέπουν την εφαρμογή των κατευθυντήριων γραμμών δεοντολογίας στις αντίστοιχες επιχειρηματικές τους πρακτικές.
• Αυξημένες επικρίσεις από τον ακαδημαϊκό κόσμο σχετικά με το πώς η εμπορευματοποίηση της τεχνολογικής έρευνας οδήγησε σε πιο αμφισβητήσιμες πρακτικές και συστήματα.
• Περισσότερη διαρροή εγκεφάλων στον δημόσιο τομέα καθώς οι εταιρείες τεχνολογίας κυνηγούν ταλαντούχους ερευνητές τεχνητής νοημοσύνης στο δημόσιο και πανεπιστήμιο, προσφέροντας σημαντικούς μισθούς και προνόμια.
• Οι κυβερνήσεις απαιτούν όλο και περισσότερο από όλες τις εταιρείες να δημοσιεύουν τις δεοντολογικές τους κατευθυντήριες γραμμές ανεξάρτητα από το αν παρέχουν τεχνολογικές υπηρεσίες ή όχι.
• Περισσότεροι ειλικρινείς ερευνητές απολύθηκαν από μεγάλες εταιρείες λόγω σύγκρουσης συμφερόντων για να αντικατασταθούν γρήγορα.

Ερωτήσεις προς εξέταση

• Πώς πιστεύετε ότι οι συγκρούσεις ηθικής θα επηρεάσουν το είδος των προϊόντων και των υπηρεσιών που λαμβάνουν οι καταναλωτές;
• Τι μπορούν να κάνουν οι εταιρείες για να διασφαλίσουν τη διαφάνεια στην τεχνολογική τους έρευνα;