תקנה AI אירופה: ניסיון לשמור על AI אנושי

• מְחַבֵּר:
• שם היוצר

  Quantumrun Foresight
• יוני 13, 2022

סיכום תובנה

הנציבות האירופית (EC) נוקטת בצעדים כדי לקבוע סטנדרטים אתיים לבינה מלאכותית (AI), תוך התמקדות במניעת שימוש לרעה בתחומים כמו מעקב ונתוני צרכנים. מהלך זה עורר דיון בתעשיית הטכנולוגיה ויכול להוביל לגישה מאוחדת עם ארה"ב, במטרה להשפעה גלובלית. עם זאת, לתקנות עשויות להיות גם השלכות לא מכוונות, כמו הגבלת התחרות בשוק והשפעה על הזדמנויות עבודה במגזר הטכנולוגי.

הקשר של רגולציית AI אירופאית

ה-EC התמקדה באופן פעיל ביצירת מדיניות לשמירה על פרטיות נתונים וזכויות מקוונות. לאחרונה, התמקדות זו התרחבה וכוללת שימוש אתי בטכנולוגיות AI. ה-EC מודאג מהשימוש לרעה הפוטנציאלי של AI במגזרים שונים, מאיסוף נתוני צרכנים ועד למעקב. בכך, הנציבות שואפת לקבוע סטנדרט לאתיקה של בינה מלאכותית, לא רק בתוך האיחוד האירופי אלא אולי כמודל עבור שאר העולם.

באפריל 2021, ה-EC נקטה צעד משמעותי על ידי פרסום מערכת כללים שמטרתם ניטור יישומי AI. כללים אלה נועדו למנוע שימוש בבינה מלאכותית לצורך מעקב, הנצחת הטיה או פעולות דיכוי של ממשלות או ארגונים. באופן ספציפי, התקנות אוסרות על מערכות בינה מלאכותית שעלולות להזיק לאנשים פיזית או פסיכולוגית. לדוגמה, מערכות בינה מלאכותיות שמתפעלות התנהגות של אנשים באמצעות מסרים נסתרים אסורות, וגם לא מערכות המנצלות את הפגיעות הפיזיות או הנפשיות של אנשים.

לצד זה, ה-EC גם פיתחה מדיניות קפדנית יותר עבור מה שהיא מחשיבה למערכות בינה מלאכותית "בסיכון גבוה". אלו הם יישומי בינה מלאכותית המשמשים במגזרים שיש להם השפעה מהותית על בטיחות הציבור ורווחתו, כגון מכשור רפואי, ציוד בטיחות וכלי אכיפת חוק. המדיניות מתווה דרישות ביקורת מחמירות יותר, תהליך אישור וניטור שוטף לאחר פריסת מערכות אלו. תעשיות כמו זיהוי ביומטרי, תשתית קריטית וחינוך נמצאות גם הן תחת מטריה זו. חברות שלא יעמדו בתקנות אלו עלולות לעמוד בפני קנסות כבדים, עד 32 מיליון דולר או 6% מההכנסות השנתיות העולמיות שלהן.

השפעה משבשת

תעשיית הטכנולוגיה הביעה דאגה לגבי המסגרת הרגולטורית של ה-EC עבור AI, בטענה שכללים כאלה עלולים להפריע להתקדמות טכנולוגית. המבקרים מציינים כי ההגדרה של מערכות בינה מלאכותית "בסיכון גבוה" במסגרת אינה ברורה. לדוגמה, חברות טכנולוגיה גדולות המשתמשות ב-AI עבור אלגוריתמים של מדיה חברתית או פרסום ממוקד אינן מסווגות כ"בסיכון גבוה", למרות העובדה שיישומים אלו נקשרו לנושאים חברתיים שונים כמו מידע מוטעה וקיטוב. ה-EC נוגד זאת בכך שקובע שסוכנויות פיקוח לאומיות בתוך כל מדינה באיחוד האירופי יהיו בעלי המילה האחרונה לגבי מה שמהווה בקשה בסיכון גבוה, אך גישה זו עלולה להוביל לחוסר עקביות בין המדינות החברות.

האיחוד האירופי (האיחוד האירופי) אינו פועל בבידוד; היא שואפת לשתף פעולה עם ארה"ב כדי לבסס תקן עולמי לאתיקה של בינה מלאכותית. חוק התחרות האסטרטגית של הסנאט האמריקני, שפורסם באפריל 2021, קורא גם לשיתוף פעולה בינלאומי למניעת "סמכותיות דיגיטלית", התייחסות מצועפת לפרקטיקות כמו השימוש של סין בביומטריה למעקב המוני. השותפות הטרנס-אטלנטית הזו יכולה לתת את הטון לאתיקה של בינה מלאכותית עולמית, אבל היא גם מעלה שאלות לגבי האופן שבו סטנדרטים כאלה יאכפו ברחבי העולם. האם מדינות בעלות דעות שונות על פרטיות נתונים וזכויות הפרט, כמו סין ורוסיה, יקפידו על הנחיות אלו, או שהדבר יוצר נוף מקוטע של אתיקה של AI?

אם התקנות הללו יהפכו לחוק באמצע שנות ה-2020, עשויות להיות להן השפעה אדווה על תעשיית הטכנולוגיה וכוח העבודה באיחוד האירופי. חברות הפועלות באיחוד האירופי עשויות לבחור ליישם את השינויים הרגולטוריים הללו ברחבי העולם, תוך התאמה של כל פעילותן לסטנדרטים החדשים. עם זאת, ארגונים מסוימים עשויים למצוא את התקנות מכבידות מדי ויבחרו לצאת לחלוטין מהשוק של האיחוד האירופי. לשני התרחישים יהיו השלכות על התעסוקה במגזר הטכנולוגי של האיחוד האירופי. לדוגמה, יציאה המונית של חברות עלולה להוביל לאובדן מקומות עבודה, בעוד שהתאמה עולמית לסטנדרטים של האיחוד האירופי עשויה להפוך את תפקידי הטכנולוגיה מבוססי האיחוד האירופי למיוחדים יותר ובעלי ערך רב יותר.

השלכות על רגולציה מוגברת של AI באירופה

השלכות רחבות יותר של ה-EC הרוצה יותר ויותר להסדיר AI עשויות לכלול:

• האיחוד האירופי וארה"ב יוצרים הסכם הסמכה הדדי לחברות בינה מלאכותית, המוביל למערכת מותאמת של סטנדרטים אתיים שחברות חייבות לעמוד בהן, ללא קשר למיקומן הגיאוגרפי.
• צמיחה בתחום המתמחה של ביקורת בינה מלאכותית, מונעת על ידי שיתוף פעולה מוגבר בין חברות פרטיות למגזרים ציבוריים כדי להבטיח עמידה ברגולציות חדשות.
• מדינות ועסקים מהעולם המתפתח זוכים לגישה לשירותים דיגיטליים העומדים בסטנדרטים האתיים של AI שנקבעו על ידי מדינות מערביות, מה שעלול להעלות את האיכות והבטיחות של שירותים אלה.
• שינוי במודלים עסקיים לתעדוף שיטות AI אתיות, למשוך צרכנים המודאגים יותר ויותר מפרטיות הנתונים ושימוש בטכנולוגיה אתית.
• ממשלות מאמצות בינה מלאכותית בשירותים ציבוריים כמו בריאות ותחבורה בביטחון רב יותר, בידיעה שטכנולוגיות אלו עומדות בסטנדרטים אתיים מחמירים.
• השקעה מוגברת בתוכניות חינוכיות המתמקדות בבינה מלאכותית אתית, ויוצרת דור חדש של טכנולוגים הבקיאים הן ביכולות בינה מלאכותית והן בשיקולים אתיים.
• סטארט-אפים טכנולוגיים קטנים יותר מתמודדים עם חסמי כניסה עקב העלויות הגבוהות של ציות לרגולציה, שעלולות לחנוק את התחרות ולהוביל לגיבוש שוק.

שאלות שכדאי לקחת בחשבון

• האם אתה מאמין שממשלות צריכות להסדיר את טכנולוגיות הבינה המלאכותית ואת אופן פריסתן?
• כיצד עוד עשויה הרגולציה המוגברת בתעשיית הטכנולוגיה להשפיע על האופן שבו חברות במגזר פועלות?