בינה מלאכותית משתלטת על האינטרנט: האם בוטים עומדים לחטוף את העולם המקוון?
בינה מלאכותית משתלטת על האינטרנט: האם בוטים עומדים לחטוף את העולם המקוון?
בינה מלאכותית משתלטת על האינטרנט: האם בוטים עומדים לחטוף את העולם המקוון?
- מְחַבֵּר:
- ינואר 3, 2023
האינטרנט מלא באלגוריתמים ובינה מלאכותית שמנהלים את כל התהליכים שאנחנו יכולים לחשוב עליהם - משירות לקוחות דרך עסקאות וכלה בסטרימינג בידור. עם זאת, ייתכן שבני אדם יצטרכו להיות ערניים יותר במעקב אחר התקדמות הבוטים ככל שה-AI מתקדם יותר ויותר.
AI משתלט על הקשר אינטרנט
בימיו הראשונים של האינטרנט, רוב התוכן היה סטטי (למשל, טקסט ותמונות עם אינטראקטיביות מינימלית), וחלק גדול מהפעילות באינטרנט נוצרה על ידי הנחיות או פקודות אנושיות. עם זאת, העידן האנושי הזה של האינטרנט עשוי להסתיים בקרוב, כאשר ארגונים ממשיכים לעצב, להתקין ולסנכרן יותר ויותר אלגוריתמים ובוטים באינטרנט. (בהקשר, בוטים הם תוכניות אוטונומיות באינטרנט או רשת אחרת שיכולות ליצור אינטראקציה עם מערכות או משתמשים.) לפי חברת אבטחת סייבר בענן Imperva Incapsula, בשנת 2013, רק 31 אחוז מתעבורת האינטרנט היו מורכבים ממנועי חיפוש ו"בוטים טובים. ” השאר מכיל אלמנטים זדוניים כמו שולחי דואר זבל (האקרים של דואר אלקטרוני), מגרדים (גניבת מידע פרטי ממאגרי מידע של אתרים) ומתחזים (מעורר התקפות מניעת שירות מבוזרות, שמציפות תעבורת אינטרנט לשרת ממוקד.
אינטראקציה בין בני אדם הופכת נפוצה יותר באינטרנט כאשר עוזרים וירטואליים מבצעים משימות מורכבות יותר. לדוגמה, Google Assistant יכול לבצע שיחות למספרות כדי לקבוע פגישה במקום רק להגדיר תזכורת יומן או לשלוח הודעת טקסט פשוטה. השלב הבא הוא אינטראקציה בין בוט לבוט, שבו שני בוטים מבצעים משימות בשם בעליהם, כמו הגשת מועמדות אוטונומית למשרות מצד אחד ועיבוד בקשות אלו בצד השני.
השפעה משבשת
ככל שהרחב של יכולות שיתוף הנתונים, העסקאות והקישוריות המתאפשרות באינטרנט ממשיך לגדול, יש תמריץ הולך וגובר להפוך יותר ויותר אינטראקציות אנושיות ומסחריות לאוטומטיות. במקרים רבים, האוטומציות הללו יבוצעו באמצעות אלגוריתם או עוזר וירטואלי, אשר בסך הכל עלולים לייצג את הרוב המכריע של תעבורת האינטרנט המקוונת, ולדחוק בני אדם.
יתר על כן, הנוכחות הגוברת של בוטים באינטרנט יכולה להתפתח במהירות מעבר להתערבות אנושית. הארגון ללא מטרות רווח, הפורום הכלכלי העולמי, קורא להפצה הבלתי מוסדרת של בוטים מקוונים כרשת מסובכת. בסביבה זו, אלגוריתמים ברמה נמוכה, שקודדו תחילה לביצוע משימות פשוטות, לומדים להתפתח באמצעות נתונים, לחדור לתשתיות סייבר ולהתחמק מחומת אש. התרחיש הגרוע ביותר הוא "עשב בינה מלאכותית" המתפשט ברחבי האינטרנט, ובסופו של דבר מגיע ומשבש מגזרים חיוניים, כגון מערכות ניהול מים ואנרגיה. תרחיש מסוכן עוד יותר הוא אם העשבים האלה "יחנקו" מערכות בקרה לווייניות וגרעיניות.
כדי למנוע את עלייתם של "בוטים שמתפתחים" מעצמם, חברות עשויות להקדיש משאבים נוספים לניטור קפדני של האלגוריתמים שלהן, להכפיף אותם לבדיקות קפדניות לפני השחרור, ולהחזיק "מתג הרג" במצב המתנה למקרה שהם תקולים. אי עמידה בתקנים אלה צריך גם לעמוד בקנסות וסנקציות כבדות כדי להבטיח שהתקנות המיועדות לשלוט בוטים יישמרו כראוי.
השלכות על השתלטות של מערכות AI על האינטרנט
השלכות רחבות יותר על אלגוריתמים ובוטים המקבלים מונופול על רוב תעבורת האינטרנט עשויות לכלול:
- שירותים עסקיים וציבוריים הופכים ליותר ויותר יעילים ובעלות נמוכה ככל שיותר פעילויות ניטור, מנהליות ועסקאות מטופלות באופן אוטונומי.
- תקנות ומדיניות גלובליות המפקחות, מבקרות ומטילות אחריות על חברות על כל בוט שהן מפרסמות ומעדכנות באינטרנט.
- הגדלת אינטראקציות בין בוט לבוט שיכולה להוביל למערכות נתונים גדולות יותר שיזדקקו ליותר מחשבי על לעיבוד. זה, בתורו, יגדיל את צריכת האנרגיה של האינטרנט העולמי.
- מערכות בינה מלאכותית הופכות לחושניות מספיק כדי להתקיים במטאוורסים שלהן, שם הן יכולות להיות שותפות עם בני אדם או לאיים על שליטה מקוונת אם לא מוסדרים.
שאלות להגיב עליהן
- איך הייתה החוויה שלך בעת אינטראקציה עם בוטים באינטרנט, כגון צ'אטבוטים של שירות לקוחות?
- האם אתה עושה שימוש בסיוע וירטואלי בחיי היומיום שלך?
הפניות לתובנות
הקישורים הפופולריים והמוסדיים הבאים קיבלו התייחסות לתובנה זו:
