אלגוריתמים כבר מקבלים החלטות עבור בני אדם, וזה נהיה מוזר

(יורי פרמנוב/iStock)

אני עדיין זוכר את ההפתעה שלי כשספרו של הביולוג האבולוציוני פיטר לורנס בשם יצירתו של זבוב הגיע למחיר באמזון ב-,698,655.93 (בתוספת .99 משלוח).

בעוד שעמיתיי מסביב לעולם נעשו די מדוכאים מכך שספר אקדמי יכול להגיע להישג כזה, המחיר היקר היה למעשה תוצאה של אלגוריתמים שניזונים זה מזה ויצאו משליטה. מסתבר שלא רק צוות המכירות היה יצירתי: אלגוריתמים עשו את ההישגים.

הדוגמה המושכת את העין הזו אותרה ותוקנה. אבל מה אם הפרעות אלגוריתמיות כאלה מתרחשות כל הזמן, כולל בדרכים שאנחנו אפילו לא שמים לב? אם המציאות שלנו נבנית יותר ויותר על ידי אלגוריתמים, איפה זה משאיר אותנו בני האדם?

בהשראת דוגמאות כאלה, עמיתי פרופ' אלן לי ולאחרונה יצאתי לחקור את ההשפעות העמוקות יותר של טכנולוגיה אלגוריתמית בנייר בתוך ה כתב העת של האגודה למערכות מידע .

החקירה שלנו הובילה אותנו למסקנה שעם הזמן, התפקידים של טכנולוגיית המידע ושל בני האדם התהפכו. בעבר, אנו בני האדם השתמשנו בטכנולוגיה ככלי. כעת, הטכנולוגיה התקדמה עד לנקודה שבה היא משתמשת ואף שולטת בנו.

אנו בני האדם לא רק מנותקים מההחלטות שמכונות מקבלות עבורנו אלא מושפעים מהן עמוקות בדרכים בלתי צפויות. במקום להיות מרכזיים במערכת ההחלטות המשפיעה עלינו, אנו נדחקים אל סביבתה.

הגבלנו בהדרגה את יכולת קבלת ההחלטות שלנו ואפשרנו לאלגוריתמים להשתלט. הפכנו לבני אדם מלאכותיים, או חפצי אמנות אנושיים, שנוצרים, מעוצבים ומשמשים את הטכנולוגיה.

דוגמאות יש בשפע. בחוק, אנליסטים משפטיים מוחלפים בהדרגה על ידי בינה מלאכותית , כלומר ההגנה או העמדה לדין מוצלחת של תיק יכולים להסתמך בחלקו על אלגוריתמים.

התוכנה אפילו הורשה לחזות פושעים עתידיים , בסופו של דבר שליטה בחופש האנושי על ידי עיצוב האופן שבו שוללים או ניתנים שחרור על תנאי לאסירים. בדרך זו, מוחותיהם של שופטים מתעצבים על ידי מנגנוני קבלת החלטות שהם אינם יכולים להבין בגלל כמה מורכב התהליך וכמה נתונים הוא כרוך בו.

בשוק העבודה, הסתמכות מוגזמת על טכנולוגיה הובילה כמה מהחברות הגדולות בעולם לסנן קורות חיים באמצעות תוכנה , כלומר, מגייסים אנושיים לעולם לא יציצו אפילו בפרטים של כמה מועמדים פוטנציאליים. זה לא רק מעמיד את פרנסת האנשים לחסדי המכונות, זה יכול גם לבנות הטיות שכירה שהחברה לא הייתה רוצה ליישם, שכן קרה עם אמזון .

בחדשות, מה שמכונה ניתוח סנטימנטים אוטומטי מנתח דעות חיוביות ושליליות על חברות על סמך מקורות אינטרנט שונים. בתורם, אלה משמשים אלגוריתמי מסחר שמקבלים החלטות פיננסיות אוטומטיות, מבלי שבני אדם צריכים לקרוא את החדשות.

תוצאות לא מכוונות

למעשה, אלגוריתמים הפועלים ללא התערבות אנושית ממלאים כיום תפקיד משמעותי בשווקים הפיננסיים. לדוגמה, 85 אחוז מכלל המסחר בשווקי המט'ח מתנהל על ידי אלגוריתמים בלבד.

הצומח מרוץ חימוש אלגוריתמי לפתח מערכות מורכבות יותר מתמיד כדי להתחרות בשווקים אלה פירושו מוקצים סכומי כסף עצומים על פי החלטות המכונות.

בקנה מידה קטן, האנשים והחברות שיוצרים את האלגוריתמים האלה מסוגלים להשפיע על מה שהם עושים ואיך הם עושים את זה.

אבל מכיוון שחלק גדול מהבינה המלאכותית כרוך בתוכנת תכנות כדי להבין כיצד לבצע משימה בעצמה, לעתים קרובות אנו לא יודע מה בדיוק עומד מאחורי קבלת ההחלטות. כמו כל טכנולוגיה, זה יכול להוביל להשלכות לא מכוונות שעלולות לחרוג הרבה מעבר לכל מה שהמעצבים שיערו אי פעם.

קח את 'התרסקות הבזק' של 2010 של מדד הדאו ג'ונס. פעולת האלגוריתמים סייעה ליצור את הירידה הגדולה ביותר של המדד בתולדותיו, מנגב כמעט 9 אחוז הורד את ערכו בדקות (למרות שהוא החזיר את רוב זה עד סוף היום). א חקירה של חמישה חודשים יכול היה רק ​​להציע מה עורר את השפל (ו תיאוריות שונות אחרות הוצעו ).

אבל האלגוריתמים שהעצימו את הבעיות הראשוניות לא עשו טעות. לא היה באג בתכנות. ההתנהגות נוצרה מאינטראקציה של מיליוני החלטות אלגוריתמיות ששיחקו זו את זו בדרכים בלתי צפויות, בעקבות ההיגיון שלהן באופן שיצר ספירלה כלפי מטה עבור השוק.

התנאים שאיפשרו זאת התרחשו מכיוון שלאורך השנים, האנשים המנהלים את מערכת המסחר החלו לראות בהחלטות אנושיות מכשול ליעילות השוק. עוד ב-1987, כאשר שוק המניות בארה'ב ירד ב-22.61 אחוזים, חלק מהברוקרים בוול סטריט פשוט הפסיקו להרים את הטלפונים שלהם כדי להימנע מלקבל הזמנות של לקוחותיהם למכור מניות.

זה התחיל תהליך שכפי שניסח זאת הסופר מייקל לואיס בספרו פלאש בויז , 'הסתיים עם מחשבים שהחליפו לחלוטין את האנשים'.

העולם הפיננסי השקיע מיליונים בכבלים סופר מהירים ו תקשורת במיקרוגל לגלח רק אלפיות שנייה מהקצב שבו אלגוריתמים יכולים להעביר את ההוראות שלהם. כאשר המהירות כל כך חשובה, בן אדם שדורש 215 אלפיות שניות מסיביות כדי ללחוץ על כפתור הוא מיותר כמעט לחלוטין.

המטרה היחידה שנותרה לנו היא להגדיר מחדש את האלגוריתמים בכל פעם שמערכת ההחלטות הטכנולוגיות נכשלת.

בעוד גבולות חדשים נחצבים בין בני אדם לטכנולוגיה, עלינו לחשוב היטב לאן ההסתמכות הקיצונית שלנו על תוכנה לוקחת אותנו. כאשר החלטות אנושיות מוחלפות באלגוריתמיות, ואנו הופכים לכלים שחייהם מעוצבים על ידי מכונות והשלכותיהן הלא מכוונות, אנו מכינים את עצמנו לשליטה טכנולוגית.

אנחנו צריכים להחליט, כל עוד אנחנו יכולים, מה זה אומר עבורנו הן כיחידים והן כחברה.

דיוניסיוס דמטיס , מרצה למערכות ניהול, אוניברסיטת האל .

מאמר זה פורסם מחדש מ השיחה תחת רישיון Creative Commons. קרא את ה מאמר מקורי .

הדעות המובעות במאמר זה אינן משקפות בהכרח את דעותיו של צוות מערכת Energyeffic.

אודותינו

פרסום עובדות עצמאיות ומוכחות של דיווחים על בריאות, מרחב, טבע, טכנולוגיה וסביבה.