מאמר חדש מראה כיצד ממשלות יכולות להרתיע את עלייתה של AI עוין וסופר אינטליגנטי

(Westworld/HBO)

המצאת אינטליגנציה-על מלאכותית הייתה נושא מרכזי במדע בדיוני לפחות מאז המאה ה-19. מתוך סיפורו הקצר של א.מ. פורסטר המכונה נעצרת (1909) לסדרת הטלוויזיה האחרונה של HBO ווסטוורלד, סופרים נטו לתאר את האפשרות הזו כאסון בלתי מבוטל.

אבל הנושא הזה כבר אינו נושא בדיוני. מדענים ומהנדסים עכשוויים בולטים מודאגים כעת כי AI העל יכול יום אחד לעלות על האינטליגנציה האנושית (אירוע המכונה 'הסינגולריות') ולהפוך ל-'המיוחד של האנושות'. הטעות הגרועה ביותר '.

המגמות הנוכחיות מצביעות על כך שאנו עומדים להיכנס לתחום בינלאומי מרוץ חימוש לטכנולוגיה כזו. כל חברת הייטק או מעבדה ממשלתית שיצליחו להמציא את ה-Super-AI הראשון תקבל טכנולוגיה שעלולה להיות שולטת בעולם. זהו פרס המנצח לוקח הכל.

אז למי שרוצה לעצור אירוע כזה, השאלה היא איך להרתיע סוג כזה של מירוץ חימוש, או לפחות לתמרץ קבוצות מתחרות לא לחתוך פינות עם בטיחות בינה מלאכותית.

סופר-AI מעלה שני אתגרים מהותיים עבור ממציאיו, כפילוסוף ניק בוסטרום ו אחרים הצביעו על. האחת היא בעיית שליטה, והיא איך לוודא של-סופר-AI יהיו אותן מטרות כמו האנושות.

בלי זה, המודיעין עלול להרוס בכוונה, בטעות או בהזנחה את האנושות - 'אסון AI'.

השנייה היא בעיה פוליטית, שהיא איך להבטיח שהיתרונות של מודיעין-על לא יגיעו רק לאליטה קטנה, מה שיגרום לאי-שוויון חברתי ועושר מסיבי.

אם יתרחש מרוץ חימוש סופר-AI, זה יכול להוביל קבוצות מתחרות להתעלם מבעיות אלו על מנת לפתח את הטכנולוגיה שלהם מהר יותר. זה עלול להוביל לסופר-AI באיכות ירודה או לא ידידותית.

הצעה אחת לפתרון היא להשתמש במדיניות ציבורית כדי להקשות על הכניסה למירוץ על מנת לצמצם את מספר הקבוצות המתחרות ולשפר את היכולות של אלו שנכנסים. ככל שפחות יתחרו, כך יהיה פחות לחץ לחתוך פינות כדי לנצח.

אבל איך ממשלות יכולות להפחית את התחרות בדרך זו?

עמיתי ניקולה דימיטרי ואני לאחרונה פרסם מאמר שניסה לענות על השאלה הזו. הראינו תחילה שבמרוץ טיפוסי של מנצח לוקח את כל כולו, כמו זה שבונה את הסופר-AI הראשון, ישתתפו רק הקבוצות התחרותיות ביותר.

הסיבה לכך היא שההסתברות להמציא בפועל את ה-Super-AI קטנה מאוד, והכניסה למירוץ היא יקרה מאוד בגלל ההשקעה הגדולה במחקר ופיתוח הדרושה.

אכן, נראה שזה המצב הנוכחי עם פיתוח של AI פשוט יותר 'צר'. בקשות לפטנטים שכן סוג זה של בינה מלאכותית נשלטים על ידי כמה חברות, וחלק הארי של מחקר בינה מלאכותית נעשה רק שלושה אזורים (ארה'ב, סין ואירופה). נראה שגם יש מעט מאוד, אם בכלל , קבוצות שמשקיעות כיום בבניית סופר-AI.

זה מצביע על כך שהקטנת מספר הקבוצות המתחרות אינה העדיפות החשובה ביותר כרגע. אבל גם עם מספר קטן יותר של מתחרים במירוץ, עוצמת התחרות עדיין עלולה להוביל לבעיות שהוזכרו לעיל.

אז כדי להפחית את עוצמת התחרות בין קבוצות השואפות לבנות סופר-AI ולהעלות את היכולות שלהן, ממשלות יכולות לפנות לרכש ציבורי ולמיסים.

רכש ציבורי מתייחס לכל הדברים שממשלות משלמות לחברות פרטיות כדי לספק, החל מתוכנה לשימוש בסוכנויות ממשלתיות וכלה בחוזים להפעלת שירותים. ממשלות יכולות להטיל אילוצים על כל ספק-על-AI שדרש מהם לטפל בבעיות הפוטנציאליות, ולתמוך בטכנולוגיות משלימות כדי לשפר את האינטליגנציה האנושית ולשלב אותה עם AI.

אבל ממשלות יכולות גם להציע לקנות גרסה פחות מהטובה של סופר-AI, ולמעשה ליצור 'פרס שני' במירוץ החימוש ולמנוע ממנה להיות תחרות מנצחת שלוקח הכל.

עם פרס ביניים, שיכול להיות על המצאת משהו קרוב (אך לא בדיוק) לסופר-AI, לקבוצות מתחרות יהיה תמריץ להשקיע ולשתף פעולה יותר, ולהפחית את עוצמת התחרות. פרס שני גם יפחית את הסיכון לכישלון ויצדיק יותר השקעה, ויעזור להגדיל את היכולות של הקבוצות המתחרות.

באשר למיסים, ממשלות יכולות לקבוע את שיעור המס על הקבוצה שממציאה סופר-AI לפי מידת הידידותיות או הבלתי ידידותיות של ה-AI. שיעור מס גבוה מספיק פירושו בעצם הלאמת ה-Super-AI. זה ירתיע מאוד חברות פרטיות לחתוך פינות מחשש לאבד את המוצר שלהן למדינה.

טובת הציבור לא מונופול פרטי

רעיון זה עשוי לדרוש תיאום גלובלי טוב יותר של מיסוי ורגולציה של סופר-AI. אבל זה לא יצטרך שכל הממשלות יהיו מעורבות. בתיאוריה, א מדינה אחת או אזור (כגון האיחוד האירופי) יכול לשאת בעלויות ובמאמץ הכרוכים בהתמודדות עם הבעיות והאתיקה של סופר-AI.

אבל כל המדינות ירוויחו וסופר-AI יהפוך למוצר ציבורי ולא למונופול פרטי בלתי ניתן לעצירה.

כמובן שכל זה תלוי בכך שסופר-AI בעצם מהווה איום על האנושות. וכמה מדענים לא חושבים שזה יהיה. יכול להיות שבאופן טבעי מהנדס משם הסיכונים של סופר-AI לאורך זמן. יש שחושבים שבני אדם יכולים אפילו להתמזג עם AI .

בכל מקרה, כוכב הלכת שלנו ותושביו ירוויחו מאוד מלוודא שאנחנו להשיג את הטוב ביותר מ-AI, טכנולוגיה שעדיין נמצאת בה יַנקוּת . לשם כך, אנו זקוקים להבנה טובה יותר של התפקיד שהממשלה יכולה למלא.

וים נאודה , עמית פרופסור במכון למחקר כלכלי וחברתי במאסטריכט בנושא חדשנות וטכנולוגיה (UNU-MERIT), אוניברסיטת האומות המאוחדות .

מאמר זה פורסם מחדש מ השיחה תחת רישיון Creative Commons. קרא את ה מאמר מקורי .

אודותינו

פרסום עובדות עצמאיות ומוכחות של דיווחים על בריאות, מרחב, טבע, טכנולוגיה וסביבה.