אליעזר שלמה יודקובסקי הוא מומחה אמריקאי לבינה מלאכותית החוקר את בעיות הייחודיות הטכנולוגית ודוגל ביצירת AI ידידותי. הוא מחברם של כמה סיפורי מדע בדיוני בהם הוא ממחיש כמה מהנושאים הקשורים למדע הקוגניטיבי והרציונליות.
אליעזר יודקובסקי: ביוגרפיה
אליעזר שלמה יודקובסקי הוא אחד הרציונליסטים הפעילים ביותר של אמריקה המודרנית, חוקר מחשבים ופופולארי של רעיון "בינה מלאכותית ידידותית".
נולד ב -11 בספטמבר 1979. מייסד וחוקר במכון לחקר מודיעין מכונה, ארגון מחקר לא ממשלתי המפרסם את ספריו. אליעזר יודקובסקי הוא מחבר הרומן הפילוסופי הארי פוטר ושיטות הרציונליזם, שהתפרסם בחלקים באינטרנט בין השנים 2010-2015. בה הארי גדל במשפחתו של מדען באוקספורד ולפני שנסע להוגוורטס לומד ממנו את שיטות הרציונליות.
ככל הידוע לנו, אין לו שום קשר למעגל "הריאליסטים הספקולטיביים". שמו מוזכר לעיתים קרובות בקשר עם רובין הנסון, במשך מספר שנים (בין השנים 2006-2009) הם היו שני המחברים העיקריים של הבלוג "להתגבר על דעות קדומות", שמומן על ידי המכון לעתיד האנושות באוקספורד.
לעיתים ניתן לשמוע את שמו של יודקובסקי בקשר לריימונד קורצווייל. הוא נציג פילוסופי של קהילת הטכנו-גיקים, בלתי נגיש ובלתי מובן, לפיכך, לרוב הציבור ההומניטרי, אליו משתייכים כמעט כל קוראי הריאליסטים הספקולטיביים. זה לא מפתיע, מכיוון שהוא מרבה לפנות לשפה הלוגית-מתמטית, למסקנות הסתברותיות וסטטיסטיות, הנחשפות באמצעות נוסחאות וטבלאות.
אינטרסים מדעיים
יודקובסקי הוא מייסד שותף ועמית במכון הסינגולריות לבינה מלאכותית (SIAI). הוא תרם תרומה רבה לפיתוח המכון. הוא מחבר הספר "יצירת AI ידידותית" (2001), המאמרים "רמות הארגון במודיעין כללי" (2002), "רצון מוחזר מאוחזר" 2004) ותורת ההחלטות הנצחית (2010). הפרסומים המדעיים האחרונים שלו הם שני מאמרים בסיכוני הקטסטרופה העולמית (2008) בעריכת ניק בוסטרום, כלומר "בינה מלאכותית כגורם חיובי ושלילי לסיכון גלובלי" ו"הטיה קוגניטיבית בהערכת סיכונים גלובליים ". יודקובסקי לא למד באוניברסיטאות והוא אוטודידקט ללא השכלה פורמלית בתחום ה- AI.
יודקובסקי בוחן את אותם מבנים AI המסוגלים להבנה עצמית, שינוי עצמי ושיפור עצמי רקורסיבי (Seed AI), כמו גם את אותם ארכיטקטורות AI בעלות מבנה יציב וחיובי של מוטיבציה (אינטליגנציה מלאכותית ידידותית). בנוסף לעבודתו המחקרית, יודקובסקי ידוע בהסבריו על מודלים מורכבים בשפה שאינה אקדמית הנגישה למגוון רחב של קוראים, למשל, ראו מאמרו הסבר אינטואיטיבי למשפט בייס.
יודקובסקי היה, יחד עם רובין הנסון, אחד המחברים המרכזיים של הבלוג התגברות על הטיה. בתחילת 2009 הוא ייסד את הבלוג Less Wrong שמטרתו "לפתח רציונליות אנושית ולהתגבר על הטיות קוגניטיביות". לאחר מכן, התגברות על הטיה הפכה לבלוג האישי של הנסון. החומר המוצג בבלוגים אלה אורגן ברשתות הדואר שמשכו אלפי קוראים - ראו למשל את חוט "תורת הבידור".
יודקובסקי הוא מחברם של כמה סיפורי מדע בדיוני בהם הוא ממחיש כמה מהנושאים הקשורים למדע קוגניטיבי ורציונליות.
קריירה
- 2000.יודקובסקי מייסד את מכון הסינגולריות (ששמו לימים MIRI).
- 2006. יודקובסקי מצטרף לבלוג הקולקטיבי להתגבר על הטיה ומתחיל לכתוב את המילים שהפכו לימים ל"שרשראות ".
- 2009. על סמך פוסטים של יודקובסקי בנושא התגברות על הטיה, נוצר הבלוג הקולקטיבי המפורסם LessWrong.com.
- 2010-2015. יודקובסקי כותב GPiMRM.
- 2013. יודקובסקי מפרסם את הפוסטים האחרונים ב- LessWrong.com ומפסיק לכתוב לאתר. נכון לשנת 2017, יודקובסקי מפרסם את רוב הטקסטים הזמינים לציבור בפייסבוק ובארביטל
ניסוי מחשבתי
תארו לעצמכם אינטיליגנציה-על מלאכותית אינטליגנטית להפליא הכלואה בעולם וירטואלי - נניח, רק קופסת טבק. אתה לא יודע אם הוא הולך להיות מרושע, ידידותי או ניטרלי. כל מה שאתה יודע הוא שהוא רוצה לצאת מארגז הסנאף ושתוכל לתקשר איתו דרך ממשק טקסט. אם ה- AI באמת אינטליגנטי, האם תוכל לדבר איתו במשך חמש שעות ולא להיכנע לשכנוע ולמניפולציה שלו - לא לפתוח את ארגז הסנאף?
ניסוי מחשבה זה הוצע על ידי אליעזר יודקובסקי, עמית מחקר במכון המחקר להנדסת מכונות (MIRI). ישנם מדענים רבים ב- MIRI החוקרים את הסיכונים לפתח אינטיליגנציה-על מלאכותית; אף על פי שהוא אפילו לא הופיע עדיין, הוא כבר זוכה לתשומת לב ומניע את הדיון.
יודקובסקי טוען כי אינטליגנציה-על מלאכותית יכולה לומר כל מה שהיא יכולה לשכנע אתכם: הנמקה מדוקדקת, איומים, הטעיה, בניית זיקה, הצעה תת מודעת וכו '. במהירות האור, AI בונה עלילה, בודק חולשות וקובע את הדרך הקלה ביותר לשכנע אותך. כפי שאמר תיאוריקן האיום הקיומי ניק בוסטרום, "עלינו להניח כי אינטליגנציה-על יכולה להשיג את כל מה שהיא מתכוונת לעשות."
ניסוי ה- AI של ה- snuff-box מעלה ספקות לגבי היכולת שלנו לשלוט במה שאנחנו יכולים ליצור. זה גם גורם לנו להמחיש את האפשרויות המוזרות למדי של מה שאנחנו לא יודעים על המציאות שלנו.
מאמרים ברוסית
ע 'יודקובסקי. טעויות שיטתיות בנימוק, העלולות להשפיע על הערכת הסיכונים הגלובליים. ע 'יודקובסקי. בינה מלאכותית כגורם חיובי ושלילי בסיכון העולמי. ע 'יודקובסקי. מציץ אל הסינגולריות. ע 'יודקובסקי. טבלת שגיאות קריטית של AI. ע 'יודקובסקי. שלוש אסכולות ייחודיות. ע 'יודקובסקי. רמות האינטליגנציה האוניברסלית של הארגון.
