משהו על אליס ובוב

בוטים עם כישורי שפה יצירתיים תפסו את הדמיון הפופולרי. הם גם הציתו מחדש את החרדות לגבי רובוקליפסה

אליס ובוב, אליס ובוב פייסבוק, בוטים של פייסבוק, בוטים של בינה מלאכותיתאליס ובוב, הבוטים של פייסבוק שזכו לשמצה בגלל חוסר בלתי צפוי בלוגיקת תכנות, הם חלק מניסוי לבניית מכונות משא ומתן. C R Sasikumar

האינטרנט בוער בכותרות עמוסות אבדון באופן דרמטי שהכריזו שפייסבוק נאלצה למשוך את התקע על בוטים של בינה מלאכותית (AI) נוכלים שפיתחו שפה משלהם, שבה הם מנהלים שיחות פרטיות באופן בלתי אנושי. הם קוראים כמו טיזרים לגלובקליפסה של Terminator, שהיא הסיוט הגרוע ביותר של הפרימאט המשתמש בכלי - שיוחלף על ידי היצירה שלו, המכונה.

המציאות פחות דרמטית אבל יותר מרגשת. בוטים הם סוכנים אוטונומיים שתוכנתו במקור לבצע משימות משק בית בערוצי תקשורת, או לנסות לעבור את מבחן טיורינג. הם יכולים להחתים אותך, להעיף אותך החוצה אם אתה לא מתנהג, לשמור על חדרי צ'אט פתוחים כשאף אחד לא בבית, לספק מידע ולהתחזות לבני אדם. במערכת ממסר צ'אט באינטרנט, הבוט Eggdrop היה המועדף בכל הזמנים.

הנכדים של בוטים של שוערים כאלה משובצים בסוכני חיפוש ושליחים מודרניים ויש להם יכולות AI. הם מדברים עם משתמשים כמו שאדם יעשה זאת, מגיבים לשאלות שגרתיות ומציעים עצות. אם נראה שהטלפון שלך יודע את דעתך ומעלה את הדברים הנכונים מבלי לשאול אותו, חלק גדול מהקרדיט חייב להגיע לבוטים שעובדים מאחורי הקלעים. כמו בני אדם, בוטים יכולים ללמוד מניסיון והם מיועדים לדברים גדולים יותר במצבים בעולם האמיתי.



אליס ובוב, הבוטים של פייסבוק שזכו לשמצה בגלל חוסר בלתי צפוי בלוגיקת תכנות, הם חלק מניסוי לבניית מכונות משא ומתן. הם פשוט הבינו איך לחלוק קבוצה של חפצים, כמו כדורים, כך שאף אחד מהצדדים לא ירגיש מרומה. תוך כדי מיקוח, אליס הצהירה בתחילה הצהרות לא מובנות כמו, לכדורים יש אפס לי לי לי לי לי לי לי לי לי... והכותרות המפחידות הגיעו בעקבותיו.

הלמידה מונעת על ידי תמריצים, כפי שמורים והורים יודעים. במקרה זה, הוגדרה מערכת התגמול של התרגיל - נתח טוב יותר וסיפוק הדדי, מהות המיקוח. אבל לא היה תמריץ לבוטים להמשיך לתקשר באנגלית, שהיא שפה לא הגיונית לשמצה. אז הם החליקו לתוך ארגוט פשוט, יעיל יותר דמוי ניוספייק, שהוא לא ממש אנגלית, אבל לא בלתי מובן כפי שפורסם.

ההצהרה של אליס, שנקראה בצורה שגויה כטענה של עצמאות מכונה, רק הצביעה על מורת רוח מהיותה קצרת שינוי (יש אפס), וכל אחת בעיני עמד על חפץ שהיא דרשה. היא עשתה בדיוק את העבודה שתוכנתה לה: התמקחות קשה כמו חנות בבזאר הגדול של איסטנבול. ואם היא גילתה שהאנגלית של המלכה מפריעה, היא לא הייתה לבד. גזעים רבים של המושבות לשעבר חשו כי לשון האדון מעכבת את התקשורת בקהילותיהם.

רק מנהלי משא ומתן אנושיים מקצועיים צריכים להיות מודאגים אם ענקי עמק הסיליקון משקיעים בתוכניות מיקוח. מחבלים ואנשי פסגה צריכים לחשוש גם מהפנסיה, שכן במצבי בני ערובה ובעסקאות בינלאומיות, הם עלולים למצוא את עצמם מתמודדים עם מכונה בלתי ניתנת לבירור ובלתי ניתנת לשינוי, הרבה יותר חכמה מ-Deep Blue, מחשב העל של יבמ שאתגר את אלוף השחמט גארי קספרוב ב-1996.

הדחף לפתח שפות פרטיות הוא תכונה מאוד אנושית. לפני שהבורסות היו ממוחשבות, ברוקרים ברצפת המסחר העבירו הצעות עם אותות ידיים שלא היו מובנים לאחרים. במשך מאות שנים, גורמי אכיפת החוק היו מבולבלים על ידי זלזול של גנבים, שפות מלאכותיות של מורשעים שהם ג'יבריש לסוהריהם. בקרב פושעים דוברי אנגלית מהמאה ה-20, מילת השטויות Arkitnay פירושה, שתוק, מישהו מצותת. בהודו, וויליאם הנרי סלימן למד את רמזיאנה, החולות של Thuggee, ופרסם אוצר מילים בשנת 1836. אחד המחזות הפחות בוצעים אך המסקרנים ביותר של טום סטופארד הוא המלט של דוג, שבו תלמידי בית ספר מציגים את שייקספיר בשפתם, Dogg. זה היה קצת כמו צופן טרנספוזיציה. למשל, אחר הצהריים פירושו שלום בדוג.

לא משנה למגידי הדין, מה שמעניין באליס ובוב הוא שביצירת שפה, הם בגדו בתכונה אנושית מאוד, שהם לא תוכנתו במפורש להציג. לפני שישים שנה, הבוטים הראשונים נכתבו כדי לחקור בדיוק את השאלה הזו: האם ניתן לתכנת מכונות להתנהג כמו בני אדם? האם הם יכולים לעבור את מבחן טיורינג? נאמר במאמר משנת 1950 שכותרתו מכונות מחשוב ואינטליגנציה, טיורינג הציע בעצם שאם התקשורת של מכונה נראית אנושית, אז יש להתייחס למכונה כאנושית.

הבוט הראשון לעיבוד שפה טבעית שיצא מהמעבדה וצבר פופולריות המונית הייתה אליזה, שנוצרה ב-1964 על ידי ג'וזף וייזנבאום ב-MIT. הוא כתב אותו כדי להדגים שתקשורת טקסטואלית בין אדם למכונה לא יכולה לעלות לרמה של שיחה אנושית. להיפך, אלייזה עוררה ציפיות בציבור שתעבור את מבחן טיורינג. שלושים שנה מאוחר יותר, תקוות גדולות עוד יותר נוצרו מג'וליה, שנוצרה על ידי מייסד Lycos מייקל מולדין כדי להתחרות על פרס לובנר, הגביע הקדוש של טיורינג. אבל מעבר לנקודה מסוימת, הצ'אטים של ג'וליה התפתלו להרהורים אקראיים על תכונותיהם של כלבים וחתולים (תוכלו לשוחח עם גרסה מודרנית שלה ב- scratch.mit.edu/projects/2208608).

כעת, בוטים בעלי כישורי שפה יצירתיים תפסו את הדמיון הפופולרי, והציתו מחדש את החרדות לגבי רובוקליפסה. אבל פיתוח במעבדת הבינה המלאכותית של גוגל הוא למעשה מרגש יותר. בספטמבר 2016, גוגל עלתה לאוויר עם מערכת תרגום המכונה Neural Machine שלה, המיישמת למידה עמוקה בשפה. חודשיים לאחר מכן, הם דחפו את המעטפה: אם מכונה למדה לתרגם, נגיד, בין הינדית לגרמנית, ובין הינדית לאנגלית, האם היא תוכל לתרגם בין אנגלית לגרמנית ללא שפת הגשר של הינדית? זה יכול, מה שמרמז שהרשת העצבית למדה משהו בסיסי על האופן שבו המוח מקשר מושגים ודקדוקים כדי לגבש שפות. דג הבבל הקטן, הצהוב, דמוי העלוקה, המתרגם האוניברסלי החי שחלם דאגלס אדמס בסוף שנות השבעים, מרחף עכשיו ליד האוזן שלך.

כמובן, מכיוון שאין פרוגנוזה ארוכת טווח לבינה מלאכותית, יש לתת את תשומת הלב הראויה לאזהרה של אנשים שצריכים לדעת טוב יותר, כמו אילון מאסק וסטיבן הוקינג. צריכה להיות רגולציה, למרות המחאות של תומכי החופש לחדש, כמו מארק צוקרברג. וצריך להתפתח קונצנזוס כללי, שיסכים על קווים שאסור לחצות, כמו במקרה של התערבויות בגנום האנושי. אבל אי אפשר להכחיש שהניסויים בפייסבוק ובגוגל מקדמים את המטרה המקורית של AI, שהייתה לדגמן ולהבין היבטים של המוח האנושי. הסיפורים התקשורתיים המפחידים שהם מושכים הם תחושות חולפות. למחרת הם מתאימים לעטיפת דגים.