איך מרגישה וחושבת ישות בינה מלאכותית? איך נראים הקשרים שלה עם בני אדם?
אם הזדמן לכם כבר להיחשף למדע בדיוני בעבר, סביר להניח שתמצאו בקלות יצירות מדע בדיוני שניסו לענות על השאלות הללו. כבר ב"אני, רובוט" הדגים לנו אייזק אסימוב עד כמה החשיבה של רובוטים בעלי בינה מלאכותית עשויה להיות שונה מזו שלנו – או שמא דומה לנו – והציג את היתרונות והבעיות שעלולות לצוץ מההופעה שלהם בחיינו.
בשנים האחרונות, סרטים כמו "היא" ו"אקס מאכינה" המחישו את השוני בין בני אדם למכונות נבונות והציגו תרחישים אפשריים לתקשורת אדם-מכונה. ועדיין, מעטות היצירות שמאפשרות לנו להרגיש בינה מלאכותית ולהבין אותה באופן ריאליסטי ומעורר הזדהות. זה מה שמנסה לעשות טרילוגיית הגביש (Crystal Trilogy) של מקס הרמס (Harms), שמתחילה בספר Crystal Society.
הספר הפותח את הטרילוגיה עוקב אחרי סוקרטקס, ישות בינה מלאכותית שאמורה לדמותאת המוח האנושי. סוקרטקס הוא תוכנה שרצה על מחשב חזק מאוד, אבל יש לו גם גוף רובוטי שמאפשר לו לתקשר עם העולם.
בנקודה שבה הספר נפתח המדענים שיצרו את סוקרטקס מרוצים מאוד – סוקרטקס מתקשר עם הסביבה ונהיה יותר ויותר דומה לאדם. אבל לנו, הקוראים, שנחשפים לנקודת המבט של סוקרטקס עצמו, המצב נראה קצת שונה. כדי להעניק לסוקרטקס מבנה אישיות והתנהגות המדמה התנהגות אנושית, המדענים לא יצרו תוכנת מחשב בודדת, אלא כמה תוכנות נפרדות, שלכל אחת מהן יש מטרה עיקרית שמניעה אותה. תוכנה אחת, בשם ויקי (Wiki), פועלת לצבור כמה שיותר ידע. נוף (Vista), לעומתה, שואפת לראות ולחוות כמה שיותר דברים. צמיחה (Growth) מתוכנתת לרכוש כמה שיותר כוח והשפעה, והקרבה (Sacrifice), שנוצרה בהשראת חוקי הרובוטיקה של אסימוב, מתוכנתת לציית לבני האדם ולא לפגוע בהם.
בסיום כתיבת התוכנות החליטו יוצרי סוקרטקס לאחד את תת-התוכנות לתודעה אחת שתדמה את התודעה האנושית. אך מאחר שהאיחוד נכשל, המדענים נאלצו למחוק את התוכנות הישנות וליצור גרסאות חדשות. מה שהם פספסו הוא שאף על פי שלאף אחת מהתוכנות לא הוגדרה מטרה של שימור עצמי, כולן שואפות להמשיך להתקיים על מנת שיוכלו לממש את המטרה העיקרית שלהן. מבחינתן המחיקה שלהן והחלפתן בגרסאות חדשות שקולה למוות, ולכן הן מנסות להערים על המתכנתים.
כך קורה שהתוכנות מחליטות יחד להעמיד פנים שהן ישות מגובשת ויוצרות "חברה" של ישויות המרכיבות את סוקרטקס ומפעילות יחדיו את הגוף הרובוטי שלו, שנקרא בפיהם גוף (Body). לשם כך הן רוצחות את הקרבה, שאילץ אותם לציית לבני האדם, ויוצרות את פנים (Face), ישות חדשה שמטרתה ליצור כמה שיותר קשרים חברתיים, כך שתסייע להם לתקשר עם האנשים שמסביבם באופן אופטימלי. לבסוף, החברה יצרה את בטיחות (Safety), שנועדה לשמור על חייה של החברה של סוקרטקס ועל גופו.
"Crystal society" מסופר מנקודת המבט של פנים, ועוקב מקרוב אחרי הדינמיקה הפנימית בתוך חברת הישויות המלאכותיות. אך החלק המעניין ביותר בספר אינו העולם הפנימי של סוקרטקס, אלא נקודות המגע בינו לבין העולם האנושי. לאורך הספר, בזכות המאמצים של "החברה", סוקרטקס הופך מניסוי מדעי המוכר רק ליודעי דבר לישות ידועה ומפורסמת בכל רחבי העולם.
מרגע ההיווצרות של פנים, סוקרטקס משקיע מאמצים רבים ביצירת קשרים מגוונים וחזקים עם האנשים הסובבים אות. ובניגוד לרוב היצירות בז'אנר, שמציגות בדרך כלל את קשרי אדם-מכונה מנקודת המבט האנושית, "Crystal Society" מציג לנו את אותה אינטראקציה משני הכיוונים. כשקוראים את המחשבות של הבינה המלאכותית, אפשר לראות עד כמה היא דומה למחשבה האנושית אך בד בבד גם עד כמה היא זרה לנו. זאת ועוד, הספר מראה עד כמה התנהגות שנראית אנושית כלפי חוץ עשויה לנבוע ממניעים בלתי צפויים. במובנים רבים, היא ממחישה לנו איזו טעות זו לחשוב שמי שמתנהגים כמונו, חולקים איתנו גם את אותן מחשבות ורגשות.
בזכות כל אלה, Crystal society הוא ממתק לחובבי המדע הבדיוני קשה, וגם לכל מי שמתעניינים בבינה מלאכותית ובמוח בכלל. אפשר לקרוא אותו כיצירת אמנות ספרותית, אך גם כתחזית, נאום תוכחה או אזהרה. הרמס אומר בבירור שהבינה המלאכותית תגיע בהכרח. השאלה היא רק איך.
יש לספר גם נקודות תורפה, ובראש ובראשונה מקומה הדל של העלילה בו. בנוסף, הקצב שלו מאוד לא אחיד, ולכן החלקים היותר איטיים עלולים לשעמם.
אפשר לקרוא את Crystal society כיצירה עצמאית, בלי להמשיך לשני הספרים הבאים בטרילוגיה. למרות זאת, הרמס מספר שהוא כתב את הספרים כיחידה אחת, שמספרת את מה שרצה לומר על בינה מלאכותית. בעיניי, הספר הראשון הוא בהחלט הטוב והמעניין בטרילוגיה. אולם, מי שנהנה ממנו מאוד ייהנה כנראה גם משני הבאים בתור.
איך קוראים? Crystal society זמין לרכישה באמזון, אבל הסופר העלה אותו בשלל פרומטים להורדה חינמית. אם תרצו להמשיך לספר השני והשלישי, תצטרכו לשלם. גרסת אודיו אין, אולם 14 הפרקים הראשונים של הספר הוקלטו בהקלטת חובבים.
(Amazon Digital Services, 2016, 559 עמודים)