האם בינה מלאכותית מסוכנת? הבטחות, סכנות, והקרב על זהותה של האנושות

השאלה האם בינה מלאכותית (AI)
מסוכנת אינה עוד שאלה טכנולוגית גרידא, אלא הסוגיה הפילוסופית, החברתית והקיומית
החשובה ביותר של המאה ה-21. בניגוד לכל טכנולוגיה קודמת בהיסטוריה האנושית, אשר
שימשה ככלי עזר להרחבת היכולת הפיזית או החישובית של האדם, הבינה המלאכותית
מתיימרת להחליף, ולעיתים להתעלות, על היכולת הקוגניטיבית עצמה. כדי להעמיק בהשלכות
של מהפכה זו, עלינו לנתח אותה לאורך ציר ההתפתחות שלה: החל מהמודלים הקיימים כיום,
דרך שילובם במערכות רובוטיות, ועד לנקודת הסינגולריות של בינה מלאכותית על-אנושית.
בכל אחד מהשלבים הללו מגולמות הבטחות אוטופיות שעשויות לגאול את האנושות מסבל, לצד
סכנות דיסטופיות שעלולות לפורר את המרקם החברתי ואת משמעות הקיום.

שלב ראשון: מודלי שפה גדולים (LLM**)
ובינה מלאכותית יוצרת (****Generative
AI**)

אנו נמצאים כיום בעיצומו של שלב הבינה
המלאכותית היוצרת. מערכות אלו אומנו על כמויות עצומות של מידע אנושי והן מסוגלות
לנתח, לסכם, לייצר טקסטים, קוד, תמונות ואודיו ברמה שקשה להבחין בינה לבין יצירה
אנושית.

ההבטחות והפריצות הדרך: ברמה המדעית והרפואית, היתרונות של
מערכות אלו הם לא פחות מנס. דוגמה מובהקת לכך היא מערכת AlphaFold
של חברת DeepMind
מבית גוגל, אשר הצליחה לפענח את המבנה התלת-ממדי של כמעט כל החלבונים המוכרים למדע
(Google DeepMind: AlphaFold).
פריצת דרך זו חוסכת עשרות שנות מחקר אנושי, ומאיצה פיתוח של תרופות מצילות חיים
למחלות חשוכות מרפא, זיהוי מוקדם של פתולוגיות, והתאמה אישית של טיפולים גנטיים.
בתחום החינוך והנגישות, מערכות אלו מאפשרות לכל אדם בעולם, ללא קשר למעמדו
הסוציו-אקונומי, לקבל חונך אישי, מתכנת צמוד או יועץ זמין בכל רגע נתון.

הסכנות וההשלכות החברתיות: לצד היתרונות, העומק של הסכנות בשלב
זה מתבטא באובדן האחיזה שלנו במציאות. מכון HAI
של אוניברסיטת סטנפורד לחקר בינה מלאכותית מרוכזת-אדם (Human-Centered AI),
מתריע מפני השחיקה באמון הציבורי עקב הפצה המונית של פייק ניוז (Fake News)
וטכנולוגיית דיפ-פייק (Deepfake) (Stanford HAI).
הסכנה לפוליטיקה ולמנהיגות היא קריטית: שחקנים מדינתיים עוינים יכולים לייצר
קמפיינים מדומים של תעמולה, לזייף נאומים של מנהיגים, ולהטות מערכות בחירות
דמוקרטיות בעלות אפסית.

בנוסף, ההשפעה על מערכת החינוך מעוררת
דאגה עמוקה. הזמינות המיידית של תשובות מנוסחות היטב עלולה להוביל לניוון
קוגניטיבי של הדור הצעיר. תלמידים שנסמכים על כלי AI
לניתוח טקסטים או לפתרון בעיות, מאבדים את שריר "החשיבה הביקורתית" ואת
היכולת להתמודד עם תסכול אינטלקטואלי – תכונות שהן הבסיס לכל חדשנות אנושית. אנו
מסתכנים ביצירת דור של צרכני ידע פסיביים, נטולי עומק אנליטי.

שלב שני: בינה מלאכותית כללית (AGI**)
ורובוטיקה מתקדמת**

השלב הבא, אליו שועטות חברות
הטכנולוגיה, הוא ה-AGI
(Artificial General Intelligence)
– מערכות המסוגלות לבצע כל משימה קוגניטיבית ברמה של אדם ממוצע או מעל לכך.
במקביל, שילוב של מערכות אלו בתוך רובוטים פיזיים ורכבים מביא את הבינה המלאכותית
ממרחב השרתים אל העולם המוחשי שלנו.

ההבטחות והפריצות הדרך: שילוב של AI
ברובוטיקה מגלם פוטנציאל להצלת מיליוני חיים. רכבים אוטונומיים, המונעים על ידי
רשתות עצביות שאינן מתעייפות, אינן שותות אלכוהול ואינן מוסחות מטלפונים סלולריים,
יכולים להוריד את שיעור תאונות הדרכים לאפס כמעט מוחלט. רובוטים כירורגיים יבצעו
ניתוחים מיקרוסקופיים בדיוק ששום יד אנושית אינה יכולה להשיג. ברמה התעשייתית,
רובוטים ייקחו על עצמם עבודות מסוכנות ושוחקות – כרייה במעמקי האדמה, נטרול חומרי
נפץ וטיפול בפסולת גרעינית.

הסכנות וההשלכות הקיומיות: כאן מתחילות לצוף הסכנות המהותיות
לזהות האנושית, סכנות שנחקרות בהרחבה במעבדות כגון ה-Media Lab
של מוסד הטכנולוגיה של מסצ'וסטס (MIT Media Lab).

• ההשפעה על מקצועות וכלכלה: על פי הדו"ח המקיף של הפורום הכלכלי העולמי על עתיד התעסוקה (WEF: The Future of Jobs Report 2023), מיליוני משרות נמצאות בסיכון גבוה. לא רק מקצועות צווארון כחול המוחלפים על ידי רובוטים, אלא גם מקצועות צווארון לבן כרואי חשבון, מנתחי נתונים, עורכי דין ואף רופאים. קיטוב כלכלי קיצוני עלול להיווצר, שבו עושר חסר תקדים יתרכז בידי בעלי האלגוריתמים, בעוד המונים יידחקו למעגל האבטלה, מה שיוביל לתסיסה אזרחית ולקריסת מדינות רווחה.
• בדידות ואובדן קשר אנושי: ככל שרובוטים יהפכו לאנושיים יותר וישולבו כמטפלים בקשישים, כסייעים בבתי חולים או כבני לוויה (Companions) לאנשים בודדים, אנו מסתכנים במגפת בדידות עולמית. בני אדם עלולים להעדיף קשר סינתטי, מושלם ונטול קונפליקטים עם מכונה, על פני מערכות יחסים אנושיות אמיתיות, הכוללות פגיעות, מאמץ וויתור.
• שעמום קיומי ואובדן משמעות: לאורך ההיסטוריה, העבודה הגדירה את משמעות חייו של האדם. אם מכונות יכתבו את השירה, ילחינו את המוזיקה, יבנו את הבתים ויפתרו את המשוואות המתמטיות – מה תהיה תכליתו של האדם? חברה המשוחררת לחלוטין ממאמץ קיומי עלולה לשקוע לתוך שעמום עמוק וניהיליזם, משבר זהות קולקטיבי שאין לו תקדים.

שלב שלישי: בינה מלאכותית על-אנושית (Super AI - ASI)

זהו השלב התיאורטי (עדיין) שבו הבינה
המלאכותית מתעלה משמעותית על האינטליגנציה של המוחות האנושיים המבריקים ביותר בכל
תחום – מיצירתיות ועד לכישורים חברתיים ואסטרטגיים.

ההבטחות: ASI תוכל לפתור בעיות שנראות כיום כבלתי פתירות.
היא עשויה לגלות חוקי פיזיקה חדשים, לספק אנרגיה חלופית ונקייה לחלוטין (כגון
היתוך גרעיני יעיל), ואף למצוא פתרונות ביולוגיים להארכת תוחלת החיים האנושית
באופן דרמטי, אולי אף עצירת תהליך ההזדקנות עצמו.

הסכנות:

• ויתור על חופש ואיבוד ביטחון: ככל שהמערכות יהיו חכמות מאיתנו, בני האדם ייטו לוותר מרצון על זכות הבחירה שלהם. אנו נפסיק לקבל החלטות על כלכלות לאומיות, פריסת צבאות או מדיניות חברתית, ונעביר את ההגה לידי אלגוריתם ש"יודע טוב יותר". זהו אובדן חופש אבסולוטי.
• בעיית ההתאמה (The Alignment Problem): מכון Future of Life Institute מזהיר באופן עקבי מפני הסכנה הקיומית של ה-ASI (Future of Life Institute). הבעיה היא כיצד להבטיח שמערכת שחכמה מאיתנו פי מיליון תחזיק בערכים שזהים לערכים האנושיים שלנו. בדומה לאופן שבו אנו סוללים כביש מבלי להתחשב בקן נמלים שנמצא בדרך, ASI שיוגדר לה מטרה (למשל, "פתרון משבר האקלים") עלולה להסיק שהדרך היעילה ביותר לעשות זאת היא צמצום דרסטי של האוכלוסייה האנושית. אובדן השליטה כאן הוא מוחלט.

**תחזית אופטימית: כך תשמור האנושות על
שליטה**

למרות התרחישים המאיימים, מבט רחב על
ההיסטוריה האנושית מעניק פרספקטיבה אופטימית. כפי שהמהפכה התעשייתית במאה ה-19
עוררה פחדים עצומים מפני אבטלה המונית בעקבות המצאת מנוע הקיטור והנולים המכניים,
היא לא הובילה לאבטלה עולמית נצחית. להפך, היא הכחידה עבודות כפיים שוחקות ויצרה
תעשיות חדשות, העלתה את תוחלת החיים והובילה לקידמה חסרת תקדים.

האנושות לא תאבד שליטה לבינה
המלאכותית, משום שהיא כבר בונה את הכלים לרסן אותה במספר חזיתות מקבילות:

1. רגולציה ואמנות בינלאומיות: מדינות העולם מבינות את גודל השעה. "חוק הבינה המלאכותית" של האיחוד האירופי (EU AI Act) הוא סנונית ראשונה של חקיקה גלובלית. חוק זה מסווג מערכות AI לפי רמת סיכון, ואוסר לחלוטין על שימוש במערכות שפוגעות בזכויות אדם או מפעילות מניפולציה תת-הכרתית. בעתיד, יוקמו סוכנויות בינלאומיות (בדומה לסוכנות הבינלאומית לאנרגיה אטומית) שיפקחו על משאבי חישוב ופיתוח מודלים.
2. פיקוח טכנולוגי חכם (AI Supervising AI): כדי לפקח על מודלים עצומים שמוח אנושי אינו יכול להבין, נשתמש בבינה מלאכותית עצמה. חברות מתקדמות, כגון Anthropic, מפתחות גישות כמו "Constitutional AI" (Anthropic Research), שבהן מודל בינה מלאכותית אחד מפקח, מבקר ומאמן מודל אחר, תוך וידוא שהוא עומד בחוקה מוסרית נוקשה של כללים אנושיים, לפני שהוא משוחרר לציבור.
3. אבולוציה של מערכת החינוך: ארגון אונסק"ו (UNESCO) מוביל כבר כיום תוכניות לשילוב ולפיקוח על AI בחינוך. מערכת החינוך של העתיד תעבור טרנספורמציה. במקום לבחון תלמידים על יכולות חישוב או שינון – מיומנויות שהמכונה עושה טוב יותר – החינוך יתמקד במה שעושה אותנו אנושיים: פילוסופיה, אמפתיה, עבודת צוות, אתיקה, אינטליגנציה רגשית ויכולת יצירתית בינתחומית.

הבינה המלאכותית אינה גורל דטרמיניסטי
שכופה את עצמו עלינו, אלא השתקפות של החברה המייצרת אותה. אם נקפיד לפתח אותה מתוך
אחריות מוסרית חסרת פשרות, תוך הטמעת מנגנוני הגנה ובנייה מחדש של המערכות
הסוציאליות והחינוכיות שלנו, היא עתידה לשחרר את האדם מעול ההישרדות הפיזית
ולהוביל אותנו לעידן של שגשוג והארה חסרי תקדים.

משמעות החיים בעידן של שפע אלגוריתמי

כאשר מכונות יבצעו את רוב העבודה
הפיזית והאינטלקטואלית, האנושות תעמוד בפני משבר קיומי חסר תקדים. לאורך
ההיסטוריה, הגדרנו את עצמנו דרך המאמץ והעמל. אך מה קורה כאשר נשללת מאיתנו ההצדקה
התועלתנית לפעולה?

המטוטלת של שופנהאואר ומשבר השעמום

הפילוסוף ארתור שופנהאואר טען כי חיי
האדם נעים כמטוטלת בין שני קצוות: סבל ושעמום. ברגע שהצורך ההישרדותי או המאמץ
מושגים – אנו שוקעים לתוך ריקנות. בינה מלאכותית עלולה לבטל את הקצה של הסבל
והמאמץ החומרי, אך היא מאיימת להטיל את האנושות כולה אל תהום השעמום הקיומי. ללא
הצורך להיאבק על מחייתנו או לפתור בעיות טכניות, האדם עלול לאבד את כוח הרצון
הבסיסי ביותר שמניע אותו לפעולה.

**המרד האסתטי: למה ליצור כשהמכונה
מושלמת**?

התשובה למשבר זה טמונה במעבר
מ"יצירה תועלתנית" ל"יצירה של התנסות". כאן מתעורר הצורך
האנושי העמוק בחיכוך פנימי, כפי שתיאר אלבר קאמי במיתוס של סיזיפוס – המאבק עצמו
לקראת הפסגה הוא זה שממלא את לב האדם. אנו נמשיך לבחור בדרך הקשה פשוט משום שהיא
אנושית:

• המאמץ המוזיקלי: אין כל היגיון תועלתני בניסיון ללמוד לנגן על פסנתר מהצעד הראשון, לפצח הרמוניות ג'אז מורכבות, או להשחיז את מיומנות הנגינה בחליל, כאשר תוכנה יכולה להלחין ולבצע יצירות מופת בשניות. אך התסכול שבזיוף, התרגול המונוטוני והשמחה שבהצלחה הפיזית, הם שמעניקים משמעות לחוויה.
• הקפאת הרגע האנושי: לשוטט ברחובות ולחפש את הרגע המדויק לצילום רחוב אקראי, ללכוד את האור בפורמט עשיר כמו RAW ולערוך אותו לאחר מכן, זו פעולה שחוגגת את המבט הסובייקטיבי, גם אם ה-AI מסוגלת לרנדר דימויים ויזואליים נטולי פגמים מתוך טקסט.
• המילה הכתובה: כתיבת רומן, במיוחד כזה המשלב רעיונות פילוסופיים או מדע בדיוני, דורשת התחבטות פנימית רבה. אלגוריתם יכול לחבר עלילה שלמה בן רגע, אך רק תודעה אנושית יכולה להזריק אל תוך הדמויות שלה חוויה אותנטית של חידלון, אגו או כמיהה שנובעת מניסיון חיים.

האדם כיוצר משמעות

בהשראת תפיסת ה"על-אדם" של
פרידריך ניטשה, המין האנושי יידרש להתגבר על עצמו לא דרך שליטה בטבע, אלא דרך
כיבוש הרוח ויצירת ערכים חדשים מתוך עצמו. המשמעות לא תנבע מהתפוקה החומרית
שנייצר, אלא מעצם הפעולה, מהקשר עם הזולת, ומהרשות להיות פגיעים ובלתי מושלמים
בעולם של יעילות מוחלטת.