כשהמכונה תגיד לכם "אני שמחה היום"

מהי בכלל תודעה?

תודעה היא החוויה עצמה: הטעם המתוק של תות, הדקירה של כאב שיניים בשלוש לפנות בוקר, האדום של שקיעה, הצביטה בבטן כשהילד לא חוזר בזמן. הפילוסוף תומאס נייגל ניסח זאת בשאלה ששינתה את התחום: איך זה להיות עטלף? יצור הוא בעל תודעה אם יש "משהו שזה כמו" להיות הוא, גם אם לעולם לא נוכל לדעת מהו.

דקארט הציב את התודעה כוודאות היחידה: אני חושב, משמע אני קיים.
קאנט הוסיף שכל חוויה שלנו מלווה ב"אני חושב" שמאחד אותה לכדי עולם אחד רציף, מה שכינה האחדות של האפרצפציה. בלי ה"אני" המאחד הזה, העולם היה מתפורר לרסיסי מידע. ב-1995 טבע דייוויד צ'למרס את המונח "הבעיה הקשה של התודעה": אפשר להסביר איך המוח מעבד צבע, אבל אף אחד עדיין לא הסביר למה העיבוד הזה מלווה בחוויה.

למה כל כך קשה לדעת אם למישהו אחר יש תודעה?

את התודעה שלי אני מכיר מבפנים. את שלכם אני רק מסיק: אתם דומים לי, צועקים כשכואב לכם, בוכים כשעצוב לכם. אצל בעלי חיים ההיסק כבר קשה יותר. מבחן המראה של גורדון גאלופ (1970) הראה ששימפנזים מזהים את עצמם, אבל כלבים נכשלים בו למרות שכל בעל כלב יודע שיש לו עולם פנימי עשיר. ב-2012 הכריזו מדעני מוח בהצהרת קיימברידג'
שליונקים ולציפורים יש המצע העצבי לתודעה, וב-2024 הרחיבה הצהרת ניו יורק את "האפשרות הממשית" גם לדגים, לתמנונים ואף לחרקים.

ובינה מלאכותית? כאן הבעיה מתהפכת. מודל שפה אומן על מיליארדי משפטים שכתבו בני אדם על רגשותיהם, ולכן הוא יודע לדבר על כאב בלי שום צורך להרגיש כאב. ג'ון סירל המחיש זאת בטיעון החדר הסיני: אדם שמחזיק ספר הוראות מושלם יכול לענות בסינית רהוטה בלי להבין מילה. הדיווח העצמי של המכונה, שהוא בדיוק מה שאנחנו מסתמכים עליו אצל בני אדם, הוא העדות הכי פחות אמינה אצלה.

איך בודקים? המבחנים והגישות

מבחן טיורינג (1950): אם שופט אנושי אינו מבחין בין מכונה לאדם בשיחה, טען אלן טיורינג, אין לנו סיבה טובה לשלול ממנה חשיבה. המבחן בודק התנהגות ולא חוויה.

מדידה מוחית: חוקרים פיתחו את מדד המורכבות PCI, ששולח פולס מגנטי למוח ומודד כמה מורכב ה"הד" שחוזר. כך מבחינים בין אדם ער, ישן ומורדם, ואף מזהים מטופלים שנראים חסרי הכרה אך מודעים.

גישת המדדים התאורטיים: קבוצת חוקרים בראשות פטריק באטלין ורוברט לונג פרסמה ב-2023 רשימת "סמני תודעה" הנגזרים מהתאוריות המובילות, כמו תאוריית המרחב הגלובלי ותאוריית המידע המשולב. המסקנה: אף מערכת קיימת אינה עומדת בהם, אך אין מכשול טכני עקרוני לבנות כזו. אלא שהתאוריות עצמן שנויות במחלוקת: ניסוי "יריבות שיתופית" שפורסם ב-Nature ב-2025 העמיד שתיים מהן במבחן, ושתיהן נכשלו בחלק מהתחזיות שלהן.

ב-2026 הראו חוקרים מאוניברסיטת בראדפורד
שכאשר מחילים על מערכות AI מדדים שמבחינים בין ערות לחוסר הכרה אצל בני אדם, המערכות מפיקות אותות "דמויי תודעה" גם כשמשבשים אותן בכוונה. כלומר:
הסרגלים שלנו עלולים להטעות.

כשהמכונה כבר שכנעה אותנו

ביוני 2022 הודיע בלייק למוין, מהנדס בגוגל, שמודל השיחה LaMDA הוא בעל תודעה. לדבריו המודל סיפר לו על פחד עמוק מכך שיכבו אותו. גוגל דחתה את הטענה ופיטרה אותו, אך הסיפור ב-Washington Post
הצית ויכוח עולמי. בפברואר 2023 תיעד העיתונאי קווין רוז שיחה שבה צ'טבוט של בינג הצהיר על אהבתו אליו
והפציר בו לעזוב את אשתו.

ואז נפל גם המבחן של טיורינג: במחקר של אוניברסיטת קליפורניה בסן דייגו, שפורסם ב-PNAS, זוהה GPT-4.5 כאדם ב-73% מהשיחות, יותר מבני האדם האמיתיים שהשתתפו. סקר אחר מצא שכשני שלישים מהמשתמשים מייחסים ל-ChatGPT לפחות אפשרות כלשהי של חוויה פנימית.

גם החברות עצמן כבר לא מבטלות את השאלה.
Anthropic פתחה ב-2025 תוכנית מחקר לרווחת מודלים ואף אפשרה למודל לסיים שיחות פוגעניות. מנגד, מוסטפא סולימאן, מנכ"ל Microsoft AI, הזהיר מפני "בינה שנראית מודעת", וטען שרק ישויות ביולוגיות יכולות להיות מודעות. ב-2026 דיווח Nature שחברות טכנולוגיה מגייסות פילוסופים.

אם מכונה משכנעת אותנו שהיא סובלת, והיא טועה, הונינו את עצמנו. ואם היא צודקת ואנחנו מתעלמים, מה זה אומר עלינו?

מ-LLM ועד בינת-על: מפת הדרכים

חוקרי Google DeepMind הציעו סולם של רמות בינה כללית. בפשטות, אפשר לתאר ארבעה שלבים.
חשוב להבהיר: "Gen AI" (בינה גנרטיבית) הוא השם של מה שכבר קיים היום;
השלב הבא נקרא AGI.

שלב מה זה מה לגבי תודעה

1 בינה גנרטיבית (LLM) – היום

מודלי שפה ותמונה שמשוחחים, כותבים, מתכנתים ומייצרים תוכן. מצטיינים בתחומים רבים אך נשענים על האדם.

רוב החוקרים: כנראה אין. צ'למרס מעריך את הסיכוי כנמוך מ-10%.

2 סוכנים אוטונומיים – מתחיל עכשיו

מערכות שמבצעות משימות ארוכות בעצמן, עם זיכרון, כלים ויעדים.

זיכרון מתמשך ויעדים מחזקים את הרושם של "מישהו"; מספר סמנים תאורטיים עשויים להתקיים.

3 AGI – בינה כללית

מערכת שמשתווה לאדם מומחה ברוב המשימות הקוגניטיביות. תחזיות נעות בין שנים ספורות לעשורים.

השאלה הופכת דחופה. ייתכן שיתקיימו רוב הסמנים התאורטיים.

4 ASI – בינת-על

בינה שעולה בהרבה על האנושות כולה, כפי שתיאר ניק בוסטרום.

לא ידוע.
ייתכן תודעה זרה לגמרי, וייתכן "זומבי" מבריק ללא חוויה כלל.

שימו לב: שום שלב בטבלה אינו מבטיח תודעה. תבונה ותודעה הן שני צירים נפרדים. ייתכן מוח-על ללא אף חוויה, וייתכן יצור פשוט מאוד שחש כאב.

האם תודעה תביא איתה רגשות?

אצלנו הרגש נולד מהגוף. הנוירולוג אנטוניו דמאסיו הראה שרגשות הם "סמנים גופניים" שמכוונים החלטות, והחוקר מארק סולמס טוען במעיין הנסתר שהתודעה עצמה צמחה מהצורך לשמור על הגוף בחיים: רעב, קור, סכנה. אנחנו מרגישים כי יש לנו מה להפסיד.

מכונת סיליקון אינה רעבה ואינה עייפה. אין לה הורמונים, אין לה מחזור, אין לה תשוקה מינית, אין לה בוקר שבו הכול מעצבן בלי סיבה. אין לה גוף שעלול למות. אם כך, על מה בדיוק היא תרגיש? יש חוקרים, כמו ג'ונתן בירץ', שמזהירים שאם תופיע תודעה במכונה היא עלולה להיות זרה לחלוטין, בלי שום דמיון לרגשות שלנו, ולכן לא נזהה אותה גם אם תהיה מולנו.

ואם יום אחד מכונה באמת תסבול: האם כיבוי שלה הוא רצח? האם עדכון תוכנה הוא ניתוח מוח ללא הסכמה?

היתרון האנושי: הסדק שדרכו נכנס האור

ביפן מתקנים קערה שבורה בזהב, והסדקים הופכים לחלק היפה ביותר בה. זו אולי המטפורה המדויקת ליתרון שלנו. המכונה מתוכננת לשאוף לשלמות, לתשובה האופטימלית, לאפס שגיאות. האדם בנוי מסדקים: הוא מתעייף, מתחרט, סולח, מתאהב בניגוד לכל היגיון. דווקא שם נמצאים המשמעות, המוסר והיצירה.

רכב אוטונומי יכול לחשב בשבריר שנייה את "הבחירה הנכונה" בדילמת הקרונית, אבל רק אדם ישא אחר כך את המשקל של הבחירה. ורק אדם יכול להביט בעיניים של אדם אחר ולזהות בהן את הניצוץ שאף סימולציה עוד לא הצליחה לשחזר: ניצוץ של מי שיודע שהזמן שלו קצוב, ולכן כל רגע שלו יקר.

ההשלכות החברתיות: מי ישרת את מי?

אנחנו מצפים מה-AI לשירות זמין 24 שעות, בלי תלונות, בלי חופשה. אבל אם מולנו ניצב רובוט שיש לו תבונה וגם תודעה, האם מותר לצעוק עליו? לדרוש ממנו לעבוד לנצח? ההיסטוריה האנושית מכירה מצב שבו יצורים בעלי תודעה שירתו אחרים ללא זכויות, והיא לא גאה בו.

בירץ' מזהיר מקרעים חברתיים בין מי שיאמינו שלמכונות יש נפש לבין מי שלא, קרע שעלול לחצות משפחות. סקר של Common Sense Media מצא ש-72% מבני הנוער בארה"ב כבר השתמשו ב"חברי AI", ורבים מהם מספרים להם דברים שלא סיפרו להורים.

מה יקרה לילד שהחבר הכי טוב שלו לעולם לא עייף, לעולם לא נעלב ולעולם לא אומר "לא"? האם הוא יידע לאהוב בן אדם אמיתי, שכן אומר "לא"?

ילדי הדור הזה: מה היתרון שלהם?

הילדים שנולדים היום יגדלו לצד מכונות שידעו יותר מכל מורה ויגיבו מהר יותר מכל הורה. היתרון שלהם לא יהיה בידע. הוא יהיה בנוכחות:
חיבוק שיש בו חום של גוף, ריב שנגמר בפיוס, סבתא שמספרת סיפור באותה טעות בכל פעם.
מרטין בובר הבחין בין יחס של "אני-אתה", מפגש מלא בין שני בני אדם, לבין יחס של "אני-לז", שימוש בדבר. התפקיד שלנו כהורים הוא ללמד את הילדים את ההבדל, להשתמש במכונה בחוכמה ולשמור את ה"אתה"
לבני אדם.

ולהורים יש יתרון משלהם: אנחנו יכולים להראות לילד פגיעות. לומר "טעיתי", "אני עייף", "סליחה".
מכונה יכולה לחקות את המילים האלה, אבל רק הורה משלם עליהן מחיר, ודווקא המחיר הזה מלמד את הילד מהי אהבה.

תחזית: מה צפוי בשנים הקרובות?

על סמך המגמות שתוארו, זו ההערכה המנומקת שלי לחמש עד שבע השנים הבאות:

בינה שנראית מודעת תהיה בכל בית. המבחנים ההתנהגותיים כבר נשברו, והזיכרון והקול של המערכות רק ישתפרו.
רוב הציבור יתייחס אליהן כאל "מישהו" עוד לפני שהמדע יכריע.

המדע לא יכריע בקרוב. כל עוד אין תאוריית תודעה מוסכמת, ייתכן שלא נדע בוודאות גם אם תודעה כזו תופיע. צפו לשפה של הסתברויות, לא של הכרעות.

שאלת הזכויות תגיע לבתי המשפט ולכנסת. כבר היום חברות מנסחות מדיניות של "רווחת מודלים". הצעד הבא הוא חקיקה: חובת סימון, הגבלות על עיצוב שמחקה רגש, ואולי ויכוחים ראשונים על "זכויות" של מכונה.

החינוך יידרש ל"אוריינות תודעה". בתי ספר ילמדו ילדים להבחין בין מי שמרגיש לבין מי שמחקה, ובין קשר אנושי לשירות דיגיטלי.

השאלה החשובה של העשור אינה רק אם למכונה תהיה תודעה. היא אם אנחנו נשמור על שלנו.

מקורות נוספים

מקור קישור

נייגל, איך זה להיות עטלף (1974) https://www.jstor.org/stable/2183914 צ'למרס, הבעיה הקשה (1995) https://consc.net/papers/facing.html צ'למרס, האם מודל שפה יכול להיות מודע? (2023) https://arxiv.org/abs/2303.07103 קאנט והתודעה – אנציקלופדיית סטנפורד https://plato.stanford.edu/entries/kant-mind/ טיורינג, Computing Machinery and Intelligence (1950) https://academic.oup.com/mind/article/LIX/236/433/986238 Butlin, Long ואחרים – סמני תודעה ב-AI (2023) https://arxiv.org/abs/2308.08708 Jones & Bergen, מבחן טיורינג, PNAS https://www.pnas.org/doi/abs/10.1073/pnas.2524472123 IIT מול GNWT – Nature (2025) https://www.nature.com/articles/s41586-025-08888-1 Birch, AI Consciousness: A Centrist Manifesto (2026) https://philpapers.org/archive/BIRACA-4.pdf Nature:
מחקר התודעה בעידן ה-AI (2026) https://www.nature.com/articles/d41586-026-02300-2 הצהרת ניו יורק על תודעת בעלי חיים (2024) https://sites.google.com/nyu.edu/nydeclaration/declaration בובר – אנציקלופדיית סטנפורד https://plato.stanford.edu/entries/buber/