ארכיון הוא לא זיכרון

חשבו על מישהו שאתם מכירים היטב, ושימו לב למה שעולה. חדר. תחושה בגוף. ויכוח עם מישהו אחר לגמרי. הזיכרונות מגיעים מהצד, דרך אסוציאציות, ולעיתים קרובות אין בהם אפילו מילה אחת משותפת עם המחשבה שעוררה אותם.

עכשיו הסתכלו על הדרך שבה אנחנו בונים ״זיכרון״ לסוכני AI: חותכים את העבר למקטעי טקסט, מאנדקסים אותם, וכשמגיעה שאלה, שולפים את המקטעים שנראים הכי דומים לה. זה עובד מספיק טוב כדי שכולנו נסכים לקרוא לזה זיכרון. אבל זה ארכיון עם מנוע חיפוש טוב, וארכיון עונה על שאלה אחרת מזיכרון. ארכיון שואל: מה נראה כמו השאילתה? זיכרון שואל: מה קשור לזה, דרך כל מה שקרה קודם?

יש הבדל שני, והוא הנושא של המאמר הזה. ארכיון לא משתנה כשמחפשים בו. זיכרון כן. היזכרות היא פעולת כתיבה, לא קריאה — כל פעולה של היזכרות מקלה על מציאת נתיבים מסוימים בפעם הבאה ומניחה לאחרים לדעוך.

היחידה שגויה

הנה מקטע שמור טיפוסי:

דני איחר לפגישה. הוא התנצל. דחינו את ההשקה. יצאתי מהשיחה מתוסכל.

מקטע אחד, רשומה אחת באינדקס — אבל ארבע טענות נפרדות, שכל אחת שייכת לרשת אחרת. האיחור נוגע לשאלה אם דני אמין. הדחייה, ללוח הזמנים של הפרויקט. התסכול שייך לדפוס שיש לי סביב אי־ודאות מקצועית. וההתנצלות היא ראיה נגד אמונה שגיבשתי בהמשך — שדני לא מכבד אותי.

כשכולן מותכות לגוש אחד, אי אפשר להגיע לאף אחת מהן בנפרד — אי אפשר לשלוף את ההתנצלות בלי לגרור איתה את התסכול. לכן היחידה צריכה להיות הטענה הבודדת, קשורה לרגע שהוליד אותה. אבל ערימה של טענות היא עדיין ערימה. המשמעות מעולם לא הייתה בתוך המשפטים; היא נמצאת ביניהם. זה גרם לזה. זה סותר את זה. זה מסוג הדברים שחוזרים על עצמם.

שני מספרים, לא אחד

בראש שלכם, הקשרים אינם שווים: חלקם נשחקו ונעשו חלקים מרוב שימוש, אחרים קיימים ואף אחד לא הולך בהם שוב. לכן זאת הטענה שמעניינת אותי: כל קישור בזיכרון צריך לשאת שני מספרים, לא אחד. הראשון הוא רמת הביטחון — עד כמה סביר שהקשר נכון. השני הוא ערך הנתיב — עד כמה שימושי לעבור בקישור כשעונים על סוג מסוים של שאלה.

הם נפרדים זה מזה כל הזמן. ״דני עובד בחברה״ הוא כמעט העובדה השמורה הוודאית ביותר שאפשר לדמיין, והיא לא עוזרת כמעט לשום שאלה שתשאלו. ״זה מרגיש כמו המקרה ההוא עם מנהל אחר״ לא קובע שום עובדה — ולפעמים זה בדיוק הנתיב לתובנה. אמת ושימושיות הן שני צירים שונים.

לכן: דמיון מציע קשר. ראיות מצדיקות אותו. רק תוצאות — המעבר בו באמת עזר — קובעות אם כדאי ללכת בו שוב. כך נוצרים שבילי רצון: שבילים שמופיעים היכן שבפועל הלכו אנשים, לא היכן שמישהו תכנן כביש.

מה המעבר בנתיב נותן לנו

נניח שמשתמש שואל למה הוא חרד מהפגישה עם דני. אף משפט שמור לא אומר זאת. חיפוש לפי דמיון מוצא את נקודות המוצא הברורות — דני, פגישות, חרדה — ומשם המערכת מתקדמת: דני ← ביקורת במהלך הפרויקט הקודם ← חשש להגיע לא מוכן ← לחץ חוזר לפני הערכות ← מקרה דומה עם מנהל אחר.

נתיב כזה חושף דפוס שאף פסקה לא מתארת — הדבר שחבר ותיק יודע עליכם בלי שסיפרתם לו עליו אי פעם. אם החשיפה הזאת באמת עזרה, בפעם הבאה צריך להיות מעט קל יותר להגיע לקישורים לאורך הנתיב. זאת כל ההצעה: אחזור שמשאיר עקבות.

החלק הכנה

המלכודת מסתתרת בתוך ״באמת עזרה״. תשובה מצליחה, ומאחוריה עמדו עשרים טענות שחוברו בשלושים קישורים — איזה קישור אחראי להצלחה? אם מכריעים בכך באמצעות שאלה למודל שכתב את התשובה, בנינו זיכרון שבודק לעצמו את שיעורי הבית.

הגרסה הכנה היא שאלה שאפשר לשאול גם את עצמכם: מה הייתי מסיק אילו מעולם לא יצרתי את האסוציאציה הזאת? מסירים ענף אחד מהזיכרונות שמאחורי תשובה ובודקים אם היא עדיין עומדת — לפי ההחלטה הבאה, לא לפי דעתה של המערכת על עצמה. כי זיכרון שמחזק כל דבר שהוא כבר אוהב אינו לומד. הוא מעלה גירה.

הוא נכשל כמו שאנחנו נכשלים

בנתיב בעל ערך הולכים יותר, מה שמחזק אותו, מה שגורם ללכת בו יותר — הגרסה הממוחשבת לכך שאנחנו מספרים לעצמנו את אותו סיפור על מישהו במשך שנים. התרופה היא אותה תרופה משעממת שעובדת אצל אנשים: ללכת בכוונה בנתיבים לא מוכרים, לבדוק מחדש מסקנות ישנות.

ומכאן נובעת המסקנה שאף אחד לא אוהב: במערכת כזאת, שכחה היא יכולת שצריך לבנות, לא כשל שסובלים. נתיב שמפסיק להצדיק את קיומו צריך לדעוך — הדעיכה שומרת על כנות המפה באשר לנתיבים שעדיין מובילים לאנשהו. זיכרון שלא מסוגל לשכוח לא זוכר טוב יותר. הוא פשוט מדקלם.

ויש כשל אחד שאינו טכני כלל. מערכת ששומרת טענות מוסקות על פחדיו של אדם בונה עליו תיק פסיכולוגי, ו״זה רק זיכרון״ אינו הסבר מספק. האדם צריך להיות מסוגל לראות — ולערער על — מה שהמערכת מאמינה לגביו. מסקנה שמעולם לא הסקתם על עצמכם, שעולה ברגע הלא נכון, עלולה לפגוע גם כשהיא מדויקת. במיוחד אז.

זיכרון כהיסטוריה של השימוש בעצמו

השאלה המקובלת היא מה לשמור ואיך למצוא אותו אחר כך. השאלה שמושכת אותי משנה מילה אחת: איך השימוש בזיכרון צריך לשנות את הסיכוי להגיע אליו שוב? אם נפתור את זה, המערכת תתחיל לשאת תיעוד של החשיבה שלה עצמה — אילו נתיבים ענו על שאלות אמיתיות, איזו מסקנה פג תוקפה בשקט במרץ. הרשומות נשארות קבועות. המסלולים ביניהן ממשיכים לנוע.

אולי כל זה לא גובר על חלון הקשר ארוך מאוד וארון תיוק טוב — זו שאלה אמפירית, והמנגנון המלא וניסוי להכרעה בה נמצאים כאן:

המנגנון המלא והניסוי המוצע

אבל הנקודה שמתחת לכל זה אינה אמפירית. לא בנינו זיכרון לסוכנים שלנו. בנינו אחזור: זיכרון לקריאה בלבד. והתכונה שמגדירה את הדבר האמיתי היא שקריאה בו כותבת אותו.