Post by Gad Benram

אמנם גרפים לא מתו לגמרי בעולם ה-Agents, אבל מידול של סוכנים בתור גרף כבר מזמן לא מספיק כתשתית הארכיטקטורה למערכות AI. אז איך לדעתי צריך להיראות ה-stack של Harness Engineering שמחליף את הגרפים בשנת 2026? בגדול, אם אני מסתכל על מערכות AI שעוברות היום שכתוב בפרודקשן מגרפים, אלו הרכיבים שתמצאו בהן (פוסט מלא בתגובה 👇): שכבת הקשר וידע (Context & Knowledge): זה משהו שדווקא לא השתנה מארכיטקטורות קודמות, השיקול העיקרי פה הוא מה איכות הדאטא שלי כיום, האם יש לי שכבת אונטולוגיה (כמו שפלנטיר אוהבים לקדם) והאם אני צריך MCP או לכתוב קונקטורים בעצמי, במיוחד כאלה שתומכים באינטראקציות מתמשכות ו-stateful. הנחיות מקדימות (Feedforward Guides): ה-System prompt כבר לא מספיק. מערכות רציניות מחזיקות AGENTS.md, כללים, Skills, תבניות, conventions והנחיות ספציפיות לריפו או לארגון במקרה של מערכות פנימיות, או פר פרויקט קוד במקרה של אפליקציות AI. הידע התפעולי הופך למעשה לחלק מהמערכת. מישור השליטה (Harness Control Plane): זו השכבה שמנהלת את העבודה בפועל: תכנון, בחירת מודל, ביצוע צעדים, retries, escalation ואישורים אנושיים. כלים כמו AgentCore יכולים לנהל את הלולאה הפנימית של הסוכן, בעוד Temporal יכול לנהל תהליכים ארוכים, המתנות, כשלים וחזרה מנקודת העצירה. שכבת המודלים (Model Layer): אפשר להשתמש במודל חזק לתכנון ולביקורת, ובמודל מהיר או זול יותר לביצוע משימות פשוטות. בנוסף, כדאי להפריד בין המודל שמבצע את העבודה לבין ה-Judge או ה-Reviewer שבודק אותה, גם ברמת יצרן. זיכרון ו-State: סוכן שעובד על משימה במשך דקות, שעות או ימים צריך לזכור הרבה יותר מהיסטוריית הצ'אט. צריך לנהל conversation state, task state, החלטות, scratchpad וזיכרון ארוך טווח. בפועל, זה יכול להיות שילוב של PostgreSQL, Redis ומאגר וקטורי, בהתאם לסוג המידע. כלים וסביבת הרצה (Tools & Execution Environment): המודל צריך גישה מבוקרת ל-Shell, filesystem, browser, databases, APIs ו-CI. MCP יכול לשמש כשכבת החיבור, וסביבות כמו E2B או containers מבודדים מאפשרות לסוכן לבצע פעולות בלי לתת לו גישה ישירה לסביבת הייצור. חיישני פידבק (Feedback Sensors): המערכת צריכה לדעת לבדוק את עצמה. בדיקות, ולידציות ו-human review הופכים את תוצאת המודל ממשהו שנראה נכון למשהו שאפשר להוכיח שהוא נכון. הפידבק הזה צריך לחזור ללולאת התכנון ולא להישאר רק בסוף התהליך. הרשאות וגבולות מדיניות (Permissions & Policy Boundary): אחד ההבדלים המרכזיים בין דמו למערכת אמיתית הוא ניהול ההרשאות. לא כל סוכן צריך גישת כתיבה, לא כל כלי צריך לקבל secrets. כלים כמו OPA, Vault ו-cloud IAM צריכים להיות חלק מהארכיטקטורה ולא תיקון שמוסיפים אחרי אירוע אבטחה. אימות ומסירה (Verification & Delivery): המטרה היא לא שהסוכן "יסיים משימה", אלא שייצר תוצר שאפשר למסור. קוד למשל צריך לעבור CI Gates לפני שהוא מגיע לפרודקשן. תצפית וביקורת (Observability & Audit Trail): כדי שיהיה אפשר לתחזק ולשפר את המערכת, צוות הפיתוח צריך לדעת אילו החלטות התקבלו, באילו כלים נעשה שימוש, כמה זה עלה, כמה זמן זה לקח ומתי אדם התערב. כלים כמו Langfuse הם הבסיס, אבל כלים כמו AgentScrum שלנו נותנים שכבה של visibility מעל משימות הסוכן עצמו. רק השילוב של שתי מערכות כאלה הוא הדרך להבין האם המערכת באמת משתפרת לאורך זמן. מקווה שזה עוזר, אשמח לביקורת :)