Post by Michal Lester

תארו לעצמכם קולגה שכותבת דוחות מעולים, אך נכשלת בפתרון פאזל פשוט שילד בגן יכול לפתור. זה תיאור של בינה מלאכותית. הבינה המלאכותית בעלת 'אינטליגנציה משוננת'​ (Jagged Intelligence). המושג שטבע אנדריי קראפתי (Andrej Karpathy) עוזר לנו להבין מדוע בינה המלאכותית מצטיינת במתמטיקה ובתכנות, אך עדיין זקוק לבקרה אנושית כדי לחבר את כל הפיסות לתמונה גדולה והגיונית המונח אינטליגנציה משוננת מתאר את חוסר העקביות של מודלי שפה. ​ ה​ב"מ יכולה לפתור בעיה באולימפיאדת המתמטיקה בשנייה אחת (גאונות), אבל להיכשל בשאלה של "שכל ישר" כמו האם כדאי לנהוג למוסך שנמצא במרחק 50 מטרים? (כישלון). היכולות שלה אינן קו ישר, אלא "גבול משונן"​ וגמיש. המושג נולד משני מקורות מרכזיים שהשלימו זה את זה: המחקר האקדמי (2023): חוקרים מהרווארד, MIT ו-BCG פרסמו מחקר שהוכיח כי במשימות מסוימות ה​ב"מ משפר​ת את הפריון ב-40%, בעוד שבמשימות אחרות​שנראות דומות​, הוא ​טועה ומטעה. אנדריי קראפתי (2024): מחוקרי OpenAI, טבע את המונח הספציפי "Jagged Intelligence" כדי להסביר שה​ב​"מ לומדת מדפוסים דיגיטליים ולא מהתנסות בעולם האמיתי, מה שיוצר "בורות" של חוסר הבנה בתוך ים של ידע. ​ מאז שמושג נכנס לשימוש הגבול זז, משימות שהיו "מחוץ לגבול" ב-2023 הן חלק מהיכולות של מודלי שפה. למשל, הם פותרים היום בעיות לוגיות ומתמטיות שבעבר גרמו להם להזות (Hallucinate). מולטי-מודאליות: הגבול כולל היום ניתוח ויזואלי, שמיעתי והפקת וידאו ברמה שהייתה דמיונית לפני שנתיים. אבל הגבול נשאר "משונן". שיפור היכולת לא הופך את הגבול לחלק. גם המודלים החזקים ביותר ב-2026 עדיין סובלים מ"בורות" מפתיעים. לדוגמה: מודל יכול לכתוב קוד מורכב למערכת אבטחה, אך להיכשל בהבנת הקשר חברתי עדין בתוך צוות. אז איך מתמודדים או איך לא להדקר מהשיניים? הישארו "בלופ" (Human-in-the-loop): לעולם אל תעשו "העתק-הדבק" בלי בקרה אנושית. המומחיות שלכם היא המצפן שבודק איפה הגבול עובר. למידה מבוססת כישלון: לחפש את המקומות שבהם הב"מ טועה. זה מפתח חשיבה ביקורתית והבנה עמוקה של החומר. זכרו שהגבול זז. מה שהיה "מחוץ לגבול" לפני שנה, היום הוא כבר בפנים. אנחנו חייבים להישאר מעודכנים.​ המחקר מ-2023: https://lnkd.in/da5kf8fS מקור לתמונה: The Needles - Looking along the jagged rocks by Rob Farrow, CC BY-SA 2.0 , via Wikimedia Commons