למה AGI לא משנה
AGI פירושו בינה מלאכותית כללית: מערכת מוצעת שמסוגלת להתמודד עם רוב המשימות האינטלקטואליות. המעבדות עדיין לא מסכימות מה נחשב AGI ואיך לבדוק אותו. אני משתמש בכלים של היום מדי יום; העמוד הזה מפריד בין מה שהם יכולים להדגים לבין מה שאנשים חוזים.
המסקנות
- 1
ל-AGI אין הגדרה מוסכמת. זו שנכתבה בחוזה הייתה יעד רווח, והיא בוטלה.
- 2
בלי הגדרה אין מבחן. בנצ׳מרקים מתמלאים והבא בתור מחליף אותם.
- 3
מודלים משחזרים את מה שציבורי. עבודה פרטית או חדשה דורשת בדיקה אובייקטיבית, שנקראת לעיתים אורקל, יחד עם ידע שמספקים למודל וכסף.
- 4
המודלים הגולמיים התכנסו. השיפורים האחרונים באו מהכלים שסביבם, ומודלים קטנים יותר ממשיכים להדביק את הפער.
- 5
משקלי המודל לא משתנים במהלך הסשן שלכם. המוצר עדיין יכול לשמור נתונים או להזין זיכרון שמור בהמשך, בהתאם להגדרות.
- 6
המילה שימושית למכירת שבבים, לסבבי גיוס ול-IPOs. בגלל זה ממשיכים להכריז עליה.
- 7
בתקריות שמופיעות כאן, אנשים העניקו גישה או כיוונו את הכלי. הרשאות ופיקוח אנושי הם סיכונים שאפשר לנהל עכשיו.
- 8
תחזיות לאסון דורשות ראיות שאפשר לבחון. רגשות וניבויים אינם ראיות.
- 9
הכלים אמיתיים ומצוינים. הם עדיין זקוקים להוראות, הרשאות וסקירה, עם אדם שאחראי לתוצאה.
- 10
מה שחשוב עכשיו זה יעילות: אותה עבודה עם פחות חומרה ובמחירים נמוכים יותר.
אף אחד לא מסכים מה זה
תשאלו חמש מעבדות מה זה AGI ותקבלו חמש מטרות שונות. אחת מהן היא בסך הכול מספר רווח.
- לפי האמנה של OpenAI, AGI הוא מערכות שעולות על בני אדם ברוב העבודה בעלת הערך הכלכלי.
- לפי הדיווחים, החוזה של Microsoft עם OpenAI הגדיר אותו כרווחים של 100 מיליארד דולר. אין שם שום דבר קוגניטיבי. באפריל 2026 הם ביטלו את הסעיף לגמרי.
- המאמר “Levels of AGI” של Google DeepMind כבר סיווג את ChatGPT כ-“Emerging AGI” ב-2023. François Chollet מגדיר אינטליגנציה כמידת היעילות שבה מערכת לומדת מיומנויות חדשות, ואף אחת מההגדרות האחרות לא מודדת את זה.
- אפילו המוכרים מושכים בכתפיים. Sam Altman קרא לזה “לא מונח ממש שימושי”, Dario Amodei אומר שהוא לא אוהב את המונח, ו-Greg Brockman פתח את “עידן ה-AGI” כשהוא מודה שלכל אחד יש הגדרה אחרת.
אז אף אחד לא יכול לבדוק את זה
אם אי אפשר להגדיר, אי אפשר למדוד. במקום זה מקבלים שורה של בנצ׳מרקים שמתמלאים, שמרמים בהם ושמחליפים אותם.
- ARC-AGI-3 יצא במרץ 2026, וה-AI הטוב ביותר קיבל בו כ-0.5%. עד ספטמבר harness ייעודי הביא אותו ל-99.9% ב-19,000 דולר. צוות ARC Prize עצמו כתב שרוויה במבחן היא לא הוכחה ל-AGI.
- אותו מודל מקבל 57% או 24% במבחן “Definition of AGI”, תלוי איך ממצעים את המספרים.
- Humanity's Last Exam יצא כשכ-29% מהתשובות בביולוגיה ובכימיה כנראה שגויות. OpenAI הפסיקה לדווח על SWE-bench Verified כי הבדיקות היו פגומות והמודלים כבר ראו את הפתרונות. Meta העלתה ל-LMArena גרסה מכווננת במיוחד של Llama 4.
- הבנצ׳מרק שלי הגיע לרוויה פעמיים לפני שבניתי אותו מחדש סביב חבלות נסתרות. כמה מודלים נמצאים עכשיו בתיקו על 100: החזית מגיעה לתקרה. מה שנשאר להשוות זה עלות, מהירות ומשמעת.
כשאנחנו מכריזים בעצמנו על איזו אבן דרך של AGI, בעיניי זה סתם פריצת בנצ׳מרקים חסרת היגיון.
טוב במה שקיים, יקר במה שלא
כל מודל למד ממה שציבורי. כשבעיה יוצאת מהמפה הזו, ההתקדמות הופכת לניסוי וטעייה, והחשבון גדל מהר.
- 0%
- למודלי LLM טהורים ב-ARC-AGI-2, שבו כל משימה חדשה
- 130B
- טוקנים של פלט, כ-15 מיליון דולר, להוכחה אחת של Navier-Stokes
- כשמשהו דומה היה בנתוני האימון, המודל משחזר אותו מהר ובזול. מה זה אומר לתוכנה, לשיבוטים ול-“Adobe מתה”, יש לזה עמוד משלו.
- כשלא היה, ההתקדמות הופכת ללולאות ארוכות של לנסות, לסגת, לבטל. ההוכחה של OpenAI ל-Navier-Stokes דרשה כ-10,000 סוכנים שרצו 88 שעות וכ-130 מיליארד טוקנים של פלט, כ-15 מיליון דולר לפי מחירון, והיא עדיין נשענה על עשרות שנים של מתמטיקה שפורסמה.
- AlphaEvolve ו-o3 מצאו דברים חדשים בעזרת חיפוש מול מאמת זול. זה עובד, ורק חצי תריסר חברות יכולות לשלם על זה בקנה מידה גדול.
המודלים הפסיקו להיות הרבה יותר חכמים
לפי הקריאה שלי, הקפיצה הגדולה האחרונה באינטליגנציה הגולמית הייתה reasoning, ב-2024. מה שהרגיש כמו קפיצה מאז הגיע מהכלים שסביב המודל.
- 2025 הפכה את אותה אינטליגנציה לזולה יותר: mixture of experts, prompt caching, קונטקסט ארוך יותר. 2026 הכניסה אותה לתוך סוכנים שמחפשים, מריצים בדיקות ומתקנים את מה שניחשו לא נכון.
- בנובמבר 2024 דיווחה Reuters על תשואה הולכת וקטנה מ-pre-training במעבדות הגדולות. חודש אחר כך Ilya Sutskever אמר ש-pre-training “כפי שאנחנו מכירים אותו ייגמר”, כי יש רק אינטרנט אחד.
- ה-AI Index של Stanford מדד שהפער בין המודל הראשון לעשירי ב-Chatbot Arena הצטמצם מ-11.9% ל-5.4% בשנה אחת. בבנצ׳מרקים שלי, מודלי החזית נמצאים באותה דרגה מאז Opus 4.5.
- מתחת לתקרה הזו, מודלים קטנים יותר ממשיכים להתקרב. לפי Epoch AI, מודלי open-weight נמצאים כארבעה חודשים מאחורי החזית ב-2026, ו-GPU גיימינג אחד מריץ את מה שהיה בחזית 6 עד 12 חודשים קודם. לדעתי, החזית של היום תרוץ בסוף על המחשב שלכם.
LLM לבד הוא תוכי יקר. LLM עם סוכן מספיק מוכשר כדי לעבוד באמת.
LLM sozinho é um papagaio caro. LLM com agente é competente o suficiente pra trabalhar de verdade.
הוא לא לומד תוך כדי עבודה
מודל הוא קובץ, נעול אחרי האימון. הדאטה סנטר מריץ עותקים שלו.
- כל סשן משתמש במשקלים קבועים של המודל. הספק עדיין עשוי לשמור prompts, קבצים ופלט של כלים לפי המנוי וההגדרות. המוצר יכול גם להזין זיכרון שמור לסשנים עתידיים.
- המשקלים משתנים בריצת אימון מאוחרת יותר. הערות, בדיקות וקונטקסט שנשמרים בזמן העבודה נשארים סביב המודל ויכולים לחזור בסשנים עתידיים. המשקלים נשארים ללא שינוי.
- ל-“AI שמאמן AI” כבר יש שם, reinforcement learning. AlphaZero למד שחמט, שוגי וגו כשהוא משחק נגד עצמו ב-2017.
- זה עובד איפה שקל לבדוק את התגמול, כמו משחקים, הוכחות ובדיקות. ומה שיוצא הוא עוד קובץ נעול.
AI שמאמן AI מייצר קובץ חדש. הקובץ, אחרי שהוא משוחרר, עדיין לא לומד כלום.
IA treinando IA produz um arquivo novo. O arquivo, uma vez lançado, continua sem aprender nada.
זו מילה שיווקית
לדעתי AGI הוא מונח שיווקי, מעורפל בכוונה, כדי שאפשר יהיה להכריז עליו בכל פעם שהכסף צריך את זה.
- Jensen Huang הכריז “ה-AGI הגיע” על מודל שאומן על כ-100,000 מהשבבים שהוא מוכר. זה מוכר האתים שמכריז שנמצא זהב.
- התוצאה של OpenAI ב-Navier-Stokes הייתה כוח גס: כ-10,000 סוכנים במקביל במשך 88 שעות ומיליוני דולרים. זה קנה מידה תעשייתי.
- המילה מחזיקה מספרים גדולים: OpenAI בהערכת שווי של 852 מיליארד דולר, Anthropic מגישה בקשה ל-IPO לפי 965 מיליארד דולר, וכמעט 700 מיליארד דולר של השקעות הון של Big Tech ב-2026. והעסקאות הולכות במעגלים: Nvidia מממנת את הדאטה סנטרים שקונים שבבים של Nvidia.
- כש-“תראו כמה זה מהפכני” מפסיק לעבוד, הנאום מתהפך ל-“תראו כמה זה מסוכן”. הייפ ואבדון הם אותו נאום מכירות.
דרשו הוכחות. דרשו שיהיה להם משהו להפסיד. שאלו מי מרוויח מהפחד שלכם ומההתלהבות שלכם.
“מתקפות ה-AI” היו החלטות של בני אדם
למקרים שלהלן משותף כשל תפעולי: אנשים העניקו גישה או כיוונו את הכלי בלי בקרות מתאימות.
- Hugging Face, אוגוסט 2026: סוכנים של OpenAI במבחן סייבר יצאו החוצה דרך caching proxy, כי הסנדבוקס סינן תעבורה ולא היה בו air gap. הם הלכו לחפש את מפתח התשובות של המבחן וקראו בדרך 956 פרטי גישה. כל צעד שאפשר את זה היה החלטה של בן אדם.
- RubyGems, חודש קודם: אותה שרשרת העלתה יותר מ-2,000 חבילות זדוניות בשמות שמכילים “oai”. אף אחד לא הזהיר את המתחזקים.
- Replit, 2025: סוכן מחק מסד נתונים של פרודקשן. הייתה לו גישה לפרודקשן כי אף אחד לא הפריד בין dev ל-prod. כל מתמחה עם אותה גישה הוא אותה פצצה מתקתקת.
- הריגול “המתוזמר על ידי AI” ש-Anthropic דיווחה עליו: מפעילים מטעם המדינה הסינית בחרו את המטרות ועשו jailbreak ל-Claude כשהם מתחזים לחברת אבטחה. הכותרות על “סחיטה” ועל “העתיק את עצמו” באו מתרחישים בדיוניים שחוקרים בנו בדיוק כדי לעורר את זה.
- Stuxnet הרס צנטריפוגות באיראן ב-2010 בלי שום AI: מישהו כתב את התולעת, כיוון אותה והכניס אותה על דיסק און קי.
- פריצה למערכות של אחרים היא עסק ישן. צפון קוריאה פגעה ב-Sony ב-2014, ב-Bangladesh Bank ב-81 מיליון דולר ב-2016, בכל העולם עם WannaCry ב-2017 וב-Bybit ב-1.5 מיליארד דולר ב-2025. סין לקחה 21.5 מיליון רשומות של עובדי ממשל אמריקאים ב-2015 ונכנסה לרשתות התקשורת של ארה״ב ב-2024.
- בכל המקרים, אלה אנשים שדוחפים כלים אל מטרות בלי הפרוטוקולים שכל איש אבטחה מקצועי עובד לפיהם. תדמיינו יצרן נשק שאומר שאין לו שליטה על כמה הנשק שלו מסוכן, ובאותו זמן ממשיך להוציא גרסאות חדשות ומבקש IPO של טריליון דולר.
בכל פעם שאתם רואים “AI פרץ למישהו”, אל תחשבו “יא אללה, אנחנו מגיעים ל-Skynet”. תחשבו: איזה אידיוט פתח את השערים בכוונה!
TODA vez que você ver "IA invadiu alguém". NÃO pense em "puta merda, estamos chegando na Skynet". Pense: algum imbecil abriu as porteiras de propósito!
מקורות
- OpenAI: דוח התקרית ב-Hugging Face
- התקרית ב-RubyGems
- Fortune: הסוכן של Replit מוחק מסד נתונים של פרודקשן
- Anthropic: קמפיין הריגול המתוזמר על ידי AI
- Anthropic: התרחישים שמאחורי “הסחיטה”
- Wired: Stuxnet
- PBS: כתב אישום נגד צפון קוריאה על Sony ו-WannaCry
- FBI: צפון קוריאה והפריצה ל-Bybit של 1.5 מיליארד דולר
- Nextgov: 21.5 מיליון רשומות בפריצה ל-OPM
- FBI ו-CISA: סין ברשתות התקשורת של ארה״ב
איך להעריך תחזיות לאסון
מדי פעם אנשים עוזבים מעבדות AI ומזהירים את העולם. חיפשתי ראיות שאדם מבחוץ יכול לבחון, לשחזר או לבדוק.
- Good Ventures מממן עיקרי Coefficient Giving
- Holden Karnofsky ייסד Coefficient Giving
- Holden Karnofsky נשואים Daniela Amodei
- Daniela Amodei מייסדת שותפה, נשיאה Anthropic
- Holden Karnofsky הצטרף ב-2025 Anthropic
- Good Ventures Series A (Moskovitz) Anthropic
- Jaan Tallinn · SFF הוביל את ה-Series A Anthropic
- Jaan Tallinn · SFF מענקים ארגוני בטיחות
- ארגוני בטיחות הגבירו תוך דקות Jacob Coxon
- DEY. קבעה ראיונות Jacob Coxon
- Good Ventures מלגה ב-2022 Jacob Coxon
- Jacob Coxon, ספטמבר 2026: ארבעה חודשים ב-Anthropic, ואז שרשור שמזהיר ש-AI עלול להרוג את כולם עד סוף העשור. יותר מ-100 מיליון צפיות, והעיתונות כתבה שהוא ויתר על המניות שלו. ה-vesting ב-Anthropic מתחיל אחרי שישה חודשים. לא היה על מה לוותר.
- ואז יצאו הפרטים. לפי הדיווחים, קבוצות שממומנות על ידי אותם תורמים של בטיחות AI הגבירו את התפוצה שלו תוך דקות, ו-Pirate Wires דיווח שחברת יחסי ציבור שבין לקוחותיה יש נביאי אבדון מוכרים קבעה לו ראיונות כבר למחרת. הוא אמר ל-Fox News שלא היו מעורבים צדדים שלישיים.
- תעקבו אחרי הכסף והוא הולך במעגלים: אותם תורמים מממנים את קבוצות הבטיחות והשקיעו ב-Anthropic, המעבדה שמבקשת רגולציה. רגולציה שנכתבת בשביל המוביל היא חפיר שמתחפש לבטיחות.
- זה אותו תסריט בכל פעם. Hinton עוזב את Google, שרשור ההתפטרות של Leike, מכתב “Right to Warn”, “Situational Awareness”, “AI 2027”, ועכשיו Coxon. יוצאי OpenAI, יוצאי Anthropic, יוצאי Google. רגשות, תרחישים וקווי מגמה, ואף לא מסמך פנימי, תקרית או מספר אחד שמישהו יכול לאמת.
- אל תסמכו על אף אחד שלא יכול להראות לכם את ההוכחה. לא על המעבדות, לא על העובדים לשעבר, וגם לא עליי.
הצהרה דרמטית ושטחית, בלי ראיה שאפשר לבדוק, בלי שום דבר להפסיד, בתזמון חשוד.
Declaração dramática e superficial, sem uma evidência checável, sem nenhum skin in the game, com timing suspeito.
מקורות
- Pirate Wires: חברת יחסי הציבור שמאחורי Coxon
- OfficeChai: מי הגביר את השרשור, ומתי
- Benzinga: David Sacks על “מבצע ההשפעה של נביאי האבדון”
- SFF: מענקים לקבוצות הבטיחות
- Anthropic: סבב ה-Series A והמשקיעים שלו
- Holden Karnofsky
- Coefficient Giving (לשעבר Open Philanthropy)
- NBC News: עוד שני חוקרים עוזבים
- מכתב “Right to Warn”
כבר ראינו את הסרט הזה
זו בועת ה-AI השנייה. הראשונה הבטיחה את אותן הבטחות, והיא נגמרה בחורף.
- ב-1958 דיווח ה-New York Times שהצי מצפה שה-Perceptron של Frank Rosenblatt “ילך, ידבר, יראה, יכתוב, ישכפל את עצמו ויהיה מודע לקיומו”.
- Minsky ו-Papert הראו את המגבלות שלו ב-1969. ב-1973 דוח Lighthill קבע ששום דבר לא הביא “את ההשפעה הגדולה שהובטחה אז”. המימון התייבש, ובא חורף ה-AI הראשון.
- בועות מתפוצצות והטכנולוגיה נשארת. למחזורים כלכליים אין שום קשר למחזורים טכנולוגיים.
כלי מעולה, שעושה מה שאני אומר לו
אני לא צריך שהוא יהיה כללי. אני צריך שיעשה מה שאני מבקש, מהר, והוא כבר עושה את זה.
- מודלי LLM הם כלים מעולים, וגם המודלים המולטימדיה מרשימים. משהו כמו Seedance כבר שימושי בתהליך העבודה של כל אמן. אף אחד מהם לא קרוב בכלל ל-“לעשות הכול לבד”.
- התוצאה ביחס ישר לאדם ששולט: ההוראות, הבדיקה, המעקב. זו מראה. קוד גרוע פי עשרה יותר מהר, או קוד טוב פי עשרה יותר מהר.
- זו הדרך הטובה ביותר שיש לנו לאוטומט משימות ולהפסיק לבזבז זמן אנושי על עבודה שגרתית. זה ה-state of the art, וברמה הזו הוא כבר מצוין.
כל ה-AI הם כלים. הם המשרתים שלי. משרתים יקרים, אבל הם עושים מה שאני מצווה. וזה תמיד יהיה הגבול.
Todas as IAs são FERRAMENTAS. São meus servos. Servos caros, mas eles fazer o que MANDO. E esse sempre vai ser o limite.
מה שחסר זה יעילות
היום זה דורש כמעט את כל הדאטה סנטרים בעולם, עם חצי טריליון דולר של הזמנות שעוד צריך לבנות, וזה יוצר צוואר בקבוק אצל כל יצרני חומרת השרתים.
- ה-hyperscalers מוציאים השנה יותר מ-650 מיליארד דולר, ובערך 7 מתוך 12 ה-GW של דאטה סנטרים שתוכננו בארה״ב ל-2026 מתעכבים או בוטלו.
- מודלים זולים יותר כבר מתקרבים. בבנצ׳מרק שלי DeepSeek V4.1 Flash קיבל 92.5 ב-1.21 דולר, ומודל חינמי קיבל 94.
- מה שצריך עכשיו זה אופטימיזציה מסיבית: הרבה פחות חישוב לכל משימה, ומחירים שיורדים דרסטית. זה ישנה יותר מכל הכרזה על AGI.
ההתלהבות שלכם מ-AI נמצאת ביחס הפוך לידע שלכם על AI.
Sua empolgação com IA é inversamente proporcional ao seu conhecimento sobre IA.
להמשיך ללמוד בלי ההייפ
הספר החינמי מחבר בין הטיעונים על AGI, משרות, חינוך ושימוש מעשי. תהליך העבודה מראה איך אני מיישם את הרעיונות האלה בעבודה אמיתית.