החשבונית הגיעה והמונה דופק, תקציבי הענק נשרפים על טוקנים

החגיגה הסתיימה, והאנגאובר של סמנכ"לי הכספים מעולם לא היה כואב יותר.
מה שהחל בריצה תאגידית מטורפת לאימוץ סוכני AI אוטונומיים, התגלה במהרה כמלכודת תקציבית ששאבה תקציבים שנתיים שלמים תוך חודשים ספורים בלבד.
כעת, כשענקיות כמו אמזון (AMZN), מטא (META) ואובר (UBER) מוצאות את עצמן מחשבות מסלול מחדש מול חשבוניות עתק ושיטות תמחור קשוחות מבוססות טוקנים, עולם הטכנולוגיה נפרד סופית מהאשליה שבינה מלאכותית היא כלי זול או חינמי.

ברוכים הבאים לעידן הריסון הפיננסי של ה-AI, השלב שבו התאגידים נאלצים להחליף את הדהירה העיוורת אחר חדשנות בבקרת תקציב הדוקה, ולשאול את עצמם את השאלה המפחידה מכולן, האם המהפכה הזו בכלל מצדיקה את המחיר?

שיטת הלגו שמאחורי הטוקנים

כדי להבין מדוע עלויות ה-AI זינקו בצורה דרמטית כל כך, צריך לצלול אל המנגנון הפנימי של המודלים, מנגנון שדומה להפליא לבניית טירה מקוביות לגו.
כאשר אנחנו מזינים מידע למערכות כמו ChatGPT, המערכת אינה סופרת מילים, אלא טוקנים, אותן קוביות קטנות המהוות את יחידות המבנה הפשוטות ביותר שעליהן נשענת התמונה המפוארת שהמודל מייצר בסוף התהליך.
המערכת מפרקת לטוקנים את הכול, החל מהכותרת, דרך המילים עצמן ועד לכל נקודה ורווח.
הוספת משפט או מסמך להנחיה היא זהה להוספת שקית קוביות חדשה לשולחן העבודה, שממנה המודל בונה עבורנו תשובה מפורטת, קובייה אחר קובייה.

אלא שלשולחן העבודה הזה יש גבול פיזי קשיח, מגבלת הזיכרון הפנימי של המודל.
הצפה של השולחן בקוביות רבות מדי מאטה את קצב הבנייה ועלולה להוביל לקריסה, כאשר הסכום הכולל של הטוקנים מתקרב לתקרה, המודל נאלץ לבצע סלקציה ולבחור איזה מידע יישאר ואיזה יימחק כדי לפנות מקום לתשובה החדשה.

קרדיט: Medium

סקירה מקיפה על הטוקנים של ה-AI

למה העלויות זינקו פתאום?

הסיבה הראשונה והמשמעותית ביותר לזינוק בעלויות היא השינוי הדרמטי באופן שבו עובדים משתמשים בטכנולוגיה, המעבר מצ'אטבוטים פסיביים לסוכני AI אוטונומיים.
בעוד שבעבר השימוש התמצה בשאילת שאלה פשוטה וקבלת תשובה מהירה (כמו ב-ChatGPT הבסיסי), הרי שהיום סוכני הבינה המלאכותית נדרשים לבצע משימות מורכבות, מתמשכות ועמוקות בהרבה, כמו כתיבת מערכות תוכנה שלמות או ניתוח מאגרי דאטה מפלצתיים.
הסוכנים הללו פועלים מאחורי הקלעים ללא הפסקה, מייצרים אינספור פעולות עצמאיות, ונוגסים בנתחים עצומים של כוח מחשוב יקר, מה שמקפיץ באופן אוטומטי את תג המחיר של כל משימה ומשימה.

השמן שנשפך למדורת המחשוב הזו הגיע בדמות שינוי רדיקלי במודל העסקי של מעבדות ה-AI הגדולות, כמו OpenAI ואנתרופיק, שנטשו את המנויים החודשיים הקבועים לטובת תמחור דינמי מבוסס טוקנים.
במקום לשלם סכום ידוע מראש לכל משתמש, החברות התאגידיות משלמות כעת לפי מונה, תשלום ישיר ומדויק על כל פיסת מידע, מילה או שורת קוד שהמודל מעבד או מייצר.
השילוב בין סוכני AI עצמאיים שלא מפסיקים לעבוד, לבין שיטת תמחור חסרת תקרת גג, יצר אפקט דומינו שהסיר את ההגנה התקציבית שהייתה לחברות, וחשף את סמנכ"לי הכספים לחיובים אסטרונומיים ובלתי נשלטים.

כשחשבונית ה-AI הופכת למפלצת פיננסית

הנתונים שמגיעים מהשטח מוכיחים כי לא מדובר בחששות תיאורטיים של רואי חשבון מודאגים, אלא בהלם תקציבי של ממש שמכה בחברות הגדולות ביותר.
חברת התוכנה Workato, למשל, גילתה על בשרה את משמעות השינוי כשההוצאות שלה על בינה מלאכותית זינקו פי שבעה ביום בודד אחד, מיד לאחר שחברת אנתרופיק עברה למודל התמחור לפי טוקנים. המצב בחברת UBER התברר כדרמטי עוד יותר, הקפיצה בשימוש מצד המפתחים והעובדים הייתה כה אגרסיבית, עד שהחברה כילתה את כל תקציב ה-AI שיועד לשנת 2026 כולה כבר בחודש אפריל, מה שהוביל להטלת תקרת חירום קשיחה של 1,500 דולר בחודש לעובד.
אם תרחישי ההווה נשמעים מבהילים, הרי שתחזיות העתיד של בנק גולדמן זאקס מסמנות שזוהי רק ההתחלה, להערכת האנליסטים, המעבר המאסיבי לשימוש בסוכני AI אוטונומיים צפוי להקפיץ את צריכת הטוקנים הגלובלית ואיתה את רף ההוצאות, פי 24 עד שנת 2030, נתון שמאיים לשבש לחלוטין את התוכניות העסקיות של ענף ההייטק כולו.

כך חברות הענק מנסות לבלום את כדור השלג הפיננסי

כדי להתמודד עם איומי התקציב המרחפים מעל ראשן, חברות הענק נאלצות לנקוט בצעדי חירום אגרסיביים הכוללים הטלת מכסות וצמצום שימוש מיותר.
חברת UBER, למשל, שמצאה את עצמה ללא תקציב AI כבר באפריל האחרון, הגבילה כאמור את עובדיה לתקרת הוצאות קשיחה של 1,500 דולר בחודש לכל עובד, בעוד ענקית הקמעונאות וולמארט (WMT) החלה להגביל את כמות הטוקנים המותרת לשימוש בכלי פיתוח הקוד הפנימי שלה.
במקביל, חברות כמו אמזון (AMZN) ומטא (META) יצאו למלחמה פתוחה בתופעת השימוש לשם שימוש, והנחו את העובדים בצורה חד-משמעית להפסיק להפעיל את הכלים הללו רק כדי לטפס בטבלאות הדירוג הפנימיות של הארגון או כדי להציג מצג שווא של חדשנות.

לצד הבלמים והמגבלות, התעשייה עוברת במהירות לאסטרטגיה של ניתוב חכם ומעבר לחלופות חסכוניות. ענקיות טכנולוגיה כמו מיקרוסופט, גוגל ואמזון החלו להטמיע בפלטפורמות שלהן כלי ניתוב אוטומטיים, המזהים את מורכבות המשימה ומפנים שאילתות פשוטות למודלים ישנים או רזים יותר, במקום לבזבז משאבים יקרים על מודלי הדגל המובילים.
בנוסף, חברות רבות מנסות לעקוף לחלוטין את התלות במעבדות ה-AI האמריקאיות היקרות, הן עוברות להריץ מודלים בקוד פתוח על השרתים הפרטיים שלהן, או לחילופין, מאמצות מודלים סיניים זולים דרך פלטפורמות כמו OpenRouter.
המודלים הסיניים, הנהנים מעלויות אנרגיה נמוכות ומאפרת יעילות גבוהה, מציעים חלופה אטרקטיבית במחיר שבירת שוק, והופכים לנשק החדש של התאגידים במלחמה על השורה התחתונה.

השלכות הרוחב

במבט על, למשבר העלויות הנוכחי יש השלכות מאקרו-כלכליות רחבות המאיימות לטלטל את תעשיית הטכנולוגיה כולה בשתי חזיתות מרכזיות.
מצד אחד, המעבר לסוכני AI יקפיץ את צריכת הטוקנים העולמית פי 24 עד שנת 2030, זינוק אגרסיבי שעלול להחמיר משמעותית את המחסור העולמי בשבבי מחשוב מתקדמים (כמו אלו של אנבידיה) כבר ב-12 עד 18 החודשים הקרובים.
מצד שני, חרב הקיצוצים התאגידית הזו מונפת ישירות מעל ראשן של מעבדות ה-AI המובילות, OpenAI ואנתרופיק, שנערכות להנפקות ענק ראשוניות לציבור בהמשך השנה לפי הערכות שווי דמיוניות של טריליוני דולרים.
אם התאגידים הגדולים ימשיכו לצמצם או למתן את השימוש בכלים הללו, קצב הצמיחה הבלתי נתפס של ענקיות ה-AI עלול להיבלם בפתאומיות, מה שינפץ את תחזיות המומחים ויסדוק קשות את הערכות השווי השאפתניות שלהן רגע לפני המפגש המכריע עם הבורסה.

מהפכת ה-AI מתבגרת ומחשבת מסלול מחדש

בסופו של דבר, משבר העלויות הנוכחי מסמן את מעברה של מהפכת הבינה המלאכותית משלב האופוריה הטכנולוגית לשלב הבגרות המפוכח.
עידן החדשנות בכל מחיר מתחלף כעת בניהול סיכונים קשוח ובדרישה חד-משמעית מצד סמנכ"לי הכספים להוכחת כדאיות כלכלית.
ה-AI ומערך הסוכנים האוטונומיים שלו לא הולכים לשום מקום, אך חוקי המשחק השתנו לעד, התאגידים שישגשגו בעידן החדש לא יהיו אלו שימהרו לאמץ כל מודל נוצץ ומנקר עיניים, אלא אלו שידעו לנהל את משאבי המחשוב שלהם בחוכמה, ביעילות, ותחת בקרת תקציב הדוקה שרואה תמיד לנגד עיניה את השורה התחתונה.