משבר 200 המיליון של אנטרופיק והפנטגון

האם ניתן לשמור על עקרונות מוסריים במרוץ החימוש הטכנולוגי? 
חברת אנטרופיק, שקמה במקור על ידי יוצאי OpenAI מתוך מחויבות עמוקה לבטיחות ואתיקה בבינה מלאכותית, מצאה את עצמה לאחרונה במסלול התנגשות חזיתי מול מערכת הביטחון האמריקאית.
עימות חריף וחסר תקדים בין החברה לבין הפנטגון, חשף פער תהומי בין חזון הבטיחות של מפתחי הטכנולוגיה לבין הצרכים המבצעיים של משרד ההגנה.
הטלטלה הזו הגיעה לשיאה הדרמטי עם ביטולו המהדהד של חוזה ענק בשווי 200 מיליון דולר,  צעד שמציף מחדש, ובעוצמה רבה, את השאלה הגורלית: היכן עובר הגבול בין אינטרסים ביטחוניים לאחריות מוסרית בעידן ה-AI?

מה כלל חוזה המיליונים?

על פי מתווה ההסכם שבוטל, החוזה נועד להעניק לפנטגון גישה נרחבת למודל הדגל של Anthropic, ‏Claude (על גרסאות ה-Gov וה-Enterprise הייעודיות שלו), ולבסס שיתוף פעולה אסטרטגי עמוק בין ענקית הטכנולוגיה למערכת הביטחון.
במסגרת זו, התחייבה החברה לפעול בשלושה צירים מרכזיים, זיהוי שימושים צבאיים ממוקדים שבהם הבינה המלאכותית יכולה לייצר ערך מבצעי גבוה, פיתוח אבות טיפוס מותאמים אישית על בסיס מידע רגיש של הפנטגון, ושילובו של המודל באופן ישיר ברשתות הצבאיות המסווגות ביותר.
חשיבותו של החוזה נבעה מכך שבאותה תקופה, Claude היה מודל המסחרי הראשון והיחיד שקיבל אישור חריג לפעול בסביבות מסווגות אלו.
עדות לעומק השילוב המתוכנן ניתן למצוא בהטמעתו של המודל בפלטפורמות מתקדמות כמו מערכת המודיעין החכמה של פלנטיר (PLTR), שבה נועד Claude לשמש ככלי מרכזי לניתוח מודיעין מורכב, תמיכה בקבלת החלטות ומיקוד מטרות בזמן אמת.

מה היו ההגבלות שאנטרופיק דרשה מהפנטגון?

החברה הזו, שבאמת חרטה על דגלה את נושא האתיקה, הבהירה לפנטגון שיש דברים שפשוט לא עושים, והצבא אשכרה זרם איתם בהתחלה וחתם על שתי מגבלות קשוחות מתוך מדיניות השימוש שלהם.
הראשונה הייתה איסור מוחלט על נשק אוטונומי קטלני, שזה אומר שאין מצב שה-AI מחליט לבד בשטח, בלי בן אדם בלופ, על בחירת מטרות או לחיצה על ההדק.
השנייה הייתה אפס סובלנות למעקב המוני פנימי אחר אזרחים אמריקאים בתוך הבית.
זה הכי ה-DNA של Anthropic,  לשים את המוסר לפני שורת הרווח.
אבל כשמהצד השני עומד הפנטגון, שחולם על אוטומציה מלאה כדי לנצח במרוץ החימוש הגלובלי, היה ברור שהתנגשות בין הקווים האדומים האלה לצרכים המבצעיים של הצבא היא רק עניין של זמן, וזה בדיוק מה שפוצץ את העסקה בסופו של דבר.

קרדיט: TIME

אז איך בעצם הגענו לפיצוץ החסר תקדים הזה?

הכל התחיל כשהפנטגון דרש לקבל יד חופשית לחלוטין, ולהשתמש ב-Claude לכל מטרה חוקית בשדה הקרב.
באנטרופיק הטילו וטו מיידי, החברה עמדה על הרגליים האחוריות והתעקשה שחובה להשאיר תמיד גורם אנושי שיפקח על החלטות קריטיות.
הטיעון שלהם היה פשוט- המודלים של היום, חזקים ככל שיהיו, עדיין הוזים ועושים טעויות, והם פשוט לא אמינים מספיק כדי להפקיד בידיהם החלטות של חיים ומוות באופן עצמאי.

התגובה של הפנטגון הייתה מהלומה רצינית ואגרסיבית במיוחד. שר ההגנה האמריקאי לא קנה את הטיעון המוסרי, ובצעד חסר תקדים הגדיר את אנטרופיק כ"סיכון לשרשרת האספקה" של צבא ארצות הברית, רק בגלל הסירוב שלהם להסיר את מגבלות הבטיחות.
השורה התחתונה? הוראה חותכת להעיף את כל המוצרים של החברה מהשימוש הצבאי בתוך חצי שנה בלבד.

אבל אל תחשבו שאנטרופיק מרימה ידיים. החברה יצאה למלחמת חורמה ומנהלת כעת מאבק משפטי עיקש כדי לבטל את ההגדרה הזו.
מבחינתה מדובר בקרב על החיים, התווית הזו של סיכון ביטחוני היא כתם ענקי, שעלול לעלות לה בהפסד של מיליארדי דולרים בחוזים ממשלתיים עתידיים.

התזמון של הפיצוץ הזה הוא פשוט קטסטרופלי עבור אנטרופיק, שבנתה על הנפקה בבורסה בקרוב, וכעת הכתם של סיכון ביטחוני פשוט מחרב לה את התוכניות או לפחות דוחה את אותן לעתיד הרחוק.

איך הפנטגון מנסה להיגמל מ-Claude?

לפנטגון אין באמת זמן לשקוע בדרמות משפטיות, הצבא צריך פתרונות, ומהר.
המודל של אנטרופיק כבר הוטמע עמוק בתוך המערכות המבצעיות הכי רגישות שלו, כולל מערכת הדגל Maven Smart System שפועלת במשימות מסווגות ומורכבות במזרח התיכון ובאיראן.
אז מה עושים כשיש רק חצי שנה למצוא תחליף למוח הדיגיטלי של המערכת? יוצאים למרוץ בדיקות מטורף בשטח.

משרד ההגנה גייס פלוגת מחץ של כ-25 משתמשי-על בבינה מלאכותית, ופיזר אותם על פני חמישה פיקודים צבאיים שונים ברחבי העולם.
המשימה שלהם היא ניסויי השוואה אגרסיביים. החבר'ה האלה מזינים בדיוק את אותן פקודות ושילובים למודלים של המתחרות הגדולות, כמו ה-GPT של OpenAI, המודלים של גוגל, ואפילו Grok הכל כדי לראות מי מהם מתפקד הכי טוב תחת אש ובתרחישים מבצעיים ספציפיים.

במקביל, הפנטגון לא מחכה לתוצאות הסופיות וכבר חתם על הסכמים חדשים עם מספר ענקיות טכנולוגיה, כדי להתחיל לפרוס את כלי ה-AI שלהן ברשתות הצבאיות המסווגות שלו.
בקיצור, הכיסא של אנטרופיק בקוקפיט הביטחוני התפנה, והסתערות של שאר ענקיות הטק על הג'וב החלופי נמצאת בשיאה.

אם כל הכבוד לפנטגון, החוזה בינם לבין אנטרופיק כאמור עומד על 200 מיליון דולר, מספר המהווה כ-1.4% מסה״כ ההכנסות של החברה לשנת 2026, ולכן אנחנו לא צופים שאנטרופיק תמכור את ערכיה למען המשך שיתוף הפעולה בינהם.

השורה התחתונה

הדרמה הזו היא הרבה מעבר לסיפור על חוזה מבוטל של 200 מיליון דולר, היא קריאת כיוון ברורה לעתיד של שדה הקרב המודרני.
בפנטגון מבינים היטב שהמלחמות הבאות יישענו בצורה כבדה על בינה מלאכותית, החל מניתוח כמויות מטורפות של נתונים במהירות הבזק, דרך שדרוג היעילות המבצעית ועד לאוטומציה של משימות שגרתיות.

המסר שהממשל האמריקאי שולח כאן לשוק הוא חד וברור, ביטחון לאומי קודם לאתיקה של ענקיות הטק. הפנטגון הוכיח שהוא מוכן, בלי למצמץ, להפסיק לעבוד עם חברות AI שמציבות מגבלות אידיאולוגיות או אתיות קשיחות על השימוש בטכנולוגיה שלהן לצרכי לחימה.
כעת, משרד ההגנה האמריקאי מהמר על כך שהמתחרות ישדרגו במהירות את המודלים שלהן כדי לסגור את פערי האיכות מול Claude, ובמקביל מיישם לקח אסטרטגי חשוב והוא פיזור סיכונים.
הצבא האמריקאי לא מתכוון להסתמך יותר על ספק AI יחיד, ובכך הוא מבטיח שאף קו אדום של חברה כזו או אחרת לא יעמוד בינו לבין העליונות הטכנולוגית הבאה שלו.