הדוהרים לבינה: המחנה שלא רוצה להוריד את הרגל מהגז במרוץ ה-AI 

הקריאה של מנכ"ל Anthropic דריו אמודאי להאט את קצב התקדמות מודלי ה-Frontier הצליחה בתוך ימים ספורים לפצל את עמק הסיליקון לשני מחנות.

מצד אחד נמצאים מי שסבורים שהיכולות מתקדמות מהר יותר ממנגנוני הבטיחות ושיש צורך ב-pacing - האטה מכוונת שתעניק לחברות, לרגולטורים ולחברה זמן להיערך.

מהצד השני הולך ומתגבש מחנה שאפשר לכנות אותו "הדוהרים".

הם אינם מתעלמים מסיכוני AI, ובחלק מהמקרים אף משקיעים סכומי עתק בבטיחות וב-alignment. המחלוקת שלהם עם אמודאי נמצאת במקום אחר: הם אינם מאמינים שהפתרון הוא להאט יחד את המרוץ.

מארק צוקרברג, מנהל ה-AI של Meta אלכסנדר וואנג, מנכ"ל Nvidia ג'נסן הואנג והמשקיעה קתי ווד מציגים, כל אחד מזווית אחרת, את אותו עיקרון בסיסי - להמשיך להתקדם במהירות, ולבנות את מנגנוני הבטיחות תוך כדי תנועה.

צוקרברג: אם צריך לעצור - כל חברה יכולה לעצור בעצמה

העמדה המפורטת ביותר במחנה הזה הגיעה ממארק צוקרברג.

מנכ"ל Meta טוען שאין צורך בהסכם בין מעבדות ה-AI הגדולות שיחייב אותן להאט יחד. לדבריו, לכל חברה יש כבר אינטרס כלכלי ומשפטי חזק מספיק לפתח מודלים בטוחים.

משתמשים לא ירצו לעבוד עם אייג'נטים שאינם מבצעים את מה שהתבקשו לעשות, וחברות שמודלים שלהן יגרמו נזק עלולות להתמודד עם אחריות משפטית. מכאן נובעת המסקנה של צוקרברג: alignment ואמון אינם רק בעיות בטיחות, הם יהפכו בעצמם ליתרון תחרותי.

Meta אף סיפקה דוגמה מעשית. החברה דחתה במשך כמה חודשים את השקת Muse כדי לחזק את הבטיחות והאבטחה שלו.

אבל צוקרברג מדגיש את ההבדל בינו לבין אמודאי: Meta לא דרשה מ-OpenAI, Anthropic, Google או מאף חברה אחרת להאט יחד איתה.

היא פשוט עצרה את המוצר שלה עד שהרגישה שהוא מוכן.

במילים אחרות, צוקרברג אינו אומר "לעולם אל תאט". הוא אומר: כשיש בעיה - תאט בעצמך. אל תהפוך את ההאטה להסכם של כל התעשייה.

אלכסנדר וואנג: אל תרוצו דווקא לעבר המקום המסוכן ביותר

גם אלכסנדר וואנג, מנהל ה-AI הראשי של Meta ומי שמוביל את Meta Superintelligence Labs, הצטרף לקו של צוקרברג.

וואנג אינו מקל ראש בסיכון. להפך. הוא הזהיר כי מרוץ לעבר recursive self-improvement - מצב שבו מערכות AI משתתפות בשיפור הדורות הבאים של עצמן - הוא "אחד המסלולים המסוכנים ביותר" שעלולים להביא לאובדן שליטה על מודלים חזקים.

אבל הפתרון של Meta אינו לעצור את פיתוח ה-AI.

וואנג אומר שהחברה מתכוונת להפנות את הרוב המשמעותי של כוח המחשוב שלה לפיתוח מערכות שמשרתות אנשים ועסקים, ולא למרוץ אחר recursive self-improvement.

זה הבדל מהותי.

במקום להגביל את כמות כוח המחשוב, Meta רוצה להחליט לאן כוח המחשוב מופנה.

החברה גם תומכת בבדיקות חיצוניות, ממשל פנימי חזק ופיקוח עצמאי על השקת מודלים. כלומר, היא אינה מתנגדת ל-guardrails. היא מתנגדת לכך שה-guardrail המרכזי יהיה האטה קולקטיבית.

ג'נסן הואנג: רוצו מהר ככל שאתם יכולים

אם צוקרברג בונה טיעון מפורט נגד האטה מתואמת, מנכ"ל Nvidia ג'נסן הואנג מציג את העמדה החדה ביותר של "הדוהרים".

בכנס Dreamforce בסן פרנסיסקו, שבו חזר אמודאי על הצורך להאט את קצב התקדמות ה-Frontier, הואנג השיב במסר הפוך כמעט לחלוטין:

"Run as fast as you can."

לטענת הואנג, הצגת הדיון כבחירה בין חדשנות מהירה לבין בטיחות היא בחירה שגויה. אפשר לדבריו להמשיך לפתח במהירות, ובמקביל לא להשיק מוצר כאשר החברה אינה משוכנעת שהוא בטוח.

ההבחנה הזו קריטית.

אמודאי מבקש לשים את הבלמים בשלב פיתוח היכולת.

הואנג מעדיף לשים אותם בשלב השקת המוצר.

מבחינת Nvidia, יצרנית התשתית החשובה ביותר במהפכת ה-AI, זו גם עמדה בעלת משמעות כלכלית עצומה. האטה באימוני Frontier עלולה בסופו של דבר לפגוע בקצב הגידול בביקוש לכוח מחשוב. המשך המרוץ תוך הגדלת השקעות בבטיחות משאיר את מנוע ההשקעות בתשתיות פועל.

קתי ווד: הפחד מוגזם - וה-AI עצמו עשוי להיות הפתרון

קתי ווד מגיעה לוויכוח מזווית אחרת.

מייסדת ARK Invest, שמשקיעה בין היתר ב-OpenAI וב-Anthropic, בירכה על עצם העובדה שמנהיגי הענף מציפים בפומבי את הסיכונים של AI. מבחינתה, עצם ההכרה בבעיה היא חלק מהפתרון.

אבל כאשר נשאלה באופן ישיר אם צריך להאט את פיתוח ה-AI, תשובתה הייתה שלילית.

ווד אף דחתה את תרחישי ההכחדה הקיצוניים שהועלו על ידי חוקרי AI וכינתה אותם "מגוחכים". לדבריה, החשש מסיכוני סייבר עשוי דווקא להגדיל את הביקוש למודלי Frontier, משום שאותם מודלים יכולים לשמש למציאת חולשות תוכנה ולתיקונן.

מבחינת ווד, העולם אינו צריך פחות AI כדי להתגונן מפני AI.

הוא עשוי להזדקק ליותר AI.

היא גם מציגה את סין כסיבה מרכזית לכך שהאטה חד-צדדית של ארה"ב תהיה קשה לביצוע. לדבריה, סין אינה צפויה להאט, ולכן ארה"ב אינה יכולה להרשות לעצמה לאבד את היתרון הטכנולוגי שלה.

"הדוהרים" אינם מחנה של מתנגדי בטיחות

זו אולי ההבחנה החשובה ביותר בוויכוח.

קל לצייר את המפה כמאבק בין "מחנה הבטיחות" לבין "מחנה המהירות", אבל זה אינו מתאר היטב את העמדות.

צוקרברג בעד evaluators חיצוניים.

אלכסנדר וואנג מזהיר בעצמו מפני recursive self-improvement.

ג'נסן הואנג אומר שחברה אינה צריכה להשיק מוצר שהיא אינה משוכנעת שהוא בטוח.

קתי ווד רואה בסייבר תחום שחייב לקבל הרבה יותר השקעה ותשומת לב.

המחלוקת היא על המנגנון.

אמודאי אומר: כאשר המכונית נוסעת מהר מדי, צריך להוריד את המהירות כדי שמערכות הבטיחות יוכלו להדביק אותה.

"הדוהרים" אומרים: שפרו את הבלמים תוך כדי נסיעה.

ומה המשמעות למשקיעים? לא פחות CapEx - אלא שינוי בתמהיל שלו

עבור המשקיעים, השאלה החשובה אינה מי צודק פילוסופית בוויכוח. השאלה היא האם סכומי העתק שכבר הוקצו למרוץ ה-AI ממשיכים לזרום - ולאן.

לפי BofA, חמש ענקיות ה-Hyperscale - Microsoft, Alphabet, Amazon, Meta ו-Oracle - צפויות להשקיע כ-795 מיליארד דולר ב-2026 וכ-1.08 טריליון דולר ב-2027. כל עוד מחנה "הדוהרים" מחזיק בעמדה משמעותית בתעשייה, אין מנגנון ברור שמכריח את החברות לעצור את בניית הדאטה סנטרים, רכישת המאיצים או הגדלת קיבולת החשמל והרשת.

זו הנקודה החשובה ביותר לשרשרת התשתיות: בטיחות אינה בהכרח אנטי-CapEx.

אם המודל של צוקרברג והואנג הוא זה שיתבסס, חברות יכולות להמשיך להגדיל את כוח המחשוב ובמקביל להוסיף שכבות חדשות של אבטחה, evaluation, ניטור, alignment ו-control. מבחינת ספקי התשתית, זה תרחיש שונה מאוד ממורטוריום על אימוני Frontier: לא פחות מחשוב בהכרח, אלא יותר סוגים של מחשוב סביב אותו מודל.

ל-Nvidia ולספקי שרשרת ה-AI זה הבדל קריטי. התזה שלהם נפגעת יותר מתרחיש שבו חברות מחליטות לא לבצע את האימון הבא, מאשר מתרחיש שבו הן מבצעות אותו אך מקיפות אותו בעוד בדיקות, סימולציות ומערכות אבטחה.

גם הגישה של אלכסנדר וואנג חשובה כאן. אם Meta אכן מפנה את עיקר הקיבולת שלה למוצרים, inference ואייג'נטים שמשמשים אנשים ועסקים, ולא רק לניסויי recursive self-improvement, הביקוש למחשוב אינו נעלם - הוא משנה כתובת. חלק גדול יותר ממנו יכול לעבור מאימוני ענק חד-פעמיים להפעלה שוטפת של מודלים בקנה מידה עצום.

עבור המשקיעים, זה יוצר שלוש שכבות של חשיפה.

הראשונה היא תשתיות - מאיצים, networking, זיכרון, דאטה סנטרים, קירור וחשמל. מחנה "הדוהרים" תומך, לפחות עקרונית, בהמשך קצב הבנייה הגבוה.

השנייה היא שכבת הבטיחות החדשה - cybersecurity, identity, observability, model evaluation, sandboxing, הרשאות וניטור של אייג'נטים. ככל שהחברות ממשיכות לרוץ מהר יותר, הצורך בשכבה הזאת עשוי דווקא לגדול.

השלישית היא מעבדות המודלים עצמן. כאן התמונה מורכבת יותר: הן יכולות להמשיך להתקדם מהר, אבל כל דור חדש עלול להיות יקר יותר לא רק בגלל כוח המחשוב אלא בגלל עלויות validation, red teaming, compliance והשהיית מוצרים שאינם עוברים את הרף.

לכן הוויכוח בין אמודאי ל"דוהרים" אינו בהכרח ויכוח בין תרחיש שורי לדובי לכל סקטור ה-AI. הוא בעיקר ויכוח על היכן ייווצר צוואר הבקבוק הבא.

אצל אמודאי, צוואר הבקבוק אמור להיות קצב שיפור היכולות.

אצל הדוהרים, צוואר הבקבוק עובר לבדיקות, אבטחה והשקה.

מבחינת משקיע, הסיגנל החשוב ביותר לא יהיה עוד נאום של מנכ"ל. הוא יהיה שינוי במספרים: דחייה של אימוני Frontier, קיצוץ בתחזיות CapEx, ביטול הזמנות למאיצים או האטה בבניית דאטה סנטרים. כל עוד אלה אינם מופיעים, קשה לומר שהוויכוח על האטה כבר שבר את מנוע ההשקעות של ה-AI.

בינתיים, המסר של "הדוהרים" הוא כמעט הפוך: אל תוציאו פחות על AI. הוציאו יותר גם על היכולת - וגם על הבלמים.

הוויכוח שהחל כאזהרה של דריו אמודאי מתחיל לחשוף תפיסה אחרת לחלוטין של הדרך אל העתיד: לא לעצור את המרוץ כדי להפוך את ה-AI לבטוח יותר - אלא לרוץ, לבנות, לבדוק ולתקן מהר יותר.

אלה הם "הדוהרים".