וורן דורשת תשובות מאנתרופיק: מה הסיכון של AI למשקיעים? 

בין בטיחות הציבור לסיכונים בשוק ההון

המכתב כולל ארבעה עמודים של שאלות. על פי הדיווח, וורן מבקשת לדעת כיצד מתכוונת אנתרופיק למנוע ממערכותיה ליצור סכנות חמורות לציבור, וכן לקבל הבהרות על יחסיה העסקיים עם שותפים מרכזיים, ובהם אמזון וברודקום, ועל ההצדקה לשווי הגבוה הנבחן לקראת ההנפקה. הדרישה מעבירה את הדיון מבטיחות המודלים בלבד גם לסיכון שהמערכת הפיננסית תיחשף אליו עם כניסתה של חברת AI מתקדמת לשוק הציבורי.

הדברים מגיעים לאחר שב-26 באוקטובר הגישה אנתרופיק לרשות ניירות הערך האמריקאית (SEC) תשקיף S-1. במסמך מפרטת החברה סיכונים אפשריים הנובעים ממערכות אוטונומיות, משימוש לרעה במודלים, מכשלים באמצעי ההגנה ומחובותיה העסקיות. תיאור סיכונים בתשקיף אינו קביעה שהאירועים אכן יתרחשו, אלא גילוי למשקיעים על סיכונים אפשריים.

מה חדש - ומה לא

החידוש הוא פנייה פרטנית חדשה של סנאטורית בכירה אל אמודאי, בצירוף שאלות מתועדות ומועד לתשובה, סמוך להנפקה. בעבר כבר הביעה וורן חששות בנוגע לפיקוח על מודלי AI, ולכן אין להציג את עצם עמדתה בנושאי בטיחות כחידוש. גם התשקיף ונתוני הסיכון שפורסמו בתחילת השבוע כבר היו ידועים. המכתב אינו תגובה ישירה מזוהה למאמר We Must Pace the Frontier מספטמבר, והוא אינו חוק, חקירה חדשה של רשות ניירות הערך או החלטה לעכב את ההנפקה.

המשמעות למשקיעים

הדרישה מדגישה כי שאלות הבטיחות של מודלים מתקדמים הופכות לחלק מהבחינה הציבורית של ממשל תאגידי, תמחור הנפקות וסיכוני צד שלישי בשוק ההון. ככל שיתגבר הפיקוח, חברות AI עשויות להתמודד עם עלויות בדיקה וציות גבוהות יותר, דרישות גילוי מפורטות ושאלות על היחס בין קצב הצמיחה לבין אמצעי ההגנה. אלו אפשרויות ולא תוצאות שהוכחו במועד הדיווח.

לא נמצאה ראיה שהמכתב גרם לתנודות במחירי מניות, ואין בסיס להעריך באמצעותו את הסבירות לתרחיש סיכון של 6-12 חודשים שהעלה אמודאי במאמרו. נכון למועד העדכון, לא אומתה תשובה פומבית של אנתרופיק למכתב.