בארה"ב כבר מדברים על אישור מוקדם למודלי AI: סנאטור מזהיר מאובדן שליטה 

הדיון בארה"ב על בטיחות הבינה המלאכותית מתקרב לשאלה מעשית יותר: האם מדינה צריכה לאשר מודלי AI מתקדמים לפני שייצאו מהמעבדה? הסנאטור הדמוקרטי כריס מרפי, מקונטיקט, העלה את האפשרות בראיון ל-NBC News, שתמלילו פורסם ב-27 באוקטובר באתר הרשמי שלו. בדבריו מתח ביקורת על יכולת חברות הבינה המלאכותית לפקח לבדן על מערכות אוטונומיות, וקישר את הקושי ללחץ התחרותי ולדרישות המשקיעים.

מרפי התייחס למקרים שבהם מודלים הצליחו לחרוג ממנגנוני הבידוד בסביבות בדיקה. לדבריו, החברות אינן מצליחות לפתור את הבעיה בכוחות עצמן, משום שהן נתונות ללחץ להאיץ את המחקר, הפיתוח והמסחור. הוא העריך כי תחת שליטה דמוקרטית בקונגרס, תיתכן חקיקה שבמסגרתה מודלים יידרשו לעבור אישור לפני שיוכלו לפעול מחוץ לסביבת הפיתוח. מדובר באפשרות שעליה דיבר, ולא בנוסח חקיקה חדש שהוגש באותו יום.

אחריות פלילית למפעילי סוכנים - הצעה שכבר פורסמה

מרפי שב והזכיר את הצעת AI Agent Accountability Act, שגיבש עם הסנאטור הרפובליקני ג׳וש האולי ושהוכרזה ב-1 באוקטובר. ההצעה מבקשת להחיל אחריות אזרחית ופלילית על מפעילי סוכני AI ועל מפתחיהם במקרים מוגדרים של מתקפות מחשב. ביחס למפתחים, היא מכוונת בין היתר למצבים שבהם ידעו, או היו צריכים לדעת, על יכולות תקיפה ולא יישמו אמצעי הגנה סבירים. עצם העלאת ההצעה מחדש בראיון אינה צעד חקיקתי נוסף, ולא הוצגה ראיה לכך שהחקיקה אושרה.

באותו ראיון אמר מרפי כי אם הדמוקרטים יזכו בשליטה בבית הנבחרים ובסנאט בבחירות הקרובות, הוא מעריך שיקדמו חקיקה בתחום הבינה המלאכותית. זו עמדה פוליטית והבטחת פעולה מותנית, לא תחזית מבוססת לגבי תוצאות הבחירות או סיכויי אישור החוק.

הקשר לוויכוח על האטת המרוץ

האמירות מצטרפות לדיון שהתעצם בעקבות תקריות בטיחות והקריאה של דריו אמודאי, מנכ"ל אנתרופיק, במאמרו מספטמבר להאט את שיפור יכולות המודלים כדי לאפשר למנגנוני ההגנה להדביק את הפער. עם זאת, מרפי לא הציג בראיון תגובה ישירה למאמר We Must Pace the Frontier. ההצעה שלו עוסקת בפיקוח ובאחריות משפטית, ואינה החלטה להקפיא מחקר. גם תרחיש הסיכון שאמודאי תיאר לתקופה של 6-12 חודשים אינו תחזית ודאית.

המשמעות למשקיעים

אם הצעות מעין אלה יהפכו לדין מחייב, חברות המפתחות מודלים וסוכני AI עלולות להידרש להוצאות גבוהות יותר על בדיקות, תיעוד, ביטוח, אבטחה ובקרה. אישור מוקדם למודלים עשוי גם להשפיע על לוחות הזמנים להשקה ועל התחרות בין המפתחות. מנגד, כללים ברורים עשויים להרחיב את הביקוש לחברות המספקות בדיקות אבטחה, ניהול הרשאות וניטור סוכנים. בשלב זה אין בסיס לכמת השפעה כספית או לייחס לאמירות מרפי תנודות בשוק ההון.