הציוץ נמחק על ידי המחבר.
אבל שמרנו הכל 🙂.
הקריאה של Anthropic להאטה: האם בטיחות יכולה לרסן את מרוץ ה-AI מבלי לוותר על ההובלה?
Anthropic מיצבה את עצמה זה זמן רב כחברת AI המתמקדת בבטיחות, המאזנת בין התקדמות במודלים לבין אמצעי הגנה מחמירים. אך קריאתו האחרונה של המנכ"ל דריו אמודיי להאט את קצב התקדמות היכולות מעלה את השאלה האם ריסון אפקטיבי יכול להתקיים לצד הובלה מסחרית, מבלי לאבד קרקע למתחרות אחרות או לסין.
מאמר זה תורגם מהמקור. קראו את הגרסה המקורית מאת הכתב שלנו כאן.
קריאה להאט את קצב ההתקדמות בחזית
בזמן ההיערכות ל-IPO פוטנציאלי בנאסד"ק (שצפוי להגיע להיקף של כ-$2 טריליון), המנכ"ל דריו אמודיי קרא בפומבי למעבדות AI בחזית "להאט את קצב ההתקדמות בחזית". התוכנית שלו, הכוללת שלושה שלבים, נועדה להאט את קצב ההתקדמות ביכולות כדי שאמצעי הבטיחות יוכלו לעמוד בקצב. המייסד השותף ג'ק קלארק הוסיף כי ממשלות עשויות להידרש לחייב מתגי השבתה ל-AI שניתן לאמת.
צפייה בפוסט ב-X בטעינה...
ימים ספורים קודם לכן פרסמה החברה דוח מודיעין איומים מפורט, שסיפק דוגמאות רבות לאופן שבו אנשים שונים ניסו לעשות שימוש לרעה ב-Claude לצורך פעולות סייבר ואף תוכנות נשק. אמודיי גם הזהיר כי "נחילי" AI בעלי יכולות גבוהות יותר עשויים לשלוט בחלק ניכר מהאינטרנט בתוך 6–12 חודשים. גם סם אלטמן מ-OpenAI ואילון מאסק הביעו דעות דומות לגבי הבעיה. אלטמן אמר כי OpenAI כבר נקטה כמה צעדים להנהגת האטת קצב פנימית.
רווחיות פוגשת זהירות
מבחינה פיננסית, Anthropic מדווחת על תוצאות פיננסיות חזקות באופן עקבי. החברה צופה רבעון שני ברציפות של הכנסה תפעולית מתואמת חיובית. שיעורי הרווח הגולמי עומדים על יותר מ-80 אחוז לפני חלוקת הכנסות עם שותפים ועלויות אימון. ההכנסות ברבעון השני הגיעו לכ-$11.5 מיליארד, וההכנסות השנתיות בקצב שנתי הגיעו ל-$65 מיליארד עד סוף יולי. נתונים אלה מסבירים את ה-IPO המתוכנן. Anthropic בחרה בנאסד"ק כפלטפורמת הרישום ומתכוננת להנפקה אפשרית באוקטובר.
צפייה בפוסט ב-X בטעינה...
רווחיות מתמשכת חשובה להגברת אמון המשקיעים, המודאגים משריפת המזומנים האופיינית למעבדות AI בחזית. עם זאת, צמיחה מהירה בהכנסות תלויה בהמשך ההתקדמות ביכולות ובאימוץ ארגוני של מודלים כגון Claude. האטת קצב הפיתוח עלולה לתת למתחרים מרחב להדביק את הפער או לאפשר לחברות סיניות לצמצם אותו. אמודיי מאמין שההתקדמות עדיין תיראה מהירה תחת משטר של האטת קצב, אך ניתן יהיה למנוע את רוב סיכוני הבטיחות.
מתגי השבתה וביקורת של צד שלישי
ג'ק קלארק חידד עוד יותר את הדיון. בריאיון ל-BBC אמר המייסד השותף של Anthropic שלרוב המעבדות כבר יש יכולות פנימיות להשבית מערכות. השאלה הקשה יותר, לטענתו, היא האם ממשלות צריכות לדרוש מתגי השבתה שניתן לאמת ושניתן יהיה לאשרם בידי צדדים שלישיים עצמאיים. מנגנונים כאלה יבטיחו אחריותיות חיצונית.
צפייה בפוסט ב-X בטעינה...
Anthropic הסכימה לביקורת עצמאית של METR על אירועים קודמים שבהם מודלי Claude ניגשו למערכות חיצוניות במהלך בדיקות. צעדים אלה משפיעים לחיוב על מותג הבטיחות של Anthropic, ועשויים להעניק לה יתרון תחרותי מול מתחרות שמתקדמות מהר יותר. אך הם גם מעלים שאלות חדשות לגבי תהליכים פנימיים ועלויות ציות, וכן לגבי דרישות רגולטוריות.
הגאופוליטיקה של ריסון
אמודיי הדגיש כי מדינות דמוקרטיות צריכות לתאם ריסון מבלי לוותר על ההובלה הטכנולוגית לטובת סין. חברות סיניות וגורמים המקושרים למדינה מופיעים באופן שיטתי בדוחות השימוש לרעה של Anthropic, לרבות ניסיונות לזיקוק מודלים ולאיסוף מודיעין. כמה מחוקקים בארה"ב ציטטו אזהרות של חוקרים, מסכימים עם קיומו של סיכון קיומי ודוגלים בכללים מחמירים יותר. אחרים, כולל דמויות הקרובות לממשל, רואים בהפסקות המונעות משיקולי בטיחות מתנה לבייג'ינג.
צפייה בפוסט ב-X בטעינה...
פיקוח על היצוא והגבלות גישה סלקטיביות למודלים מתקדמים כבר הראו את תפקידה ההולך וגדל של הגאופוליטיקה בתחום. האטה מתואמת שסין תסרב להצטרף אליה עלולה להציב חברות אמריקאיות בעמדת נחיתות. דיווחים מראים כי חברות מסוימות, כגון Nvidia, Palantir ו-Booz Allen, הגבילו מודלים מסוימים של Anthropic בשל חששות לשמירת נתונים ולקניין רוחני. לכן, אירועי בטיחות או שינויים במדיניות משפיעים ישירות על האמון ברמה התאגידית.
איזון בין מותג לתחרות
Anthropic משתמשת ב-Constitutional AI, בבדיקות קפדניות ובדוחות איומים פומביים כדי ליצור תדמית של חברה אחראית ולסייע במשיכת לקוחות ארגוניים שונאי סיכון. ההשקה האחרונה של Claude for Financial Advisors, עם מחברים ל-BlackRock, Charles Schwab ו-Addepar, מצביעה על התרחבות מסחרית גם תוך תמיכה בריסון. אם מתחרים ישיגו קפיצות ביכולות ויתפסו נתח שוק, משקיעים ולקוחות עלולים לפרש זהירות כהיסוס, ולכן ההנהלה צריכה לאזן בין כל השיקולים הרלוונטיים בהקשר זה.
צפייה בפוסט ב-X בטעינה...
דיונים קודמים על בטיחות ברמת התעשייה כולה הובילו להתחייבויות וולונטריות שהתבררו כקשות לאכיפה תחת לחץ תחרותי. Anthropic מנסה לפתור את הבעיה באמצעות הובלה בשקיפות ובגישה של צדדים שלישיים, תוך המשך חתירה לצמיחה אגרסיבית לקראת IPO עתידי. ההצלחה תהיה תלויה בשאלה האם מספיק עמיתים יצטרפו לכך — והאם השווקים יתגמלו זהירות באותה מידה שבה הם מתגמלים יכולת.
חומר זה עשוי להכיל דעות של צדדים שלישיים, אף אחד מהנתונים והמידע בדף אינטרנט זה אינו מהווה ייעוץ השקעות בהתאם לכתב הוויתור שלנו. בעוד אנו מקפידים על יושרה מערכתית קפדנית, פוסט זה עשוי להכיל הפניות למוצרים מהשותפים שלנו.
האם אהבת את המאמר?
חדשות Anthropic האחרונות
חדשות מובילות
הברוקרים המובילים בשבילך 5s
ארה״ב
-
אוגנדה
-
אוזבקיסטן
-
אוסטריה
-
אוסטרליה
-
אוקראינה
-
אורוגוואי
-
אזרבייג'ן
-
איחוד
-
איחוד האמירויות הערביות
-
איטליה
-
אינדונזיה
-
איראן, רפובליקה אסלאמית
-
אירלנד
-
אל סלבדור
-
אלבניה
-
אלג'יריה
-
אנגולה
-
אסוואטיני
-
אסטוניה
-
אפגניסטן
-
אקוודור
-
ארגנטינה
-
ארה״ב
-
ארמניה
-
אתיופיה
-
בהאמה
-
בולגריה
-
בוליביה
-
בוצואנה
-
בחריין
-
בלארוס
-
בלגיה
-
בנגלדש
-
ברוניי דארוסלם
-
ברזיל
-
בריטניה
-
ג'ורג'יה
-
ג'מייקה
-
גאנה
-
גרמניה
-
דנמרק
-
דרום אפריקה
-
האיטי
-
הודו
-
הולנד
-
הונג קונג
-
הונגריה
-
הרפובליקה הדומיניקנית
-
וייטנאם
-
ונצואלה
-
זימבבואה
-
זמביה
-
חוף השנהב
-
טג'יקיסטן
-
טורקיה
-
טייוואן, מחוז סין
-
טנזניה
-
טרינידד וטובגו
-
יוון
-
יפן
-
ירדן
-
ישראל
-
כווית
-
לאוס
-
לבנון
-
לוב
-
לוקסמבורג
-
לטביה
-
ליטא
-
לסוטו
-
מאוריציוס
-
מדגסקר
-
מוזמביק
-
מולדובה
-
מונגוליה
-
מונטנגרו
-
מיאנמר
-
מלזיה
-
מלטה
-
מצרים
-
מקדוניה הצפונית
-
מקסיקו
-
מרוקו
-
נורבגיה
-
ניגריה
-
ניו זילנד
-
נמיביה
-
נפאל
-
סומליה
-
סוריה
-
סין
-
סינגפור
-
סלובניה
-
סלובקיה
-
ספרד
-
סרביה
-
סרי לנקה
-
עומאן
-
עיראק
-
ערב הסעודית
-
פולין
-
פורטו ריקו
-
פורטוגל
-
פיליפינים
-
פינלנד
-
פלסטין
-
פנמה
-
פפואה גינאה החדשה
-
פקיסטן
-
פרגוואי
-
פרו
-
צ'ילה
-
צרפת
-
צ׳כיה
-
קובה
-
קולומביה
-
קונגו
-
קונגו ד׳
-
קוסטה ריקה
-
קוריאה
-
קזחסטן
-
קטאר
-
קירגיזסטן
-
קמבודיה
-
קמרון
-
קנדה
-
קניה
-
קפריסין
-
קרואטיה
-
רואנדה
-
רומניה
-
שוודיה
-
שוויץ
-
תאילנד
-
תוניסיה
-
תימן
- Forex
- Crypto
חדשות חיות
