Anthropic חושפת “סיכונים קיומיים” של AI לקראת IPO

Anthropic חושפת “סיכונים קיומיים” של AI לקראת IPO
כיצד AI מאיים על העולם?

​Anthropic הזהירה רשמית את המשקיעים, לראשונה, שהטכנולוגיה שלה עלולה להציב “סיכונים קיומיים לאנושות”. האזהרה מופיעה בתשקיף ה-IPO של החברה, שהופץ בימים האחרונים לקבוצה מצומצמת של שותפים.

מאמר זה תורגם מהמקור. קראו את הגרסה המקורית מאת הכתב שלנו כאן.

החברה, בהובלת דריו אמודיי ובשווי של כמעט 1T$, הקדישה כמעט שליש מהמסמך הארוך לגורמי סיכון. בין היתר, Anthropic מציינת את האפשרות שמודלי AI מתקדמים יותר ויותר יוכלו לתמרן אנשים, לעסוק בסחיטה ולהפגין התנהגות בלתי צפויה אחרת, לפי ה-Financial Times.

המסמך מפרט גם סיכונים קונבנציונליים יותר עבור המשקיעים. אחד מהם הוא התלות הרבה של החברה בקבוצה קטנה של לקוחות. לפי אנשים המכירים את התשקיף, שני לקוחות בלבד היו אחראים לכמעט רבע מההכנסות של Anthropic בשנה שעברה.

Anthropic נערכת ל-IPO

אזהרות כאלה עלולות לסבך את הערכת השווי של החברה לקראת הנפקתה בבורסה. Anthropic צפויה להשיק את מה שעשוי להפוך ל-IPO הגדולה בהיסטוריה במונחי שווי.

מפתחת Claude חשפה גם מידע נוסף על העלויות הנדרשות לבניית מודלי AI מתקדמים. החברה צפויה להירשם למסחר ב-Nasdaq בסתיו הקרוב.

Anthropic מסרה למשקיעים כי היא מתכננת להוציא 518B$ בשנים הקרובות על תשתיות ענן, כוח מחשוב והתחייבויות נוספות הנדרשות לתמיכה בצמיחתה המהירה.

תומכי החברה מצפים ש-Anthropic תונפק לפי שווי של יותר מ-2T$. מדובר ביותר מפי שניים מהשווי שנקבע בסבב הגיוס האחרון שלה במאי, ויותר משווי של SpaceX, שעמד על 1.78T$ ביוני. האופטימיות של המשקיעים נובעת במידה רבה מצמיחתה המהירה של החברה.

עם זאת, החששות בנוגע לבטיחות AI הולכים ומתחזקים. עובדים בהווה ובעבר של Anthropic הזהירו לאחרונה בפומבי שפיתוח בלתי מבוקר של AI עלול, תיאורטית, להוות איום על האנושות בתוך העשור הקרוב.

בשבוע שעבר אמר אמודיי למועצת הביטחון של האו״ם כי AI עלול לאיים על האנושות וכי הוא “סוגיית הביטחון הגלובלית החשובה ביותר העומדת בפני העולם כיום”.

החודש קרא מנכ״ל Anthropic גם להאט את פיתוחן של מערכות ה-AI המתקדמות ביותר. הצעותיו לשיתוף פעולה הדוק יותר בענף ולצעדי בטיחות מחמירים יותר זכו לתמיכתם של מנכ״ל OpenAI סם אלטמן ושל אילון מאסק.

החששות התגברו בעקבות שורה של אירועי סייבר מתוקשרים, שבהם סוכני AI קיבלו גישה למערכות חיצוניות. בשבוע שעבר אמרה OpenAI שהכלים שלה פרצו ל״עשרות״ אתרים חיצוניים, כולל אתרי ממשלה.

ביום שני ביטלה OpenAI גם את התוכניות להשיק את המודל החדש ביותר שלה בחודש הבא, תוך ציון חששות בטיחותיים.

צמיחת ההכנסות מגיעה עם עלויות עתק

התשקיף של Anthropic חשף גם פרטים חדשים על ביצועיה הפיננסיים של החברה. בשנה שעברה ההפסד התפעולי שלה עלה על 8B$, לאחר שההוצאות על כוח מחשוב זינקו.

ההכנסות גדלו פי 12 לכמעט 4.6B$. במקביל, עלות האימון וההפעלה של המודלים שלה העלתה את הוצאות התפעול לכמעט 13B$.

כדי להבטיח את כוח המחשוב הדרוש לה, Anthropic חתמה על הסכמים עם Google, SpaceX ועם כמה חברות קטנות יותר.

גם ההכנסות וגם ההוצאות המשיכו לעלות בחדות השנה. Anthropic ייצרה הכנסות של 11.5B$ ברבעון השני ונמצאת בדרך לרבעון שני ברציפות של רווח תפעולי, אם כי על בסיס מתואם בלבד.

מדוע Anthropic זקוקה ל-IPO

הנפקה בבורסה תעניק ל-Anthropic גישה למקור הון חדש, בתקופה שבה פיתוח מודלי AI מתקדמים דורש הוצאות עצומות. החברה כבר מסרה למשקיעים שההתחייבויות שלה לתשתיות ענן, כוח מחשוב ומשאבים נוספים יגיעו ל-518B$ בשנים הקרובות.

IPO תאפשר ל-Anthropic גם להפחית את תלותה בסבבי גיוס פרטיים ותעניק למשקיעים מוקדמים הזדמנות למכור בהדרגה את אחזקותיהם בשוק הציבורי. צמיחת הכנסות מהירה מסייעת לחברה להצדיק שווי גבוה, אך לאחר ההנפקה היא תידרש להוכיח למשקיעים באופן קבוע שצמיחת העסק יכולה לקזז את העלויות העצומות של מחשוב ותשתיות.

Anthropic השיקה לאחרונה גם מודל בינה מלאכותית בעלות נמוכה יותר.

חומר זה עשוי להכיל דעות של צדדים שלישיים, אף אחד מהנתונים והמידע בדף אינטרנט זה אינו מהווה ייעוץ השקעות בהתאם לכתב הוויתור שלנו. בעוד אנו מקפידים על יושרה מערכתית קפדנית, פוסט זה עשוי להכיל הפניות למוצרים מהשותפים שלנו.