Anthropic เผยความเสี่ยง “ต่อการดำรงอยู่” ของ AI ก่อน IPO

Anthropic เผยความเสี่ยง “ต่อการดำรงอยู่” ของ AI ก่อน IPO
AI คุกคามโลกอย่างไร?

​Anthropic ได้เตือนนักลงทุนอย่างเป็นทางการเป็นครั้งแรกว่าเทคโนโลยีของบริษัทอาจก่อให้เกิด “ความเสี่ยงต่อการดำรงอยู่ของมนุษยชาติ” คำเตือนดังกล่าวปรากฏในหนังสือชี้ชวน IPO ของบริษัท ซึ่งในช่วงไม่กี่วันที่ผ่านมาได้ถูกส่งต่อให้พันธมิตรกลุ่มจำกัด

บทความนี้ได้รับการแปลจากต้นฉบับ อ่านเวอร์ชันต้นฉบับโดยผู้สื่อข่าวของเราที่นี่.

บริษัทซึ่งนำโดย Dario Amodei และมีมูลค่าเกือบ $1T ได้จัดสรรพื้นที่เกือบหนึ่งในสามของเอกสารฉบับยาวให้กับปัจจัยความเสี่ยง โดย Anthropic ระบุถึงความเป็นไปได้ที่โมเดล AI ซึ่งมีความก้าวหน้ามากขึ้นเรื่อย ๆ อาจชักจูงผู้คน ใช้การแบล็กเมล และแสดงพฤติกรรมอื่น ๆ ที่คาดเดาไม่ได้ ตามรายงานของ Financial Times

เอกสารดังกล่าวยังระบุความเสี่ยงทั่วไปสำหรับนักลงทุนด้วย หนึ่งในนั้นคือการพึ่งพาลูกค้ากลุ่มเล็ก ๆ อย่างมากของบริษัท ตามข้อมูลจากผู้ที่คุ้นเคยกับหนังสือชี้ชวน ลูกค้าเพียง 2 รายสร้างรายได้เกือบหนึ่งในสี่ของ Anthropic ในปีที่แล้ว

Anthropic เตรียม IPO

คำเตือนดังกล่าวอาจทำให้การประเมินมูลค่าของบริษัทก่อนเข้าจดทะเบียนในตลาดหุ้นซับซ้อนขึ้น Anthropic คาดว่าจะเปิดตัว IPO ที่อาจกลายเป็นการเสนอขายหุ้นครั้งใหญ่ที่สุดในประวัติศาสตร์เมื่อวัดจากมูลค่า

ผู้พัฒนา Claude ยังเปิดเผยข้อมูลเพิ่มเติมเกี่ยวกับต้นทุนที่จำเป็นต่อการสร้างโมเดล AI ระดับแนวหน้า โดยคาดว่าบริษัทจะเข้าจดทะเบียนใน Nasdaq ในฤดูใบไม้ร่วงนี้

Anthropic แจ้งต่อนักลงทุนว่ามีแผนจะใช้เงิน $518B ในช่วงหลายปีข้างหน้าไปกับโครงสร้างพื้นฐานคลาวด์ พลังประมวลผล และภาระผูกพันอื่น ๆ ที่จำเป็นต่อการรองรับการเติบโตอย่างรวดเร็ว

ผู้สนับสนุนของบริษัทคาดว่า Anthropic จะเข้าตลาดด้วยมูลค่ามากกว่า $2T ซึ่งจะสูงกว่ามูลค่าในการระดมทุนรอบล่าสุดเมื่อเดือนพฤษภาคมมากกว่า 2 เท่า และสูงกว่ามูลค่า $1.78T ของ SpaceX ที่ทำได้ในเดือนมิถุนายน ความเชื่อมั่นของนักลงทุนขับเคลื่อนเป็นหลักด้วยการเติบโตอย่างรวดเร็วของบริษัท

อย่างไรก็ตาม ความกังวลเกี่ยวกับความปลอดภัยของ AI กำลังโดดเด่นมากขึ้นเรื่อย ๆ พนักงานปัจจุบันและอดีตพนักงานของ Anthropic เพิ่งออกมาเตือนต่อสาธารณะว่า การพัฒนา AI ที่ไร้การควบคุมอาจก่อภัยคุกคามต่อมนุษยชาติในทางทฤษฎีได้ภายในทศวรรษหน้า

เมื่อสัปดาห์ที่แล้ว Amodei กล่าวต่อคณะมนตรีความมั่นคงแห่งสหประชาชาติว่า AI อาจคุกคามมนุษยชาติ และเป็น “ประเด็นความมั่นคงระดับโลกที่สำคัญที่สุดที่โลกกำลังเผชิญอยู่ในปัจจุบัน”

ในเดือนนี้ CEO ของ Anthropic ยังเรียกร้องให้ชะลอการพัฒนาระบบ AI ที่ก้าวหน้าที่สุด ข้อเสนอของเขาเกี่ยวกับความร่วมมือในอุตสาหกรรมที่ใกล้ชิดยิ่งขึ้นและมาตรการความปลอดภัยที่เข้มงวดขึ้น ได้รับการสนับสนุนจาก Sam Altman ซีอีโอของ OpenAI และ Elon Musk

ความกังวลทวีความรุนแรงขึ้นหลังเกิดเหตุการณ์ด้านความปลอดภัยไซเบอร์ที่ได้รับความสนใจหลายครั้ง ซึ่งเอเจนต์ AI สามารถเข้าถึงระบบภายนอกได้ เมื่อสัปดาห์ที่แล้ว OpenAI ระบุว่าเครื่องมือของตนได้แฮ็กเว็บไซต์ภายนอก “หลายสิบแห่ง” รวมถึงเว็บไซต์ของหน่วยงานรัฐ

เมื่อวันจันทร์ OpenAI ยังยกเลิกแผนการเปิดตัวโมเดลรุ่นใหม่ล่าสุดในเดือนหน้า โดยอ้างถึงความกังวลด้านความปลอดภัย

การเติบโตของรายได้มาพร้อมต้นทุนมหาศาล

หนังสือชี้ชวนของ Anthropic ยังเปิดเผยรายละเอียดใหม่เกี่ยวกับผลการดำเนินงานทางการเงินของบริษัท เมื่อปีที่แล้ว ขาดทุนจากการดำเนินงานเกิน $8B เนื่องจากค่าใช้จ่ายด้านพลังประมวลผลพุ่งสูงขึ้น

รายได้เพิ่มขึ้น 12 เท่าเป็นเกือบ $4.6B ขณะเดียวกัน ต้นทุนการฝึกและใช้งานโมเดลทำให้ค่าใช้จ่ายจากการดำเนินงานเพิ่มขึ้นเกือบ $13B

เพื่อจัดหาพลังประมวลผลที่จำเป็น Anthropic ได้ลงนามในข้อตกลงกับ Google, SpaceX และบริษัทขนาดเล็กอีกหลายแห่ง

ทั้งรายได้และค่าใช้จ่ายยังคงเพิ่มขึ้นอย่างรวดเร็วในปีนี้ Anthropic สร้างรายได้ $11.5B ในไตรมาส 2 และมีแนวโน้มทำกำไรจากการดำเนินงานเป็นไตรมาสที่ 2 ติดต่อกัน แม้จะเป็นกำไรตามเกณฑ์ปรับปรุงเท่านั้น

เหตุใด Anthropic จึงต้องทำ IPO

การเข้าจดทะเบียนในตลาดหลักทรัพย์จะทำให้ Anthropic เข้าถึงแหล่งเงินทุนใหม่ ในช่วงเวลาที่การพัฒนาโมเดล AI ขั้นสูงต้องใช้เงินลงทุนมหาศาล บริษัทได้แจ้งต่อนักลงทุนแล้วว่า ภาระผูกพันด้านโครงสร้างพื้นฐานคลาวด์ พลังประมวลผล และทรัพยากรอื่น ๆ จะสูงถึง $518B ในช่วงหลายปีข้างหน้า

IPO ยังจะช่วยให้ Anthropic ลดการพึ่งพาการระดมทุนจากตลาดเอกชน และเปิดโอกาสให้นักลงทุนระยะแรกทยอยขายสัดส่วนการถือครองในตลาดสาธารณะได้ การเติบโตของรายได้อย่างรวดเร็วช่วยให้บริษัทมีเหตุผลรองรับการประเมินมูลค่าสูง แต่หลังเข้าจดทะเบียน บริษัทจะต้องแสดงให้นักลงทุนเห็นอย่างสม่ำเสมอว่าการเติบโตของธุรกิจสามารถชดเชยต้นทุนมหาศาลด้านพลังประมวลผลและโครงสร้างพื้นฐานได้

Anthropic ยังเพิ่งเปิดตัว โมเดลปัญญาประดิษฐ์ต้นทุนต่ำกว่า

เนื้อหานี้อาจมีความคิดเห็นจากบุคคลที่สาม ข้อมูลและข้อมูลใด ๆ บนเว็บเพจนี้ไม่ถือเป็นคำแนะนำการลงทุนตาม ข้อจำกัดความรับผิดชอบ ของเรา แม้ว่าเราจะยึดมั่นใน ความซื่อสัตย์ทางบรรณาธิการ อย่างเคร่งครัด โพสต์นี้อาจมีการอ้างอิงถึงผลิตภัณฑ์จากพันธมิตรของเรา