การเรียกร้องของ Anthropic ให้ชะลอความก้าวหน้า: ความปลอดภัยจะยับยั้งการแข่งขัน AI ได้หรือไม่โดยไม่สูญเสียตำแหน่งผู้นำ?

​Anthropic วางตำแหน่งตนเองมาโดยตลอดในฐานะบริษัท AI ที่มุ่งเน้นความปลอดภัย โดยสร้างสมดุลระหว่างความก้าวหน้าของโมเดลกับมาตรการป้องกันที่เข้มงวด แต่การเรียกร้องล่าสุดของ CEO Dario Amodei ให้ชะลอการเพิ่มขีดความสามารถ ก่อให้เกิดคำถามว่า การยับยั้งอย่างมีประสิทธิภาพจะอยู่ร่วมกับการเป็นผู้นำเชิงพาณิชย์ได้หรือไม่ โดยไม่เสียพื้นที่ให้คู่แข่งรายอื่นหรือจีน

การเรียกร้องให้ชะลอความก้าวหน้าของ Frontier AI

ขณะเตรียมพร้อมสำหรับ Nasdaq IPO ที่อาจเกิดขึ้น (คาดว่าจะมีมูลค่าราว $2 trillion) CEO Dario Amodei ได้เรียกร้องต่อสาธารณะให้ห้องปฏิบัติการ Frontier AI “ชะลอความก้าวหน้าของ Frontier AI” แผนสามขั้นตอนของเขามุ่งชะลออัตราการพัฒนาขีดความสามารถ เพื่อให้มาตรการความปลอดภัยสามารถตามให้ทันได้ Jack Clark ผู้ร่วมก่อตั้งเสริมว่า รัฐบาลอาจจำเป็นต้องบังคับใช้ AI kill switch ที่ตรวจสอบยืนยันได้ 

ดูโพสต์บน X กำลังโหลด...

news.removed-tweet-widget.title

news.removed-tweet-widget.content

เพียงไม่กี่วันก่อนหน้านั้น บริษัทได้เผยแพร่รายงานข่าวกรองภัยคุกคามฉบับละเอียด ซึ่งยกตัวอย่างมากมายเกี่ยวกับความพยายามของบุคคลต่าง ๆ ที่จะใช้ Claude ในทางที่ผิดสำหรับปฏิบัติการไซเบอร์ และแม้กระทั่งซอฟต์แวร์อาวุธ Amodei ยังเตือนด้วยว่า AI “ฝูง” ที่มีขีดความสามารถสูงขึ้นอาจควบคุมอินเทอร์เน็ตได้ในสัดส่วนมากภายใน 6–12 เดือน Sam Altman แห่ง OpenAI และ Elon Musk ก็แสดงมุมมองคล้ายกันเกี่ยวกับปัญหานี้ Altman กล่าวว่า OpenAI ได้ดำเนินการบางขั้นตอนเพื่อนำการชะลอความก้าวหน้ามาใช้ภายในองค์กรแล้ว

ความสามารถทำกำไรพบกับความระมัดระวัง

ในมุมมองทางการเงิน Anthropic รายงานผลประกอบการที่แข็งแกร่งอย่างต่อเนื่อง บริษัทคาดว่าจะมี adjusted operating income เป็นบวกติดต่อกันเป็นไตรมาสที่สอง อัตรากำไรขั้นต้นอยู่เหนือ 80 percent ก่อนหักส่วนแบ่งรายได้ของพันธมิตรและต้นทุนการฝึกโมเดล รายได้ไตรมาสสองอยู่ที่ประมาณ $11.5 billion โดยรายได้ต่อปีในอัตราปัจจุบันแตะ $65 billion ณ สิ้นเดือนกรกฎาคม ตัวเลขเหล่านี้อธิบายได้ว่าทำไมจึงมีแผน IPO Anthropic เลือก Nasdaq เป็นแพลตฟอร์มสำหรับเข้าจดทะเบียน และกำลังเตรียมพร้อมสำหรับการเปิดตัวที่อาจเกิดขึ้นในเดือนตุลาคม 

ดูโพสต์บน X กำลังโหลด...

news.removed-tweet-widget.title

news.removed-tweet-widget.content

ความสามารถทำกำไรอย่างต่อเนื่องมีความสำคัญต่อการเพิ่มความเชื่อมั่นของนักลงทุน ซึ่งกังวลเกี่ยวกับการเผาเงินสดที่เป็นลักษณะปกติของห้องปฏิบัติการ Frontier AI อย่างไรก็ตาม การเติบโตของรายได้อย่างรวดเร็วขึ้นอยู่กับการพัฒนาขีดความสามารถอย่างต่อเนื่อง และการนำโมเดลอย่าง Claude ไปใช้ในองค์กร การชะลอจังหวะการพัฒนาอาจเปิดโอกาสให้คู่แข่งไล่ตามทัน หรือเปิดทางให้บริษัทจีนลดช่องว่างได้ Amodei เชื่อว่าความก้าวหน้ายังคงดูรวดเร็วภายใต้แนวทางที่ชะลอจังหวะ แต่จะสามารถป้องกันความเสี่ยงด้านความปลอดภัยส่วนใหญ่ได้

Kill switch และการตรวจสอบจากบุคคลที่สาม

Jack Clark ทำให้การอภิปรายเข้มข้นยิ่งขึ้น ในการให้สัมภาษณ์กับ BBC ผู้ร่วมก่อตั้ง Anthropic กล่าวว่า ห้องปฏิบัติการส่วนใหญ่มีความสามารถภายในในการปิดระบบอยู่แล้ว แต่ประเด็นที่ยากกว่า ตามความเห็นของเขา คือรัฐบาลควรกำหนดให้มี kill switch ที่ตรวจสอบยืนยันได้ ซึ่งบุคคลที่สามอิสระสามารถยืนยันได้หรือไม่ กลไกดังกล่าวจะช่วยสร้างความรับผิดชอบต่อสาธารณะจากภายนอก  

ดูโพสต์บน X กำลังโหลด...

news.removed-tweet-widget.title

news.removed-tweet-widget.content

Anthropic ตกลงให้ METR ดำเนินการตรวจสอบโดยอิสระต่อเหตุการณ์ก่อนหน้านี้ ซึ่งโมเดล Claude เข้าถึงระบบภายนอกระหว่างการทดสอบ ขั้นตอนเหล่านี้ส่งผลเชิงบวกต่อแบรนด์ด้านความปลอดภัยของ Anthropic และอาจสร้างความได้เปรียบในการแข่งขันเหนือคู่แข่งที่เคลื่อนไหวเร็วกว่า แต่ก็ทำให้เกิดคำถามใหม่เกี่ยวกับกระบวนการภายใน ต้นทุนการปฏิบัติตามข้อกำหนด และข้อกำหนดด้านกฎระเบียบ

ภูมิรัฐศาสตร์ของการยับยั้ง

Amodei เน้นย้ำว่าประเทศประชาธิปไตยควรประสานความร่วมมือในการยับยั้ง โดยไม่ยอมสละความเป็นผู้นำทางเทคโนโลยีให้จีน บริษัทจีนและผู้มีส่วนเกี่ยวข้องกับรัฐปรากฏอยู่ในรายงานการใช้ในทางที่ผิดของ Anthropic อย่างเป็นระบบ รวมถึงความพยายามในการกลั่นโมเดลและการรวบรวมข่าวกรอง สมาชิกสภานิติบัญญัติสหรัฐบางรายอ้างถึงคำเตือนของนักวิจัย เห็นด้วยกับความเสี่ยงระดับอัตถิภาวนิยม และสนับสนุนกฎเกณฑ์ที่เข้มงวดยิ่งขึ้น ขณะที่บางราย รวมถึงบุคคลใกล้ชิดฝ่ายบริหาร มองว่าการหยุดชะงักที่ขับเคลื่อนด้วยความปลอดภัยเป็นของขวัญให้ปักกิ่ง 

ดูโพสต์บน X กำลังโหลด...

news.removed-tweet-widget.title

news.removed-tweet-widget.content

มาตรการควบคุมการส่งออกและข้อจำกัดการเข้าถึงโมเดลขั้นสูงแบบเลือกเฉพาะได้แสดงให้เห็นแล้วถึงบทบาทที่เพิ่มขึ้นของภูมิรัฐศาสตร์ในภูมิรัฐศาสตร์ การชะลอตัวแบบประสานงานที่จีนปฏิเสธเข้าร่วม อาจทำให้บริษัทสหรัฐเสียเปรียบ รายงานระบุว่าบางบริษัท เช่น Nvidia, Palantir และ Booz Allen ได้จำกัดโมเดล Anthropic บางรุ่น เนื่องจากข้อกังวลด้านการเก็บรักษาข้อมูลและทรัพย์สินทางปัญญา ดังนั้น เหตุการณ์ด้านความปลอดภัยหรือการเปลี่ยนแปลงนโยบายจึงส่งผลโดยตรงต่อความเชื่อมั่นในระดับองค์กร

การสร้างสมดุลระหว่างแบรนด์และการแข่งขัน

Anthropic ใช้ Constitutional AI การทดสอบอย่างเข้มงวด และรายงานภัยคุกคามสาธารณะ เพื่อสร้างภาพลักษณ์ของบริษัทที่มีความรับผิดชอบ และช่วยดึงดูดลูกค้าองค์กรที่หลีกเลี่ยงความเสี่ยง การเปิดตัว Claude for Financial Advisors เมื่อไม่นานมานี้ ซึ่งมีตัวเชื่อมต่อกับ BlackRock, Charles Schwab และ Addepar บ่งชี้ถึงการขยายตัวเชิงพาณิชย์ แม้ในขณะที่บริษัทสนับสนุนการยับยั้ง หากคู่แข่งสร้างการก้าวกระโดดด้านขีดความสามารถและครองส่วนแบ่งตลาด นักลงทุนและลูกค้าอาจตีความความระมัดระวังว่าเป็นความลังเล ดังนั้นฝ่ายบริหารจึงควรสร้างสมดุลให้กับข้อกังวลที่เหมาะสมทั้งหมดในประเด็นนี้

ดูโพสต์บน X กำลังโหลด...

news.removed-tweet-widget.title

news.removed-tweet-widget.content

การหารือด้านความปลอดภัยทั่วทั้งอุตสาหกรรมในอดีตนำไปสู่คำมั่นโดยสมัครใจ ซึ่งพิสูจน์แล้วว่าบังคับใช้ได้ยากภายใต้แรงกดดันจากการแข่งขัน Anthropic กำลังพยายามแก้ปัญหานั้นด้วยการนำด้วยความโปร่งใสและการเข้าถึงของบุคคลที่สาม ขณะเดียวกันก็ยังมุ่งเติบโตอย่างเชิงรุกโดยคาดหวังถึง IPO ในอนาคต ความสำเร็จจะขึ้นอยู่กับว่ามีผู้เล่นรายอื่นติดตามมากเพียงพอหรือไม่ และตลาดจะให้คุณค่ากับความระมัดระวังมากพอ ๆ กับขีดความสามารถหรือไม่