Lời kêu gọi làm chậm của Anthropic: An toàn có thể kiềm chế cuộc đua AI mà không đánh mất vị thế dẫn đầu?

​Anthropic từ lâu đã định vị mình là công ty AI tập trung vào an toàn, cân bằng các tiến bộ về mô hình với những biện pháp bảo vệ nghiêm ngặt. Tuy nhiên, lời kêu gọi gần đây của CEO Dario Amodei về việc điều tiết tốc độ tăng năng lực đặt ra câu hỏi liệu sự kiềm chế hiệu quả có thể song hành với vị thế dẫn đầu thương mại mà không nhường lợi thế cho các đối thủ khác hoặc Trung Quốc hay không.

Lời kêu gọi điều tiết tốc độ phát triển AI tiên phong

Trong khi chuẩn bị cho một đợt IPO tiềm năng trên Nasdaq (dự kiến đạt mức khoảng $2 nghìn tỷ), CEO Dario Amodei đã công khai kêu gọi các phòng thí nghiệm AI tiên phong “điều tiết tốc độ phát triển AI tiên phong”. Kế hoạch ba bước của ông nhằm làm chậm tốc độ tiến bộ về năng lực để các biện pháp an toàn có thể theo kịp. Đồng sáng lập Jack Clark cho biết chính phủ có thể cần bắt buộc các công tắc ngắt AI có thể xác minh. 

Xem bài đăng trên X Đang tải...

Dòng tweet đã bị tác giả xóa.

Nhưng chúng tôi đã lưu lại mọi thứ 🙂.

Chỉ vài ngày trước đó, công ty đã công bố một báo cáo tình báo mối đe dọa chi tiết, đưa ra nhiều ví dụ về cách những cá nhân khác nhau đã cố lạm dụng Claude cho các hoạt động mạng và thậm chí cả phần mềm vũ khí. Amodei cũng cảnh báo rằng các “bầy đàn” AI có năng lực cao hơn có thể kiểm soát một phần lớn Internet trong vòng 6–12 tháng. Sam Altman của OpenAI và Elon Musk cũng bày tỏ quan điểm tương tự về vấn đề này. Altman cho biết OpenAI đã thực hiện một số bước để áp dụng việc điều tiết tốc độ nội bộ.

Lợi nhuận đi cùng thận trọng

Xét về tài chính, Anthropic báo cáo kết quả tài chính mạnh mẽ một cách nhất quán. Công ty kỳ vọng quý thứ hai liên tiếp có thu nhập hoạt động điều chỉnh dương. Biên lợi nhuận gộp ở mức trên 80 phần trăm trước khi tính phần chia sẻ doanh thu với đối tác và chi phí đào tạo. Doanh thu quý II đạt khoảng $11,5 tỷ, trong khi doanh thu quy đổi theo năm chạm $65 tỷ vào cuối tháng 7. Những con số này giải thích cho kế hoạch IPO. Anthropic đã chọn Nasdaq làm nền tảng niêm yết và đang chuẩn bị cho khả năng ra mắt vào tháng 10. 

Xem bài đăng trên X Đang tải...

Dòng tweet đã bị tác giả xóa.

Nhưng chúng tôi đã lưu lại mọi thứ 🙂.

Khả năng duy trì lợi nhuận là yếu tố quan trọng để tăng niềm tin của các nhà đầu tư vốn lo ngại về tình trạng đốt tiền đặc trưng của các phòng thí nghiệm AI tiên phong. Tuy nhiên, tăng trưởng doanh thu nhanh phụ thuộc vào các tiến bộ năng lực liên tục và việc doanh nghiệp áp dụng những mô hình như Claude. Việc làm chậm tốc độ phát triển có thể tạo cơ hội cho đối thủ bắt kịp hoặc cho phép các công ty Trung Quốc thu hẹp khoảng cách. Amodei tin rằng tiến bộ vẫn sẽ diễn ra nhanh trong một cơ chế điều tiết tốc độ, nhưng vẫn có thể ngăn ngừa phần lớn rủi ro an toàn.

Công tắc ngắt và giám sát độc lập

Jack Clark đã làm rõ thêm cuộc thảo luận. Phát biểu với BBC, đồng sáng lập Anthropic cho biết hầu hết các phòng thí nghiệm đã có khả năng nội bộ để tắt hệ thống. Theo ông, câu hỏi khó hơn là liệu chính phủ có nên yêu cầu các công tắc ngắt có thể xác minh, được bên thứ ba độc lập xác nhận hay không. Những cơ chế như vậy sẽ đảm bảo trách nhiệm giải trình từ bên ngoài.  

Xem bài đăng trên X Đang tải...

Dòng tweet đã bị tác giả xóa.

Nhưng chúng tôi đã lưu lại mọi thứ 🙂.

Anthropic đã đồng ý để METR tiến hành đánh giá độc lập về các sự cố trước đây, trong đó các mô hình Claude đã truy cập hệ thống bên ngoài trong quá trình thử nghiệm. Những bước đi này tác động tích cực đến thương hiệu an toàn của Anthropic và có thể tạo lợi thế cạnh tranh trước các đối thủ di chuyển nhanh hơn. Tuy nhiên, cũng nảy sinh những câu hỏi mới liên quan đến quy trình nội bộ, chi phí tuân thủ và các yêu cầu pháp lý.

Địa chính trị của sự kiềm chế

Amodei nhấn mạnh rằng các quốc gia dân chủ nên phối hợp kiềm chế mà không đánh đổi vị thế dẫn đầu công nghệ cho Trung Quốc. Các công ty Trung Quốc và những tác nhân có liên hệ với nhà nước xuất hiện một cách có hệ thống trong các báo cáo lạm dụng của Anthropic, bao gồm các nỗ lực chưng cất mô hình và thu thập tình báo. Một số nhà lập pháp Mỹ đã viện dẫn cảnh báo của các nhà nghiên cứu, đồng tình với quan điểm về rủi ro hiện sinh và ủng hộ các quy định chặt chẽ hơn. Những người khác, bao gồm các nhân vật thân cận với chính quyền, lại coi các đợt tạm dừng vì an toàn là món quà cho Bắc Kinh. 

Xem bài đăng trên X Đang tải...

Dòng tweet đã bị tác giả xóa.

Nhưng chúng tôi đã lưu lại mọi thứ 🙂.

Các biện pháp kiểm soát xuất khẩu và hạn chế quyền truy cập có chọn lọc đối với các mô hình tiên tiến đã cho thấy vai trò ngày càng lớn của địa chính trị trong địa chính trị. Một sự chậm lại có phối hợp mà Trung Quốc không tham gia có thể khiến các công ty Mỹ rơi vào thế bất lợi. Các báo cáo cho thấy một số công ty như Nvidia, Palantir và Booz Allen đã hạn chế một số mô hình Anthropic nhất định do lo ngại về lưu giữ dữ liệu và sở hữu trí tuệ. Vì vậy, các sự cố an toàn hoặc thay đổi chính sách ảnh hưởng trực tiếp đến niềm tin ở cấp độ doanh nghiệp.

Cân bằng thương hiệu và cạnh tranh

Constitutional AI, thử nghiệm nghiêm ngặt và các báo cáo mối đe dọa công khai được Anthropic sử dụng để xây dựng hình ảnh một công ty có trách nhiệm, đồng thời giúp thu hút các khách hàng doanh nghiệp ngại rủi ro. Việc ra mắt gần đây Claude for Financial Advisors, với các trình kết nối tới BlackRock, Charles Schwab và Addepar, cho thấy sự mở rộng thương mại ngay cả khi công ty ủng hộ sự kiềm chế. Nếu đối thủ tạo ra những bước nhảy vọt về năng lực và giành thị phần, nhà đầu tư và khách hàng có thể diễn giải sự thận trọng là do dự; do đó, ban lãnh đạo nên cân bằng mọi mối quan ngại phù hợp về vấn đề này.

Xem bài đăng trên X Đang tải...

Dòng tweet đã bị tác giả xóa.

Nhưng chúng tôi đã lưu lại mọi thứ 🙂.

Các cuộc thảo luận về an toàn trên toàn ngành trước đây đã tạo ra những cam kết tự nguyện nhưng khó thực thi trước áp lực cạnh tranh. Anthropic đang cố gắng giải quyết vấn đề đó bằng cách dẫn đầu về tính minh bạch và quyền tiếp cận của bên thứ ba, đồng thời vẫn theo đuổi tăng trưởng mạnh mẽ với kỳ vọng về một đợt IPO trong tương lai. Thành công sẽ phụ thuộc vào việc có đủ các bên cùng ngành làm theo hay không — và liệu thị trường có đánh giá sự thận trọng cao ngang với năng lực hay không.