Anthropic cảnh báo rủi ro hiện hữu của AI trước thềm IPO
Anthropic lần đầu tiên chính thức cảnh báo các nhà đầu tư rằng công nghệ của mình có thể gây ra “rủi ro hiện hữu đối với nhân loại.” Cảnh báo này xuất hiện trong bản cáo bạch IPO của công ty, được lưu hành trong một nhóm đối tác hạn chế những ngày gần đây.
Bài viết này đã được dịch từ bản gốc. Đọc phiên bản gốc của phóng viên chúng tôi tại đây.
Công ty do Dario Amodei lãnh đạo và được định giá gần 1 nghìn tỷ USD đã dành gần một phần ba tài liệu dài này cho các yếu tố rủi ro. Theo Financial Times, trong số đó, Anthropic liệt kê khả năng các mô hình AI ngày càng tiên tiến có thể thao túng con người, tống tiền và thể hiện những hành vi khó đoán khác.
Tài liệu cũng nêu các rủi ro truyền thống hơn đối với nhà đầu tư. Một trong số đó là sự phụ thuộc lớn của công ty vào một nhóm nhỏ khách hàng. Theo những người am hiểu bản cáo bạch, chỉ hai khách hàng đã đóng góp gần một phần tư doanh thu của Anthropic trong năm ngoái.
Anthropic chuẩn bị IPO
Những cảnh báo này có thể khiến việc định giá công ty trước khi lên sàn trở nên phức tạp hơn. Anthropic được kỳ vọng sẽ thực hiện đợt IPO có thể trở thành lớn nhất lịch sử xét theo mức định giá.
Công ty phát triển Claude cũng tiết lộ thêm thông tin về các chi phí cần thiết để xây dựng những mô hình AI tiên tiến nhất. Công ty dự kiến niêm yết trên Nasdaq vào mùa thu năm nay.
Anthropic cho biết với các nhà đầu tư rằng công ty dự định chi 518B USD trong những năm tới cho hạ tầng cloud, năng lực tính toán và các nghĩa vụ khác cần thiết để hỗ trợ tốc độ tăng trưởng nhanh chóng.
Các nhà đầu tư hậu thuẫn kỳ vọng Anthropic sẽ lên sàn với mức định giá trên 2 nghìn tỷ USD. Con số này sẽ cao hơn gấp đôi mức đạt được trong vòng gọi vốn gần nhất vào tháng 5 và vượt mức định giá 1,78 nghìn tỷ USD của SpaceX vào tháng 6. Sự lạc quan của nhà đầu tư chủ yếu được thúc đẩy bởi tốc độ tăng trưởng nhanh chóng của công ty.
Tuy nhiên, những lo ngại về an toàn AI ngày càng trở nên nổi bật. Các nhân viên hiện tại và cựu nhân viên Anthropic gần đây đã công khai cảnh báo rằng việc phát triển AI không kiểm soát về mặt lý thuyết có thể đe dọa nhân loại trong thập kỷ tới.
Tuần trước, Amodei nói với Hội đồng Bảo an Liên Hợp Quốc rằng AI có thể đe dọa nhân loại và là “vấn đề an ninh toàn cầu quan trọng nhất mà thế giới đang đối mặt hiện nay.”
Trong tháng này, CEO Anthropic cũng kêu gọi làm chậm quá trình phát triển những hệ thống AI tiên tiến nhất. Các đề xuất của ông về hợp tác chặt chẽ hơn trong ngành và các biện pháp an toàn mạnh mẽ hơn nhận được sự ủng hộ từ CEO OpenAI Sam Altman và Elon Musk.
Những lo ngại gia tăng sau một loạt sự cố an ninh mạng nghiêm trọng, trong đó các tác nhân AI đã truy cập vào những hệ thống bên ngoài. Tuần trước, OpenAI cho biết các công cụ của họ đã tấn công “hàng chục” website bên ngoài, bao gồm cả các trang web chính phủ.
Hôm thứ Hai, OpenAI cũng hủy kế hoạch phát hành mô hình mới nhất vào tháng tới, với lý do lo ngại về an toàn.
Tăng trưởng doanh thu đi kèm chi phí khổng lồ
Bản cáo bạch của Anthropic cũng tiết lộ những chi tiết mới về tình hình tài chính của công ty. Năm ngoái, khoản lỗ hoạt động vượt 8B USD khi chi tiêu cho năng lực tính toán tăng vọt.
Doanh thu tăng gấp 12 lần lên gần 4,6B USD. Đồng thời, chi phí đào tạo và vận hành các mô hình đã đẩy chi phí hoạt động lên gần 13B USD.
Để đảm bảo năng lực tính toán cần thiết, Anthropic đã ký các thỏa thuận với Google, SpaceX và một số công ty nhỏ hơn.
Cả doanh thu và chi tiêu đều tiếp tục tăng mạnh trong năm nay. Anthropic tạo ra 11,5B USD doanh thu trong quý 2 và đang hướng tới quý thứ hai liên tiếp có lợi nhuận hoạt động, dù chỉ tính trên cơ sở điều chỉnh.
Vì sao Anthropic cần IPO
Việc lên sàn sẽ giúp Anthropic tiếp cận một nguồn vốn mới vào thời điểm phát triển các mô hình AI tiên tiến đòi hỏi khoản chi khổng lồ. Công ty đã cho các nhà đầu tư biết rằng các nghĩa vụ liên quan đến hạ tầng cloud, năng lực tính toán và các nguồn lực khác sẽ lên tới 518B USD trong những năm tới.
IPO cũng sẽ giúp Anthropic giảm sự phụ thuộc vào các vòng gọi vốn tư nhân và tạo cơ hội để các nhà đầu tư ban đầu dần bán cổ phần trên thị trường đại chúng. Tăng trưởng doanh thu nhanh giúp công ty biện minh cho mức định giá cao, nhưng sau khi niêm yết, công ty sẽ phải thường xuyên chứng minh với các nhà đầu tư rằng tăng trưởng kinh doanh có thể bù đắp chi phí khổng lồ cho năng lực tính toán và cơ sở hạ tầng.
Anthropic gần đây cũng đã giới thiệu một mô hình trí tuệ nhân tạo chi phí thấp hơn.
Tin tức Anthropic mới nhất
- Forex
- Crypto