Một mặt, Anthropic tiến hành gây quỹ rầm rộ cho IPO của mình, mặt khác lại đề xuất dừng phát triển AI: Anthropic chỉ đang chơi an toàn trong quan hệ công chúng.

Theo giám sát của Dongcha Beating, Anthropic, trong báo cáo "When AI Builds Itself", đề xuất thiết lập một "cơ chế tạm dừng phối hợp có thể xác minh" trên toàn cầu dựa trên Hiệp ước Các Lực lượng Hạt nhân Tầm trung. Báo cáo này nhấn mạnh rõ ràng sự phản đối việc tạm ngừng phát triển một cách đơn phương và cho rằng chỉ khi có điều kiện xác minh toàn cầu thì các phòng thí nghiệm tiên tiến mới có thể đồng bộ hóa việc phanh lại.

Tuy nhiên, về mặt kỹ thuật, việc phanh phối hợp này về cơ bản là không khả thi. Trong khi kiểm soát vũ khí hạt nhân có thể dựa vào vệ tinh để giám sát các hầm chứa tên lửa, thì GPU lại nhỏ gọn, dễ che giấu và có khả năng tính toán phân tán. Để xác minh liệu người khác có đang huấn luyện bí mật hay không, cách duy nhất là thực hiện giám sát xâm nhập tất cả GPU, lưới điện và trung tâm dữ liệu trên toàn thế giới. Giám sát toàn diện không những không khả thi về mặt chính trị mà còn tương đương với chủ nghĩa chuyên chế về sức mạnh tính toán.

Trước bối cảnh xác minh kỹ thuật không thể đạt được, đề xuất tạm dừng phối hợp dường như chỉ là một "tuyên bố miễn trừ an toàn". Ngay trước thềm công bố báo cáo, Anthropic với mức định giá gần 1 nghìn tỷ đô la đã hoàn thành vòng gọi vốn 6,5 tỷ đô la và nộp hồ sơ IPO. Anthropic đặt điều kiện phanh là một xác minh toàn cầu không tưởng, vừa tạo điều kiện để tiếp tục huấn luyện vô thời hạn, vừa chuyển trách nhiệm về phát triển không thể ngăn cản sang một cơ chế quản lý chưa được thành lập.