一方でIPOのために大規模な資金調達を行い、他方でAI開発の停止を提案していることから、Anthropicは単にPRのためにリスク回避しているだけだ。

Dongcha Beatingの監視によると、Anthropicは「When AI Builds Itself（AIが自らを構築する時）」というレポートの中で、核兵器管理の中距離核戦力全廃条約に基づく「検証可能な協調的一時停止メカニズム」を世界的に確立することを提案しています。このレポートは、一方的な開発中止には明確に反対し、最先端の研究所がブレーキを同期させるには世界的に検証可能な条件の下でのみ可能であると強調しています。

しかし技術的には、協調的ブレーキは根本的に実現不可能です。核兵器管理はミサイルサイロを監視する衛星に頼ることができますが、GPUは小型で隠しやすく、分散型コンピューティングが可能です。他者が密かにトレーニングしているかを検証する唯一の方法は、世界中のすべてのGPU、電力網、およびデータセンターに対する侵襲的な監視を実施することです。包括的な監視は政治的にも非現実的であり、計算能力の権威主義を提唱することに等しいものです。

達成不可能な技術的検証を背景に、協調的な一時停止の提案は「安全免責事項」に近いものと見られます。レポート発表直前、評価額がほぼ1兆ドルに達するAnthropicは650億ドルの資金調達を完了し、IPOを申請しました。Anthropicは、世界的に達成不可能な検証をブレーキの条件と定めることで、自社が無期限にトレーニングを続ける道を開きつつ、止められない開発の責任を、まだ設立されていない規制メカニズムへ転嫁しています。