Einerseits führt Anthropic eine öffentlichkeitswirksame Fundraising-Kampagne für seinen Börsengang durch, andererseits schlägt es vor, die Entwicklung von KI einzustellen: Anthropic betreibt einfach nur sicheres PR-Spiel.

Nach Angaben von Dongcha Beating schlägt Anthropic in seinem Bericht „When AI Builds Itself“ die weltweite Einführung eines „überprüfbaren koordinierten Pausenmechanismus“ vor, der auf dem Nuklearwaffenkontrollvertrag INF basiert. Der Bericht lehnt ausdrücklich die einseitige Aussetzung der Entwicklung ab und betont, dass modernste Labore nur unter weltweit überprüfbaren Bedingungen gemeinsam auf die Bremse treten können.

Technisch gesehen ist jedoch ein koordiniertes Bremsen grundsätzlich nicht umsetzbar. Während die Kontrolle von Nuklearwaffen auf Satellitenbeobachtungen von Raketensilos setzen kann, sind GPUs klein, leicht zu verbergen und fähig zu verteilter Rechenleistung. Um zu prüfen, ob andere heimlich trainieren, müsste man sämtliche GPUs, Stromnetze und Rechenzentren weltweit invasiv überwachen. Eine umfassende Kontrolle ist jedoch politisch nicht durchsetzbar und käme einer Vorherrschaft der Rechenkapazität gleich.

Vor dem Hintergrund einer technisch unerreichbaren Überprüfung wirkt der Vorschlag einer koordinierten Pause eher wie ein „Haftungsausschluss für die Sicherheit“. Kurz vor der Veröffentlichung des Berichts hat Anthropic mit einer Bewertung von fast einer Billion Dollar eine Finanzierungsrunde über 65 Milliarden Dollar abgeschlossen und einen Börsengang beantragt. Anthropic knüpft die Bremse an eine weltweit unerreichbare Überprüfung, um sich den unbefristeten Weiterbetrieb zu sichern und die Verantwortung für die unaufhaltsame Entwicklung einem noch zu schaffenden Regulierungsmechanismus zuzuschieben.