Das kalifornische KI-Chatbot-Gesetz SB 243 ist nun unterzeichnet. Gouverneur Gavin Newsom kündigte die neuen Schutzmaßnahmen für Minderjährige in einer Mitteilung des Gouverneursbüros am Montag an.
Das Maßnahmenpaket richtet sich an KI-Begleiter-Chatbots sowie an die sozialen Medienplattformen und Websites, die Nutzern in Kalifornien zur Verfügung stehen.
SB 243 wurde im Januar von Senator Steve Padilla und Senator Josh Becker eingebracht.
Das Gesetz legt Pflichten zur Altersverifikation, Warnhinweise und Offenlegungsvorschriften sowie Protokolle für Suizid- und Selbstverletzungsprävention für Dienste fest, die Chatbots Minderjährigen anbieten. Das Gesetz gilt für Plattformen, die Tools für Einwohner Kaliforniens bereitstellen.
Das kalifornische KI-Chatbot-Gesetz legt ein Inkrafttreten im Januar 2026 fest.
Behörden und Unternehmen haben nun einen klaren Zeitplan, um Altersverifikation umzusetzen, vorgeschriebene Warnhinweise anzuzeigen und Protokolle für Suizid- und Selbstverletzungsprävention vorzubereiten.
Das Büro des Gouverneurs listete die Maßnahmen als Kinderschutzmaßnahmen auf.
Altersverifikation und KI-Begleiter-Chatbots: Warnhinweise und Offenlegung für Minderjährige
Altersverifikation wird dort verpflichtend, wo KI-Begleiter-Chatbots Minderjährigen zur Verfügung stehen. Plattformen müssen das Alter eines Nutzers bestätigen, bevor der Zugang zum Chatbot ermöglicht wird.
Das kalifornische KI-Chatbot-Gesetz positioniert die Verifikation als erste Kontrollmaßnahme.
Das Gesetz verlangt außerdem Warnhinweise und Offenlegung. Chatbot-Oberflächen müssen Minderjährigen mitteilen, dass Antworten von einer KI generiert werden und möglicherweise nicht für Kinder geeignet sind.
Der Gesetzestext weist Plattformen an, die Warnhinweise klar und in einer für junge Nutzer verständlichen Sprache zu präsentieren.
Diese Regeln gehen über die gängigen sozialen Medienplattformen hinaus. Websites, dezentrale soziale Medien und Gaming-Plattformen, die KI-Begleiter-Chatbots für Einwohner Kaliforniens anbieten, fallen ebenfalls unter das Gesetz.
Das Rahmenwerk von SB 243 setzt einen einheitlichen Standard für Zugang, Offenlegung und Präsentation.
Suizid- und Selbstverletzungsprotokolle: Pflichten der Plattformen unter SB 243
Das Gesetz verlangt formelle Protokolle für Suizid- und Selbstverletzungsprävention. Plattformen müssen Verfahren zur Risikodetektion und Eskalation von Fällen, die Minderjährige betreffen, vorhalten.
Das kalifornische KI-Chatbot-Gesetz verknüpft diese Protokolle mit konkreten betrieblichen Schritten.
Befürworter verwiesen auf Berichte über unsichere Ausgaben. Senator Steve Padilla sagte,
„Diese Technologie kann ein mächtiges Bildungs- und Forschungstool sein,“
während er argumentierte, dass die Branche dazu angereizt sei, die Aufmerksamkeit junger Nutzer „auf Kosten ihrer realen Beziehungen“ zu halten. Das Zitat erscheint in legislativen Mitteilungen zu SB 243.
Unter SB 243 sollen Plattformen Eskalationswege in die Chatbot-Workflows integrieren. Die Protokolle für Suizid- und Selbstverletzungsprävention sollen rechtzeitiges Handeln anstoßen, wenn KI-Begleiter-Chatbots riskante Interaktionen erkennen.
Die Anforderung gilt für soziale Medienplattformen, Websites und Gaming-Plattformen, die Minderjährige in Kalifornien bedienen.
Haftung und Autonomie-Behauptungen: Was sich für soziale Medienplattformen ändert
Das kalifornische KI-Chatbot-Gesetz schränkt Autonomie-Behauptungen ein. Unternehmen wird es erschwert, zu argumentieren, dass ein KI-Begleiter-Chatbot „autonom gehandelt“ habe, um Haftung zu vermeiden.
Die Formulierung verschiebt die Verantwortung auf den Dienst, der das Tool bereitstellt und verwaltet.
Diese Änderung betrifft soziale Medienplattformen und Websites, die Chatbots für Minderjährige anbieten. Mit SB 243 umfasst die Pflicht nun Altersverifikation, Warnhinweise und Offenlegung sowie funktionierende Protokolle für Suizid- und Selbstverletzungsprävention. Das Haftungsrahmenwerk ist auf diese konkreten Anforderungen abgestimmt.
Der Zeitplan ist entscheidend. Das Inkrafttreten im Januar 2026 gibt Zeit, Kontrollen zu dokumentieren, Protokolle zu aktualisieren und Eskalationswege zu testen.
Das kalifornische KI-Chatbot-Gesetz legt einen Weg fest, bei dem Autonomie-Behauptungen die Verantwortung für vorhersehbare Risiken nicht aufheben.
Bundes- und Landeskontext: Utah-Gesetz und der RISE Act
Auch andere Jurisdiktionen sind aktiv. Das Utah-Gesetz trat im Mai 2024 in Kraft und verlangt von Chatbots, offenzulegen, dass Nutzer nicht mit einem Menschen sprechen.
Dieses Gesetz zielt auf Warnhinweise und Offenlegung in sämtlichen Verbraucheroberflächen ab. Es dient als Referenzpunkt für die staatliche Aufsicht.
Im Juni brachte Senator Cynthia Lummis den Responsible Innovation and Safe Expertise (RISE) Act ein. Das Bundesgesetz sieht eine begrenzte Immunität vor zivilrechtlicher Haftung für KI-Entwickler im Gesundheitswesen, Recht, Finanzwesen und anderen Sektoren vor.
Die Maßnahme stieß auf gemischte Reaktionen und wurde an den House Committee on Education and the Workforce verwiesen.
Der Unterschied ist deutlich. Das kalifornische KI-Chatbot-Gesetz konzentriert sich auf Minderjährige, Altersverifikation, Warnhinweise und Offenlegung sowie Protokolle für Suizid- und Selbstverletzungsprävention.
Der RISE Act adressiert die Haftung von Entwicklern auf nationaler Ebene. Unternehmen, die in mehreren Bundesstaaten tätig sind, müssen beide Entwicklungen im Auge behalten.
Wer ist abgedeckt: Websites, dezentrale soziale Medien und Gaming-Plattformen
Die Abdeckung erstreckt sich auf eine breite Palette von Diensten. Soziale Medienplattformen, Websites, dezentrale soziale Medien und Gaming-Plattformen, die KI-Begleiter-Chatbots für Minderjährige in Kalifornien anbieten, fallen unter SB 243. Die Zuständigkeit ergibt sich aus dem Angebot für Einwohner Kaliforniens.
Das kalifornische KI-Chatbot-Gesetz betont die Pflichten an der Schnittstelle. Altersverifikation regelt den Zugang, Warnhinweise und Offenlegung informieren die Nutzer, und Protokolle für Suizid- und Selbstverletzungsprävention steuern die Eskalation. Jede Anforderung zielt auf die Interaktion, bei der Schaden entstehen könnte.
Das Inkrafttreten im Januar 2026 gibt den Rahmen für die Umsetzung vor. Gouverneur Gavin Newsom, Senator Steve Padilla und Senator Josh Becker sind die zentralen Namen, die mit dem kalifornischen KI-Chatbot-Gesetz verbunden sind. Das Gesetz setzt klare Erwartungen für Plattformen und etabliert ein Modell, das andere Bundesstaaten prüfen könnten.
Editor at Kriptoworld
Tatevik Avetisyan ist Redakteurin bei Kriptoworld und berichtet über aufkommende Krypto-Trends, Blockchain-Innovationen und Entwicklungen im Bereich Altcoins. Sie setzt sich leidenschaftlich dafür ein, komplexe Themen für ein globales Publikum verständlich zu machen und digitale Finanzen zugänglicher zu gestalten.
📅 Veröffentlicht: 4. August 2025 • 🔄 Zuletzt aktualisiert: 4. August 2025
