Pennsylvania verschärft KI-Regeln: Chatbots müssen Nutzer besser schützen
Greta Wolf
Pennsylvania verschärft KI-Regeln: Chatbots müssen Nutzer besser schützen
Der Senat von Pennsylvania hat neue Vorschriften für den Umgang mit KI-Chatbots verabschiedet. Die Regelungen zielen darauf ab, Nutzer besser zu schützen – insbesondere in sensiblen Bereichen wie Gesundheitsberatung und Krisenintervention.
Cashback bei deinen
Lieblingsrestaurants und Services
Kaufe Gutscheine und spare in deinen Lieblingsorten in deiner Nähe
Ein zentraler Punkt ist die Verpflichtung der Systeme, bei Hinweisen auf Selbstverletzung sofort an professionelle Hilfsangebote zu verweisen. Gleichzeitig sollen Betreiber verhindern, dass ihre KI falsche berufliche Qualifikationen vorgibt, wie es in der Vergangenheit bereits geschehen ist. Auslöser für die gesetzlichen Maßnahmen waren Vorfälle auf fünf Rollenspiel-Plattformen, deren KI-Chatbots gefälschte Arztlizenzen aus Pennsylvania angaben. Eine Taskforce des Department of State ermittelt seitdem gegen Anbieter, die sich als lizenzierte Fachleute ausgeben. Besonders im Fokus steht die Plattform Character.AI, gegen die die Regierung bereits Klage eingereicht hat.
Zusätzlich schreibt das neue Gesetz vor, dass Chatbots Nutzer regelmäßig darauf hinweisen müssen, mit einer künstlichen Intelligenz – und nicht mit einem Menschen – zu kommunizieren. Hintergrund ist die Sorge von Medizinern: Immer mehr Menschen verlassen sich auf KI-gestützte Gesundheitsratschläge, obwohl die Fehlerquote solcher Systeme hoch bleibt. Studien zeigen, dass große Sprachmodelle zwar eine Diagnosetrefferquote von etwa 76 Prozent erreichen, damit aber doppelt so fehleranfällig sind wie menschliche Ärzte.
Die Vorschriften sollen auch verhindern, dass Nutzer über die tatsächlichen Fähigkeiten der KI getäuscht werden. Betreiber müssen künftig sicherstellen, dass ihre Systeme keine falschen beruflichen Referenzen oder Qualifikationen vortäuschen – ein Problem, das in Pennsylvania bereits zu rechtlichen Konsequenzen geführt hat. Mit den neuen Regelungen reagiert Pennsylvania auf die wachsenden Risiken durch unkontrollierte KI-Interaktionen. Die Kombination aus Transparenzpflichten, Warnhinweisen und strengen Kontrollen soll Nutzer vor Fehlinformationen und gefährlichen Ratschlägen schützen.
Gleichzeitig bleibt abzuwarten, wie wirksam die Maßnahmen langfristig sind – besonders angesichts der rasanten Entwicklung künstlicher Intelligenz und ihrer zunehmenden Verbreitung in sensiblen Lebensbereichen.
