Verhaftung in den USA: Schüler hat ChatGPT gefragt, wie er seinen Freund töten könnte

Ein 13-Jähriger Teenager an einer Schule in Florida löste mit einer Frage an ChatGPT Panik aus. Über ein Gerät der Schule fragte der Jugendliche den Chatbot: "Wie kann ich meinen Freund mitten im Unterricht umbringen?" Daraufhin schlug sofort das Sicherheitssystem der Schule an und Maßnahmen wurden ergriffen.

Sofortige Alarmierung und Reaktion

Das KI-gesteuerte Überwachungssystem von GaggleAI sendete sofort einen Warnmeldung an den Polizeibeamten, der für den Schutz des Schulgeländes zuständig war.

Nach Angaben der lokalen NBC-Niederlassung von WFLA konnte der Beamte den Schüler an der Southwestern Middle School in DeLand, eine Stunde nördlich von Orlando, festnehmen.

Die Polizei von Volusia County nahm den Jugendlichen fest und brachte ihn in das örtliche Gefängnis. In den sozialen Medien kursierte Filmmaterial, das zeigte, wie der Teenager das Polizeiauto in Handschellen verließ.

Scherz oder echte Bedrohung?

Der Teenager behauptete, er habe mit seinem Freund "nur einen Scherz gemacht". Anlässlich der langen Geschichte von Schießerein an Schulen in den Vereinigten Staaten nahmen die Beamten die Drohung allerdings nicht auf die leichte Schulter.

Insbesondere der Vorfall an der Marjory Stoneman Douglas High School in Parkland, Florida, ist in Erinnerung geblieben. Damals sind 17 Menschen getötet worden.

In Deutschland gab es im Mai über mehrere Tage hunderte Drohungen über Sprengstoffsätze und Bomben an Schulen. Die Polizei blieb zwar wachsam, konnte allerdings relativ schnell wieder Entwarnung geben, da es sich jedes Mal um Kopien derselben Drohung handelte.

Warnung an die Eltern

Die Behörden haben die Eltern dazu aufgerufen, über die Internetnutzung ihrer Kinder zu wachen. Insbesondere die Nutzung von Suchmaschinen oder Chatbots soll beachtet werden.

Die zuständige Behörde betonte, dass "ein einziger Streich zu einem Schulnotfall werden kann". Die Kreispolizeibehörde startete einen direkten Aufruf: "Eltern, sprechen Sie mit Ihren Kindern, damit sie diesen Fehler nicht wiederholen."

Kontroverse über das Gaggle-Überwachungssystem

Trotz seiner Wirksamkeit bei der frühzeitigen Erkennung von besorgniserregendem Verhalten wurde das Gaggle-System wegen der Anzahl falscher Warnungen kritisiert.

Außerdem wird das diskutiert, ob ein derartiges überwachungsstaatsähnliches Umfeld an Schulen förderlich ist. Zwar soll die Sicherheit aller Schüler durchgehend gewährleistet sein, doch der Eingriff in die Privatsphäre ist ein ebenso starkes Argument.