Kleine Anfrage | Wie werden KI-Systeme in der Bezirksverwaltung genutzt?

Die Bezirksämter nutzen bei der Beantwortung parlamentarischer Anfragen KI-Werkzeuge. Nach der Registrierung ihrer Verwaltungseinheit, der Freischaltung durch Dataport, dem Absolvieren des ersten Moduls des „LLMoin-E-Learnings“ sowie dem Lesen und Bestätigen einer Handlungsanweisung können die Mitarbeitenden das KI-Tool LLMoin nutzen. Darüber informierte der Senat auf eine Kleine Anfrage des CDU-Bürgerschaftsabgeordneten Sascha Greshake (Drs. 23/3964).

Mittlerweile nutzen viele Menschen KI-Systeme im Alltag, insbesondere Large Language Models (LLMs), zur komfortablen Recherche sowie zur Text- und Bildgenerierung. Im besten Fall erzeugen LLMs sprachlich korrekte und inhaltlich plausible Texte. Dennoch kommt es immer wieder zu sogenannten Halluzinationen beziehungsweise zu sogenanntem „KI-Slop“ – Antworten, die plausibel klingen, tatsächlich jedoch sachlich falsch sind und erfundene „Fakten“ enthalten.

Auch beim Einsatz von KI-Systemen in der Verwaltung besteht das Risiko, dass solcher KI-Slop entsteht. Wird er von den Beschäftigten nicht erkannt und korrigiert, können beispielsweise Antworten auf parlamentarische Anfragen falsche, unvollständige oder irreführende Informationen enthalten.

Unsere Anfrage findest Du hier: Drucksache 22-2428

Die Linke Fraktion Hamburg-Nord
Bjørn Knutzen, Dino Ramm, Wiebke Fuchs, Volker Honold