Um Potentiale und Gefahren von automatisierten KI-Systemen im Arbeitsalltag zum Vorteil der Beschäftigten zu handhaben, setzt GPA- Datenschutzexpertin Clara Fritsch auf das bewährte Instrument der Betriebsvereinbarungen: Persönliche Daten gehören geschützt, übermäßiger Respekt vor KI ist unbegründet, sie kann und soll genauso mitgestaltet werden wie andere IT-Systeme auch.
Künstliche Intelligenz ist aus unserem Arbeitsalltag nicht mehr wegzudenken und wird in vielen Betrieben für manuelle oder technische Arbeitserleichterung eingesetzt – etwa bei Assistenzsystemen in der Produktion, Protokollierungen oder Bildbearbeitung sowie in der Schicht- und Routenplanung bis hin zur kreativen Ideensuche. Bei KI, die auf großen Sprachmodellen (Large-Language-Models) basiert, geht es in der Regel um die Reduktion großer Datensätze, das Herausfiltern wichtiger Zusammenhänge und Informationen oder um Textvorschläge.
Clara Fritsch von der Abteilung Arbeit und Technik der GPA findet es wichtig, dass die vielfältigen KI-Systeme in der Praxis möglichst effizient und zum Nutzen der Arbeitnehmer:innen eingesetzt werden. Zunächst gelte es ein Bewusstsein dafür zu schaffen, welche KI-gestützten Programme in Unternehmen im Einsatz sind: „Bei aller Freude über die Zeitersparnis, die automatisierte Abläufe bringen können, dürfen Privatsphäre, Sicherheit, Grundrechte und ethische Grundsätze nicht unter die Räder kommen. Der Mensch muss immer die Kontrollinstanz bleiben.“
KI-Anwendungen in Betrieben müssen geregelt sein
Grundsätzlich müssen Unternehmen den Einsatz einer KI über eine Betriebsvereinbarung regeln, wenn die im Arbeitsverfassungsgesetz angeführten Tatbestände erfüllt sind. „Das wäre zum Beispiel, wenn KI als Kontrollmaßnahme eingesetzt wird, wenn sie personenbezogene Daten über gesetzliche Vorgaben hinaus verwendet, wenn disziplinäre Maßnahmen damit verbunden sind oder wenn die betrieblichen Abläufe dadurch maßgeblich verändert werden“, erklärt Fritsch.
Der Vorteil für die Beschäftigten, in Betrieben, in denen der Betriebsrat für eine Betriebsvereinbarung sorgt, ist, dass „die Betriebsrät:innen bei der Gestaltung dieser Regelungen ein Wörtchen mitzureden haben und so einen Riegel vorschieben können, falls etwa durch KI ein Eingriff in die Privatsphäre stattfinden würde.“
„Es ist wesentlich abzuklären, wo eine KI im Betrieb eingesetzt wird, auf welche Daten sie zugreift und welche Schlussfolgerungen mit Hilfe der KI gezogen werden.“
Clara Fritsch
Zentral wichtig ist für Fritsch, was eine Künstliche Intelligenz im konkreten Anwendungsfall macht: „Man muss sich anschauen, ob mit KI zu viel kontrolliert wird, ob falsche Schlüsse aus den mit KI generierten Darstellungen gezogen werden oder die Ergebnisse Gruppen von Beschäftigten diskriminieren.“
Weil KI-Systeme „einmal im Netz preisgegebene Informationen leicht auffinden und miteinander verknüpfen“, rät KI-Expertin Isabella Hinterleitner, Gründerin des Unternehmens „Tech Meets Legal“ grundsätzlich dazu, „sehr genau darauf zu achten, welche persönlichen Angaben Nutzer:innen über soziale oder berufliche Netzwerke im World Wide Web preisgeben: Wir sollten zweimal überlegen, mit welchen Daten wir die Systeme füttern. Vor dem Hochladen von Dokumenten sollte man alle personenbezogenen Informationen löschen.“
KI wird bei Personalauswahl eingesetzt
Auch im Personalwesen kommt Software zur Anwendung, die bei der Auswahl von Bewerber:innen Entscheidungen auf Basis von Algorithmen trifft. „Diese Systeme können alle greifbaren Daten erheben und analysieren und so Prognosen erstellen“, erklärt Fritsch. Unternehmen könnten die Aussagen von KI beispielsweise dazu nutzen einzuschätzen, welche „Leistung“ Bewerber:innen vermutlich bringen, wann sie den Betrieb wahrscheinlich wieder verlassen werden oder ob unter Umständen bald eine Familie gegründet werden könnte.
„Wir sind der Künstlichen Intelligenz im betrieblichen Alltag nicht ausgeliefert, sondern sollten diese mit Hilfe der Betriebsrät:innen in die Schranken weisen und KI sinnvolle Aufgaben zuweisen, welche die Beschäftigten bei ihrer Arbeit unterstützen.“
Clara Fritsch
So sei es etwa üblich, Lebensläufe nach Merkmalen zu filtern, die in der Stellenbeschreibung angeführt sind. Arbeitgeber:innen sind rechtlich dazu verpflichtet mitzuteilen, wenn Bewerbungen automatisiert verarbeitet werden. Dies wiederum sieht Hinterleitner als Chance für Arbeitsuchende, die KI zu ihren Gunsten zu nutzen: „Chat-GPT kann Vorschläge für eine Bewerbung generieren, die sich an den konkreten Anforderungen der Ausschreibung orientiert.“ So könne man durch passgenaue Motivationsschreiben selbst seine Chancen erhöhen, in der Vorauswahl zu landen.
Vorurteilen der KI entgegenarbeiten
Fritsch glaubt, dass wir den Umgang mit KI-Tools langfristig lernen müssen, ähnlich der Handhabung von Suchmaschinen: „Die Nutzung solcher Anwendungen ist komplex, die Bewusstseinsbildung über ihre Möglichkeiten, Graubereiche und rechtlichen Grenzen wird sich durch Schulungen, öffentlichen Diskurs und persönliche Erfahrungen stetig verbessern.“
Hinterleitner beschreibt mit „Bias“ ein häufiges Problem KI-gestützter Systeme, die Neigung zur systematischen Voreingenommenheit: „Die Künstliche Intelligenz sammelt Daten und urteilt aufgrund von bestehenden Zusammenhängen.“ Unternehmen müssten daher Vorkehrungen treffen, um nicht bestehende Klischees zu verfestigen – etwa dass beim Recruting Mädchen seltener Berufe wie Montanistik oder Technik empfohlen werden, weil dort aktuell der Frauenanteil gering ist.
Um fehlerhafte Neigungen in den Prognosen der KI zu vermeiden müssten Unternehmen diese mit möglichst diversen Informationen versorgen um zu „trainieren, dass eine Potentialanalyse weiter gefasst sein muss und Mädchen auch Elektrotechnik studieren können und sollen.“
Betriebsvereinbarung für den Copilot
Kritisch steht Fritsch ebenso wie viele Datenschützer:innen, der von Microsoft generierten App Copilot gegenüber, einem Assistenzsystem für Betriebe, das durch Zugriff auf alle Anwendungen die Organisation des Arbeitsalltages vereinfachen soll: „Damit werden persönliche Kalender ebenso einsichtig wie elektronische Ablagen und Chats von Videokonferenzen.“ Um sicherzustellen, dass „Geheimnisse gewahrt werden und keine überschießende Kontrolle oder heimliche Überwachung stattfindet“ pocht Fritsch auf das betriebsrätliche Mitbestimmungsrecht: „Sollten bereits Betriebsvereinbarungen zum Einsatz automatisierter Systeme bestehen müssen diese um die Anwendungsfelder des Copiloten ergänzt werden um Missbrauch zu verhindern.“ Fürchten bräuchten sich Beschäftigte aber nicht: „Künstliche Intelligenz ist ein komplexes Computerprogramm, eine Anwendung keine mystische Zauberwaffe.“
EU-Verordnung bringt Transparenzpflicht
Mit August 2024 trat auf EU-Ebene ein Rahmengesetz zur Kontrolle des Einsatzes Künstlicher Intelligenz in Kraft – der sogenannte „AI (Artificial Intelligence) Act“, das eine Transparenzpflicht enthält: Künstlich erzeugte oder bearbeitete Inhalte, wie Bilder, Dokumente, Protokolle, Programme, Audios oder Videos müssen in der gesamten EU als solche gekennzeichnet werden und User:innen müssen darüber informiert werden, wenn sie mit einer KI interagieren.
Weiterführende Infos am GPA-Blog „Arbeit und Technik“ sowie im neuen Podcast „Dienstzimmer“.
