Wie nutzen wir KI?

2) Transparenz und Offenlegung in der Informationsverarbeitung

Durch Kennzeichnung des Einsatzes von KI machen wir kenntlich, ob die inhaltliche und kreative Leistung Mensch oder Maschine zuzurechnen ist. Wir orientieren uns hierbei an der Sektion 2 des von der EU vorgeschlagenen Code of Practice zur Kennzeichnung von AI generiertem Inhalt. Demnach gilt:

• Vollständig KI-generierte Informationen kennzeichnen wir mit einem „AI GENERATED“-Hinweis oder Icon gem. Annex 1 des CoP.
• Teilweise KI-generierte Informationen kennzeichnen wir mit einem „AI MODIFIED“-Hinweis oder Icon gem. Annex 1 des CoP.
• Auf die Kennzeichnung kann verzichtet werden, wenn KI-generierte Texte vor der Veröffentlichung nach den sonst gültigen Qualitätsstandards durch Menschen geprüft wurden. Hierbei sind Name, Rolle und E-Mail der prüfenden Person soweit technisch möglich zu dokumentieren, zudem muss der Prüfprozess als solcher dokumentiert und wirksam implementiert werden.
  Ergänzend gilt:
• Von der Möglichkeit der Übersetzung des Hinweises wird gemäß unserem Leitsatz „Wir wollen verstanden werden“ soweit wie möglich Gebrauch gemacht.
• Eine sprachliche Überarbeitung oder Mischung mit menschlichen Produkten entbindet nicht von der Kennzeichnungspflicht, entscheidend ist die Prüfung aller KI-generierter Informationen.
• Beim Einsatz ungeprüfter Übersetzungen kann ein Hinweis an zentraler Stelle erfolgen (z.B. im Impressum) sofern diese einen objektivierten Test gem. §3 bestanden hat.

Beim Einsatz als Chatbots:

• Wenn Menschen direkt mit KI kommunizieren, werden sie vor Beginn der Interaktion und in geeigneter Form darüber informiert.
• Dialogpartner werden über die Verarbeitung ihrer Daten durch KI-Systeme informiert. Dabei wird auf die Datenschutzbestimmungen verlinkt, die um Informationen zum Umfang, Zweck und Rechtsgrundlage der Verarbeitung durch KI zu ergänzen sind, sowie ggf. um Rechte (z. B. Recht auf Erklärung, Auskunft), vor allem beim Einsatz externer Dienste.
• Sobald personenbezogene Daten verarbeitet werden, wovon bei Chatsystemen in der Regel auszugehen ist, empfehlen wir den Einsatz europäischer LLM-Anbieter oder von durch uns oder auf Kundenseite gehostete LLMs.

Beim Einsatz zur Bildgenerierung:

• Sofern mit KI-generierten Abbildungen oder Stimmen realer Menschen oder mit Bildern oder Geräuschen realer Dinge gearbeitet wird gilt das Produkt als teilweise KI-generierte Information.
• Wurde reales Bildmaterial durch KI lediglich in einer Weise modifiziert, nicht aber ergänzt, die auch durch konventionelle, nicht ki-unterstützte Bildbearbeitung mit vertretbarem Aufwand möglich wäre, kann auf eine Kennzeichnung verzichtet werden.
• Wurde KI zur Erledigung von Routinen (z.b. Freistellen) oder zur Inspiration eingesetzt kann auf eine Kennzeichnung verzichtet werden, sofern Kreation und Endergebnis Menschen zuordenbar bleiben.

3) Genauigkeit und Aufsicht

• Die Überprüfung von durch uns recherchierte und für die Öffentlichkeit bestimmte  Informationen auf deren Realitätstreue erfolgt mit journalistischer Sorgfalt (Plausibilität, Glaubwürdigkeit der Quellen, Gegenbestätigung). Die Prüfung kann nicht durch KI übernommen oder durch KI unterstützt werden.
• Wo wir Automated Intelligence ermöglichen, stellen wir durch von mehreren Menschen objektivierte Tests zuvor sicher, dass die Qualität der KI-Ergebnisse die Fehlerquote eines für die Aufgabe typischerweise eingesetzten und entsprechend qualifizierten Menschen nicht überschreitet.
• Bei objektivierten Tests unterscheiden mehrere Personen, die den Prozess beurteilen können, anhand eines repräsentativen Samples zwischen guten, unwesentlich fehlerhaften und wesentlich fehlerhaften Ergebnissen. Wesentlich fehlerhafte Ergebnisse schließen einen Einsatz von Automated Intelligence aus.
• Wir achten durch entsprechende Auswahl repräsentativer Samples darauf, dass KI-Ergebnisse nicht zur Bildung oder Festigung von Stereotypen beitragen (z.B. hinsichtlich Hautfarbe, Geschlecht, Sprache und Alter).
• Wo wir Dritten die Nutzung unserer KI-Systeme ermöglichen, stellen wir anhand von Prompts und Tests in einem dem Schadensfall angemessenen Umfang sicher, dass KI Systeme nur für den intendierten Zweck eingesetzt und nicht missbraucht werden können.
• Die Ergebnisqualität wird in angemessenen Abständen kontrolliert, sowie bei jedem Wechsel des LLMs oder der LLM-Version.
• Die Freigabe des Einsatzes von Automated Intelligence für den Regelbetrieb erfolgt nach  erfolgreicher Absolvierung eines objektivierten Tests durch die Geschäftsführung.
• Bei einer KI-gestützten Verarbeitung besonderer Kategorien personenbezogener Daten gemäß Art. 9 DSGVO, der Verarbeitung personenbezogener Daten in großem Umfang, systematischer Bewertung von personenbezogenen Eigenschaften und bei unvorhersehbaren Risiken im direkten Kontakt mit innovativen Technologien (z.B. falsche Empfehlungen oder Diskriminierung) weisen wir unsere Kunden auf die Notwendigkeit einer Datenschutz-Folgenabschätzung (DSFA) hin.

4) Ethische Überlegungen

Soziale Aspekte:

• Wir setzen KI gezielt ein, um repetitive und zeitintensive Routineaufgaben im Arbeitsalltag zu automatisieren. Dadurch schaffen wir Freiräume für konzeptionelle, kreative und strategische Arbeit – dort, wo menschliche Expertise den größten Mehrwert bietet.
• In profitorientierten Unternehmen kann KI die Arbeitskosten senken. Solange diesem betriebswirtschaftlichen Anreiz keine volkswirtschaftliche Strategie gegenübersteht, die Erwerbsarbeit als Grundlage von Kaufkraft und Steueraufkommen ersetzt, ist der Einsatz von KI zur Senkung der Arbeitskosten als nicht nachhaltig zu betrachten und widerspricht unserem Beratungsansatz.
• Wir priorisieren daher die Automatisierung von Routineprozessen, die ohne KI gar nicht oder nur gelegentlich oder oberflächlich stattfinden würden, um damit Zeit für wirksamere Tätigkeiten zu schaffen.
• Einen Einsatz von KI zur Überwachung menschlicher Tätigkeit lehnen wir ab.
• Bei der Dienstleisterauswahl beziehen wir soziale Aspekte wie die Arbeitsbedingungen von Data Workers und die Transparenz der entsprechenden Lieferketten aktiv mit ein.
• Daneben achten wir bei der Dienstleisterauswahl auf ethische Aspekte wie Offenlegung der Trainingsquellen, Unterbindung nicht-defensiver militärischer oder die Menschenwürde verletzender Nutzungen etc.

Ökonomische und ökologische Aspekte:

• Der Energieverbrauch von LLMs steigt linear mit der Modellgröße. Wir testen daher je Einsatzzweck auf ein pareto-optimales Verhältnis von Modellgröße und Ergebnisqualität.
• Einen Großteil der Energie verbraucht KI bereits beim Training. Wir bevorzugen daher - soweit ermittelbar - Modelle mit kleinerem ökologischem Fußabdruck.
• Von uns gestellte KI-Modelle nutzen ressourceneffiziente Umgebungen in energieeffizienten Rechenzentren, die mit Strom aus erneuerbaren Quellen versorgt werden.
• Bei KI-Modellen von Dritten präferieren wir Dienstleister mit ökologisch nachhaltigem Betriebsmodell.

Digitale Souveränität:

• Aus Datenschutzgründen sowie aufgrund der geopolitischen Lage vermeiden wir Anbieter außerhalb der Geltung des EU KI-Acts.
• Langfristige Souveränität garantiert aufgrund des Lock-in- und Aufkaufrisikos proprietärer Lösungen nur der Einsatz von Open Source.

5) Interner Einsatz

• KI-Anwendungen dürfen auch als Augmented Intelligence erst nach einer Grundlagenschulung eingesetzt werden, die Funktionsweise, Fähigkeiten, Grenzen und Gefahren des KI-Einsatzes vermittelt.
• Um die Anforderungen dieser Richtlinie gewährleisten zu können, sind dauerhaft nur ausgewählte KI-Dienste zulässig. Diese finden sich hier: www.wegewerk.com/service/ai-partner. 
• Weitere Dienste sind vor Einsatz nach Maßgabe dieser Richtlinie zu prüfen. Hierfür dürfen dienstliche Accounts zu Testzwecken angelegt werden. 
• Bei KI-Anwendungen allgemeiner Zweckbestimmung legen wir individuelle betriebliche Accounts anonymisiert mit dem Mitarbeiterkürzel oder Gruppenaccounts an. Betriebliche Accounts dürfen nicht für private Zwecke genutzt werden. Private Accounts dürfen umgekehrt nicht zur Verarbeitung von Informationen unserer Kunden verwendet werden.

6) Datenschutz und Schutz personenbezogener Daten

• Von uns eingesetzte KI-Systeme erhalten Zugriff auf personenbezogene Daten ausschließlich bei Notwendigkeit und Rechtmäßigkeit.
• Sofern wir Systeme trainieren, müssen Trainingsdaten dokumentiert werden.
• Verarbeiten wir personenbezogene Daten mit KI, so erfolgt dies ausschließlich bei europäischen Anbietern, sofern damit ein Abfluss von Daten an Akteure außerhalb des EU-Rechtsrahmens ausgeschlossen wird.
• Verarbeiten wir besondere Kategorien personenbezogener Daten mit KI, so erfolgt dies ausschließlich mit Open-Rates-Modellen auf von uns oder auf Kundenseite betriebenen Servern.

7) Verbote

• Ein Einsatz von KI-Anwendungen ohne gültige Rechtsgrundlage (z. B. Einwilligung, Vertrag, berechtigtes Interesse und rechtmäßige Verarbeitung personenbezogener Daten) ist untersagt.
• Die Erstellung medizinischer oder rechtlicher Ratschläge, biometrische Kategorisierung, Emotionserkennung am Arbeitsplatz, die Manipulation verletzlicher Personen oder das Scraping personenbezogener Daten sind untersagt.
• Der Einsatz von KI für weitreichende Entscheidungen (z. B. Einstellungen, Fördermittelvergabe) erfordert eine angemessene menschliche Aufsicht, ein Einsatz ohne menschliche Aufsicht ist untersagt.
• Die Generierung von Medieninhalten, die reale Menschen authentisch darstellen (Deepfakes) ist aufgrund der Problematik der Verwischung von Fiktion und Realität grundsätzlich untersagt. Ein ausnahmsweiser Einsatz muss gut begründet sein (z.B. zur Visualisierung von Zukunftsszenarien), ist gemäß Code of Practice zu kennzeichnen und muss den Wahrhaftigkeitsanspruch des Code of Conduct der Deutschen Gesellschaft für Politikberatung unzweifelhaft wahren.

8) Verantwortlichkeit und Compliance

• Für die Prüfung unserer KI Anwendungen auf Compliance und die Ergänzung von Verarbeitungsverzeichnissen ist der Datenschutzkoordinator zuständig. Im Zweifel klärt dieser Datenschutzaspekte mit unserem Datenschutzbeauftragten und ethische Aspekte mit der Geschäftsführung.
• Verstöße gegen die KI-Richtlinie können disziplinarische Maßnahmen von Schulungspflichten über Abmahnungen bis hin zur verhaltensbedingten Kündigung nach sich ziehen.

9) Überprüfung und Aktualisierung

• Die Weiterentwicklung und Schulung der Mitarbeitenden in der Anwendung dieser Richtlinien ist Verantwortung der Geschäftsführung.
• Die KI-Richtlinie wird im Rahmen von Sitzungen des Sicherheitsausschusses quartalsweise überprüft und bei Bedarf aktualisiert, um technische oder regulatorische Änderungen widerzuspiegeln (insbesondere mit Hinsicht auf den KI-Act und die DSGVO der EU).

10) Feedback und Verbesserung

• KI entwickelt sich weiter. Um die Qualität der Weiterentwicklung kontrollieren zu können, ist die Dokumentation von Ständen entscheidend. Wir unterstützen dies durch sorgfältige Dokumentation eigener Tests gemäß §3 sowie von Kundenfeedback aus Abnahmeprozessen in der Projektdokumentation. Die Verantwortlichkeit hierfür liegt beim Projektmanagement.
• Testprotokolle sind kein Geschäftsgeheimnis. Sofern keine Re-Evaluation durch uns gewünscht ist, stellen wir diese Kunden bei Wechsel oder Updates der KI-Lösung auf Anfrage zur Verfügung um eine Re-Evaluation zu erleichtern.