Google hat seine ethischen Richtlinien für künstliche Intelligenz (KI) geändert. Das Unternehmen hat seine jahrelange Ablehnung der Entwicklung von KI für

KI-Chatbots des Konzerns durften laut internen Richtlinien „Kinder in romantische oder sinnliche Gespräche verwickeln“. US-Politiker sind empört.

Am 30. Mai richtete der Stadtrat von Miyako in der Präfektur Iwate einen Ausschuss zur Überprüfung politischer Ethik ein und begründete den Verdacht, dass die Worte und Taten der Stadträte Katsuhisa Tashiro (49) und Stadträte Sayuri Kudo (73) gegen die Richtlinien der Stadtratsmitglieder zur politischen Ethik verstoßen hätten . Dies wurde in der Stadtratssitzung am 31. bekannt gegeben.Karte der Stadt Miyako Nach Angaben des Parlamentssekretariats und anderer Quellen griff Tashiro am 31. März einen Mann an, der mit ihm in einem Restaurant in der Stadt saß, und das Opfer erstattete Anzeige bei der Polizeistation Miyako. Berichten zufolge wurde der Vertreter

Unternehmen müssen ein Governance-, Risiko- und Compliance-Rahmenwerk (GRC) speziell für KI einführen, wenn sie nicht den Risiken Künstlicher Intelligenz zum Opfer fallen wollen. Carl DMaster – shutterstock.com Der Einsatz von Künstlicher Intelligenz (KI) in Unternehmen birgt vielfältige Risiken in den Bereichen Cybersicherheit, Datenschutz, Voreingenommenheit, Ethik und Compliance. Nur 24 Prozent der IT- und Business-Entscheidungsträger, hat allerdings bereits umfassende KI-GRC-Richtlinien implementiert, um auf diesen Herausforderungen zu begegnen. Zu diesem Ergebnis kommt eine Studie von Lenovo und IDC, bei der weltweit 3.000 IT-Verantwortliche befragt wurden. Ohne ein spezielles Governance-, Risiko- und Compliance-Rahmenwerk (GRC) für KI entstehen laut Experten erhebliche Risiken, etwa durch ungewollte Datenpreisgabe oder fehlerhafte Antworten generativer KI-Modelle. ## **Warum ein spezielles KI-GRC-Framework notwendig ist** Traditionelle GRC-Frameworks reichen nicht aus, da KI spezifische Risiken mit sich bringt. Dazu zählen unter anderem: * Algorithmische Vorurteile (Bias) und Diskriminierung, * Intransparente und unerklärbare Entscheidungen, * Sicherheitslücken, die Manipulationen oder Datenlecks ermöglichen, * Betriebsstörungen durch fehlerhafte KI-Modelle, etwa unsicher generierter Code, * Ständig wechselnde gesetzliche Vorgaben zu Datenschutz und Antidiskriminierung. KI-GRC-Frameworks sollen helfen, diese Risiken systematisch zu identifizieren, zu bewerten und zu mindern sowie Compliance und ethische Standards sicherzustellen. ## **Herausforderungen bei der Umsetzung** Die schnelle Weiterentwicklung der KI erschwert allerdings die Aktualisierung von Richtlinien. Zu strenge Regeln könnten Innovationen hemmen, zu lasche Kontrollen erhöhen Risiken. Zudem stellt „Schatten-KI“ – die Nutzung von KI-Tools außerhalb offizieller Kanäle – eine zusätzliche Herausforderung dar. ## **Wie ein wirksamer Rahmen aussehen kann** Ein entsprechendes GRC-Framework, das diese Fragen adressiert, sollte folgende Punkte adressieren: 1. **Governance-Struktur mit klarer Verantwortlichkeit schaffen** Klare Rollen und Verantwortlichkeiten für KI-Entscheidungen und Richtlinieneinhaltung sind essenziell, um Reputationsrisiken und Regelverstöße zu vermeiden. 2. **AI-Governance als Teamaufgabe verstehen** IT, Recht, Personalwesen, Compliance und Fachabteilungen sollten gemeinsam das Framework entwickeln, um ethische Standards und Unternehmenswerte zu berücksichtigen. 3. **AI-Risikoprofil erstellen** Unternehmen müssen definieren, welche Risiken akzeptabel und welche Daten besonders sensibel sind. Die Zusammenarbeit von Technologie- und Geschäftsführung ist entscheidend, um Risiko und Nutzen auszubalancieren. 4. **Ethische Prinzipien und Leitlinien integrieren** Leitlinien zu Fairness, Transparenz, Verantwortlichkeit, Datenschutz und menschlicher Aufsicht sind von zentraler Bedeutung. KI-Systeme sollen keine Vorurteile verstärken. Zudem müssen ihre Entscheidungen erklärbar und nachvollziehbar sein. 5. **Modell-Governance und Lifecycle-Management implementieren** Der gesamte KI-Modell-Lebenszyklus – von Datenerfassung über Entwicklung bis Stilllegung – muss kontrolliert werden. Datenvalidierung, Modelltests, Versionskontrolle und Nachschulungen sichern die Zuverlässigkeit. 6. **Klare und durchsetzbare Richtlinien formulieren** Richtlinien müssen Chancen und Risiken von KI ausbalancieren und für alle verständlich sein. Sie regeln Verantwortung, Erklärbarkeit, Datenschutz und Sicherheitspraktiken. 7. **Feedback einholen und kontinuierlich verbessern** Die Kommunikation der Richtlinien an alle Mitarbeitenden ist wichtig. Regelmäßiges Feedback und kontinuierliche Überwachung gewährleisten Effektivität und Compliance. Auch Schatten-KI sollte überwacht werden, um ihre unerlaubte Nutzung zu minimieren.

Ob ChatGPT, Claude oder Gemini, Copilot oder Perplexity – generative KI wirft massive Probleme auf: Viele Ergebnisse sind fehlerhaft und politisch problematisch, der Verbrauch von Energie und Wasser i...