KI - Nutzen vs. Risiken
Einstieg
In diesem Lernpfad beschäftigst du dich mit der Frage, welche Chancen und Risiken mit dem Einsatz von Künstlicher Intelligenz verbunden sind.
Zunächst geht es darum, mögliche Probleme und Risiken zu erkennen und einzuordnen. Danach untersuchst du, in welchen Situationen der Einsatz von KI sinnvoll sein kann und wo Risiken überwiegen können. Anschließend lernst du verschiedene Möglichkeiten kennen, wie Risiken begrenzt und KI-Systeme sicherer entwickelt und eingesetzt werden können.
Am Ende sollst du in der Lage sein, den Einsatz von KI in einem konkreten Fall abzuwägen und eine eigene Entscheidung zu begründen.
Das Problem
Das Problem
Künstliche Intelligenz kann dir bei vielen Aufgaben helfen: Sie kann Texte erstellen, Bilder erzeugen, Informationen auswerten oder bei Entscheidungen unterstützen.
Je leistungsfähiger KI-Systeme werden und je häufiger sie eingesetzt werden, desto wichtiger wird aber auch die Frage, welche Probleme dabei entstehen können. KI-Systeme können Fehler machen, falsche oder verzerrte Ergebnisse liefern oder gezielt für schädliche Zwecke eingesetzt werden. Manche Risiken entstehen außerdem dadurch, wie KI entwickelt, kontrolliert und eingesetzt wird.
Deshalb reicht es nicht aus, nur zu fragen: Was kann KI?
Wir müssen auch fragen:
- Welche Risiken entstehen durch den Einsatz von KI?
- Wer kann davon betroffen sein?
- Wie können Risiken begrenzt werden?
- Wann überwiegt der Nutzen – und wann vielleicht das Risiko?
Video
Schau dir das folgende Video an. Es gibt einen kurzen Einblick in eine Untersuchung zu wichtigen Risiken von Künstlicher Intelligenz.
Beobachtungsauftrag
Notiere beim Anschauen:
- Welche Risiken werden angesprochen?
- Welche davon waren dir bereits bekannt?
- Gibt es ein Risiko, das dich überrascht?
Noch musst du die einzelnen Risiken nicht genau erklären können. Im nächsten Abschnitt beschäftigst du dich damit genauer.
Risiken identifizieren
Risiken identifizieren
Risiken beim Einsatz von Künstlicher Intelligenz können sehr unterschiedlich entstehen. Für diesen Lernpfad betrachten wir fünf Bereiche genauer.
1. Fehler und falsche oder verzerrte Ergebnisse
KI-Systeme können falsche Informationen liefern oder Zusammenhänge falsch darstellen. Ergebnisse können außerdem verzerrt sein, wenn zum Beispiel die verwendeten Daten bestimmte Gruppen oder Sichtweisen nicht ausreichend berücksichtigen. Problematisch wird dies besonders dann, wenn Menschen den Ergebnissen ungeprüft vertrauen.
2. Desinformation und Manipulation
Mit KI lassen sich Texte, Bilder, Stimmen und Videos schnell und überzeugend erzeugen. Dadurch können auch falsche Informationen verbreitet oder echte Inhalte verändert werden. Es kann schwieriger werden zu erkennen, welchen Informationen man vertrauen kann.
3. Missbrauch von KI
KI kann auch für Betrug, Täuschung oder Cyberangriffe eingesetzt werden. Sie kann Menschen dabei unterstützen, bestimmte Aufgaben schneller oder einfacher auszuführen und dadurch bereits bestehende Gefahren verstärken.
4. Kontrolle und Sicherheit leistungsfähiger KI-Systeme
KI-Systeme können immer komplexere Aufgaben übernehmen. Deshalb stellt sich die Frage, welche Fähigkeiten sie haben sollen, welche Grenzen notwendig sind und wie sich verhindern lässt, dass Systeme unerwünschte Ergebnisse erzeugen oder unerwünschte Methoden einsetzen.
5. Konzentration von Macht
Die Entwicklung besonders leistungsfähiger KI benötigt große Mengen an Daten, Rechenleistung und Geld. Dadurch können wenige Unternehmen oder Staaten großen Einfluss darauf erhalten, wie KI entwickelt und eingesetzt wird und wer von ihr profitiert.
Aufgabe
Informiere dich zu allen fünf Risikobereichen weiter.
Ergänze zu jedem Bereich:
- ein konkretes Beispiel,
- eine kurze Erklärung, worin das Risiko besteht,
- wer davon betroffen sein könnte.
Hilfen für deine Recherche
Nutze die Quellen unterhalb für deine Recherche.
Coded Bias
Der Text erklärt am Beispiel von Coded Bias, wie Verzerrungen in Daten und KI-Systemen zu Benachteiligungen führen können.
Quelle: iRights.Lab für KI-Campus, Lizenz: CC BY-SA 4.0 International.
Download/Anzeigen: coded-bias-koennen-maschinen-diskriminieren.pdf (119.915 Bytes)
Weitere Quellen
Hilfen für deine Recherche
Fehler und verzerrte Ergebnisse
- Material im Lernpfad: Coded Bias – Können Maschinen diskriminieren?
Desinformation und Manipulation
Missbrauch von KI
Kontrolle und Sicherheit leistungsfähiger KI-Systeme
- Deutschlandfunk: Ist KI noch zu kontrollieren?
- tagesschau.de: OpenAI bremst Entwicklung von KI-Modell
- tagesschau.de: Risiken ernst nehmen, aber nicht dramatisieren
Machtkonzentration und gesellschaftlicher Einfluss
Du kannst für deine Recherche auch weitere geeignete und vertrauenswürdige Quellen verwenden. Notiere immer, welche Quellen du genutzt hast.
Risiken erkennen und einordnen
Prüfe mit der interaktiven Anwendung, ob du die fünf Risikobereiche anhand von Fallbeispielen erkennen und einordnen kannst.
Nutzen und Risiken abwägen
Wann ist der Einsatz von KI sinnvoll? Wäge in der interaktiven Entscheidungsrunde Nutzen und Risiken anhand zweier Fallbeispiele ab. Beziehe zusätzliche Informationen und andere Sichtweisen ein und begründe deine eigene Einschätzung.
Deine Antworten kannst du als PDF oder Textdatei sichern.
KI Sicherheit
Wer kann handeln?
Wie lassen sich die Risiken beim Einsatz von KI begrenzen? Wer kann dafür sorgen, dass KI-Systeme möglichst sicher arbeiten?
In acht interaktiven Entscheidungskarten untersuchst du, welche Schutzmaßnahmen du als Anwender selbst treffen kannst und welche Verantwortung Entwickler, Anbieter, Prüfer und staatliche Stellen tragen.
Wähle bei jeder Karte zunächst eine Antwort und drehe die Karte anschließend um. Du erhältst eine Rückmeldung zu deiner Entscheidung sowie Hinweise auf weiterführende Quellen.
Eine begründete Entscheidung treffen
Eine begründete Entscheidung treffen
Im Verlauf dieses Lernpfads hast du dich mit den Chancen und Risiken Künstlicher Intelligenz beschäftigt. Du hast konkrete Fälle untersucht, Risiken eingeordnet und Möglichkeiten kennengelernt, wie sich diese begrenzen lassen.
Zum Abschluss sollst du deine Erkenntnisse nutzen, um eine eigene, begründete Entscheidung zur zukünftigen Entwicklung und zum Einsatz von KI zu treffen.
1. Unterschiedliche Sichtweisen auf KI
In der öffentlichen Diskussion wird Künstliche Intelligenz häufig entweder als Lösung für viele gesellschaftliche Probleme oder als große Bedrohung dargestellt. Doch sind diese beiden Sichtweisen ausreichend?
Die Comic-Essayistin und ehemalige KI-Beraterin Julia Schneider beschäftigt sich mit dieser Frage. In einem Interview mit der Bundeszentrale für politische Bildung erläutert sie, warum es wichtig ist, unterschiedliche Perspektiven auf die Entwicklung von KI zu berücksichtigen.
Interview: „Eine Geschichte setzt das Erzählen voraus“
Arbeitsauftrag: Lies im Interview insbesondere die Antworten auf die Fragen „Welche Digitalisierungsnarrative prägen unsere gesellschaftliche Wahrnehmung von KI derzeit?“ und „Wie entstehen verbreitete Erzählungen über KI-Technologien und wer erzählt diese Geschichten?“
- Welche beiden vorherrschenden Sichtweisen auf KI beschreibt Julia Schneider?
- Warum hält sie diese Darstellungen für unvollständig? Nenne mindestens zwei Aspekte, die ihrer Meinung nach häufig zu wenig berücksichtigt werden.
2. Deine Entscheidung
Stell dir vor, du gehörst einem Beratungsgremium an, das Empfehlungen für den zukünftigen Umgang mit leistungsfähigen KI-Systemen erarbeiten soll.
Die Frage lautet: Sollten für die weitere Entwicklung und den Einsatz leistungsfähiger KI-Systeme strengere, verbindliche Regeln gelten?
Entscheide, welche Position du vertrittst. Du kannst strengere Regeln befürworten, ablehnen oder eine differenzierte Lösung vorschlagen.
3. Begründe deine Entscheidung
Verfasse eine kurze schriftliche Stellungnahme. Berücksichtige dabei:
- Deine Position: Welche Entscheidung empfiehlst du?
- Deine Begründung: Welche Chancen und Risiken sind für deine Entscheidung besonders wichtig? Nutze konkrete Beispiele aus dem Lernpfad.
- Dein Vorschlag: Welche Sicherheitsmaßnahmen oder Regeln hältst du für notwendig beziehungsweise warum hältst du zusätzliche Regeln nicht für erforderlich?
- Ein Gegenargument: Was könnte gegen deine Entscheidung sprechen? Wie beurteilst du diesen Einwand?
Überprüfe abschließend, ob du bei deiner Entscheidung unterschiedliche Perspektiven berücksichtigt hast oder dich vor allem von einer positiven beziehungsweise negativen Vorstellung über KI hast leiten lassen.
Zur Vertiefung (freiwillig)
In ihrem englischsprachigen Comic-Essay „AI 2027?“ setzt sich Julia Schneider kritisch mit einem Zukunftsszenario auseinander, das vor einem möglichen Kontrollverlust über leistungsfähige KI-Systeme warnt. Sie hinterfragt die zugrunde liegenden Annahmen und zeigt weitere Perspektiven auf die zukünftige Entwicklung von KI auf.
