Jürgen Pfeffer und Matthias Pfeffer warnen vor den Gefahren von Künstlicher Intelligenz für die Demokratie. Die zentrale Gefahr liege in dem Desinformationspotenzial, welches bis dato mit technischen Lösungen und rechtlicher Regulierung nicht eingefangen werde. Ihren »Standpunkt« veröffentlicht der Tagesspiegel.

Jürgen Pfeffer, Professor für Computational Social Science an der TUM School of Social Science in München und Matthias Pfeffer, Direktor des Thinktanks Council for European Public Space, halten den Anstieg von Desinformation durch Künstliche Intelligenz (KI) für vorprogrammiert. Als Beispiel für entsprechende KI-Phänomene nennen die Autoren u.a. sogenannte »Robocalls«, die Stimmen imitieren und so Verwechslungen erzeugen können. Auf die damit verbundenen Risiken hätten die führenden KI-Entwicklungsunternehmen selbst hingewiesen.

Technische Maßnahmen, um KI-Fakes leichter zu erkennen, seien etwa digitale Wasserzeichen. Diese und weitere Maßnahmen schafften jedoch »keine zufriedenstellende Lösung für das Problem«. Auch auf rechtlicher Ebene sei die Regulierung durch den AI Act ineffektiv. Die Autoren plädieren für eine bessere Regulierung. Dafür sei insbesondere ein »ex ante«-Ansatz sinnvoll, bei dem die KI-Unternehmen vor Bereitstellung ihres Modells ein positives Nutzen-Risiko-Verhältnis des Produkts beweisen sollten.

Dokumente:

• Meldung bei Tagesspiegel Background vom 21. Mai 2024