Nr. 114/2022

Mit künstlicher Intelligenz haben Anbieter digitaler Dienste ein mäch- tiges Instrument in der Hand. KI spielt Nutzer*innen speziell auf sie zugeschnittene Werbung zu, versorgt Menschen in sozialen Netzwer- ken gezielt mit Informationen, die zu ihren Interessen passen, und berechnet treffsicher Persönliches wie etwa die politische Einstellung oder sexuelle Orientierung. „Die Unternehmen profitieren sehr davon. Aber auf Nutzerseite lauern Gefahren“, sagt der brasilianische Rechtswissenschaftler José Renato Laranjeira de Pereira. „KI kann Rassismus, Homophobie und Radikalisierung fördern, unter anderem weil sie althergebrachte Vor- urteile verstärkt. Sie kann etwa Menschen mit dunkler Hautfarbe als weniger kreditwürdig bewerten. In sozialen Netzwerken wie Facebook, Twitter oder TikTok spielt sie uns möglicherweise bevorzugt polari- sierende Inhalte radikaler Parteien zu, weil diese intensiver diskutiert und geteilt werden. Das erhöht die Verweildauer imNetzwerk – woran es ein Interesse gibt, weil wir dann mehr Werbung konsumieren.“ Im Berliner iRights.Lab, einer Denkfabrik für die Herausforderungen der Digitalisierung, arbeitet Laranjeira de Pereira an Strategien für mehr Transparenz und Nutzerrechte. „Soziale Netzwerke wie Face- book sollten die Funktionsweise ihrer KI offenlegen. Und zwar so, dass auch Laien nachvollziehen können, wie Entscheidungen dort zustande kommen“, sagt er. „Als Nutzer sollte ich das Recht haben, informiert zu werden, warum mir beispielsweise ein homophober Inhalt ange- zeigt wird. Und das am besten mit nur einem Klick.“ Text NILS EHRENBERG JOSÉ RENATO LARANJEIRA DE PEREIRA ist Bundeskanzler-­ Stipendiat am iRights.Lab Berlin und Mitbegründer des brasilianischen Thinktanks Laboratory of Public Policy and Internet (LAPIN). 2021 nahm er am Humboldt Communication Lab teil. KEYWORDS: radicalisation, social media NACHGEFRAGT HERR LARANJEIRA DE PEREIRA, WIE MANIPULIERT UNS KI? Künstliche Intelligenz wirkt in der digitalen Welt oft als Meinungsverstärker. Sie schafft Filterblasen, fördert radikale Tendenzen und beeinflusst Wahlen. Diese Schattensei- ten der KI erforscht José Renato Laranjeira de Pereira. Foto: Angelo Miguel 10 HUMBOLDT KOSMOS 114/2022