Wie KI Unser Datingleben bestimmt
Dass KI unser Datingleben nicht nur Teil unseres Datinglebens ist, sondern auch beeinflusst ist, ist kein Geheimnis. Aber in welchen Bereichen zeigen sich diese Verstrickungen eigentlich genau? Im folgen gebe ich dir einen Einblick in meine Forschung im Bereich Künstliche Intelligenz und Gesellschaft und erläutre die verschiedenen Ebenen, auf denen KI im zeitgenössichen Liebesleben mitmischt.
Datingapps
Wie viele andere Apps, wie zum Beispiel Social-Media-Plattformen und News-Apps, sind auch Dating-Apps so gestaltet, dass wir möglichst viel Zeit auf ihnen verbringen und unsere Aufmerksamkeit in sie hineinbuttern. Der Grund dahinter ist wirtschaftlicher Natur. Je länger wir auf einer App verbringen, desto mehr Geld können Appbetreibende mit uns verdienen. Das passiert zum Beispiel durch das im Hintergrund ablaufende Erheben von Verhaltensdaten, die dann an Dritte weiterverkauft werden können. Das Sammeln von jeglichen personenbezogenen Daten wird von den Soziolog*innen Marion Fourcade und Kieran Healy als data imperative bezeichnet . Der data imperative beruht auf der Annahme, dass sich das Sammeln sämtlicher Daten irgendwann finanziell rentieren wird, auch wenn zum momentenen Zeit der Nutzen nicht klar ersichtlch ist (Fourcade und Healy, Seeing like a Market, 14-16). Die unvorstellbar grossen Datenmengen die jeden Tag über sämtliche Menschen weltweit gesammelt werden, die digitale Fussabdrücke hinterlassen, werden dann in riesigen Data Farmen gespeichert.
So viel zum Thema Datenakkumulierung durch Apps. Weiter ist es so, dass als physisch attraktiv wahrgenommene Menschen auf Datingapps am beliebtesten sind und von Algorithmen bevorzugt anderen User*innen angezeigt werden, damit diese eben mehr Zeit auf den Plattformen verbringen (Celdir, et. al). Folglich bringen diese Profile dem Unternehmen mehr Geld ein, was im Umkehrschluss bedeutet, dass ebendiese Profile von Menschen, die gesellschaftlich sowieso schon von pretty priviledge profitieren, vom Algorithmus bevorzugt werden.
Bei User*innen führt das dazu, dass diese über körperliche Eigenschaften, die gesellschaftlich als attraktiv gewertet werden, lügen – Männer* häufig über ihre Grösse, Frauen* hingegen eher über ihr Gewicht - um häufiger anderen User*innen angezeigt zu werden. Dazu kommt noch, dass es im Schnitt 2 Sekunden sind, in denen eine Person entscheidet, ob sie nach links oder rechts swipt, also setzt man alles daran, dass der erste Eindruck positiv ist. Natürlich haben Lügen kurze Beine und sind keine Basis für eine vertrauensvolle Beziehung. Spätestens beim ersten Date stellt sich raus, dass sich die Gegebenheiten anders gestalten als angegeben und aus einem potenziell vielversprechenden Match wird nichts, weil sich dann natürlich gefragt wird, worüber eigentlich noch gelogen wurde.
Zusätzlich bezieht der Algorithmus das Level an Aktivität auf der App in die Berechnungen mit ein, das bedeutet natürlich, dass besonders aktive Personen hier einen Vorteil haben, aber auch, dass das Swipen und Schreiben täglich zu einer alltagsbestimmenden Aufgabe wird. Da diese Investition bzgl. Wenn Zeit und Aufwand echt zu viel werden können, entscheiden sich manche User*innen dazu, die Aufgabe mit ihrem Verhalten dem Algorithmus zu entsprechen, an einen anderen outzusourcen.
Dating Bots
Das Outsourcen sieht so aus, dass Datingbots eingesetzt werden. Solche Angebote schlagen entweder ein ganz schönes Loch ins Portemonnaie oder setzen ein sehr hohes Level an technischem Know-how voraus. Bei der Inanspruchnahme von Datingbotanbieterinnen kann die Kundschaft den Ton, die Zielgruppe und das Ziel des Datings festlegen. Ähnlich wie bei der unehrlichen „Datingprofiloptimierung“, beginnt auch hier die erste Verbindung mit einer Lüge, da die andere Seite ja mit einem Bot (oder unbekannterweise mit einer Data Workerin) schreibt und auch in diesem Fall ein Vertrauensbruch vorliegt.
Data Worker*innen und AI Companions
Tatsächlich ist es so, dass in unseren Big Data Socities zwar schon viel digitalisiert ist, aber längst nicht alles ohne Menschen funktioniert, was es vorgibt zu tun. Das Stichwort heisst Data Work. Data Workerinnen sind Personen, die von tech-Firmen häufig in Ländern des Globalen Südens eingesetzt werden, um Daten zu produzieren oder zu labeln, auf denen Algorithmen dann Berechnungen anstellen können, häufig mit dem Ziel, diese Niedriglohnjobs zu ersetzen. Gleichzeitig wird die Arbeit von Data Worker*innen häufig genutzt, um vorzugaukeln, dass etwas mit KI funktioniert, was es gar nicht tut. Was ich damit konkret meine wird deutlich am Fall von Michael Geoffrey Abuyabo Asia. Nachdem der studierte Luftfrachtspediteur aus Neirobi keine Arbeit in seinem Bereich fand, begann er unter anderem für Firmen zu arbeiten, bei denen seine Aufgabe darin bestand, in alle möglichen Rollen zu schlüpfen und gleichzeitig mehreren Chatpartnerinnen seine Liebe und Zuneigung vorzuspielen. Dieser Inhalt seiner Aufgabe wurde ihm zunächst vorenthalten und die wirtschaftliche Not zwang ihn dann in diesem emotional auslaugenden Job zu bleiben. Nach und nach wurde Michael klar, dass er dabei war, AI-Companions zu trainieren. Sprich, Michael und seine Kolleginnen haben unter einem hohen Zeitdruck und bei miserabler Bezahlung Daten über menschliche Verhaltensweisen und Antworten rund um Liebe und Intimität produziert, die dann genutzt wurden, um KI-Partnerinnen zu produzieren, die sie dann ersetzen. Bis heute weiss Michael nicht, ob seine Chatpartnerinnen glaubten, ihre intimsten Geheimnisse mit einem Menschen, den es nicht gibt, oder mit einer KI zu teilen. Durch Praktiken wie jene, die an Michaels ehemaligem Arbeitsplatz angewandet werden, findet nicht nur eine emotionale und wirtschaftliche Ausbeutung der Data Wokrerinnen statt. Zusätzlich werden auch ahnungslosen Cahtpartner*innen ohne ihren Consent damit eine KI trainieren zu wollen, ihre intimsten Gedanken entlockt für wirtschaftlche Zercke, wobei ihnen respektive auch noch vorgegaukelt wird mit dem Menschen auf der anderen Seite eine Verbindung aufzubauen.
Quellen:
Fourcade, Marion, and Kieran Healy. 2017. “Seeing like a Market.” Socio-Economic Review 15 (1): 9–29. https://doi.org/10.1093/ser/mww033.
Celdir, Musa and Cho, Soo-Haeng and Hwang, Elina H., Popularity Bias in Online Dating Platforms: Theory and Empirical Evidence (July 15, 2023). Available at SSRN: https://ssrn.com/abstract=4053204 or http://dx.doi.org/10.2139/ssrn.4053204
Mit der Unterstützung von Data Workers' Inquiry und weiteren AI Justice Institutionen mit denen Michael affiliiert ist, hat er seine Erfahrungen in diesem Essay niedergeschrieben: Asia, M. G. (2025). The Quiet Cost of Emotional Labor. In: M. Miceli, A. Dinika, K. Kauffman, C. Salim Wagner, and L. Sachenbacher (eds.). Data Workers‘ Inquiry. Creative Commons BY 4.0. https://data-workers.org/michael/
Bilder:
Beckett LeClair / https://betterimagesofai.org / https://creativecommons.org/licenses/by/4.0/
