Weiß man bald alles über uns? "Vom Computer geoutet"

Schwules Forum Philosophie & Tiefgründiges
#1

Etwas mehr Einleitungstext: Es mag abschreckend wirken, aber ich will versuchen bei dem Thema einen kleinen Einstieg zu geben. Lesen lohnt sich.

Zuallererst ein Artikel, den timtom im Chat geteilt hat: sueddeutsche.de/digital/kuen … -1.3660298

Es geht ja im wesentlichen darum, dass Computern die Fähigkeit antrainiert wird bestimmte Eigenschaften zu ermitteln, auf Grundlage von Bildern. Trainiert wird die Maschine mit verschiedenen Datensätzen, erkennen kann sie damit z.B. die Sexualität (passt wohl in das Forum ganz gut hinein).
Jetzt ergeben sich natürlich mehrere Ansätze, denn der Autor des Artikels sieht das ganze durchaus kritisch:
Zum einen ist die Einschätzung der Maschine nicht immer richtig, denn letztlich kann so eine Maschine auch nur mit dem Material arbeiten, dass ihr vorgesetzt wird. Somit arbeitet sie teilweise auch mit Stereotypen, wenn auch wesentlich komplexer als wir es im Alltag tun. Dennoch können wir alle bestätigen, dass eben zwischen vielen Klischees und der Neigung ein Zusammenhang besteht, wenn der auch nicht immer eindeutig ist.
Weiterhin wird dadurch klar, dass, wenn die Quote tatsächlich so hoch ist wie im Artikel, dass eben viele Stereotype, bzw. äußere Merkmale, tatsächlich auf Homosexualität hinweisen. Gleichzeitig wird durch die Fehlschlagquote aber deutlich, dass der Zusammenhang eben nicht eindeutig ist - Da sie aber eben so gering ist, eben doch groß. Somit können wir also nicht alles einfach als Klischee abtun, wenn man äußerlich tatsächlich die Sexualität mit einer gewissen Sicherheit einschätzen kann.

Natürlich geht das, wie im Artikel beschrieben, nicht nur mit Sexualität. Aber dieser Punkt verdeutlicht ganz gut, wie fatal es wäre, wenn so eine Technologie großflächigen Einsatz fände. Man überlege sich: In einem Land wie Russland, oder schlimmer noch, im Iran, würde eine solche Technologie eingesetzt werden (wie im Artikel auch angedeutet wird, durch den Arbeitgeber z.B.), um eben Homosexuelle zu erkennen um ihnen dann z.B. einen Job zu verweigern, oder im Iran dann gar mit dem Tode bestrafen könnte. Käme ein konservativer Hardliner mit einem Hang zu moderner Technik daher - Nicht auszudenken.
Aber diese Dystopie ist im Grunde bekannt, dass durch Maschinen immer mehr über uns bekannt wird, man überlege sich wie es wäre, wenn vorbestrafte Bürger immer erkannt und stigmatisiert werden würden, obwohl sie sich längst gebessert haben.
Und dann kommt das letzte Problem: Letztendlich basiert das alles auf Daten, Merkmalen etc. und es kann fehlschlagen. Somit würden dann auch unschuldige Menschen Nachteile befürchten müssen, im Grunde wäre niemand mehr sicher. Denn einerseits könnte man nun allerhand Menschen durchleuchten, was zwar aus Sicht desjenigen, der es tut, durchaus sinnvoll ist, aber gegenüber den Menschen eben unfair und aufgrund der Fehlschlagquote, auch ein Stück weit willkürlich. Es geht ja nicht nur um unschuldige Opfer, sondern, dass man Menschen auf gewisse Eigenschaften von vornherein reduziert und dann versucht sie einzuteilen danach, ohne den Menschen selbst eine Chance zu geben.
Ich finde diesen Artikel sehr schön, da er exemplarisch zeigt, was für Herausforderungen die sich immer rasanter entwickelnde Technik gesellschaftlich bringt. Letztendlich ist es ja nicht undenkbar, dass man den Einsatz solcher Gerätschaften teilweise verbieten müsste - Im besten Falle, wenn der Staat nicht selbst auf sowas zurückgreift (was zumindest im Rechtsstaat Deutschland nicht machbar wäre).

Ich möchte euch also zwei Ansätze geben, wozu mich Meinungen interessieren würden:

  1. Spricht die Erfolgsquote nicht dafür, dass Klischees eben mehr sind als das, und der Zusammenhang zwischen diesen (wenn auch viel subtiler als man es sich vorstellt) und, zwar nicht nur, aber in diesem Fall exemplarisch, der Sexualität eben doch größer ist als viele tun? Sind verschiedene Merkmale, was weiß ich, z.B. weichere Gesichtszüge bei Schwulen eben nur ein Klischee, oder doch ein handfester Hinweis auf die Sexualität? Hormonelle Unterschiede z.B. kann man ja ohnehin teilweise nachweisen - aber eben nicht immer. Also, was ist eure Meinung?
  2. Was glaubt ihr, wie sich die Gesellschaft selbst und ihr Umgang mit solchen Technologien entwickeln wird? Befürchtet ihr persönlich, dass moderne Technik staatlich missbraucht werden könnte? Seht ihr Bedarf bei Regelungen, meint ihr solche Technologien sollten rechtzeitig verboten werden? Wo glaubt ihr entwickelt sich unsere Gesellschaft hin?

Und zu guter Letzt: Der Artikel verweist darauf: Die Maschinen sind nicht unfehlbar, es sind wie gesagt, alles Klischees. Menschen sind am Ende halt doch mehr als nur Datenpakete. :slight_smile:

#2
  1. Es kommt ganz darauf an wie gut jetzt wirklich der Algorithmus ist, um aufgrund der Studie Rückschlüsse zu ziehen. Die Sache ist, dass hier ein Supervised Machine Learning Algorithmus benutzt wurde, das heißt, man gibt dem Computer erst einmal sehr viele Bilder bei denen die Sexualität angegeben ist. Aber wer sagt, dass die angegebene Sexualität zu den Bildern denn immer stimmt? Gerade bei 35.000 Bildern von einer Datingseite (hiervon sind die Bilder). Wie viele Fake Profile sind darunter? Zusätzlich sind Internetseiten nie wirklich repräsentativ für die Gesamtbevölkerung, da bestimmte Gruppen von Menschen bestimmte Websites öfter aufsuchen.

Vielleicht stimmt es, dass homosexuelle Männer im Durchschnitt “weichere” Gesichtszüge haben, bedingt durch eventuelle hormonelle Unterschiede. Vielleicht nicht. Man weiß es nicht und kann darüber erst eine Aussage treffen, wenn man das Thema stärker erforscht hat.

  1. Das ist eine sehr interessante Frage. Es kann sich in jede mögliche Richtung entwickeln: In eine Utopie in der wir die meisten Krankheiten geheilt haben oder aber in eine Dystopie in der KIs alles entscheiden: Ob du den Jobs bekommst, wo du wohnen darfst und vielleicht sogar ob du dich überhaupt fortpflanzen darfst.

Diese Technologien werden heute schon in den verschiedensten Feldern eingesetzt: Bei Kreditinstituten, die deinen Kreditrahmen anhand diverser Daten berechnen.
In den USA wird in vielen Städten berechnet, wo mit höchster Wahrscheinlichkeit demnächst ein Verbrechen statt finden könnte.
Ebenso gibt es KIs die jetzt schon mit höherer Wahrscheinlichkeit als ein Arzt sagen können ob du eine bestimmte Krankheit hast (siehe IBM Watson bei Krebs).
Ich bin mir nicht sicher, meine aber es wird in manchen Ländern bei Gefängnisinsassen berechnet wie hoch die Wahrscheinlichkeit ist, dass sie nach dem Entlassen nochmal eine Straftat begehen werden.

Über genau das Thema habe ich erst gestern einen Roman gelesen indem eine Firma, berechnet hat mit welcher Wahrscheinlichkeit ein Mensch ihrer Firma schaden könnte mithilfe von KIs und Datasammlung, und ist er über eine gewisse Prozentzahl gestiegen, wurde er eliminiert. Gerade hier liegt das Problem: So eine Technologie kann von einzelnen Menschen (-gruppen) ausgenutzt werden. Trotzdem würde ich sie nicht verbieten, da sie ein extrem hohes Potenzial bietet (könnte man sowieso nicht wirklich umsetzen denke ich).
Ein Problem liegt dabei, dass die Technologie leicht auszunutzen ist, für den Staat als auch Firmen oder Privatorganisationen. Gerade das Beispiel das angesprochen wurde, dass man seinen Job verlieren kann oder dass einem sogar die Todesstrafe droht weil ein Algorithmus sagt, dass man sehr wahrscheinlich homosexuell sein könnte, ist sehr extrem und wird sehr wahrscheinlich zum Vorschein kommen weil so viele Menschen auf diesem Planet fanatisch und verrückt sind. Ein wesentlich größeres Problem meiner Meinung nach ist, dass man Menschen nicht auf Daten reduzieren kann, ja natürlich in manchen Fällen haben die Daten Recht, aber eben nicht in allen und genau dadurch können große Trugschlüsse entstehen.

Wie wird das ganze Ausgehen? Das ist die große Frage. Ich verfolge auf jeden Fall gespannt diverse Forschungsergebnisse auf dem Feld der Künstlichen Intelligenz. Im Moment bin ich noch ziemlich optimistisch, wie diese Technologie die Zukunft verändern wird, aber wer kann schon sagen, was morgen passieren wird?

#3
  1. kA. ich halt von solchen programmen nichts. ohnehin braucht keine sau sowas. allein durch die analyse vom surfverhalten kann man einen menschen ähnlich gut oder falsch einschätzen.

aber wenn mich google eines tages mit nasaler stimme mit:

Hallooo, Deetlev, sind wir heut wieder mal gut drauf? Hier eine liste mit guten schminkshops!

begrüsst, wirds zeit kontakt mit dem untergrund aufzunehmen, um das GoogleHQ in die luft zu jagen. symbolisch wenigstens.

  1. da seh ich zwei möglichkeiten:

entweder werden wir paranoider als wir schon sind
oder wir werden noch desinteressierter als heute

#4

Okay, aber wer hat denn was davon, Bilder mit falscher Sexualität zu versehen? Außerdem, wie ließe sich die Erfolgsquote dann erklären? Das würde dann nur hinhauen, wenn entweder die Erfolgsquote ebenfalls geschummelt wäre, oder eben, dass man dennoch Bilder genommen hat, die stark auf Klischees beruhen und nicht so zufällig, wie getan wird.

Das stimmt absolut. Es ist aber im ersten Moment nicht ersichtlich, ob zwischen Klischeeschwuppe und Aufsuchen so einer Seite ein Zusammenhang besteht. Ich denke eher nicht, aber wissen kann man es auch nicht.

Sehr interessant.

Das stimmt, aber das ist ja auch das Problem, das könnt ein autokratischen Systemen, wenn sie auf diese Weise Verfahren unberechenbare Folgen haben, da des denen ja egal wäre, wenn auch “unschuldige” betroffen wäre, die dann vorverurteilt werden würden, als wäre die Zielgruppe zu misshandeln nicht schlimm genug. Aber ohnehin kann man dagegen nichts machen, ein Verbot bezöge sich eher auf einen Missbrauch durch Vermieter oder Arbeitnehmer. Wobei ein Verbot wohl tatsächlich nur schwer umsetzbar wäre, dennoch ist die Vorstellung, dass Leute auf diese weise stigmatisiert werden, durchaus gruselig. Aber natürlich weiß man nicht, wie sich das entwickelt, wie das gesamte Feld der künstlichen Intelligenz.

Nö, du brauchst das nicht. Aber wenn die Entwicklung weitergeht, gibt es vielleicht mal jemanden, der meint das wäre nützlich für ihn. Und wer weiß, wie viel solche Systeme irgendwann leisten können. Was man dann anstellen könnte ist die Frage. Das zwischen manchen Klischees und der Sexualität ein Zusammenhang besteht ist ohnehin klar. Es ist halt nicht nur ein Klischee, es wird halt nur oft auf alle ausgeweitet.

Du spielst wohl auf Datenschutzfanatiker an. Naja. Manche mögen es übertreiben, aber natürlich ist es nicht ganz ungerechtfertigt, denn man ahnt es nicht, aber wenn man ausgespäht wird, kann das eben irgendwann Nachteile bringen, selbst für Unschuldige. Aber bisher ist es ja zumindest noch so, dass nur die elektronische Kommunikation ausgespäht wird, z.B. von der NSA, oder auch gezielter von der CIA. Was damit angestellt werden kann, entzieht sich der Kenntnis der meisten Leute - Denen ist es egal. Noch desinteressierter zu werden wäre aber auch nicht schön. Irgendwann wären wir alle nur noch Marionetten der Datensammler, vor allem falls man irgendwann jederzeit online ist und dauerhaft jemand Daten sammelt…

#5

Da es von einer Dating Seite kommt, gibt es folgende Möglichkeiten zum Beispiel: Menschen die sich unsicher in ihrer Sexualität sind und der Einfachkeit halber Hetero angeben; Menschen die versuchen ihre Homosexualität zu unterdrücken; Fake Profile (also ein schwuler Mann sucht sich Bilder von einem der zufällig Hetero ist oder umgekehrt).
Ebenso die Frage was ist mit Bisexualität? Wurde das bei der Studie ignoriert? Zu Homosexualität gezählt oder zu Heterosexualität?

Das mit der Erfolgsquote ist echt dann so ne Sache, aber da es Statistik ist, könnte man da schummeln indem man verschiedene Parameter verändert und so weiter, ebenso weiß man nicht aus wie vielen Beispielen sich die Erfolgsquote errechnet (oder habe ich das überlesen?) oder wie stellvertretend diese Beispiele sind im Vergleich zu den Bildern die der Algorithmus vorher bekommen hat. Letzendlich keine Ahnung wie vernünftig die Analyse ist, von daher ist das mit der hohen Erfolgsquote schon so ne Sache, fände es mal ganz interessant herauszufinden wie die KI bei Bildern bei mir oder bei Freunden, von denen ich die Sexualität weiß, reagiert :smiley:

Habe gerade ein Video auf YouTube gesehen: Indem ging es darum, dass erste Firmen KIs Job Interviews untersuchen lassen um unter anderem die Motivation einzelner Teilnehmer herauszufinden und nach den bestem Bewerbern zu suchen, indem auf die Körpersprache geachtet wird: Video; Website des KI Unternehmens

Auf jeden Fall die billigste und zeitsparendste Lösung für große Unternehmen die mehrere Tausend Bewerbungen für ein Stellenangebot bekommen. Bei dem Thema bin ich gewissermaßen geteilter Meinung. Natürlich es wird falsch positive und falsch negative Fehler geben, die Sache ist aber folgende: Sind es mehr oder weniger Fehler als wenn nur ein Mensch die Kandidaten beurteilt? Weil genau da liegt der springende Punkt: Auch Menschen machen Fehler, wenn die KI nun weniger macht als der Mensch finde ich die Anwendung in diesem Fall unproblematisch, solange Menschen nochmal drüber gucken und nicht alles der Technik überlassen.