Erzähl deine Geschichte auf der jungen Webseite der Süddeutschen Zeitung. Dein Publikum wartet.
Der Zufall ist kein Unschuldslamm
Ein Händler hat über Amazon T-Shirts angeboten, auf denen per Algorithmus generierte Sprüche stehen. Einer davon lautete "Keep calm and rape a lot" - eine Aufforderung zur Vergewaltigung. Die Empörung war groß. Aber wer ist denn eigentlich dafür verantwortlich: Mensch oder Maschine?
Kein vernünftiger Mensch würde ein T-Shirt designen, auf dem „Bleib locker und vergewaltige deine Mitmenschen“ steht. Aber ein Algorithmus ist kein vernünftiger Mensch. Ein Algorithmus designt so etwas.Wegen eines computergenerierten Shirts mit einem ähnlichen Aufdruck gab es am vergangenen Wochenende eine Menge Aufregung im Netz. Die Firma „Solid Gold Bomb“ (SGB) hat über Amazon Marketplace UK T-Shirts mit Variationen des populären, aus der britischen Propaganda während des zweiten Weltkriegs stammenden Spruchs angeboten: „Keep calm and carry on“. Der Shop funktionierte nach dem „Print on demand“-Pinzip. Die Kleidungsstücke stapelten sich also nicht fertig in einem Lager, sondern wurden erst bedruckt, wenn jemand sie bestellte. Die Idee ähnelte der des Zufallsshirts von Kathrin Passig: Ein Algorithmus sorgte für immer neue Kombinationen des Spruchs und wählte dabei aus der langen Verbliste eines Wörterbuchs. Aus „Keep calm and“, einem Verb und einer Ergänzung um „off“, „them“, „it“, „a lot“, „him, „her“ oder „us“ konnten unendlich viele verschiedene Sprüche entstehen. So ein Spruch konnte zum Beispiel „Keep calm and dance off“ oder „Keep calm and kiss her“ lauten. Aber eben auch „Keep calm and rape a lot“. Und genau das ist passiert.
Kurz darauf begann der Empörungssturm auf Twitter. Widerlich, respektlos, schrecklich sei dieser T-Shirt-Spruch, schrieben die Nutzer. Womit sie durchaus Recht hatten. Die Aufforderung zu einem Verbrechen, in diesem Fall sogar in bunter, scherzhafter Aufmachung, sollte man nicht auf der Brust tragen. Zudem spuckte der Algorithmus noch andere, ähnlich anstößige Sprüche aus. Der Anbieter reagierte schließlich auf die Beschwerden. Mittlerweile kann man die Shirts auf Amazon nicht mehr finden. Klickt man auf der Homepage von Solid Gold Bomb auf das Banner, über das sie noch angeboten werden, führt der Link ins Leere. Und auf drei von fünf Unterseiten findet man das Statement und die Entschuldigung des SGB-Gründers Michael Fowler. „Es war ein Computerfehler, den ich verursacht habe, und ich übernehme die Verantwortung dafür“, schreibt Fowler. Man habe nie die Intention gehabt, gewalttätige oder geschmacklose Slogans zu verbreiten und er bedauere den Ärger, den seine Unachtsamkeit verursacht habe.
Fowler versteckt sich nicht ganz hinter seiner Technik, er sagt: Ich bin Schuld. Das stimmt insofern, als dass auch ein Algorithmus von Menschen programmiert wird. Aber er wird programmiert, um anschließend etwas zu tun, mit dem man nicht rechnet. Ein Algorithmus ist ein Spiel mit dem Zufall. Beziehungsweise, und das ist etwas paradox, mit dem beabsichtigten Zufall. Wir sind in der Lage, die Technik so zu steuern, dass sie uns überrascht, sie erst zu beherrschen, um dann die Zügel schießen zu lassen. Das ist Machtausübung, um die Macht abgeben zu können. Aber wie unschuldig ist dieser produzierte Zufall? Ist alles, was er hervorbringt, in Ordnung, weil keine Absicht dahintersteckt, weder eine böse, noch eine gute? Oder muss jemand mit Sinn und Verstand aufpassen, dass der Zufall nichts Menschenverachtendes, Verletzendes oder Gefährliches produziert?
Der Blogger Pete Ashton hat am Samstag einen Text veröffentlicht, in dem er den SGB-Patzer erklärt. Er betont ausdrücklich, dass er das T-Shirt nicht verteidigen möchte (vor allem, nachdem er massiv für seinen Beitrag angegriffen wurde), aber führt zwei Argumente an, die die Aufregung schmälern sollen: 1. Das Rape-T-Shirt existiert nicht. Es gibt nur eine Idee davon auf dem Bildschirm. Solange niemand es bestellt, wird es niemals ein reales Shirt sein. 2. Niemand hat dieses Design entworfen und abgesegnet. Niemand hat entschieden, dass es eine gute Idee wäre, Shirts mit dem Aufruf zur Vergewaltigung zu bedrucken. Laut Ashton liegt die Verantwortung also allein beim Algorithmus und den kann man nicht bestrafen. Fowler hätte sich also theoretisch dahinter verstecken können.
So wie es Google macht. Vor kurzem hat die Havard-Professorin Latanya Sweeney eine Studie veröffentlicht. Sie hat herausgefunden, dass Google Ads bei einer Suche nach Personen mit Namen, die meist schwarze Menschen tragen, wie beispielsweise Darnell oder Jermaine, eher Anzeigen generiert, die mit Kriminalität in Verbindung gebracht werden, als bei der Suche nach „typisch weißen“ Namen wie Geoffrey oder Emma. Als die Professorin den Namen „Latanya Farrell“ googelte, stieß sie zum Beispiel auf eine Anzeige der Seite instantcheckmate.com, auf der man herausfinden kann, ob eine bestimmte Person schon einmal festgenommen wurde. „Latanya Farrell, arrested?“ lautete der Text der Anzeige. Ergebnisse wie dieses waren für „schwarze“ Namen 25 Prozent wahrscheinlicher als für „weiße“. Für „Kristen Sparrow“ zum Beispiel erschien lediglich eine Anzeige von peoplessmart.com, einer generellen Personensuchseite, Anzeigentext: „We found: Kristen Sparrow“. Der Algorithmus bedient sich hier der statistisch höheren Kriminalitätsrate von Personen dunkler Hautfarbe – und agiert rassistisch. Natürlich nicht bewusst. Aber Google übernahm, anders als Fowler, keine Verantwortung für die eigene technische Schöpfung. Ihre Technik, so ein Google-Sprecher, verknüpfe keinen Namen mit einer bestimmten Rasse und man habe auch nie versucht, sie derart zu programmieren. Er sagt: Wir sind nicht Schuld. Verweist aber auch auf die Kunden, die die Anzeigen nutzen. Diese entschieden, bei welchen Schlüsselwörtern ihre Anzeigen generiert würden. Von denen hat sich bisher aber noch keiner geäußert.
Man kann die Frage, wer für die mitunter komischen Auswüchse eines Algorithmus verantwortlich ist, wohl nicht abschließend beantworten. Und darum auch nicht, ob regelmäßig kontrolliert werden sollte, was durch ihn entsteht. René Walter von Nerdcore hat dem Rape-Shirt-Fall einen Beitrag auf seinem Blog gewidmet. Er schließt mit den Worten: „Von Kram wie diesem werden wir noch jede Menge hören.“ Das Spiel mit dem Zufall wird weitergehen. Je besser die Technik wird, desto leichter wird es sein, einen Algorithmus zu programmieren, und desto größer werden womöglich auch die Überraschungen, die er produziert. Solange es nur T-Shirts sind, die keiner kauft, kann man das verkraften. Aber eine Tücke des Zufalls ist ja, dass man sich nicht vorstellen kann, was durch ihn alles entstehen könnte. Zumindest hat er uns jetzt schon einmal bewiesen, dass er kein Unschuldslamm ist.
Neue Magazin-Texte:
- Das tragbare Bett 16.05.2013
- Gegen den Bilderfriedhof 02.05.2013
- Das „Fuck Positive“-Shirt 16.04.2013
- KZ-Nummern zum Abwaschen 08.04.2013
- Das Ding der Woche: Die Granny Pants 04.04.2013
Mehr Texte von jetzt.de liest Du jeden Montag in der Süddeutschen Zeitung - außerdem donnerstags im Lokalteil der SZ. Du kannst die SZ zwei Wochen kostenlos testen - du musst nicht einmal kündigen!
Textoptionen
Für diese Funktion musst du eingeloggt sein.
Alle Kommentare anzeigen
@Wilberforce
Das ist ja nun wirklich Schwachsinn.
Die Zufallszahlen, die ein Computer generiert, sind auch keine Zufälle, sondern lediglich eine Kette von wechselnden Zahlenketten (Seeds) mit einer Kombination unterschiedlich "rotierender" Funktionen, die dann gemeinsam eine Liste von Zahlen generieren, die einem Menschen absolut zufällig erscheint.
Wenn man hier dann eine riesige Liste mit Verben als Grundmenge nimmt, die anhand dieser sich nicht vorhersehbar ergebenden Zahlensequenzen Sprüche generieren lässt, ist es für den Menschen auch nicht vorhersagbar, was für Sprüche generiert werden können und werden!
Das Phänomen haben wir vor über 10 Jahren schon einmal mit sloganizer.net (gibt es noch) diskutiert. Ein frischgebackener Vater gab das Wort "Kind" ein und erhielt den Slogan: "Kind kriegt auch Sie ins Bett!" oder was Ähnliches.
Wir sind gerade erst dabei, Software zu produzieren, die in ganz engen Grenzen Semantik versteht. Also kann der Betreiber einer solchen auch nicht ausschließen, dass etwas Übles dabei herauskommt.
Das ist ja nun wirklich Schwachsinn.
Die Zufallszahlen, die ein Computer generiert, sind auch keine Zufälle, sondern lediglich eine Kette von wechselnden Zahlenketten (Seeds) mit einer Kombination unterschiedlich "rotierender" Funktionen, die dann gemeinsam eine Liste von Zahlen generieren, die einem Menschen absolut zufällig erscheint.
Wenn man hier dann eine riesige Liste mit Verben als Grundmenge nimmt, die anhand dieser sich nicht vorhersehbar ergebenden Zahlensequenzen Sprüche generieren lässt, ist es für den Menschen auch nicht vorhersagbar, was für Sprüche generiert werden können und werden!
Das Phänomen haben wir vor über 10 Jahren schon einmal mit sloganizer.net (gibt es noch) diskutiert. Ein frischgebackener Vater gab das Wort "Kind" ein und erhielt den Slogan: "Kind kriegt auch Sie ins Bett!" oder was Ähnliches.
Wir sind gerade erst dabei, Software zu produzieren, die in ganz engen Grenzen Semantik versteht. Also kann der Betreiber einer solchen auch nicht ausschließen, dass etwas Übles dabei herauskommt.
Awesomeness sagte:
Wenn man hier dann eine riesige Liste mit Verben als Grundmenge nimmt, die anhand dieser sich nicht vorhersehbar ergebenden Zahlensequenzen Sprüche generieren lässt, ist es für den Menschen auch nicht vorhersagbar, was für Sprüche generiert werden können und werden!
Warum muss denn überhaupt sowas wie "rape" darin vorkommen, wenn man Sprüche generiert? Da kann sich ja jeder denken, dass mit diversen Wörtern auch ziemlicher Unfug rauskommen kann, siehe der Schrottsatz "rape a lot" halt.
Indem Sinne steht - wie schon erwähnt - halt schon ein Mensch dahinter, der wohl soweit nicht blicken konnte.
Wilberforce sagte:
Es steht immer ein Mensch dahinter, der einen Fehler gemacht hat, oder gewissenlos war.
@ZeroDegrees
Als Laie mag einem das so vorkommen, allerdings wird sich für diesen Gag wohl kaum jemand hingesetzt und 100.000 Verben gesammelt haben. Da gibt es fertige Wortlisten, die umgekehrt auch niemand auf Wörter untersuchen wird, die nicht in Ordnung sind.
Letztlich ist es also Sache des Typen, der vor dem Rechner sitzt, bei unsinnigen oder eben auch anstößigen Ergebnissen nicht den Bestell-Button zu drücken.
Was ist das beste Mittel gegen die wachsende Volksverdummung? Man entfernt alle Warnhinweise und lässt der Natur ihren Lauf.
Als Laie mag einem das so vorkommen, allerdings wird sich für diesen Gag wohl kaum jemand hingesetzt und 100.000 Verben gesammelt haben. Da gibt es fertige Wortlisten, die umgekehrt auch niemand auf Wörter untersuchen wird, die nicht in Ordnung sind.
Letztlich ist es also Sache des Typen, der vor dem Rechner sitzt, bei unsinnigen oder eben auch anstößigen Ergebnissen nicht den Bestell-Button zu drücken.
Was ist das beste Mittel gegen die wachsende Volksverdummung? Man entfernt alle Warnhinweise und lässt der Natur ihren Lauf.
"Der Computer ist schuld" ist ja wohl die dämlichste Ausrede aller Zeiten. Computer sind nichts als Werkzeuge, und was man damit macht, bestimmt allein der Nutzer.
vielleicht sollte es ja grape a lot heißen und das bild ging im print unter?
http://jezebel.com/5988749/
http://jezebel.com/5988749/
Awesomeness sagte:
@Wilberforce
Das ist ja nun wirklich Schwachsinn.
Die Zufallszahlen, die ein Computer generiert, sind auch keine Zufälle, sondern lediglich eine Kette von wechselnden Zahlenketten (Seeds) mit einer Kombination unterschiedlich "rotierender" Funktionen, die dann gemeinsam eine Liste von Zahlen generieren, die einem Menschen absolut zufällig erscheint.
Wenn man hier dann eine riesige Liste mit Verben als Grundmenge nimmt, die anhand dieser sich nicht vorhersehbar ergebenden Zahlensequenzen Sprüche generieren lässt, ist es für den Menschen auch nicht vorhersagbar, was für Sprüche generiert werden können und werden!
Das Phänomen haben wir vor über 10 Jahren schon einmal mit sloganizer.net (gibt es noch) diskutiert. Ein frischgebackener Vater gab das Wort "Kind" ein und erhielt den Slogan: "Kind kriegt auch Sie ins Bett!" oder was Ähnliches.
Wir sind gerade erst dabei, Software zu produzieren, die in ganz engen Grenzen Semantik versteht. Also kann der Betreiber einer solchen auch nicht ausschließen, dass etwas Übles dabei herauskommt.
Awesomeness sagte:
@ZeroDegrees
Als Laie mag einem das so vorkommen, allerdings wird sich für diesen Gag wohl kaum jemand hingesetzt und 100.000 Verben gesammelt haben. Da gibt es fertige Wortlisten, die umgekehrt auch niemand auf Wörter untersuchen wird, die nicht in Ordnung sind.
Letztlich ist es also Sache des Typen, der vor dem Rechner sitzt, bei unsinnigen oder eben auch anstößigen Ergebnissen nicht den Bestell-Button zu drücken.
Aha, also mir als Laie war durchaus bewusst, dass man fertige Wortlisten benutzt - danke für die Aufklärung. Mir als Laie ist aber auch bekannt, dass viele Unternehmen (z.B. in Chats, Games, etc.) Wortfilter benutzen. Bei manchen sind diese sogar hoch sensitiv. Das beides zu kombinieren ist natürlich eine utopische und unmögliche Idee von mir als Laien, weswegen der schwarze Peter lieber ganz dem Kunden gegeben wird, statt sich zu bemühen eine akzeptale Wortlliste zu erstellen.
Wer heutzutage wirklich noch glaubt, als Unternehmen könne man sich alles herausnehmen und einfach die gesamte Verantwortung an alle anderen abgeben ohne selbst Fehler einzugestehen, bekommt zum Glück immer mehr Druck und Probleme - gerade auch vom Kunden. ;)
Also, ich denke als uneinsichtiger Laie immernoch, dass man einfach nicht genug nachgedacht hat, was da alles rauskommen kann, um die benutzte Wortliste entsprechen zu bereinigen/anzupassen. Ja, ich glaube, sowas ist tatsächlich möglich - schließlich gibt es auch Software oder ähnliches für Kinder (z.B. ganz simpel Hangman) , wo man sich diesbezüglich umsomehr bemühen muss und eben nicht irgendeine fertige Wortliste unreflektiert übernehmen kann, sondern eigene erstellen muss und untersuchen muss, dass diese eben in Ordnung sind.
Awesomeness sagte:
@Wilberforce
Das ist ja nun wirklich Schwachsinn.
Die Zufallszahlen, die ein Computer generiert, sind auch keine Zufälle, sondern lediglich eine Kette von wechselnden Zahlenketten (Seeds) mit einer Kombination unterschiedlich "rotierender" Funktionen, die dann gemeinsam eine Liste von Zahlen generieren, die einem Menschen absolut zufällig erscheint.
Wenn man hier dann eine riesige Liste mit Verben als Grundmenge nimmt, die anhand dieser sich nicht vorhersehbar ergebenden Zahlensequenzen Sprüche generieren lässt, ist es für den Menschen auch nicht vorhersagbar, was für Sprüche generiert werden können und werden!
Das Phänomen haben wir vor über 10 Jahren schon einmal mit sloganizer.net (gibt es noch) diskutiert. Ein frischgebackener Vater gab das Wort "Kind" ein und erhielt den Slogan: "Kind kriegt auch Sie ins Bett!" oder was Ähnliches.
Wir sind gerade erst dabei, Software zu produzieren, die in ganz engen Grenzen Semantik versteht. Also kann der Betreiber einer solchen auch nicht ausschließen, dass etwas Übles dabei herauskommt.
Computer erzeugen Zahlen, die sich nicht signifikant von echtem Zufall unterscheiden. Wenn man Seed gelegentlich auffrischt (durch Benutzerinteraktion) ist nichts mehr vorhersagbar.
Darum gehts aber nicht. Ein Computer kann nichts machen, was "unabsehbar" gewesen wäre. Er bleibt immer in seinen vorher abgesteckten Bahnen, und es ist in der Verantwortung des Programmierers, daß in diesen abgesteckten Bahnen alles sicher läuft.
"Keep calm and rape a lot" ist so sehr Aufforderung zu einem Verbrechen wie "Wie geht es dir?" die Aufforderung ist, sein Herz auszuschütten. Immer diese Berufsempörten...
Alle Kommentare anzeigen
0
05.03.2013 - 20:08 Uhr
Wilberforce
Es steht immer ein Mensch dahinter, der einen Fehler gemacht hat, oder gewissenlos war.
(Und google wegen den Links zu schmähen ist verdammt hochnäsig. Da projezieren mal wieder Leute ihren (Selbst-)Haß auf unsere Welt und ihre unschönen Umstände auf einen beliebten Sündenbock. Überbringer schlechter Nachrichten hängen, was? ... (daß google natürlich trotzdem ein Scheißladen ist, steht auf einem anderen Blatt.)