Sonntag, 22. Januar 2017

Spioninnen

Lassen wir uns von Frauen mehr gefallen als von Männern? Die Marketingabteilungen der großen Unternehmen scheinen das zu glauben, und die werden es wohl wissen.

Seit Apple mit Siri vor gut 5 Jahren die Spracherkennung in den iPhones integriert hat, taufte fast jede Firma ihre Spracherkennungstechnologie mit weiblichen Vornamen. Bei Microsoft redet man mit Cortana, und bei Amazon gibt's inzwischen Alexa. Nur bei Google hört man auf den neutralen Ruf "Ok Google". Schon zuvor fiel mir auf, daß die Stimme irgendwelcher elektronischen Dienste fast immer weiblich ist, egal ob es das Navi ist, oder die Stimme des automatischen Telefonservice, oder die blöde Automatentante, die mich anruft, um mir dann "Herzlichen Glückwunsch" in's Ohr zu plärren. Es erhärtet sich die Erkenntnis: Technische Versuche, menschlich zu wirken, sind überwiegend weiblich.

Ich gebe zu, daß mich Cortana von Microsoft gleich von Anfang an genervt hat. Ich bin Computer-Mensch seit ich Teenie war, und das war noch in den 70ern, also deutlich bevor die Welt mit dem IBM-PC beschenkt wurde. Und hier kommt ein Mädel daher und will mir meinen PC erklären, ja drängt sich geradezu auf. Wenn das keine Kränkung ist! Besonders wenn man dann schnell merkt, daß sie keine Ahnung hat, und auch nichts anderes macht als für mich zu googeln (oder "bingen"). Sorry Mädel, das kann ich auch selber, vielen Dank! Ich habe sie rausgeschmissen.

Ich will hier aber nicht in Maskulismus schwelgen. Diese Beispiele deuten auf ein tiefer liegendes Muster hin, auf eine Masche, die durchaus erfolgreich zu sein scheint. Assistenten jedweder Art sind der letzte Schrei, und die brauchen nicht nur eine Stimme und einen (weiblichen) Namen, sondern insbesondere auch Spracherkennung bzw. Sprachsteuerung. Und Sprachsteuerung braucht ein Gerät, das immer zuhört. Wenn es gut funktioniert, ist es superpraktisch. Wir erleben gerade wie sich das in den Alltag integriert.

Es ist aber auch supergefährlich. Und hier haben wir ein Problem: In den letzten 10 Jahren hat sich noch jede Technik, die superpraktisch ist, in Windeseile durchgesetzt, egal wie gefährlich sie ist. Ich habe keinen Zweifel daß es mit der Sprachsteuerung ebenso ist. Ich glaube aber daß wir damit letztlich die Privatheit, und somit die Macht über uns selber aus der Hand geben. Wenn Ihr jetzt schon wieder abwinkt, wenn Ihr denkt "wieder so ein langweiliger Alarmist", und "was soll denn schon passieren, ging doch auch bisher gut", dann braucht Ihr nicht weiter zu lesen. Ich will bloß diejenigen erreichen, die auch erreicht werden wollen. Und ich werde keine Handlungsanweisungen geben, ich will bloß zum Nachdenken anregen über Dinge, über die vielleicht der Einzelne nicht genug nachgedenkt bevor er handelt.

Die Spracherkennung ist gar nicht das Problem. Das Problem ist Spracherkennung in Verbindung mit Vernetzung. Darin liegt aber gleichzeitig auch der größte Nutzen. Um deutlich zu machen wie ich das meine, schauen wir uns erst einmal an was denn in der Praxis schon jetzt (eingeschränkt) oder in naher Zukunft (immer besser) gehen wird:

Irgendein Gerät in unserer Nähe (oder sogar mehrere davon) wird ständig mithören, was wir sagen. Es wird verstehen was wir sagen, und versuchen, daraus Informationen zu gewinnen. So kann man Aktionen auslösen, wie z.B. das Abspielen von Musik oder die Wahl eines Programms im Radio oder Fernsehen. Oder die Steuerung von Licht oder Heizung. Das Öffnen der Tür. Den Kauf eines Produkts im Internet. Das Tätigen von Bankgeschäften.

Wer ein Auto hat, das selber fahren kann, könnte auch sein Auto auf diese Weise steuern. Man könnte das Garagentor öffnen, das Auto vorheizen und vor die Tür fahren lassen, während man gerade aus der Dusche tritt, die man natürlich ebenfalls sprachsteuern kann. Auf dem Weg nach draußen kann man noch den automatischen Staubsauger beauftragen, sich die anstehenden Aufgaben aus dem persönlichen Kalender aufsagen lassen und die Alarmanlage scharf schalten. Alles einfach mit der eigenen Stimme.

Das alles geht wenn die entsprechenden Geräte miteinander und mit dem Internet verbunden sind. Es ist das Internet der Dinge (IoT).

Dabei sollte man sich bewußt machen, daß die Spracherkennung selbst ebenfalls im Netzwerk stattfindet. Es ist keine Funktion, das ein Gerät autonom ausführt. Der Hersteller und Dienstanbieter will davon ebenfalls etwas haben. Einmal um die Qualität der Spracherkennung kontinuierlich zu verbessern. Aber noch wichtiger auch um immer mehr über die Nutzer zu erfahren. Damit kann man viel Geld verdienen. Jeder sollte davon ausgehen, daß alles was er im Beisein eines solchen Geräts sagt, ob es mit dem Gerät etwas zu tun hat oder nicht, seinen Weg zum Hersteller findet. Jedes solche Gerät ist eine Wanze.

Es ist noch weit mehr als eine Wanze. Bei einer klassischen Wanze gab es auf der anderen Seite genau eine Instanz, die abgehört hat. In aller Regel war das ein Geheimdienst. Das konnte den meisten normalen Leuten ziemlich gleichgültig sein, denn normale Leute kommen selten ins Fadenkreuz von Geheimdiensten. Zudem war diese Form von Abhören teuer genug um es sparsam anzuwenden. Das ist heute völlig anders. Die IoT-Wanzen bezahlt der Abgehörte, der auch freiwillig dafür sorgt daß sie immer an sind. Und die abgehörten Daten werden von einer Dienstleistungsfirma kontinuierlich ausgewertet, so daß man das fertig ausgewertete Ergebnis als interessierte Partei vom Dienstleister kaufen kann. Der Endeffekt ist, daß praktisch jedermann ständig und überall abgehört wird, und daß man fertig ausgewertete Daten auch im Nachhinein von praktisch jedermann abrufen kann, wenn man den Dienstleister dafür bezahlen kann, oder wenn man ihn zur Herausgabe der Daten verdonnern kann.

Die Konsequenzen für die staatliche Strafverfolgung sind vielleicht die, die Euch als Erstes in den Kopf kommen. Damit kann man je nach Perspektive auch am leichtesten einverstanden sein. Viele Leute scheinen ja immer noch der Meinung zu sein, sie hätten nichts zu verbergen, und gerade die staatlichen Verbrechensbekämpfer dürften alles wissen. Eine aus meiner Sicht unfassbar naïve Haltung, weil sie davon ausgeht, daß der Staat keine Fehler macht und immer auf Seiten der Bürger steht, aber immerhin ist das angesichts der vorhandenen Bedrohungen der inneren Sicherheit noch ein klein wenig nachvollziehbar.

Aber selbst wenn man diese naïve Haltung hat, kann einem kaum wohl dabei sein, wenn man sich überlegt wer sonst noch Zugriff auf diese Daten hat, oder bekommen könnte. Schon die Firmen, die diese Daten sammeln, wie Google, Amazon, Apple, Microsoft und so weiter, tun das um Euch möglichst gut kennenzulernen. Erstens können sie Euch dann gezielt Dinge verkaufen. Das ist nicht unbedingt so gut wie es sich anhört, denn in letzter Konsequenz wollen sie damit Euch eine personalisierte Filterblase bauen, also Eure Wahrnehmung steuern, um Euch nicht bloß ganz bestimmte Produkte verkaufen zu können, sondern auch den Preis dafür zu optimieren. Sie wissen irgendwann nicht nur was man Euch verkaufen könnte, sondern auch wieviel Ihr dafür zu bezahlen bereit seid. Glaubt nicht daß das zu Eurem Vorteil gerät.

Aber auch andere Firmen wollen diese Daten haben, und sind bereit sie von den genannten Dienstleistungsfirmen zu kaufen. Denkt nur mal darüber nach wie interessant alle diese Informationen für Versicherungen sind, die ihr Risiko einzuschätzen versuchen. Oder Banken, von denen Ihr einen Kredit wollt. Oder Arbeitgeber, bei denen Ihr arbeiten wollt. In dem Moment, wo Ihr von der Versicherung oder Bank oder vom Arbeitgeber etwas wollt, ist es zu spät. Die Informationen sind schon draußen. Dann wird es nichts nützen, nachträglich etwas löschen zu wollen, oder nachforschen zu wollen wie ein unbequemes und vielleicht überraschendes "Rating" zustande gekommen ist.

Und schließlich sind auch die Bösewichte dieser Welt an den Daten interessiert. In bargeldlosen Zeiten wird man vielleicht nicht mehr in eine Wohnung einbrechen wollen, in der Hoffnung dort Geld zu finden, aber es wird immer noch genügend Wertgegenstände geben, die man heraus holen kann. Wenn nicht, dann könnte man sich Türschlösser und Alarmanlagen auch sparen. Was die Diebe brauchen, ist Information darüber wann die Chancen für einen Einbruch am besten stehen. Und am besten auch die Möglichkeit, die Türen ohne Alarm und ohne Gewalt zu öffnen. Dafür ist das IoT geradezu ideal. Wenn man da mal eingebrochen ist, dann hat man Zugriff auf alle Funktionen. Womöglich sogar mit Sprachsteuerung. Viele Systeme scheinen nicht so wählerisch zu sein wer da mit ihnen spricht. Zu wählerisch würde ja bedeuten, daß es öfter nicht funktioniert, und wir wissen ja alle daß das Wichtigste ist daß die Sache gut und bequem funktioniert. Das war immer so: Es setzen sich die bequemen Systeme durch, nicht die sicheren. Wenn sich Bequemlichkeit und Sicherheit widersprechen, dann wird der Kompromiß immer zu Lasten der Sicherheit ausfallen. Das ist nicht die Schuld der Hersteller, so wollen es die Kunden.

Und der physische Einbruch ist noch das harmlosesete der Szenarien, denn dazu muß sich immer noch jemand zur Wohnung hin bewegen. Attraktiver sind Delikte, die sich gänzlich aus der Ferne bewerkstelligen lassen. Wenn die sprachgesteuerten Geräte selber Bestellungen und Bankgeschäfte ausführen können, dann ist das ideal für Kriminelle. Die können das vom Ausland aus tun, und können sich so außerhalb der Reichweite der hiesigen Gesetze und Gesetzeshüter bewegen.

Auch das ist noch nicht alles. Eine solche Vielfalt vernetzter Geräte kann man sich auch noch zu anderen Zwecken zunutze machen. Es hat in den letzten Monaten bekanntlich mehrere Fälle gegeben, wo verwundbare Geräte von ganz normalen Verbrauchern durch Cyberkriminelle gekapert wurden, um sie zu "Soldaten" in einer Art Cyberkrieg zu machen. Nichts anderes sind die sogenannten Botnetze, die aus Tausenden oder gar Millionen gekaperter Geräte bestehen, die man quasi auf Knopfdruck von irgendwo auf der Welt aus zum Angriff bringen kann. Der Besitzer eines gekaperten Geräts braucht davon gar nichts mitzukriegen, weil für ihn alles weiterhin funktioniert. Sein Gerät ist das elektronische Äquivalent eines "Schläfers". Der weithin in den Medien diskutierte Ausfall von Routern der Telekom letzten November ist nur deswegen so aufgefallen, weil das Kapern in diesem Fall schief gegangen war. Die Telekom-Geräte waren gar nicht das Ziel des Kaper-Versuchs, sondern haben allergisch auf den damit verbundenen Datenverkehr reagiert. Die Geräte, die in diesem Fall gekapert werden sollten, waren ganz andere, und bei denen hat der Versuch wohl auch funktioniert. Nur stehen die nicht in Deutschland, sondern z.B. in Irland und in Brasilien. Also kein Grund sich beruhigt zurück zu lehnen.

Jetzt kann man sich natürlich auf den Standpunkt stellen, daß einem das egal sein kann ob sein Gerät als Soldat in einem Botnetz eingespannt wird, solange alles funktioniert. Das ist verständlich speziell wenn man sich damit sowieso nicht auskennt, und nicht darüber nachdenkt was daraus folgen könnte. Es kann aber übel zurückschlagen. Wenn die Botnetze dafür benutzt werden, die öffentliche Infrastruktur anzugreifen, von der man selbst abhängt, also Strom, Wasser, Telekommunikation, Verkehr etc., dann ist das nicht mehr ganz so lustig. Will man wirklich freiwillig Gegner der eigenen Staatsordnung mit Waffen versorgen, nur aus eigener Bequemlichkeit? Ist das nicht ein kleines bißchen so als würde man den Schlüssel im Zündschloss stecken lassen, und es dadurch einfach für einen Extremisten machen seinen LKW für einen Angriff zu benutzen?

Die meisten Leute wissen natürlich inzwischen, wenigstens im Prinzip, welche Risiken das alles hat. Es ist schließlich oft genug in den Medien. Man müßte sich schon komplett ausgeklinkt haben damit einem diese Problematik nicht begegnet. Aber trotzdem zieht anscheinend kaum einer irgendwelche Konsequenzen daraus, so alarmierend das auch sein mag. Das ist der eigentlich interessante Punkt dabei, jedenfalls aus meiner Sicht. Jeder weiß es, aber nachdem es so bequem ist, so praktisch, so cool und so nützlich, macht man halt mit, und verdrängt die Risiken. Was soll man auch machen, nicht wahr?

Wir sind ja auch so weit, daß es gar nicht mehr viel nutzt, wenn wir selbst nicht daran teil nehmen. Gar nicht teilnehmen geht sowieso praktisch nicht. Man überlege sich mal was alles nicht mehr gehen würde, wenn man das Smartphone wegschmeißen würde, und wenn man alle Geräte wieder strikt voneinander trennen würde, und vom Internet. Es ist noch nicht viele Jahre her, da war das so, aber schon können wir uns nicht mehr vorstellen wie man so leben konnte. Aber selbst gesetzt den Fall ich würde dahin zurück gehen, für mich selber. Ich wäre trotzdem umgeben von Leuten, die immer noch Teil dieses Netzwerks sind, die ihre diversen vernetzten Geräte mit Sprachsteuerung betreiben und mit sich herum tragen. Die damit letztlich auch ermöglichen, daß ich miterfaßt werde, durch Mikrofone und Kameras, durch das was sie über mich kommunizieren und mit mir kommunizieren, alles Daten die von irgendwem ausgewertet werden. Ich habe die Kontrolle über meine Daten längst verloren. Eine realistische Möglichkeit, diese Kontrolle zurück zu gewinnen, wenn ich das wollte, habe ich nicht mehr.

Das ist eine ernüchternde Erkenntnis für jemanden wie mich, der sich damals bei der Volkszählung (erinnert sich noch jemand daran?) gesträubt hat, dem Staat ein paar Daten zur Verfügung zu stellen, die heute geradezu lächerlich und trivial erscheinen. Die damaligen Proteste führten zum verfassungsgerichtlich festgestellten Recht jedes Menschen auf informationelle Selbstbestimmung, ein Recht das inzwischen als obsolet gelten kann, angesichts der hemmungslosen Datenerfassung, die inzwischen üblich ist.

Damals standen wir noch unter dem Eindruck der etwas ominösen Jahreszahl "1984", was natürlich auf George Orwell und seinen Roman zurück geht. Habt Ihr den gelesen? Orwell hat ihn 1949 geschrieben, da konnte man natürlich die technische Entwicklung noch nicht so gut voraussehen. In dieser Hinsicht liest sich der Roman heute ziemlich drollig. Und 1984 war definitiv zu früh angesetzt, wenn man es aus der europäischen Perspektive sieht (in Nordkorea würde man es wohl anders sehen). 2024 würde viel besser passen, denn heute gibt es eigentlich alles was man braucht, und besser als es sich Orwell hätte vorstellen können. Das war 1984 noch nicht so. Den Televisor stellte sich Orwell als ortsfest installiertes Gerät vor, das wie eine Kombination von Fernseher mit Kamera und Mikrofon war. Und man konnte es nicht ausschalten. Im Grunde hat man das heute als Handy in der Tasche und trägt es mit sich herum, und auch wenn man es ausschalten könnte tut man es nicht. Die technischen Voraussetzungen für das, was Orwell beschreibt, sind perfekt realisiert, also was steht dem im Weg, was Orwell in seinem Roman darstellt? Was steht zwischen unserer Situation im Moment, und der reinen Tyrannei?

Die juristische und politische Struktur unserer Gesellschaft ist jedenfalls hoffnungslos überfordert mit einer so rapiden technischen Entwicklung. Die juristische Behandlung des Datenschutzes und der Datenerfassung ist im Wesentlichen noch immer die von vor 25 Jahren. Allein die technische Entwicklung der letzten 5 Jahre hat das komplett überfahren, und es geht allem Anschein nach in diesem Tempo weiter. Die Politik hat in weiten Teilen noch nicht einmal kapiert was da passiert, und ist augenscheinlich völlig hilf- und planlos. Wenn man von da überhaupt etwas hört, dann läuft es darauf hinaus daß der einzelne Bürger eben selber auf sich aufpassen muß. Mit irgendwelchen Marktregulierungen tut man sich extrem schwer, zumal die Maßnahmen Gefahr laufen, in dem Moment schon überholt und überflüssig zu sein, in dem man sich auf sie geeinigt hat.

Das sind ideale Umstände für diejenigen Firmen, die schnell agieren können. Man kann so Fakten schaffen, die nicht mehr zurück zu drehen sind. Angesichts der Größe und der Macht von Firmen wie Google, Amazon, Facebook etc. ist es schlicht unvorstellbar, daß sich die Politik dazu durchringen könnte, Regeln zu schaffen die das Geschäftsmodell dieser Firmen in Frage stellen würden. Das Geschäftsmodell basiert auf der hemmungslosen Datenerfassung, also wird es keine Regeln geben, die das signifikant einschränken. In diesem Internet-zentrierten Markt läuft gerade eine wachsende Büffelherde aus Firmen völlig ohne Lenkung in eine Richtung in der maximaler Gewinn erwartet wird. Entsprechende gesetzliche Prinzipien wie das informationelle Selbstbestimmungsrecht, die im Weg stehen könnten, werden einfach überrannt und stillschweigend beerdigt werden. Solche Regeln sind ohnehin nur national, und die Herde ist international unterwegs. Wollt Ihr das so? Habt Ihr Euch das mal überlegt?

Ich weiß auch nicht was man da machen kann, aber ich finde, man kann das nicht einfach ungebremst laufen lassen. Ich kann nur dafür plädieren, den Kopf nicht in den Sand zu stecken, und sich bewußt zu überlegen, wo man mitmachen will und wo nicht. Das fängt damit an, daß man sich bewußt macht wie man sich locken läßt. Da sind wir dann wieder am Anfang des Artikels. Euch ist vielleicht bisher noch nicht bewußt geworden, wie die Geschlechterrollen ganz gezielt eingesetzt werden, um uns rumzukriegen. Deswegen die weiblichen "Assistenten". Ich bin mittlerweile allergisch dagegen, mir fällt so etwas auf. Ihr könnt mir meinetwegen Misogynie vorwerfen, aber ich finde, der eigentliche Übeltäter sind hier die Firmen, die das ganz kaltblütig zu ihrem Nutzen einsetzen.

So ähnlich ist das auch bei den Robotern, die anscheinend auch zunehmend auf möglichst humanoid und niedlich getrimmt werden. Es gibt dafür keinen technischen Grund, das ist reine Psychologie, und ich merke wie ich mich immer mehr dagegen sträube. Aber das wäre der Stoff für einen weiteren Artikel.

Für diesmal soll's mir genügen, wenn ich etwas Bewußtsein geschaffen habe für ein Problem, was uns noch ganz sauer aufstoßen könnte. Wie gesagt, ich habe keine Rezepte parat, aber ich fände es schon gut wenn Ihr nicht bloß nach der kurzfristigen Bequemlichkeit entscheiden würdet, sondern Euch überlegt was Ihr da unterstützt, und ob Ihr mit den eventuellen Kosequenzen einverstanden seid. Also ein bißchen vorausschauend entscheidet, und vielleicht auch mal aus prinzipiellen und strategischen Gründen auf eine Bequemlichkeit verzichtet, und Euch bewußt macht daß jedes Mikrofon in einem vernetzten Gerät nicht nur eine potenzielle Wanze ist, sondern ein Datenerfassungsmittel für internationale Firmen, die daraus den maximalen Profit schlagen wollen, ganz egal was das für Euch bedeutet.

Aber wenn Ihr nur auf Bequemlichkeit aus wärt, dann hättet Ihr sowieso nicht bis hierher weitergelesen.

1 Kommentar :

Unknown hat gesagt…

klare analyse wie ich es mag.
bloß mit einem satz bin ich nicht einverstanden:"Die Politik hat in weiten Teilen noch nicht einmal kapiert was da passiert, und ist augenscheinlich völlig hilf- und planlos."
unterlassene hilfeleistung ist ja auch strafbar, grobfahrlässig bis vorsätzlich zu handeln auch, und dass gerade die, die eine flächendeckende überwachung vorantreiben ohne grund und anlass, (während überwachte übeltäter aber nach wie vor anscheinend problemlos ihr unwesen treiben) nicht wissen was sie tun und auch warum, das ist für mich nicht schlüssig.
gruß reinhard