Plötzlich flackern die Lampen in Garri Kasparows Konferenzraum wie ein Stroboskop-Licht, der Sonos-Lautsprecher dreht einen Rocksong auf volle Lautstärke hoch — und dann schaltet sich auch noch der Fernseher von selbst an: «Ihr TV ist mit Ransomware infiziert!», steht auf dem Bildschirm, darunter prangt ein roter Totenkopf.
Einem Hacker ist es in diesem Moment gelungen, in den vernetzten Konferenzraum einzudringen — allerdings nur zur Show. Denn der Hacker heisst mit wahrem Namen Vlad Iliushin und ist Sicherheitsforscher bei der Anti-Viren-Softwarefirma Avast. Zusammen mit dem ehemaligen Schachweltmeister Garri Kasparow zeigte er in einem Versuch bei der Internationalen Funkausstellung (IFA) in Berlin, wie einfach es ist, ein Smart Home von aussen zu manipulieren.
Niederlage gegen Schachcomputer
«Ich würde mir keinen Sprachassistenten kaufen, denn ich weiss, wie verwundbar das System ist», sagt Kasparow im Interview mit Business Insider. Der 55-Jährige Schachgrossmeister hat ein spezielles Verhältnis zu intelligenten Maschinen: Im Jahr 1997 verlor er als erster Schachweltmeister gegen einen Supercomputer, den Deep Blue von IBM.
Garri Kasparow: Der Russe war lange einer der besten Schachspieler der Welt.
Die Niederlage gilt bis heute als Zäsur in der Beziehung zwischen Mensch und Maschine und brachte das Thema Künstliche Intelligenz — wobei es das Buzzword in dieser Form damals noch nicht gab — erstmals einer grossen Öffentlichkeit nahe. Seitdem beschäftigt sich Kasparow mit den Themen Mensch und Maschine, Datenschutz und Cybersicherheit und ist seit 2016 auch Sicherheitsbotschafter für Avast.
Business Insider traf ihn auf der IFA 2018. Im Interview erklärt er, warum er sich nie eine Alexa kaufen würde, welchen Rat er für den Umgang mit intelligenten Geräten hat und warum er den grossen Tech-Konzernen eine «Doppelmoral» vorwirft.
«Es ist ein weitverbreitetes Missverständnis, dass Maschinen intelligent sind, nur weil sie uns ausspielen und uns in kognitiven Fähigkeiten übertrumpfen könnte.»
Garri Kasparow
Ihren ehemaligen Gegner, den Supercomputer IBM Deep Blue, bezeichnen Sie gern als «alles andere als intelligent». Warum?
Garri Kasparow: Noch heute, 25 Jahre nachdem ich Deep Blue gegenübergetreten bin, haben wir es mit Maschinen zu tun, die im Grunde genommen eine rohe Kraft sind — keine Intelligenz. Sie arbeiten mit den Informationen, die wir ihnen zur Verfügung stellen. Eine Maschine, die 200 Millionen Positionen pro Sekunde errechnete, war damals sehr gut im Schachspielen. Heute ist jede Schach-App besser als Deep Blue. Aber würden Sie diese Apps als intelligent bezeichnen?
Diese Apps sind zumindest besser im Schach.
Es ist ein weitverbreitetes Missverständnis, dass Maschinen intelligent sind, nur weil sie uns ausspielen und uns in kognitiven Fähigkeiten übertrumpfen könnte. Und das Problem, mit dem ich 1996/97 konfrontiert war und mit dem wir heute bei all diesen Maschinen konfrontiert sind, ist, dass wir erwarten, dass sie perfekt sind. Das sind sie nicht!
Kasparow: Er gilt als Kritiker des russischen Präsidenten Wladimir Putin.
Wo sehen Sie die Schwächen von intelligenten Maschinen?
Man könnte es als einen Mangel an Flexibilität bezeichnen. Das grösste Problem — selbst für die anspruchsvollsten Computer wie das Deepmind-Produkt Alpha Zero — ist, dass sie nur in den Bereichen gut sind, für die wir sie entwickelt haben. Jedes von uns entwickelte geschlossene System garantiert, dass Maschinen, die nur die Regeln kennen, besser sind als wir Menschen. Denn sie sind nicht anfällig für Fehler, nicht selbstgefällig und immer aufmerksam. Aber: Sie können das Wissen, das sie in einem geschlossenen System erworben haben, nicht einfach auf ein offenes System übertragen. Der Mensch muss ihnen immer noch einen Rahmen geben.
Oder wie Sie es einmal formuliert haben: «Es liegt an den Menschen, das Problem zu wählen, und an den Maschinen, es zu lösen».
Eigentlich hat es Joseph Weitzenbaum zuerst gesagt, und zwar in seinem Buch „Computer Power and Human Reason“ von 1976. Denn das Entscheiden ist eine rechnerische Aktivität, während die Wahl auf vielen anderen Dingen und Wahrscheinlichkeiten basieren kann. Maschinen arbeiten auch mit Wahrscheinlichkeiten, aber die Wahl ist menschlich, weil man manchmal entgegen aller Erwartungen handeln muss.
«Ich sehe keinen Beweis für dieses Weltuntergangsszenario in der absehbaren Zukunft.»
Garri Kasparow
Einige Menschen, darunter Elon Musk, glauben, dass Maschinen nicht nur im Schach, sondern auch in anderen Bereichen des Lebens überlegen sein und zu einer Bedrohung werden könnten. Was halten Sie davon?
Ich sehe keinen Beweis für dieses Weltuntergangsszenario in der absehbaren Zukunft. Vielleicht in hundert Jahren oder im 23. und 24. Jahrhundert. Aber es ist keine Sorge von heute. Heute ist die eigentliche Sorge, dass Menschen mit bösen Absichten diese Maschinen übernehmen und sie gegen die freie Welt einsetzen.
Elon Musk: Er glaubt, dass Maschinen zu einer Bedrohung werden können.
Schon heute haben Millionen von Menschen intelligente Maschinen bei sich zu Hause. Würden Sie sich jemals einen Sprachassistenten wie Alexa kaufen?
Nein, ich würde mir keinen Sprachassistenten kaufen, denn ich weiss, wie verwundbar das System ist. Ich würde lieber ohne diese Geräte leben, als meine privaten Daten zu gefährden.
Haben Sie denn andere Smart-Home-Geräte?
Ich habe einen Smart TV und ein paar andere Geräte, aber sie sind nicht vernetzt. Ich will nicht, dass sie miteinander reden.
«Wenn Sie all diese schönen Geräte haben wollen, die Ihr Leben angenehm machen, müssen Sie einen Preis zahlen.»
Garri Kasparow
Warum nicht?
Am Ende des Tages hängt es von den Informationen ab, die Sie schützen möchten. Jeder, der diese Geräte kauft, sollte erkennen, dass es bestimmte Risiken existieren. Es gibt so viele Einstiegspunkte für Hacker. Die Sicherheitsmechanismen vieler Hersteller sind den potenziellen Angreifern noch hinterher. Sobald Daten produziert werden, werden sie gesammelt. Und wenn sie gesammelt werden, können sie auch verwendet werden — sogar gegen dich. Egal ob Bilderkennung, Fingerabdruckerkennung oder Alexa: Wenn Sie all diese schönen Geräte haben wollen, die Ihr Leben angenehm machen, müssen Sie einen Preis zahlen. Es gibt nichts umsonst.
Welchen Rat haben Sie für die Leute, die sich dennoch gern smarte Geräte kaufen?
Mit derselben Selbstverständlichkeit wie man seine Hände wäscht und die Zähne putzt, sollte man auch auf seine digitale Hygiene achten. Es gibt so viele grundlegende Fehler, die Sie vermeiden können: Lesen und befolgen Sie die Anleitung, recherchieren Sie vor dem Kauf nach den Geräten mit dem besten Schutz, investieren Sie vielleicht ein wenig Zeit und fragen Sie einen Experten. Das bedeutet nicht, dass Sie alle Bedrohungen beseitigen werden, aber es verringert die Risiken. Versuchen Sie, Ihre digitalen Daten proaktiv zu verteidigen, denn sie sind Teil von Ihnen. Leider kaufen die meisten Kunden diese Geräte, ohne die Liste der Vorsichtsmassnahmen zu lesen.
Der intelligente Lautsprecher Echo von Amazon: Kasparow misstraut solchen Systemen.
Setzen wir die grossen Tech-Unternehmen also nicht genug unter Druck?
Nein, es gibt weder Druck auf Big Tech noch auf die Regierung, denn einzelne Kunden sind nicht proaktiv. Die Leute erkennen immer noch nicht, dass es sich um eine grosse Bedrohung handelt. Man kann zwar inzwischen ein Rumoren hören, aber dieses Rumoren ist eher wie eine Beschwerde.
Naja, einzelne Konsumenten haben einen begrenzten Einfluss
Nun, sie können wählen — zumindest in der freien Welt.
«Wenn Sie Apple oder Google nicht zwingen, bestimmte Dinge zu tun, werden sie es nicht tun.»
Garri Kasparow
Lassen Sie uns erstmal bei den Big-Tech-Firmen bleiben. Was ist mit deren Verantwortung?
Big Tech ist ein Geschäft. Sie werden das tun, wozu sie gezwungen sind. Wenn Sie Apple oder Google nicht zwingen, bestimmte Dinge zu tun, werden sie es nicht tun. Die Datenschutz-Grundverordnung ist das beste Beispiel. Wenn man erwartet, dass sie zusätzliche Ausgaben zum Schutz der Kunden tätigen, ohne gezwungen zu werden, macht man sich etwas vor.
Viele Leute fühlen sich von Big-Tech-Unternehmen ausspioniert. Ein Beispiel ist der Vorfall in Oregon, wo Alexa das Gespräch von einem Paar unaufgefordert mitgeschnitten und versendet hat. Sie sind in der Sowjetunion mit dem KGB aufgewachsen — sehen Sie Ähnlichkeiten zur Spionage?
Nein, da gibt es einen grossen Unterschied. Damit Alexa dich ausspionieren kann, musst du es kaufen und in dein Haus stellen. Man erlaubt die Datenerfassung und meldet sich quasi freiwillig als Zielscheibe. Der Unterschied zwischen der Datensammlung von Google und Amazon und der von KGB und Stasi liegt im Prozess — in einem Fall ist die Datenerhebung freiwillig — und darin, wie die Daten verwendet werden können. Die Gesetze in den meisten Ländern verbieten es, dass deine Daten gegen dich verwendet werden. Aber in Russland, China oder im Iran ist das eine andere Geschichte.
«Sie haben nicht nur eine Doppelmoral, sie verstecken es nicht einmal.»
Garri Kasparow
Sie werfen den Unternehmen also eine Doppelmoral vor?
Auf jeden Fall. Sie haben nicht nur eine Doppelmoral, sie verstecken es nicht einmal. Apple — das gleiche Unternehmen, das amerikanische Kunden schützt und FBI-Anforderungen ablehnt, um in ein verdächtiges Telefon zu gelangen — gibt bereitwillig die Informationen von Millionen von Kunden in China preis! Es ist ein grosser Fehler, diesen Unternehmen zu erlauben, mit zweierlei Mass zu messen und ihre Kundschaft in die freie und unfreie Welt zu unterteilen.
Der einzelne Kunde in China dürfte sich dagegen aber kaum wehren können.
Wir können und sollten Druck auf diese grossen Tech-Konzerne ausüben, damit sie die gleichen Regeln auf ihre Kunden anwenden, ob sie in der freien Welt leben oder nicht. Wir müssen von der Regierung fordern, dass sie drakonische Strafen für die grossen Unternehmen verhängt, wenn die gesammelten Daten irgendwie verletzt und gegen einzelne Kunden verwendet werden — unabhängig davon, ob sie in Russland, China, Deutschland oder den Vereinigten Staaten leben.
Dieser Artikel erschien zuerst bei Business Insider Deutschland unter dem Titel: «Schachlegende Kasparow hat einen eindringlichen Rat an alle, die sich Alexa und Co. ins Haus holen wollen».