Diese Ex-Kampfjetpilotin kämpft gegen Elon Musks selbstfahrende Teslas

Die Autos, so schrieb sie, zeigten «variables und oft unsicheres Verhalten», das weitere Tests erfordere, «bevor eine solche Technologie ohne direkte menschliche Kontrolle eingesetzt werden darf». Aufgrund ihrer Erkenntnisse wurde Cummings in die US-Bundesbehörde für Strassen- und Fahrzeugsicherheit berufen – um bei der Regulierung von Roboterautos zu helfen.

Daraufhin liessen Musks Anhänger ihre ganze Wut an Cummings aus – an ihrer Arbeit, ihrem Auftreten, ihren Motiven. Sie warfen ihr Interessenkonflikte vor, unterzeichneten Petitionen, die ihre Absetzung forderten und schickten Morddrohungen per E-Mail.

Aber Musks Kriegskumpanen haben sich mit der falschen Ingenieurin angelegt. Als eine der ersten weiblichen Kampfpiloten der Navy flog Cummings früh das Kampfflugzeug F/A-18. (Rufzeichen: Shrew.) Sie liess sich nicht von dem Verhalten einiger Personen auf Twitter mit ihren Anime-Profilbilder einschüchtern.

Sie postete die schlimmsten Drohungen selbst auf LinkedIn, stellte einen Personenschutz ein und kämpfte einfach weiter. «Ich dachte mir: Willst du das wirklich tun?», erinnert sie sich. «Ich verdopple den Einsatz. Der Kampfpilot in mir kommt zum Vorschein. Ich liebe einen guten Kampf.»

Nicht nur Tesla ist das Problem – sie warnt vor allen selbstfahrenden Autos

In der Tesla-Angelegenheit hat sie nicht unbedingt gewonnen. Aufgrund der Beschwerden des Autoherstellers hat die Behörde für Strassen- und Fahrzeugsicherheit Cummings gezwungen, sich von allen Anliegen zurückzuziehen, die mit dem Unternehmen zu tun haben.

In einer kontroversen neuen Studie kommt sie zu dem Schluss, dass die neuen Robotertaxis vier- bis achtmal so häufig in einen Unfall verwickelt werden als von Menschen gesteuerte Autos. Ganz zu schweigen davon, dass selbstfahrende Fahrzeuge seltsame Staus verursachen, Einsatzfahrzeuge blockieren und sogar auf einer Person anhalten, die bereits von einem normalen Auto angefahren wurde.

«In dem Paper, das die Tesla-Trolle wirklich verärgert hat, sage ich tatsächlich, dass dies nicht nur ein Tesla-Problem ist. Ich sage, dass Tesla das erste Unternehmen ist, das diese Probleme hat», sagt Cummings. «Jahrelang habe ich den Leuten gesagt, dass dies passieren würde, dass diese Probleme bei autonomen Fahrzeugen auftauchen würden. Und das tun sie auch. Wenn irgendjemand, der Teil dieser Community ist, überrascht ist, ist das seine Schuld.»

Von Kampfjets und Hubschraubern zu autonom fahrenden Autos – die Gefahren der Technik

Es stellt sich heraus, dass der Dienst in der Marine eine sehr gute Möglichkeit ist, sich auf den ankommenden Zorn vorzubereiten. In ihren 1999 erschienenen Memoiren «Hornet’s Nest» erinnert sich Cummings daran, wie sehr sie es liebte, Jets zu fliegen, und sagt, dass die Aufregung, von einem Flugzeugträger katapultiert zu werden – oder auf einem zu landen – nie alt wurde.

Aber das Umfeld war alles andere als einladend. Sexuelle Belästigung war in der Navy an der Tagesordnung und männliche Kollegen sagten Cummings wiederholt, sie sei nicht qualifiziert, Kampfflugzeuge zu fliegen, nur weil sie eine Frau sei. Als sie und ein anderer weiblicher Offizier bei einem Golfturnier auf dem Stützpunkt auftauchten, wurden sie aufgefordert, Hooters-Uniformen anzuziehen und die Bierwagen zu fahren. Cummings lehnte ab.

Das Fliegen taktischer Zerstörungsmaschinen vermittelte Cummings auch eine Lektion aus erster Hand über die versteckten Gefahren von Maschinen, Automatisierung und Benutzeroberflächen. An ihrem ersten Ausbildungstag wurden zwei Piloten getötet. An ihrem letzten Tag erlebte die Marine die schlimmste Ausbildungskatastrophe, die sich je an Bord eines Flugzeugträgers ereignet hatte. In den drei Jahren, in denen Cummings flog, starben insgesamt 36 Menschen bei Unfällen.

Im Jahr 2011, als sie für die Marine an Roboterhubschraubern forschte, hatte Cummings eine Eingebung. Selbst wenn sie von nichts als Luft umgeben waren, waren diese Hubschrauber alles andere als perfekt –und sie verliessen sich auf dieselben Sensoren, die auch selbstfahrende Autos verwenden, während sie in unmittelbarer Nähe von Autos und Menschen operieren. «Als ich die Fähigkeiten dieser Sensoren kennenlernte», sagt Cummings, «da bin ich aufgewacht und habe gesagt: Wow, wir haben ein ernsthaftes Problem bei den Autos.»

Sicherheitsrisiken durch «hypermaskuline Kultur»

Einige der Gefahren sind technischer Natur. Menschen lassen sich ablenken, selbstfahrende Systeme kommen in komplizierten Umgebungen durcheinander und so weiter. Aber andere Gefahren, sagt Cummings, sind subtiler – «soziotechnisch», wie sie es ausdrückt. Was sie als «hypermaskuline Kultur im Silicon Valley» bezeichnet, verbinde sich mit dem Leitbild von Big Tech, «schnell zu sein und Dinge zu zerstören» (auf Englisch «Be fast and break things»). Sowohl die Bro-Kultur als auch die disruptive Denkweise bieten ihrer Meinung nach den Unternehmen einen Anreiz, Sicherheitsrisiken zu ignorieren.

All das macht es für Frauen noch schwieriger, wenn sie die Art von Kritik üben, die Cummings geäussert hat. «Als Elon Musk seine Schergen auf mich hetzte, wurde die Frauenfeindlichkeit in Bezug auf mich als Frau und meinen Namen sehr schnell deutlich», erinnert sie sich. «Ich glaube, dass das Militär viele Fortschritte gemacht hat, aber ich denke, dass das, was in diesen Silicon-Valley-Firmen passiert, nur eine Erinnerung daran ist, dass wir in unserer Gesellschaft noch nicht so weit gekommen sind, wie ich dachte.»

Cummings war damit nicht einverstanden. Sie hatte ihre neuen Ergebnisse – ebenfalls noch im Vorabdruck –, die zeigten, dass selbstfahrende Taxis wesentlich unfallanfälliger sind. Also ging sie auch auf Linkedin und teilte dies mit.

Die Antwort war ihr aus ihrer Zeit bei der Marine vertraut. Kyle Vogt, der CEO von Cruise, schob sich in die Kommentare. «Ich würde Ihnen gerne bei dieser Analyse helfen», schrieb er an Cummings und stellte ihr Zahlenverständnis in Frage. «Es wäre grossartig, mit Ihnen in Kontakt zu treten und dies genauer zu besprechen.»

Cummings antwortete in ähnlicher Weise. «Ich würde Ihnen gerne bei Ihrem Verständnis grundlegender Statistiken, der Verwendung von Computer Vision und der Bedeutung davon, ein verantwortungsvoller CEO eines Unternehmens zu sein», schrieb sie. «Rufen Sie mich jederzeit an.»

Die Frauen, so meint sie, haben ihre Stimmung verstanden. «Jede Frau, die das gelesen hat, hat gesagt: Genau, so geht das», sagt Cummings. Aber Männer – Freunde im Silicon Valley – taten das nicht. Sie dachten, sie sei zu gemein zu Vogt gewesen. «Er hat nur versucht, dir zu helfen», sagten sie ihr.

«Alle Kerle haben das so gelesen: Sie ist so ein zänkisches Weib!», sagt Cummings. Aber die Kampfpilotin, liess sich nicht beirren. «So habe ich mein Rufzeichen, Shrew, bekommen», sagt sie. «Also lebe ich damit.»

Wie unsicher sind Roboterautos wirklich?

Wer also hat Recht? Cummings oder die selbstfahrenden Männer von Waymo, Cruise und Tesla? Das ist schwer zu sagen: Die Daten über die Sicherheit von autonom fahrenden Autos sind miserabel.

Schauen Sie sich den Ansatz von Cummings‘ neuster Studie an. Zunächst musste sie sich mit den landesweiten Daten der Behörde für Strassen- und Fahrzeugsicherheit für nicht tödliche Unfälle durch menschliche Fahrer herumschlagen, um Zahlen zu erhalten, die sie mit Kalifornien vergleichen konnte. Kalifornien ist der einzige Ort, an dem die Roboterautos frei fahren. Dann musste sie vergleichbare Zahlen zu nicht tödlichen Unfällen und zurückgelegten Kilometern für Waymo und Cruise herausfinden, die von unterschiedlichen Quellen erfasst werden. Ihre Schlussfolgerung: Bei Cruise kommen auf jeden menschlichen Unfall acht Unfälle, bei Waymo sind es vier – vergleichbar mit den Unfallraten der übermüdeten und überarbeiteten Fahrer von Fahrdienstleistern wie Uber und Lyft.

Die Befürworter von Robotertaxis argumentieren, dass Cummings aus einer ganzen Reihe von Gründen falsch liegt. Vor allem seien die Zahlen für menschliche Unfälle zu niedrig angesetzt – zum Beispiel, weil viele kleine Unfälle nie gemeldet werden. Ausserdem können die Unfallzahlen des ganzen Landes oder auch nur von Kalifornien nicht mit denen von San Francisco verglichen werden, das viel dichter und hügeliger ist als der Staat insgesamt.

Cummings kauft ihm das nicht ab. Ein Blogbeitrag sei nicht wissenschaftlich, sondern eine Pressemitteilung. «Jedes Unternehmen hat ein finanzielles Interesse daran, einen Artikel zu veröffentlichen, der es in einem guten Licht erscheinen lässt. Im Fall von Cruise lässt es die Fahrer von Fahrdienstleistern schlecht aussehen», sagt sie. «Das ist es also, was sie tun.» Das ist genau die Art von soziotechnischer Kultur, die Cummings kritisiert – und für die sie in einzigartiger Weise qualifiziert ist, sie zu kritisieren.

Auch andere Experten bezweifeln die Behauptungen von Cruise, da sie von jemandem stammen, der für die neuen Roboter-Autos steht. «Wenn wir den Zahlen Glauben schenken, die Cruise für die Fahrer von Ride-Hailing-Fahrzeugen angibt, hätten diese Fahrer im Durchschnitt zwei Unfälle pro Jahr», sagt Steven Shladover, Forschungsingenieur am Institute of Transportation Studies der UC Berkeley. «Wie viele Fahrer haben zwei Unfälle pro Jahr? Das ist ziemlich extrem.»

Aber Shladover sieht auch Cummings Zahlen skeptisch. «Missy geht von einer für San Francisco zu niedrigen Unfallrate für menschliche Fahrer aus, während Cruise eine zu hohe Unfallrate für menschliche Fahrer angibt», sagt er. «Die Realität liegt wahrscheinlich irgendwo dazwischen».

Vielleicht sind selbstfahrende Autos eine Bedrohung und Cummings hat Recht. Vielleicht ist es aber auch nicht ganz so schlimm, wie ihre neue Studie vermuten lässt. Solange Roboterautos nicht Hunderte Millionen Kilometer zurückgelegt haben, gibt es keine Möglichkeit, eine statistisch signifikante, eindeutige Aussage zu treffen. Aber die Quintessenz ist: Es sollte keine Rolle spielen.

Wenn die Daten über die Sicherheit eines Produkts oder Geräts nicht eindeutig sind, müssen die Regulierungsbehörden Vorschriften zum Schutz der Verbraucher erlassen und durchsetzen, so wie sie es auch in anderen Branchen tun. Wenn die Daten zu Roboterautos nicht eindeutig oder unvollständig sind, dann sollten diese Regeln sie von der Strasse fernhalten. Die Beweislast liegt bei Waymo, Cruise und Tesla, nicht bei Missy Cummings. Und wenn diese Unternehmen Zwei-Tonnen-Roboter auf öffentliche Strassen bringen wollen, dann ist das Bloggen über Datenvergleiche nicht der richtige Weg, um den Leuten zu zeigen, dass sie bereit sind.

In gewisser Weise ist sie der schlimmste Albtraum von Elon Musk

«Einer der wichtigsten Punkte, den ich anspreche, ist einer, den ich aus der Luftfahrt mitgenommen habe. All diese Unternehmen brauchen einen KI-Chefpiloten», sagt Cummings. «Sie brauchen eine Person, die aufsteht und sagt: ‹Ich bin verantwortlich›. Das tun wir in der Luftfahrt. Aus diesem Grund sind bei den Problemen mit der Boeing 737 Max so viele Köpfe gerollt. Sie (die Fahrzeug-Firmen) wurden selbstgefällig. Sie haben ihre Sicherheitskultur verloren.»

Cummings ist eine sorgfältige Forscherin. Sie ist auch, wie es ein Verkehrssicherheitsforscher privat ausdrückte, «provokativ». Unternehmen wie Tesla, Waymo und Cruise nimmt sie liebend gern unter Beschuss und argumentiert, dass Tech-Bros in einen strengeren Regulierungsrahmen gebracht werden müssen. In gewisser Weise ist sie der schlimmste Albtraum von Elon Musk.

Sie hat wiederholt ihr Leben riskiert, um die unglaublichen Fähigkeiten – und die tödlichen Grenzen – von den Schnittstellen von Mensch und Maschine zu testen. Und sie tat dies in einem Umfeld, in dem weit mehr auf dem Spiel steht als auf den Schlachtfeldern von Twitter und LinkedIn. Für sie ist die Sicherheit von selbstfahrenden Autos keine abstrakte Frage. Es ist eine Frage von Leben und Tod.

«Ich bin eine anerkannte Professorin. Meine Arbeit spricht für sich selbst. Ich versuche, eure Leben zu retten, richtig?» sagt Cummings. «Und dann gibt es noch die Seite an mir, wo ich wie Don Quijote auf Steroiden bin. Es gibt keine Windmühle, gegen die ich nicht kämpfen möchte.»