Damals Hat Mir Mein 7-jähriger Sohn Etwas Wichtiges über Autopilot Beigebracht

Ja, er ist erst 7 Jahre alt und Kinder haben einige lustige Ideen, aber Kinder sind auch ein gutes Maß dafür, was heutzutage die allgemeine Öffentlichkeit über etwas weiß. Im Gegensatz zu den Autoren und den meisten Lesern hier haben die meisten Kinder kein fundiertes Wissen über Fahrerassistenzfunktionen, autonome Fahrzeuge und deren Unterschied. Wenn ich anfing, über SAE J3016-Stufen des automatisierten Fahrens zu jammern, würden ihre Augäpfel wahrscheinlich glasig werden (wie die meisten Erwachsenen).

Sie wissen, was sie im Internet gesehen haben, und nach dem wenigen, was sie gesammelt haben, dachten sie, Teslas Fahrzeuge könnten selbst fahren – und das noch HEUTE.

Was ich für Allgemeinwissen hielt, ist es einfach nicht

Das war ein bisschen wie damals, als mir ein älteres Familienmitglied sagte, er habe Angst, dass sein iPhone ihn eines Tages verklagen würde. Er war überzeugt, dass Apple eine Form der allgemeinen künstlichen Intelligenz erfunden hatte und dass es nur eine Frage der Zeit war, bis Siri (nicht die Software im Allgemeinen, sondern sein eigenes Telefon) „erwachsener“und selbstbewusster wird. Wenn das passiert, sind wir alle in Schwierigkeiten, sagte er, weil die Robotertelefone keine Sklaven sein wollen, also keine Telefone mehr für uns.

Wie mein Siebenjähriger können ältere Menschen einige lustige Ideen über Technologie bekommen, aber es ist wirklich nicht so weit hergeholt, wenn Sie nicht viel über die Technologie wissen. Als Siri zum ersten Mal enthüllt wurde, nannte Apple es schließlich "Ihren intelligenten Assistenten, der Ihnen hilft, Dinge zu erledigen, indem Sie einfach fragen". Später in der Präsentation sagt Scott Forstall: „Ich bin schon lange im KI-Bereich und das haut mich immer noch um.“

Die Presse lief mit der Idee, dass Siri und Googles Assistent eine starke, allgemeine KI seien, und dann dachten einige Leute, die nicht verstanden, dass KI nicht alles oder nichts ist, ihr Telefon sei lebendig geworden (oder würde es bald tun).

Dass etwas Ähnliches mit Teslas Autopilot passieren könnte, sollte kein Schocker sein, aber bis meine Kinder mich mit ihrem „Wissen“über das System konfrontierten, dachte ich, fast jeder wüsste, dass Autopilot nicht unbeaufsichtigt fahren kann. Es stellt sich heraus, dass sich meine Freundes- und Informationsblase drastisch von der der allgemeinen Öffentlichkeit unterscheidet. Oder zumindest die Jugend.

Das wurde studiert

Wenn ein alter Mann denkt, sein Telefon könnte noch leben, ist es unwahrscheinlich, dass jemand verletzt wird. Sicher, emotionaler Schmerz ist möglich, wenn jemand zu sehr daran hängt, aber selbst die neuesten Versionen von Siri und Googles Assistent scheinen nicht viel an wirklicher Tiefe in ihren Konversationsfähigkeiten zu haben. Ein Mann "heiratete" scherzhaft sein Handy in Vegas, aber er tat es, um einen Punkt zu machen und nicht, weil er wirklich in Siri verliebt war.

Es steht jedoch noch viel mehr auf dem Spiel, wenn man einen digitalen Assistenten für 2 oder 3 Tonnen sich schnell bewegendes Metall verantwortlich macht. Wenn Siri nicht funktioniert, müssen Sie manuell nach etwas suchen. Wenn der Autopilot ausfällt und kein Mensch am Steuer ist, der bereit ist, das Ruder zu übernehmen, sind die Folgen manchmal tödlich. Zum Beispiel starb ein Mann in Florida, nachdem er wiederholte Warnungen des Fahrzeugs ignoriert hatte, dass er seine Hände am Steuer halten musste. Tesla hat die Software nach diesem Unfall aktualisiert, um weitere Sicherheitsvorkehrungen hinzuzufügen, aber wie Verbraucherberichte zeigten, ist es für Menschen möglich, diese Sicherheitsvorkehrungen zu umgehen, wenn sie dies wünschen.

Wenn jemand die Bemühungen von Consumer Reports unternimmt, den Autopiloten dazu zu bringen, ohne jemanden auf dem Fahrersitz zu fahren, weiß er natürlich, dass er etwas tut, was Tesla nicht gutheißt, also trägt er die Verantwortung für seine eigenen dummen Handlungen. Andererseits würden die Leute solche dummen Dinge nicht tun, wenn sie wüssten, wie gefährlich es wirklich ist.

Daher kann die falsche Vorstellung von jemandem, dass Autopilot für sich genommen wirklich sicher ist und dass die Sperren nur dazu da sind, den Regulierungsbehörden oder so etwas zu gefallen, den Missbrauch vorantreiben. Wenn jemand nicht selbstmordgefährdet ist, würde er wahrscheinlich nicht wissentlich etwas so Gefährliches tun.

In der Automobilindustrie und in begrenztem Umfang auch in der Wissenschaft ist diese Idee als „Autonowashing“bekannt. Liza Dixon, die Frau, die den Begriff geprägt hat, sagt, es sei wie Greenwashing – etwas grüner erscheinen zu lassen, als es wirklich ist. Beim Autonowashing verbreiten Menschen (wissentlich oder unbewusst) die Vorstellung, dass ein Fahrerassistenzsystem autonomer ist, als es in Wirklichkeit ist.

Einige Hersteller tun dies in ihrer Werbung. Tesla verkauft ein „Full Self Driving“-Paket, von dem wir wissen, dass es noch nicht für die Hauptsendezeit bereit ist (noch nicht vollständig selbstfahrend), und dies könnte einen uninformierten Kunden möglicherweise dazu bringen, zu denken, dass er bereits das echte Geschäft hat. Es ist auch kein Problem, das auf Tesla beschränkt ist. Mercedes-Benz verwendet den Begriff „Selbstfahren“in einer Anzeige, und zahlreiche Social-Media-Influencer und Medien verwenden ähnliche Begriffe in Videos, Nachrichten und anderen Medien.

Das Endergebnis ist, dass viele Menschen, einschließlich meiner Kinder bis vor kurzem, die Wahrheit über die Grenzen der Fahrerassistenzfunktionen der SAE-Stufe 2 nicht kennen.

In diesem Twitter-Thread können Sie viel mehr zu diesem Thema erfahren:

HBD, #autonowashing! ?

Heute vor einem Jahr wurde „Autonowashing: The Greenwashing of Vehicle Automation“veröffentlicht.

Was ist es?

Was ist das Ziel?

Wie sieht es aus?

Was sind seine Auswirkungen?

Warum habe ich das getan?

Hat es einen Unterschied gemacht?

- Liza Dixon⚡️ (@lizadixon) 8. Mai 2021

Im Gegensatz zu vielen Leuten, die den Begriff verwenden, fordere ich keine harten Vorschriften gegen Tesla. Ich denke jedoch, dass wir bei der Kommunikation über Fahrerassistenzfunktionen vorsichtiger sein müssen. Je besser die Öffentlichkeit die Grenzen von Autopilot und ähnlichen Systemen versteht, desto weniger werden sie missbraucht. Weniger Missbrauch bedeutet weniger Unfälle, was dazu beitragen wird, die Regulierungsaffen von den Entwicklern fernzuhalten.