KI im Auto: Kontrolle ist gut, Vertrauen ist besser

00:00:01: Pascal, wann würdest du dem autonomen Auto eigentlich zutrauen, dass es dein Sohn vor der Schule abholt?

00:00:12: Das ist eine gute Frage.

00:00:13: Ich weiß ja, worauf du hinaus willst mit der Frage, wohin du willst mit der Frage.

00:00:18: Man muss jetzt dazu sagen, vielleicht meinen Sohn ist aktuell in der ersten Klasse.

00:00:21: Das heißt, es ist noch Zeit.

00:00:24: Es ist noch Zeit.

00:00:25: Dreizehn Jahre hat die Technologie noch Zeit, so weit ausgereift zu sein, dass ich das nicht mehr selber machen muss.

00:00:31: Klammer auf, irgendwann muss er natürlich auch nicht mehr hingebracht und abgeholt werden.

00:00:36: Gute Frage, aber ich denke, das wird wohl noch eine ganze Weile hin sein, bis ich sagen würde, dass das geht.

00:00:42: Es könnte sein, dass es vielleicht bis dahin auch nicht mehr in der Schule ist.

00:00:45: Deswegen, es wird noch eine einige Zeit dauern wahrscheinlich, bis das Fahrzeug in der Lage ist dazu.

00:00:49: Aber fast geil, wir wollen heute in der heutigen Folge jetzt gar nicht so sehr um die technische oder natürlich auch über technische Fragen sprechen, aber nicht um die technische Umsetzbarkeit sprechen, sondern so ein bisschen auch uns drehen, um das Thema Trust und Vertrauen in KI und in autonome Systeme.

00:01:12: Was mich

00:01:12: bewegt,

00:01:13: der Automotive Podcast.

00:01:21: Ja, Pascal, dann lass uns rein starten in die heutige Folge.

00:01:24: Bevor wir uns dem Thema KI und Vertrauen und autonomes Fahren noch ein bisschen näher oder nähern, wollen wir nochmal ein paar kleine News Updates geben.

00:01:34: Sag doch mal schnell, was hast du denn aus der letzten Woche mitgebracht?

00:01:38: Ja, und zwar habe ich mir eine News rausgesucht, die in der vergangenen Woche veröffentlicht wurde, die vielleicht gar keine so positive News ist, aber eine, die zumindest unterstreicht, wie man sich in der Autoindustrie ohnehin fühlt.

00:01:49: und zwar ist es der IFO Geschäftsklima Index für die Automobilindustrie, der ist veröffentlicht worden, jetzt für den November und dort sehen die Ergebnisse folgendermaßen aus, dass der nämlich auf minus zwanzig Punkte gerutscht ist, nachdem er bei minus dreizehn Punkten im Oktober war.

00:02:06: Das heißt, da wieder deutlich abgesagt.

00:02:09: Das hat vor allem mit der Geschäftserwartung für die kommenden elf Monate zu tun, die da eben in der Automobilindustrie aktuell sehr düster ausfallen.

00:02:21: Und interessant ist da auch so ein bisschen, dass seit Mitte des Jahres schwankt einfach dieses Klima sehr stark.

00:02:27: Also es hat so vor eigentlich ein halbes Jahr lang konstant unter minus dreißig Punkten gelegen, also deutlich schlechter als aktuell noch, ist dann aber Juli August dann vorübergehend noch auf minus sechzehn gezogen, um dann eigentlich immer abwechseln jeder monat im prinzip zu steigen und zu fallen.

00:02:45: also das zeigt so ein bisschen auch die unsicherheit und die unwegbarkeiten die aktuell in der branche stehen dennoch ja wir reden über einen über einen index deutlich im negativen bereich.

00:02:57: die erwartung für den nächsten elf monate sehen nicht rosig aus aber.

00:03:01: Wer weiß schon, wie sich dieser Klimaindex auch verändert, wenn er aktuell eben wirklich sehr stark schwankt?

00:03:06: Ja, du hast gesagt, die Schwankungen sind da.

00:03:09: Wir haben ja in einigen Folgen auch immer schon mal so drüber gesprochen.

00:03:11: Wann kommt denn jetzt so ein bisschen der Aufstieg aus der Talsole?

00:03:15: Und das ist jetzt ehrlich gesagt nicht unbedingt ein Zeichen, dass dieser Aufstieg ansteht unbedingt.

00:03:21: Aber du hast es gesagt, es schwankt sehr und vielleicht sprechen wir in einem Jahr dann auch über ganz andere Zahlen und es gibt wieder ein Licht am Ende des Tunnels.

00:03:30: Aber es passt so ein bisschen ins Gesamtbild der Branche momentan dieser Geschäftsklima-Index.

00:03:38: Die Zeit ist für viele Unternehmen da.

00:03:41: Die Zeit sind nicht rosig und das Investitionsklima irgendwie auch nicht, gerade was die deutsche und europäische Autoindustrie anbelangt.

00:03:49: Das ist so.

00:03:49: Aber Janik, du hast ja auch ein bisschen die Zeitung durchgeblättert.

00:03:53: Was hast du denn noch an News gefunden, die unsere Hörerinnen und Hörer unbedingt auf dem Weg zur Arbeit noch mitnehmen müssen?

00:03:59: Ich hab die digitalen Zeitungen durchforstet und bin auch über uns fündig geworden zum einem Thema, einen News, die eigentlich auch ganz gut passt zu unserem heutigen Oberthema, wenn wir über das Thema autonomes Fahren, über KI und auch über Vertrauen sprechen.

00:04:14: Denn in der letzten Woche, da hat nämlich einer der ja, ich sag mal, wichtigsten Technologietreiber im Bereich autonomes Fahren, wenn man mal die letzten Jahre anschaut, nämlich eine Ankündigung gemacht, Nvidia, der Chip-Konzern, der für das Thema Autonomous fahren für viele viele Automobilhersteller ja so ein bisschen der Dreh- und Angelpunkt ist, wenn es um die Rechenpower im Fahrzeug auch geht.

00:04:38: Und der hat angekündigt, die Software Alpamao R-I oder R-I für autonome Fahrzeuge vorzustellen.

00:04:46: Ein Open Source Set.

00:04:49: Soll es hier an dieser Stelle sein, wichtige Info an dieser Stelle auch.

00:04:53: und das Ganze ist ein sogenanntes Vision Language Action KI Modell mit Reasoning Fähigkeiten und das ein bisschen vereinfacht gesprochen bedeutet, dass das autonome Fahrzeug das.

00:05:04: was die Sensorik im Straßenverkehr erfasst, gewissermaßen in natürliche Sprache umwandelt und damit das Ganze auch deutlich nachvollziehbarer Macht für Entwickler von autonomen Fahrfunktionen.

00:05:16: Die Innovation ist gewissermaßen, dass das System seine Überlegungen während der Routenplanung gewissermaßen laut ausspricht.

00:05:24: Das Modell zerlegt komplexe Verkehrssituationen in einzelne Schritte, bewertet mögliche Trajektorien und entscheidet dann, Welche sichere Route oder wie die sicherste oder beste Route an der Stelle ausgeht.

00:05:36: also macht es deutlich für jeden der sozusagen sich die Daten anschaut deutlich klarer wie denn diese Entscheidung da an der Stelle getroffen werden muss und dazu gehören Alltagsszenarien wie wie dichte Fußgänger Bereiche blockierte Fahrspuren oder auch unübersichtliche Radwege.

00:05:54: Und das Ganze ist wie gesagt eben ein großer Fortschritt in Richtung explainable AI, physical AI, haben wir in der letzten Folge auch besprochen.

00:06:03: Und wie gesagt, das macht es eben deutlich einfacher für Entwicklungsingenieure, da die KI nachzuvollziehen, Fehler auszumerzen und am Ende des Tages auch die Sicherheit zu optimieren.

00:06:13: und das eben Ganze auch als Open Source Modell, sodass die weltweite Entwickler-Community darauf zugreifen kann.

00:06:20: um hier eben die Fortschritte im Bereich autonomes Fahren möglichst vielen zugänglich zu machen.

00:06:27: Also hatte ich eine ganz spannende, ganz spannende News an der Stelle.

00:06:32: Definitiv.

00:06:33: Und Janik, damit hast du, du hast es schon gesagt, eigentlich den roten Teppich ausgerollt für das Thema, über das wir heute sprechen wollen, nämlich autonomes Fahren.

00:06:40: Aber du hast es gesagt, gar nicht mal, wenn wir jetzt mal von dem kleinen Exkurs jetzt gerade mal absehen, gar nicht technologisch.

00:06:48: sondern eher die Implikationen von Technologie oder das was Technologie sozusagen auf der anderen Seite nämlich auch braucht, nämlich den Menschen der Technologie nutzt und den Menschen der dieser Technologie auch vertrauen muss.

00:07:01: und wir wollen heute eben mal über Vertrauen und über Digital Trust sprechen.

00:07:06: Wenn wir da mal reinstarten, vielleicht mal so ein bisschen, was ist der Aufhänger?

00:07:10: Ja, da gibt es vielleicht jetzt mehrere aktuelle Aufhänger.

00:07:14: Weswegen wir uns gesagt haben, dieses Thema müssen wir heute mal aufgreifen.

00:07:17: Auf der einen Seite gab es eine ganz aktuelle Studie vom Bitcoin unter mehr als ein tausend Personen in Deutschland zum Autonomen fahren.

00:07:26: Und grundsätzlich, und das ist jetzt schon interessant, weil es soll jetzt gar nicht so negativ klingen jetzt schon in der Annahme sozusagen, grundsätzlich attestiert diese Studie.

00:07:36: eigentlich eine große Offenheit gegenüber dem autonomen Fahren.

00:07:40: Also, fünfzig Prozent erhoffen sich weniger Verkehrslärmen, sieben und vierzig Prozent erwarten flüssigeren Verkehr, drei und vierzig Prozent mehr Sicherheit, sieben und dreißig Prozent mehr Komfort.

00:07:50: Also, da gibt es schon einfach eine große, große Zustimmung zu all den Vorteilen, die man beim autonomen Fahren sieht.

00:07:58: Auch nur neun Prozent sehen gar keine Vorteile des autonomen Fahrens.

00:08:02: Aber natürlich hat die Studie auch Bedenken und Risiken.

00:08:06: abgefragt.

00:08:07: und da kommt jetzt genau einen Punkt rein über den wir heute sprechen wollen nämlich neun und vierzig Prozent und damit dann eben doch jeder zweite vertrauen dem system in schwierigen verkehrssituationen weniger als einem menschlichen fahrer.

00:08:19: also wenn es dann am ende salopp gesagt ans eingemachte geht dann will man doch wieder das lenkrad selbst in der hand haben und der maschine nicht.

00:08:29: das fällt überlassen und Das haben wir mal so ein bisschen zum Anlass genommen und diesem ganzen Thema einfach nochmal zu widmen.

00:08:36: Jetzt hat zum Beispiel auch und das gerade erst vor wenigen Tagen der CEO von DECRA, Stan Zuckiewitz, der hat auch nochmal auf einer Konferenz gefordert, dass man im Prinzip diesen Trust herstellen muss.

00:08:51: Er sagt, die eigentliche Herausforderung besteht nicht darin, leistungsfähige KI-Systeme zu entwickeln.

00:08:56: Die eigentliche Herausforderung besteht darin, sie so zu entwickeln, dass wir den Systemen, die auf unseren Straßen im Einsatz sind, vertrauen können.

00:09:04: Das da nochmal sind ganz klare Forderungen da auch von der DECRA, die natürlich als Prüforganisation ja auch genau solche Systeme ja auch genehmigt und da entsprechende regulatorische auch vorgibt und so weiter, dass da natürlich einfach der Trust auch irgendwo gegeben und gewährleistet sein muss.

00:09:23: Und das habe ich mal zum einen Zum Anlass genommen, ja nochmal so ein bisschen in die in die Studienlage zu schauen, vielleicht nochmal zu schauen.

00:09:31: Okay, ist das jetzt irgendwie, ist das ein Einzelfall?

00:09:35: Vielleicht die eine Studie, die ich gerade vom Bitcom zitiert habe, oder lässt sich das vielleicht in den weltweiten Verbreitungen auch feststellen, dass es da vielleicht noch entsprechenden Luft nach oben gibt, was das Thema Vertrauen angeht und Tatsächlich ist es so, dass ich auf eine ganze Menge gestoßen bin, was das Thema Vertrauen in KI, vor allem Vertrauen in intelligente Systeme im Zusammenhang mit der Mobilität geht.

00:10:02: Zum Beispiel eine Allianz-Umfrage zu selbstfahrenden Autos.

00:10:08: Muss ich an der Stelle sagen, die ist schon von zwanzig dreiundzwanzig.

00:10:11: Ich halte sie aber immer noch für relativ aktuell, wenn man sich da die die Zahlen beankuckt, weil sie eben auch ziemlich stark mit dem resonieren, was wir gerade eben von Bitcoin gehört haben.

00:10:22: wo im Prinzip ein klares Misstrauen ausgesprochen wird.

00:10:30: Dreizig Prozent fühlen sich mit keinerlei KI-Funktion im Auto wirklich sicher.

00:10:35: Also ein Drittel der Personen sagt, ich vertraue eigentlich keiner KI-Funktion im Auto voll und ganz.

00:10:41: Nur vier Prozent vertrauen voll im Prinzip diesen Autonomfahrfunktionen.

00:10:49: Das ist natürlich irgendwie eine sehr spannende, sehr klare Aussage.

00:10:56: Auch andere Studien oder Untersuchungen decken das tatsächlich total.

00:11:01: Zum Beispiel hat auch das World Economic Forum, hat zum Beispiel einen Artikel zum Thema Driving Trust, Paving the Way for Autonomous Vehicles ausgebracht, auch in diesem Jahr nochmal geupdatet.

00:11:14: Und da ist es tatsächlich so und die beziehen sich da eben auch auf ein JD Power Mobility Confidence Index.

00:11:21: Und der liegt aktuell in USA zum Beispiel bei siebenunddreißig von einhundert Punkten, Indexpunkten, also nur bei siebenunddreißig von hundert, wenn es um das Vertrauen in autonome Fahrzeuge geht, ein Rückgang um zwei Punkte gegenüber zweiundzwanzig.

00:11:37: Das heißt, die Entwicklung, die auch stattgefunden hat in den letzten Jahren und auch dieser ganze KI Hype, der ja erst ja auch erst nach zweiundzwanzig so richtig ja auch erst zum zum Tragen kam, hat also gar nicht dazu geführt, dass man jetzt mehr Vertrauen in solche Systeme hat, sondern weniger.

00:11:52: Das heißt, das Vertrauen geht an der Stelle sogar zurück.

00:11:57: Das ist natürlich auch nochmal total spannend.

00:11:59: Auch andere Untersuchungen decken das komplett.

00:12:03: Zum Beispiel eine Auswertung vom globalen Edelman Trust-Datensatz.

00:12:11: wo es um Vertrauen in Unternehmen, die KI entwickeln, geht.

00:12:16: Da geht es jetzt nicht explizit um autonomes Fahren, aber es geht eben um Vertrauen in KI-Unternehmen und in KI-Entwicklung.

00:12:23: Und das ist global von einundsechzig Prozent auf dreiundfünfzig Prozent in den letzten fünf Jahren gefallen.

00:12:29: In den USA ist das Vertrauen in KI-Unternehmen von fünfzig Prozent auf fünfunddreißig Prozent zurückgefallen.

00:12:36: Und da die Studienautoren legen da auch so ein bisschen nahe, dass das einfach auch mit dem mit den unterschiedlichen Geschwindigkeiten zu tun.

00:12:43: Das heißt, die Entwicklungsgeschwindigkeit im Bereich KI läuft den Vertrauensanpassungen, die wir Menschen darin anmachen, müssen sozusagen einfach vorne weg mit einer deutlich höheren Geschwindigkeit.

00:12:55: Die Entwicklung ist deutlich schneller, als wir Menschen das verstehen und fassen können, um auch Vertrauen zu fassen in diese Systeme.

00:13:04: Das heißt, in dem Moment, wo ich vielleicht mit etwas Ja, mich inzwischen mit dem ein oder anderen Features vielleicht wohlfühle, gibt es aber schon wieder drei und achtzig neue Features, die ich noch gar nicht überblicken kann.

00:13:15: Und das heißt, da gibt es also so einen Trust Gap, weil eben Entwicklung viel schneller ist als das Vertrauen in die Systeme.

00:13:22: nachziehen kann.

00:13:23: Und jetzt vielleicht auch nochmal so ein spannender Punkt aus der Frontiers in Psychology, also tatsächlich ein renommiertes wissenschaftliches Magazin, die auch nochmal ausgewertet haben, wie vertrauen in automatisierte Fahrzeuge aussieht.

00:13:39: Und dort ist es nochmal ganz interessant, weil es wirklich eine psychologische Auswertung ist.

00:13:44: Und zwar, dass das nämlich situationsspezifisch ist, dass das Vertrauen immer dann sinkt.

00:13:49: je kritischer die Situationen werden.

00:13:51: Das heißt also, wenn ein autonomes Fahrzeug in kritische Situationen kommt, wir denken jetzt wieder einmal kurz zurück an die Bitcom-Studie.

00:13:57: Dort war ja die Aussage auch.

00:13:59: Neunundvierzig Prozent vertrauen den System schwierige Verkehrssituationen weniger an als einen menschlichen Fahrer.

00:14:05: Und hier eben noch mal diese psychologische Auswertung, die genau das sagt.

00:14:08: Je schwieriger die Situationen werden, je kritischer die Situationen werden, desto mehr glaubt der Mensch, diese Dinge besser beherrschen zu können.

00:14:16: als die Maschine, den ich jetzt sozusagen das Vertrauen aussprechen muss.

00:14:20: Je unkritischer die Situation, desto unkritischer sind wir auch mit dem Geben von unserem Vertrauen.

00:14:26: Und das ist natürlich auch wieder interessant, weil wenn wir natürlich irgendwann über eine selbstfahrende Zukunft sprechen, dann geht es eben mal darum, dass ich das Vertrauen womöglich mal komplett abgeben muss und nicht vielleicht nicht unbedingt die Wahl habe, weil diese Themen auch so ausgelegt sind, dass sie auf meinen Eingreifen gar nicht mehr gar nicht mehr angewiesen sind.

00:14:47: Und wenn man jetzt so diese Zukunftsvision mal nimmt, und das ist jetzt noch so mein letzter Punkt, und das würde ich dann gerne mit dir nochmal diskutieren.

00:14:54: Janik, ich bin auf einen, nämlich bei der Frage, woran liegt das?

00:14:58: Und jetzt haben wir gerade schon ein, zwei Punkte gehört, woran das liegt.

00:15:02: Auch so ein bisschen psychologischer Natur.

00:15:05: Interessant fand ich jetzt, ich bin auf einen Kommentar gestoßen von einem Journalistenkollegen von uns, Sven Bravitz von der Automobilindustrie, der geschrieben

00:15:13: hat,

00:15:15: dass im Prinzip dieses fehlende Vertrauen

00:15:18: auch

00:15:18: kaputt gemacht wurde durch die Industrie selbst, dadurch dass sie sozusagen diesen Hype in autonome und selbstfahrende Fahrzeuge und in diese Science-Fiction-Zukunft so überzeichnet hat.

00:15:28: Also er sagt in dem Moment, wo wir sozusagen die Erwartung, eine unfassbar große Erwartungshaltung aufbauen und schüren, weil wir zu früh, und Janek, das ist was, das haben wir ganz oft auch schon in Bezug aufs autonome Farmen besprochen, zu früh eine, eine, ja, zukunft gezeichnet haben eine schöne welt gezeichnet haben die voller selbstfahrender fahrzeuge ist ohne unser eingreifen und dann gibt es aber nachrichten von unfällen mit autopiloten und so weiter.

00:15:56: das im prinzip auch diese diese diskrepanz aus der realität wo wir heute stehen auch auch die realität wo wir wahrscheinlich in fünf oder zehn jahren noch stehen werden und dem was vielleicht auch eine ganze zeit lang zum start dieses autonom fahren hypes mal mal irgendwie kühnprognostiziert worden ist, dass genau darin eigentlich auch ein Fehler liegt, den Menschen ein unrealistisches Bild sozusagen mitzugeben und eigentlich auch dann so diese Skepsis damit sogar zu schüren, anstatt iterativ und schrittweise eigentlich die Features einzuführen, mit dem man sich dann wohl fühlt.

00:16:33: Und das fand ich eine ganz interessante Perspektive, Janik.

00:16:36: Ich weiß nicht, wie du das siehst oder ob du da zustimmen oder wir schon widersprechen würdest, aber Es ist ja schon so, dass im Prinzip dieses Bild vom Autonom fahren ist schon eine ganze Weile in der Branche einfach deutlich überzeichnet worden.

00:16:47: Ja, wir haben da ja drüber diskutiert, an einer letzten Folgen auch, dass wir im Prinzip jetzt, im Jahr zwanzig, fünfundzwanzig, schon in einer vollautonomen Mobilität leben müssten.

00:16:56: Wenn wir den Prognosen aus den Jahren zwei, fünfzehn, zwei, sechszehn, zwei, siebzehn zustimmen müssten, dass es jetzt alles hier schon vollautonom läuft und wir eigentlich überhaupt nicht mehr das Lenkrad in die Hand nehmen müssten, weil alles schon super ausgereift ist.

00:17:10: Nein, das ist natürlich nicht so und die Entwicklung ist dann doch deutlich langsamer vorangeschritten.

00:17:14: aus.

00:17:15: verschiedensten Gründen haben wir alles diskutiert, soll jetzt an der Stelle nicht die Diskussion sein.

00:17:18: Aber was ich dabei eben auch spannend finde, weil du es auch so ein bisschen gesagt hast, die ja vielleicht auch die technologische Entwicklung hält nicht Schritt mit dem Aufbau des Vertrauens innerhalb der Bevölkerung, was das Vertrauen in diese Systeme eben anbelangt.

00:17:34: Und da finde ich es auch ganz klar zu sehen, dass es so verschiedene Eskalationsstufen gibt.

00:17:39: Was in diesem Kontext Vertrauen, Ethik und so weiter, die es da gibt.

00:17:44: Und zwar auf der ersten Stufe ist vielleicht auch so ein bisschen das Thema Regulatorik.

00:17:49: Wie sind die Regeln, wie sind die Haftungsfragen aus?

00:17:53: Ethische Fragen natürlich auch, die damit rein spielen.

00:17:56: Dann auf der anderen Seite die technologische Eskulationsstufe traue ich dem System, dem regelbasierten Entscheidungssystem momentan in einem hochentwickelten Auto, das über hochentwickelte Assistenzsysteme verfügt, gar nicht unbedingt über vollautonomische Systeme an der Stelle, sondern einfach über ganz klassische Fahrerassistenzsysteme, hochentwickelte Fahrerassistenz in dem... Level zwei, Level drei vertraue ich dem überhaupt, der ja noch nach relativ einfachen oder nach relativ logischen Entscheidungslogiken funktioniert.

00:18:28: Wenn man Objekt X sieht, dann erfolgt Aktion Y und so weiter.

00:18:32: Das ist ja momentan noch die regelbasierte Entscheidungslogik.

00:18:35: an der Stelle, da habe ich schon ein Problem als Nutzer, dem so vollständig zu vertrauen und sage, ach nee, dann scheide ich das System eher lieber mal aus, weil ich doch eher mir vertraue.

00:18:44: Aber und jetzt kommt die dritte Eskalationsstufe, die wir jetzt ja vielleicht auch noch mal ein bisschen diskutieren können.

00:18:50: Was ist denn, wenn jetzt die KI, diese diffuse, mysteriöse KI am Ende des Tages diese Entscheidungslogik übernimmt und zwar die komplette Handlungskette eigentlich end-to-end übernimmt und sozusagen ich als fahrer gar nicht mehr großartig in dieser in dieser entscheidungsfreundungsprozess war es ja gerade auch mit der envidia meldung gehabt irgendwie involviert bin an der stelle und die ke im prinzip alles übernimmt so dann.

00:19:18: Auch da eben die Frage, ja ist das denn, ist das nicht wirklich ein Einschritt jetzt schon zu weit gedacht, vor allem für die Kundschaft da draußen, die sagt, nein, also diesen System, das ist mir viel zu sehr eine Blackbox an der Stelle, den traue ich einfach noch nicht so.

00:19:34: Und natürlich ist auf der anderen Seite die Frage, ist es technisch überhaupt schon so weit fortgeschritten, dass man da auch davon sprechen kann, dass die KI am Ende des Tages auch wirklich... Diese ganzen Entscheidungen auch wirklich selbst tätig fallen, also diese Entscheidung fällen kann, das ist ja noch gar nicht geklärt.

00:19:53: Ganz spannend dazu auch vor einigen Wochen hat der Audis neuer Entwicklungsvorstand Geoffrey Bokou auf dem Mobility Circle in einem Live Talk auch so ein bisschen über das Thema, über das Potenzial auf der einen Seite von KI, sei es im Bereich Adas, sei es im Bereich User Experience gesprochen, aber auch über die Herausforderung, was das Thema KI anbelangt.

00:20:17: Und er sagt eben auch, ja, das ist eben ganz klar.

00:20:22: Auf der einen Seite haben wir natürlich den großen Vorteil, dass die Leistungsfähigkeit der Systeme auch durch KI natürlich dramatisch gestiegen wird.

00:20:31: Aber auch gleichzeitig die Anforderungen an Sicherheit, an Validierung und eben auch an Vertrauen deutlich höhere sind, weil eben die KI nicht mehr nach programmierten Mustern arbeitet, sondern eben selbst generiert, ähnlich wie ein Mensch agiert an der Stelle und eben kontextabhängige Entscheidungen treffen muss.

00:20:52: ist für ihn eben das Thema Vertrauen, sagt er selber eben auch, ein zentrales Erfolgskriterium, um eben eine KI-basierte Fahrerassistenz und auch eine KI-basierte User Experience.

00:21:04: Ist ja auch ein großes Thema, gerade im Fahrzeug dann.

00:21:07: Also, wie interagiere ich mit meinem Fahrzeug eben auch über KI-Systeme?

00:21:13: Und da geht es ja eigentlich um bei beiden, um auch um das Thema Vertrauen am Ende des Tages.

00:21:19: Da sagt er zum Beispiel klar, Erklärbarkeit der KI ist extrem wichtig.

00:21:23: Also es muss nachvollziehbar sein, wie das System arbeitet.

00:21:26: Der Nutzer muss verstehen, warum und wie das Auto handelt.

00:21:31: Nur so ist eben das System eben nicht so eine Blackbox, die ich ja eben schon angesprochen habe.

00:21:37: Wichtig im Hintergrund natürlich auch, die OEMs müssen sicherstellen, dass die Systeme statistisch zuverlässig das tun, was sie tun sollen.

00:21:46: Also es liegt auch gar nicht mehr so darum, wie der Code jetzt geschrieben wird, sondern wie sichert man eben Qualität, Geschwindigkeit und Robustheit in jedem Entwicklungsschritt am Ende des Tages.

00:21:58: Wie kann man das sichern?

00:22:00: Und natürlich auch die Kunden werden Systeme nur akzeptieren, wenn sie wirklich erklärbar auf höchstem Sicherheitsniveau auch agieren.

00:22:12: Das ist eben einer der, oder das sind so ein bisschen die drei wesentlichen Punkte, die er da sieht, um eben mehr Vertrauen auch in solche KI-Systeme zu schaffen.

00:22:24: Am Ende, das sagt Transparenz aus, sagt er ganz klar.

00:22:27: Es muss verständlich eben sein, wie die KI agiert.

00:22:31: Und das ist eben ein Prozess und das sagt er auch nochmal ganz klar.

00:22:35: Das ist jetzt nicht von heute auf morgen erledigt.

00:22:37: Das ist ein Prozess, der sich auch noch über mehrere Jahre ziehen wird.

00:22:43: Aber es ist auf jeden Fall das Zielbild, was auch eine Audi definiert, dass diese KI-Systeme da auch die User-Interaction und auch eben das Thema Fahrerassistenz am Ende des Tages revolutionieren wird.

00:22:56: Aber da bis dahin braucht es eben noch diesen Vertrauensaufbau, der sich noch über einige Jahre hinziehen wird.

00:23:02: Also fand ich ganz interessant.

00:23:04: was der Geoffrey Bocoule an der Stelle

00:23:07: gesagt hat.

00:23:08: Ja, definitiv.

00:23:10: Ist es so, was ich mich da immer, was ich mich halt immer so ein bisschen frage in der ganzen, in der ganzen Gemengelage ist ja, dieses Skepsis gegenüber Technologie, die eigentlich an vielen Stellen ja indiskutabel besser funktioniert als menschliche Wahrnehmung.

00:23:30: Und damit will ich ja menschliche Wahrnehmung nicht schlecht reden.

00:23:32: Ich glaube, wir sind ja schon eine Spezies auf der Welt, die in bestimmten, vor allem wenn es, wie soll ich sagen, um das menschliche Sensorset geht.

00:23:40: Ja, ziemlich gut bestellt ist, ja.

00:23:42: Markettiere geben, die können besser sehen, aber weniger gut hören und so weiter.

00:23:46: Aber

00:23:49: dieses Thema, eine Kamera, eine Umfelderkennung, ein Liedersensor und so weiter.

00:23:55: Der innerhalb von Millisekunden schon den Ball, der auf die Straße rollt, irgendwie sehen kann, wo wir noch irgendwie, weiß ich nicht, vielleicht irgendwie nochmal in den Rückspiegel gucken und den Lippenstift nochmal nachziehen.

00:24:07: Also das ist halt, wir überschätzen natürlich auch immer sehr stark unsere eigenen Fähigkeiten und unterschätzen dann die der Technologie, die halt einfach an Sachen Wahrnehmung halt indiskutabel besser und schneller ist als der Mensch.

00:24:21: Mein Auto ausgerüstet mit Umfelderkennung und Notbremsassistent wird definitiv schneller und besser bremsen, als mir überhaupt bewusst ist, dass mein Vordermann im Auto vielleicht gerade schon irgendwie bei Gelb auf der Ampel irgendwie schon in die Eisen geht.

00:24:40: Aber es ist halt einfach ein interessantes psychologisches Ding.

00:24:44: Also wir trauen uns immer mehr zu.

00:24:47: weil wir es halt einfach selbst in der Hand haben, als dass wir es anderen zutrauen.

00:24:51: Aber im Endeffekt ist das gleiche, als wenn ich auf dem Beifahrersitz sitze und im Prinzip in Fahrsituationen, in denen ich selber auf dem Fahrersitz überhaupt gar keine Gedanken mehr machen würde übers Fahren, bin ich auf dem Beifahrersitz schon irgendwie die Pedale am Mitbedienen, weil ich mir denke, warum fährt man da jetzt irgendwie so weit an das Auto auf der Autobahn und wie vor uns jetzt ran, was ich selbst nicht anders machen würde, wenn ich im Fahrersitz sitzen würde.

00:25:14: Also ich glaube, wir haben ja einfach, wir geben ja ungern Kontrolle ab.

00:25:17: Grundsätzlich.

00:25:18: Ja, das ist halt die Rationalität des Menschen an der Stelle, die natürlich aber auch zu solchen Umfrage-Ergebnissen führt am Ende des Tages.

00:25:28: Also, die Umfragen werden sich erst auch wirklich drehen und dieses Vertrauen oder diese Akzeptanz oder auf der anderen Seite eben die Skepsis wird weniger oder das Vertrauen wird mehr.

00:25:40: Wenn man eben auch als Nutzer diese Erfahrungen gemacht hat, dass das System eben auch viel besser funktioniert.

00:25:45: Und das ist halt dieser Gap und das ist das, was Boku eben auch mit dieser Übergangsphase meint.

00:25:50: Also, dass es eben noch Zeit braucht, bis sich sozusagen das Pendel da in die andere Richtung ausschlägt.

00:25:58: Also, das wird schon noch eine Weile dauern.

00:26:01: Man muss halt dieses System erfahren.

00:26:03: Dass es funktioniert und an dem punkt sind wir ja glaube ich auch noch nicht.

00:26:06: also jetzt mal abgesehen von von das was die AI schon leisten kann aber auch eben was noch die System mit an auf dem heutigen Technologiestandard im Level zwei Level drei Level vier auch da gibt es ja noch ganz viel.

00:26:19: Was erstmal an Erfahrung auch von Nutzern gesammelt werden muss, um eben diese Akzeptanz, die man eben durch Umfragen, Abfragen kann, da auch eben aufzubauen.

00:26:28: Also das wird schon noch eine Weile dauern, aber es ist auch immer ein bisschen ein Henne-Eye-Problem.

00:26:33: Also am Ende des Tages werden die OEMs, die Unternehmen das auch nur forcieren, wenn sie natürlich darin auch ein Profit sehen und einen Kunden nutzen am Ende des Tages auch.

00:26:44: Und wenn der Kunde sagt, nein, aber eigentlich will ich die Systeme gar nicht.

00:26:47: Dann ist das natürlich wieder auch so ein Problem.

00:26:49: Wie wird sich da dann die Entwicklungsgeschwindigkeit ausprägen an der Stelle?

00:26:53: Das ist ein bisschen kleiner Teufelskreis, der vielleicht da entstehen könnte.

00:26:59: Und ich glaube, das wird auch noch eine Zeit dauern und wir werden auch... Wahrscheinlich nicht in kürzester Zeit oder in den nächsten zwei, drei Jahren damit rechnen können, sondern dieses Thema vielleicht auch.

00:27:10: Und da haben wir in einem der letzten Folgen auch schon mal drüber gesprochen, vielleicht auch durch das Thema Robotaxi.

00:27:14: Also wenn das Thema in wirklich Mobilitätsflotten ausgerollt wird und dann die Leute das wirklich erfahren können.

00:27:21: Und diese

00:27:22: Taxis, diese Robotaxi-Shuttles

00:27:24: sind ja schon auf einem höheren Level als die meisten Privat-Pkw ist momentan.

00:27:28: Und dann gibt es vielleicht da den Boost und das schwappt dann auch rüber in den Individualverkehr.

00:27:37: Also mal schauen, wie sich das weiterentwickeln wird.

00:27:45: Du sagst natürlich, was richtig ist.

00:27:46: Es muss erfahrbar sein, damit man es erlebt.

00:27:49: Und ich glaube, dann kommen wir wieder zurück zu den Kommentaren, die ich vorhin gesagt habe, nämlich mit dieser Erwartungshaltung, die in Bezug auf das Ausnahmepfaden im Prinzip so aufgeladen wurde.

00:27:56: Das ist ja im Prinzip genau das.

00:27:58: Es wurde im Prinzip eine Zukunft versprochen, die dann einfach immer und immer und immer und immer wieder nicht kommt.

00:28:03: Und dadurch wächst die Skepsis, weil mir im Prinzip etwas versprochen wurde, was dann in meiner Wahrnehmung offensichtlicher doch nicht möglich ist.

00:28:10: Viel schwerer als gedacht.

00:28:13: Wenn ich dir sage, Janik, ich kann dir richtig gut helfen, ich baue da mal was.

00:28:18: In zwei Wochen, in zwei Wochen kriegst du das.

00:28:20: Und ich sage ja nie das mal, viel schwerer als gedacht.

00:28:23: Das kriege ich so einfach gar nicht hin.

00:28:24: Ne, ich brauche noch ein bisschen.

00:28:25: Ne, das klappt alles noch nicht so ganz.

00:28:27: Das brauche ich noch ein bisschen.

00:28:28: Ja, also wie freudig erregt wirst du dann dem, was ich dir davor bereite, dann noch entgegenblicken.

00:28:33: Und deswegen, ich kann so diesen Kommentar, dass man sich im Prinzip so ein bisschen Bärendienst selbst erwiesen hat.

00:28:41: weil man diese Zukunftsprognose so rosig gemalt hat, das kann ich schon nachvollziehen.

00:28:47: Und

00:28:49: diese Diskussion um das Thema Autonomus fahren wird natürlich dann vielleicht auch bei dem durchschnittlichen Automobilkunden, bei dem durchschnittlichen Automobilnutzer natürlich auch überlagert durch die eigene Erfahrung der Fahrerassistenz, die ich momentan in meinem Fahrzeug baue ja, Und

00:29:08: vielleicht manchmal auch noch das, aber da ist die Fahrradsysteme sowieso.

00:29:11: Ja, weil war ja

00:29:11: im Jahr zwanzig achtzehn, zwanzig fünfzehn, keine Ahnung.

00:29:14: Natürlich auf den basalsten Stufen momentan noch sich bewegt und dann vielleicht auch zu Ärgernissen führt.

00:29:21: jetzt, ich piept hier wieder mein Assistent, mein Fahrer, mein Spurhalterassistent und ich will den eigentlich gar nicht.

00:29:26: Und dann überlebt diese Wahrnehmung der Kunden zum heutigen Zeitpunkt überlagert mit dem, was vielleicht in zehn, zwölfzehn Jahren vielleicht möglich ist.

00:29:35: und alle sagen, ja, aber autonomous fahren, das brauche ich nicht.

00:29:37: Das ist ja eh nur ein Störfaktor in meiner Erfahrung, in meinem Kundenerlebnis.

00:29:42: Das meine ich eben damit.

00:29:43: Also das ist das, was die breite Masse momentan eben vom Thema Autonomen fahren oder hoch automatisierten fahren eben noch irgendwie mitbekommt.

00:29:52: Und das wird sich erst ändern, wenn man wirklich dann auch diese Dinge dann auch wirklich mal funktionierend auf der Straße erleben kann an der Stelle.

00:30:01: Ja, nicht nur das, sondern es ist ja auch das Thema Nachvollziehbarkeit.

00:30:05: Das heißt, verstehen können welche Entscheidungen getroffen werden und es hat natürlich dann auch viel mit ohne das fast jetzt noch aufzumachen aber es hat viel dann auch mit infotainment und hmi zu tun mit dem mit dem ganzen thema interface.

00:30:16: das heißt wie mache ich denn dem nutzer dem menschen deutlich welche entscheidung ich gerade auf welcher grundlage treffe?

00:30:23: was sehe ich gerade?

00:30:24: warum entscheide ich so wie ich entscheide?

00:30:27: es ist ja auch das thema was wir auch schon häufiger mal besprochen haben, auch in Richtung Außen, also Kommunikation mit anderen Verkehrsteilnehmern, wie ein Fahrzeug, vielleicht ja auch über intelligente LED-Paneele deutlich machen kann, auch anderen Verkehrsteilnehmern deutlich machen kann.

00:30:43: Schau mal, ich habe dich gerade gesehen übrigens, keine Sorge, ich halte an.

00:30:47: Das sind alles so Themen, wo es nicht nur um Erfahrbarkeit geht, sondern auch um Nachvollziehbarkeit.

00:30:52: Und was passiert eigentlich gerade?

00:30:53: Und okay, ich weiß, du hast es gesehen.

00:30:55: Alles klar, ich weiß, welche Entscheidung du gerade getroffen hast.

00:30:57: Gut.

00:30:58: Ich weiß, warum du gerade gebremst hast.

00:31:01: Das spielt natürlich auch eine Rolle.

00:31:02: Und da wird sich auch Infotainment und HMI auch verändern müssen.

00:31:06: Genau.

00:31:06: Und bis zu dem Punkt, wo dann, und das hat Jeffrey Bokou in dem Livetalk auch noch mal gesagt, bis zu dem Punkt, wo es dann selbstverständlich sein wird, dass intelligente Systeme Dinge einfach automatisch tun.

00:31:19: ohne dass wir als Nutzer oder als Passagier in einem Robotaxi zum Beispiel davon überhaupt Kenntnis nehmen oder wir auch gar nicht den Impuls haben, dass wir das wissen müssen.

00:31:29: Natürlich im Straßenverkehr muss es weiterhin noch Signale geben, wie sich ein Verkehrsteilnehmer bewegt.

00:31:34: Das ist klar.

00:31:36: Aber dass wir so weit Vertrauen in das System haben, dass wir gar nicht mehr die intrinsische Motivation haben, jetzt zu wissen, was macht denn jetzt die Maschine, sondern ich habe so ein großes Vertrauen in das, was die Maschine tut.

00:31:49: dass ich am Ende des Tages da gar keine großen Interaktionen mehr brauche, weil es einfach automatisch tut und das ist einfach der Alltag so, das ist aber eben wie gesagt eben noch weit in der Zukunft.

00:32:00: Pascal an der Stelle, würde ich sagen, machen wir hier einen Rap für die Rap-Up für die heutige Folge.

00:32:07: An der Stelle sei noch gesagt, das Interview mit Geoffrey Bokou, wollen wir auch in den nächsten Wochen auch noch mal, ja, als Wortlautinterview bei uns bei Automotive IT bringen, sodass man das alles noch mal nachlesen kann.

00:32:18: Das wird in der nächsten Zeit sein.

00:32:22: Und alles andere, alle anderen News natürlich, packen wir auch wieder mit in die Show-Nauts hier heute, damit sie sich da, damit sich die Zuhör-Innen dann auch weiter informieren können und nochmal sich in das Thema Digital Trust im Bereich Autonomus fahren, im Bereich Mobilität dann nochmal informieren können.

00:32:37: Pascal, ich danke dir an der Stelle für die heutige Folge und wir hören uns dann in der nächsten Woche wieder.

00:32:43: Genau, bis dahin.

00:32:44: Ciao.

00:32:57: Ciao.