-
Stand der Technik
-
Die Erfindung betrifft ein Verfahren zum Ermitteln, ob ein Objekt mit einem Fahrzeug kollisionsfrei überfahrbar ist, und ein Fahrzeug.
-
Während ein Fahrzeug ein Parkmanöver ausführt, werden typischerweise Objekte in einer Umgebung des Fahrzeugs mittels einer Parkhilfe des Fahrzeugs erfasst.
-
Offenbarung der Erfindung
-
Der Erfindung liegt als Aufgabe die Bereitstellung eines Verfahrens zugrunde, das besonders früh und besonders zuverlässig ermittelt, ob ein Objekt mit einem Fahrzeug kollisionsfrei überfahrbar ist. Weiter ist es Aufgabe der vorliegenden Erfindung ein Fahrzeug bereitzustellen, das dazu ausgebildet ist, das Verfahren auszuführen.
-
Die der Erfindung zugrundeliegende Aufgabe wird durch ein Verfahren mit den Merkmalen des Anspruchs 1 und durch ein Fahrzeug mit den Merkmalen des Anspruchs 10 gelöst. Vorteilhafte Weiterbildungen der Erfindung sind in den Unteransprüchen genannt.
-
Ein erfindungsgemäßes Verfahren ist zum Ermitteln, ob ein Objekt mit einem Fahrzeug kollisionsfrei überfahrbar ist, geeignet. Das Verfahren weist die Schritte auf: a) Erzeugen von Sensordaten von dem Objekt durch Erfassen des Objekts mittels einer Parkhilfe des Fahrzeugs, während das Fahrzeug ein Parkmanöver ausführt; b) Erstellung einer Datensequenz basierend auf einer Entwicklung der Sensordaten; und c) Ermitteln durch Analysieren der Datensequenz, ob das Objekt mit dem Fahrzeug kollisionsfrei überfahrbar ist.
-
Vorteilhafterweise kann durch das Analysieren der Datensequenz besonders früh und besonders zuverlässig festgestellt werden, ob das Objekt mit einem Fahrzeug kollisionsfrei überfahrbar ist oder nicht.
-
Ein weiterer Aspekt der Erfindung kann sein, dass die Entwicklung der Sensordaten während des Ausführens des Parkmanövers charakteristisch für ein nicht kollisionsfreie überfahrbares Objekt sein kann. Vorteilhafterweise kann durch Ausführen des Verfahrens das Objekt anhand der Entwicklung der Sensordaten als nicht kollisionsfreie überfahrbares Objekt erkannt werden, bevor die Parkhilfe des Fahrzeugs das Objekt, insbesondere eine Höhe des Objekts, vollständig erfasst hat.
-
Unter einem kollisionsfreien Überfahren des Objekts kann verstanden werden, dass das Fahrzeug über das Objekt fährt, ohne dabei beschädigt zu werden.
-
Das Parkmanöver kann zum Platzieren des Fahrzeugs auf einen Parkplatz ausgeführt werden. Das Parkmanöver kann als Einparken des Fahrzeugs auf dem Parkplatz bezeichnet werden.
-
Das Objekt kann einen Parkplatz, auf den das Fahrzeug durch das Parkmanöver platziert wird, begrenzen.
-
Das Objekt kann beispielsweise ein Laternenpfahl, ein Pfosten, eine Wand, eine Bordsteinkante, ein Parkbügel, ein Parkbegrenzer, ein Straßenschild, ein Verkehrszeichen, eine Mauer, ein Zaun, ein Baum, ein Pflanzbeet oder ein weiteres Fahrzeug sein.
-
Die Parkhilfe kann mindestens einen Ultraschallsensor, insbesondere für das Erzeugen der Sensordaten von dem Objekt, aufweisen. Das Erfassen des Objekts im Schritt a) kann ein Erfassen des Objekts mittels des Ultraschallsensors umfassen. Die Datensequenz kann eine Sequenz von Sensordaten des Ultraschallsensors aufweisen.
-
Vorteilhafterweise können Ultraschallsensoren aufgrund ihrer hohen Empfindlichkeit, einfachen Anwendbarkeit und günstigen Preises für die Verwendung als Parkhilfe besonders geeignet sein.
-
Das Erzeugen der Sensordaten von dem Objekt kann, insbesondere nur, während dem Ausführen des Parkmanövers erfolgen. Beispielsweise können die Sensordaten von dem Objekt nicht erzeugt werden, wenn das Fahrzeug kein Parkmanöver ausführt.
-
Das Erzeugen der Sensordaten von dem Objekt kann ein Erzeugen von Zeitstempeln umfassen. Jeder Zeitstempel kann eine Zeitangabe sein, zu der das Objekt durch die Parkhilfe erfasst wurde. Die Datensequenz kann zusätzlich die Zeitstempel aufweisen. Die Sensordaten können in der Datensequenz basierend auf den Zeitstempeln relativ zueinander angeordnet sein. Beispielsweise können die Sensordaten mit aufsteigenden Zeitstempeln in der Datensequenz angeordnet sein.
-
In einer Weiterbildung des Verfahrens ist die Entwicklung der Sensordaten im Schritt b) eine distanzabhängige Entwicklung und/oder eine zeitliche Entwicklung der Sensordaten.
-
Beispielsweise kann die Datensequenz um weitere Sensordaten von dem Objekt ergänzt werden, wenn eine Distanz zwischen dem Fahrzeug und dem Objekt sich um einen vorgegebenen Betrag verkürzt oder verlängert hat. Mit anderen Worten, die Erfassung der Sensordaten kann periodisch in vorgegebenen räumlichen Intervallen erfolgen.
-
Zusätzlich oder alternativ kann beispielsweise die Datensequenz um weitere Sensordaten von dem Objekt ergänzt werden, wenn eine Dauer seit dem Erzeugen der zuletzt der Datensequenz hinzugefügten Sensordaten einen vorgegebenen Wert erreicht hat. Mit anderen Worten, die Erfassung von Sensordaten kann periodisch in vorgegebenen zeitlichen Intervallen erfolgen.
-
In einer Weiterbildung des Verfahrens erfolgt die Erstellung der Datensequenz im Schritt b) durch Speichern der im Schritt a) erzeugten Sensordaten.
-
In einer Weiterbildung des Verfahrens erfolgt das Analysieren der Datensequenz im Schritt c) durch Bildung von Korrelationen von in der Datensequenz benachbarter und/oder aufeinanderfolgender Sensordaten. Vorteilhafterweise kann basierend auf den Korrelationen besonders einfach ermittelt werden, ob das Objekt mit dem Fahrzeug kollisionsfrei überfahrbar ist.
-
In einer Weiterbildung des Verfahrens erfolgt das Analysieren der Datensequenz im Schritt c) mittels eines rekursiven neuronalen Netzes. Vorteilhafterweise können Datensequenzen von unterschiedlichen Längen mittels des rekursiven neuronalen Netzes analysiert werden. Das rekursive neuronale Netz kann flexibel skalierbar ausgebildet sein. Das rekursive neuronale Netz kann für unterschiedlich ausgebildete Fahrzeuge besonders einfach angepasst oder trainiert werden.
-
Das rekursive neuronale Netz (englisch: „recursive neural network“) kann mit „RNN“ abgekürzt werden.
-
Durch das rekursive neuronale Netz kann das Ermitteln, ob ein Objekt mit einem Fahrzeug kollisionsfrei überfahrbar ist, auch dann zuverlässig erfolgen, wenn von dem Objekt in früheren Zeitabschnitten Sensordaten erzeugt und in einem späteren Zeitabschnitt keine Sensordaten erzeugt wurden. Dies kann beispielsweise für kollisionskritische Objekte gelten, die eine geringere Höhe als die Montageposition der Parkhilfe aufweisen und dadurch bei geringer Entfernung sich aus einem Erfassungsbereich der Parkhilfe bewegen. Derartige Objekte können beispielsweise Kisten oder Bobbycars sein.
-
In einer Weiterbildung des Verfahrens weist das Verfahren vor dem Schritt c) den Schritt auf: e) Trainieren des rekursiven neuronalen Netzes mit zumindest einer Trainingsdatensequenz. Die Trainingsdatensequenz kann beispielsweise ein Rauschen aufweisen. Dadurch kann vorteilhafterweise das rekursive neuronale Netz unempfindlicher auf ein Rauschen in der Datensequenz sein. Die Trainingsdatensequenz kann eine Datensequenz von einem früheren Parkmanöver sein. Das Trainieren des rekursiven neuronalen Netzes kann außerhalb des Fahrzeugs, beispielsweise in einem Rechenzentrum, stattfinden.
-
In einer Weiterbildung des Verfahrens ist das rekursive neuronale Netz als ein long short-term memory Netz ausgebildet. Das long short-term memory Netz (deutsch: langes Kurzzeitgedächtnis-Netz) kann mit „LSTM“ abgekürzt werden.
-
In einer Weiterbildung des Verfahrens umfasst das Ermitteln im Schritt c) ein Gewichten der Sensordaten.
-
Aussagekräftigere Sensordaten können stärker gewichtet sein. Beispielsweise können Sensordaten mit einem geringen Signal-Rauschverhältnis stärker gewichtet sein als Sensordaten mit einem größeren Signal-Rauschverhältnis.
-
Das Analysieren der Datensequenz im Schritt c) kann in Abhängigkeit von der Gewichtung der Sensordaten erfolgen.
-
Vorzugsweise kann das Trainieren des rekursiven neuronalen Netzes im Schritt e) derart erfolgt, dass die Gewichtung der Sensordaten durch das rekursive neuronale Netz erfolgt. Für das Training im Schritt e) kann beispielsweise eine Verlustfunktion und/oder eine Bewertungsmetrik verwendet werden, die die Sensordaten unterschiedlich gewichtet
-
In einer Weiterbildung des Verfahrens erfolgt das Gewichten der Sensordaten basierend auf einem Abstand zwischen dem Objekt und dem Fahrzeug. Zusätzlich oder alternativ erfolgt das Gewichten der Sensordaten basierend auf einer zeitlichen Abfolge der Sensordaten.
-
Die Sensordaten können derart gewichtet sein, dass die Sensordaten, die mit einem geringen Abstand zwischen dem Objekt und dem Fahrzeug erzeugt wurden, stärker gewichtet sind als Sensordaten, die mit einem höheren Abstand zwischen dem Objekt und dem Fahrzeug erzeugt wurden. Der Abstand zwischen dem Objekt und dem Fahrzeug kann basierend auf den Sensordaten ermittelt werden.
-
Die Sensordaten können derart gewichtet sein, dass die Sensordaten, die zeitlich früher erzeugt wurden, geringer gewichtet sind als Sensordaten, die zeitlich später erzeugt wurden.
-
Ein erfindungsgemäßes Fahrzeug, insbesondere ein Kraftfahrzeug, ist das dazu ausgebildet, ein zuvor beschriebenes Verfahren auszuführen.
-
Nachfolgend werden mögliche Ausführungsbeispiele der Erfindung unter Bezugnahme auf die beiliegenden Zeichnungen erläutert. Es zeigen:
- 1 eine schematische Draufsicht auf ein Fahrzeug mit einer Parkhilfe,
- 2 bis 4 jeweils eine schematische Draufsicht auf das Fahrzeug von 1 während einem Erstellen einer Trainingsdatensequenz für ein Training eines rekursiven neuronalen Netzes des Fahrzeugs,
- 5 eine schematische Draufsicht auf das Fahrzeug von 1 beim Ausführen eines Parkmanövers,
- 6 ein schematisches Modell von Sensordaten und dem rekursiven neuronalen Netz beim Ausführen des Parkmanövers von 5, und
- 7 ein beispielhafter Ablauf eines Verfahrens zum Ermitteln, ob ein Objekt mit einem Fahrzeug kollisionsfrei überfahrbar ist.
-
1 zeigt ein Fahrzeug 10 mit einer Parkhilfe 12 in Form eines ultraschallbasierten Fahrerassistenzsystems. Die Parkhilfe 12 hat eine Steuereinrichtung 14 und eine Mehrzahl von Ultraschallsensoren 16. In dem Ausführungsbeispiel der 1 sind beispielhaft acht Ultraschallsensoren 16 dargestellt.
-
In einem alternativen, nicht dargestellten Ausführungsbeispiel hat die Parkhilfe zwölf Ultraschallsensoren, wobei jede Stoßstange des Fahrzeugs sechs Ultraschallsensoren aufweist. Von den sechs Ultraschallsensoren jeder Stoßstange können zwei Ultraschallsensoren seitlich ausgerichtet sein.
-
Die Ultraschallsensoren 16 sind mit der Steuereinrichtung 14 signaltechnisch verbunden. Die Ultraschallsensoren 16 sind an einem Heck des Fahrzeugs 10 angeordnet.
-
Die Steuereinrichtung 14 hat einen Speicher 18 und ein rekursives neuronales Netz 20. Das rekursive neuronale Netz 20 ist als ein long short-term memory Netz ausgebildet.
-
Die Parkhilfe 12 ist dazu ausgebildet, ein Verfahren zum Ermitteln, ob ein Objekt mit einem Fahrzeug 10 kollisionsfrei überfahrbar ist, auszuführen.
-
2 bis 4 zeigen jeweils das Fahrzeug 10 während einem Erstellen einer Trainingsdatensequenz für ein Training des rekursiven neuronalen Netzes 20. In 1 bis 4 sind für identische und funktionell äquivalente Elemente gleiche Bezugszeichen verwendet, weshalb insoweit auf die entsprechend gemachte Beschreibung verwiesen werden kann.
-
2 zeigt, dass das Fahrzeug 10 rückwärts entlang einer Bewegungsrichtung 22 auf einen Pfosten 24 zu fährt. Der Pfosten 24 kann von dem Fahrzeug 10 nicht kollisionsfrei überfahren werden. Während das Fahrzeug 10 auf den Pfosten 24 zu fährt, sendet jeder Ultraschallsensor 16 Ultraschallpulse 26 aus, die von dem Pfosten 24 als Echos reflektiert werden. Die Echos werden von den Ultraschallsensoren 16 durch Detektion der Echos in Sensordaten umgewandelt.
-
Die Steuereinrichtung 14 erzeugt ein Zeitstempel für jedes detektierte Echo. Die Steuereinrichtung 14 erstellt eine Trainingsdatensequenz von dem Pfosten 24 durch Speichern der Sensordaten und den Zeitstempeln in dem Speicher 18 der Steuereinrichtung 14.
-
Die Trainingsdatensequenz enthält ein Rauschen, das während der Erstellung der Sensordaten von dem Pfosten 24 auftritt.
-
Das rekursive neuronale Netz 20 wird außerhalb des Fahrzeugs 10, beispielsweise in einem Rechenzentrum, mit der Trainingsdatensequenz von dem Pfosten 24 trainiert. Für das Training des rekursiven neuronalen Netzes 20 wird eine Verlustfunktion und/oder eine Bewertungsmetrik verwendet, welche die Sensordaten basierend auf den Zeitstempeln gewichtet. In dem dargestellten Ausführungsbeispiel werden die zeitlich später erfassten Sensordaten stärker gewichtet als zeitlich früher erfasste Sensordaten.
-
3 zeigt, dass das Fahrzeug 10 rückwärts entlang der Bewegungsrichtung 22 auf einen Bordstein 28 zu fährt. Der Bordstein 28 kann von dem Fahrzeug 10 kollisionsfrei überfahren werden. Während das Fahrzeug 10 auf den Bordstein 28 zu fährt, sendet jeder Ultraschallsensor 16 Ultraschallpulse 26 aus, die von dem Bordstein 28 als Echos reflektiert werden. Die Echos werden von den Ultraschallsensoren 16 durch Detektion der Echos in Sensordaten umgewandelt.
-
Die Steuereinrichtung 14 erstellt eine Trainingsdatensequenz von dem Bordstein 28 durch Speichern der Sensordaten in dem Speicher 18 der Steuereinrichtung 14. Das rekursive neuronale Netz 20 wird außerhalb des Fahrzeugs 10, beispielsweise in einem Rechenzentrum, mit der Trainingsdatensequenz von dem Bordstein 28 trainiert.
-
4 zeigt, dass das Fahrzeug 10 rückwärts auf ein weiteres Fahrzeug 30 zu fährt. Das weitere Fahrzeug 30 kann von dem Fahrzeug 10 nicht kollisionsfrei überfahren werden. Das Training des neuronalen Netzes 20 für das weitere Fahrzeug 30 erfolgt entsprechend dem Training für den Pfosten 24, weshalb insoweit auf die Beschreibung des Trainings für den Pfosten 24 verwiesen wird.
-
Nach Abschluss des Trainings ist das rekursive neuronale Netz 20 derart trainiert, dass das die Parkhilfe 12 basierend auf einer Datensequenz von einem Objekt ermitteln kann, ob das Objekt mit einem Fahrzeug 10 kollisionsfrei überfahrbar ist.
-
Nach Abschluss des Trainings wird das trainierte rekursive neuronale Netz 20 auf das Fahrzeug übertragen. Das bislang in der Steuereinrichtung 14 vorhandene rekursive neuronale Netz wird durch das trainierte rekursive neuronale Netz 20 ersetzt.
-
5 zeigt das Fahrzeug 10 während des Ausführens eines Parkmanövers für das Platzieren des Fahrzeugs 10 auf einen Parkplatz.
-
Der Parkplatz befindet sich am Rand einer Fahrbahn 32 und ist von Pfosten 24 sowie von zwei weiteren Fahrzeugen 30 begrenzt. Das Parken auf dem Parkplatz ist ein Gehwegparken. Mit anderen Worten, das Fahrzeug 10 ist seitlich auf einem Gehweg 34 zu platzieren, der durch einen Bordstein 28 von der Fahrbahn 32 getrennt ist. Für das Parken des Fahrzeugs 10 auf dem Parkplatz ist der Bordstein 28 von dem Fahrzeug 10 zu überfahren.
-
Um das Fahrzeug 10 auf den Parkplatz zu parken, führt das Fahrzeug 10 das Parkmanöver aus. Das Parkmanöver umfasst ein Rückwärtsfahren auf den Parkplatz.
-
Während dem Ausführen des Parkmanövers werden mittels der Parkhilfe 12 Sensordaten von dem Bordstein 28, den Pfosten 24 und der weiteren Fahrzeugen 30 erzeugt. Das Erzeugen der Sensordaten von dem Bordstein 28, den Pfosten 24 und den weiteren Fahrzeugen 30 erfolgt durch Aussenden von Ultraschallpulsen 26 mittels den Ultraschallsensoren 16 und detektiert von Echos der Ultraschallpulse 26. Die Steuereinrichtung 14 erzeugt einen Zeitstempel für jedes detektierte Echo.
-
Die Steuereinrichtung 14 erstellt eine Datensequenz durch Speichern der Sensordaten und den Sensordaten zugeordneten Zeitstempeln in dem Speicher 18 der Steuereinrichtung 14. In der Datensequenz sind die Sensordaten mit aufsteigenden Zeitstempeln angeordnet. Anders formuliert, die Datensequenz ist eine zeitliche Entwicklung der Sensordaten.
-
Die Steuereinrichtung 14 ermittelt durch eine Analyse der Datensequenz mittels des rekursiven neuronalen Netzes 20, ob die Pfosten 24, der Bordstein 28 und die weiteren Fahrzeuge 30 mit einem Fahrzeug 10 kollisionsfrei überfahrbar sind.
-
Das rekursive neuronale Netz 20 ist derart trainiert, dass bei der Analyse der Datensequenz die Sensordaten in Abhängigkeit eines Abstands zwischen dem Fahrzeug und dem Bordstein 28, eines Abstands zwischen dem Fahrzeug und den Pfosten 24 und eines Abstands zwischen dem Fahrzeug und der weiteren Fahrzeuge 30 gewichtet werden. Die Sensordaten können durch das rekursive neuronale Netz 20 derart gewichtet sein, dass die Sensordaten der Objekte 24, 28, 30 mit einem geringen Abstand zu dem Fahrzeug 10 stärker gewichtet sind als Sensordaten der Objekte 24, 28, 30 mit einem größeren Abstand zu dem Fahrzeug 10. Dies ist aber nicht zwingend. Beliebige andere Muster in der Datensequenz können zur Ermittlung, ob ein Objekt mit dem Fahrzeug kollisionsfrei überfahrbar ist, verwendet werden.
-
Die Analyse der Datensequenz durch das rekursive neuronale Netz 20 ergibt, dass der Bordstein 28 mit dem Fahrzeug 10 überfahrbar ist. Die Analyse der Datensequenz durch das rekursive neuronale Netz 20 ergibt, dass die Pfosten 24 und die weiteren Fahrzeuge 30 mit dem Fahrzeug 10 nicht überfahrbar sind.
-
Nach einem vorgegebenen zeitlichen Intervall, beispielsweise nach 0,3 Sekunden, senden die Ultraschallsensoren 16 weitere Ultraschallpulse 26 aus und detektieren deren Echos. Die Steuereinrichtung 14 erzeugt weitere Zeitstempel für jedes detektierte Echo. Die dadurch gewonnenen Sensordaten von dem Bordstein 28, den Pfosten 24 und der weiteren Fahrzeuge 30 und den Sensordaten zugeordneten Zeitstempeln werden der bereits vorhandenen Datensequenz hinzugefügt. Mit anderen Worten, die Datensequenz wird während dem Ausführen des Parkmanövers in regelmäßigen zeitlichen Intervallen um weitere Sensordaten erweitert.
-
Nach jedem Erweitern der Datensequenz um weitere Sensordaten wird die Datensequenz von dem rekursiven neuronalen Netz 20 analysiert. Dadurch wird nach jedem Erweitern der Datensequenz um weitere Sensordaten erneut ermittelt, ob die Pfosten 24, der Bordstein 28 und die weiteren Fahrzeuge 30 mit dem Fahrzeug 10 kollisionsfrei überfahrbar sind.
-
Das Fahrzeug 10 setzt in Abhängigkeit von der Ermittlung, ob die Pfosten 24, der Bordstein 28 und die weiteren Fahrzeuge 30 mit dem Fahrzeug 10 kollisionsfrei überfahrbar sind, das Parkmanöver fort. Dabei überfährt das Fahrzeug 10 den Bordstein 28 ohne mit den Pfosten 24 oder den weiteren Fahrzeuge 30 zu kollidieren.
-
6 zeigt ein schematisches Modell von den Sensordaten 36, der Datensequenz 38 und dem rekursiven neuronalen Netz 20 während das Fahrzeug 10 das Parkmanöver ausführt. Die Sensordaten 36 bilden die Datensequenz 38. Die Datensequenz 38 wird nach Ablauf des vorgegebenen zeitlichen Intervalls um weitere Sensordaten 36 erweitert. Nach jeder Erweiterung kann das rekursive neuronale Netz 20 die Datensequenz 38 analysieren. Dadurch wird nach jeder Erweiterung ermittelt, ob die Pfosten 24, der Bordstein 28 und die weiteren Fahrzeuge 30 mit dem Fahrzeug 10 kollisionsfrei überfahrbar sind. Alternativ kann das rekursive neuronale Netz 20 einen internen Zustand aktualisieren, wenn die Datensequenz 38 um weitere Sensordaten 36 erweitert wird. Dadurch kann das rekursive neuronale Netz 20, wenn neue Sensordaten 36 hinzukommen, von dem internen Zustand starten und muss nicht die gesamte Datensequenz 38 verarbeiten.
-
In 6 ist das Ergebnis der Ermittlung nach jedem Erweitern der Datensequenz 38 mit dem Bezugszeichen h1, h2, hL-1, hL beschriftet.
-
7 zeigt einen beispielhaften Ablauf eines Verfahrens zum Ermitteln, ob ein Objekt mit dem Fahrzeug 10 kollisionsfrei überfahrbar ist.
-
Das Verfahren weist die Schritte auf: e) Trainieren des rekursiven neuronalen Netzes 20 mit zumindest einer Trainingsdatensequenz und mit einer Verlustfunktion und/oder mit einer Bewertungsmetrik derart, dass Sensordaten einer Datensequenz in Abhängigkeit eines Abstands zwischen dem Objekt und dem Fahrzeug 10 gewichtet werden; a) Erzeugen von Sensordaten 36 von dem Objekt durch Erfassen des Objekts mittels Ultraschallsensoren 16 der Parkhilfe 12 des Fahrzeugs 10, während das Fahrzeug 10 das Parkmanöver ausführt, wobei das Erzeugen der Sensordaten 36 von dem Objekt das Erzeugen von Zeitstempeln umfasst; b) Erstellung einer Datensequenz 38 von einer distanzabhängigen oder zeitlichen Entwicklung der Sensordaten 36 durch Speichern der im Schritt a) erzeugten Sensordaten 36 und den Zeitstempeln; und c) Ermitteln durch Analysieren der Datensequenz 38 mittels des rekursiven neuronalen Netzes, ob das Objekt mit dem Fahrzeug 10 kollisionsfrei überfahrbar ist.