Τα παλλόμενα φώτα μπερδεύουν τα συστήματα αυτόνομης οδήγησης

Πρόσφατα δημοσιευμένη έρευνα αποκαλύπτει ότι τα φώτα που αναβοσβήνουν στα περιπολικά της αστυνομίας  της πυροσβεστικής και των ασθενοφόρων μπορεί να προκαλέσουν «ψηφιακές επιληπτικές κρίσεις» σε αυτοματοποιημένα συστήματα οδήγησης που βασίζονται σε κάμερες, με κίνδυνο συγκρούσεων.

Μια νέα εργασία των Elad Feldman, Jacob Shams, Satoru Koda, Yisroel Mirsky, Assaf Shabtai, Yuval Elovici και Ben Nassi του Πανεπιστημίου Ben-Gurion του Negev και της Fujitsu Limited εγείρει ερωτήματα σχετικά με συστήματα αυτόνομης οδήγησης και κυρίως αυτού της Tesla.

Οι αυτοκινητοβιομηχανίες λένε ότι τα όλο και πιο εξελιγμένα αυτοματοποιημένα συστήματα οδήγησης την κάνουν ασφαλέστερη και λιγότερο αγχωτική αφήνοντας μέρος της σκληρής δουλειάς του να προβλέπουν ένα ατύχημα —και να το αποφύγουν. Ωστόσο, νέα έρευνα δείχνει ότι ορισμένα από αυτά τα συστήματα μπορεί να κάνουν το αντίθετο στη χειρότερη δυνατή στιγμή.

Μια νέα εργασία από ερευνητές στο Πανεπιστήμιο Ben-Gurion του Negev και την ιαπωνική εταιρεία τεχνολογίας Fujitsu Limited δείχνει: Όταν ορισμένα αυτοματοποιημένα συστήματα οδήγησης που βασίζονται σε κάμερα εκτίθενται στα φώτα των οχημάτων έκτακτης ανάγκης που αναβοσβήνουν, δεν μπορούν πλέον να αναγνωρίσουν με σιγουριά αντικείμενα στο δρόμο.

Οι ερευνητές αποκαλούν το φαινόμενο «ψηφιακή επιληπτική κρίση». Τα συστήματα, εκπαιδευμένα με τεχνητή νοημοσύνη για τη διάκριση μεταξύ εικόνων διαφορετικών αντικειμένων, μετρούν την απόσταση και λαμβάνουν δεδομένα για αντικείμενα και πεζούς με την συχνότητα/χρόνο της κίνησης των φλας ή των φώτων έκτακτης ανάγκης. Το μπέρδεμα είναι πολύ πιο έντονο στο σκοτάδι, λένε οι ερευνητές.

Τα φώτα των οχημάτων έκτακτης ανάγκης, με άλλα λόγια, θα μπορούσαν να κάνουν τα αυτοματοποιημένα συστήματα οδήγησης να… αμφιβάλλουν αν το αντικείμενο σε σχήμα αυτοκινήτου μπροστά τους είναι στην πραγματικότητα αυτοκίνητο. Οι ερευνητές αποκάλυψαν ότι το ελάττωμα «ενέχει σημαντικό κίνδυνο» συγκρούσεων των αυτόνομων οχημάτων με αυτά. Από την άλλη υπάρχει και ο κίνδυνος όλο αυτό να γίνει με δόλο προκαλώντας τις συγκρούσεις αυτές ώστε να δημιουργηθεί τεχνητή κρίση.

Αν και τα ευρήματα είναι ανησυχητικά, αυτή η νέα έρευνα συνοδεύεται από αρκετές επιφυλάξεις. Οι ερευνητές δεν μπόρεσαν να δοκιμάσουν τις θεωρίες τους σε συγκεκριμένα συστήματα οδήγησης, αυτοκινητοβιομηχανιών (δεν τους δόθηκε η άδεια). Οι δοκιμές έγιναν σε δικές τους κατασκευές χρησιμοποιώντας πέντε αυτοματοποιημένα συστήματα οδήγησης, ενσωματωμένα σε κάμερες που αγοράστηκαν από το εμπόριο με ανοιχτό κώδικα.

Η έρευνα βασίστηκε επίσης σε αναφορές ότι τα Tesla χρησιμοποιώντας την προηγμένη λειτουργία υποβοήθησης οδηγού της αυτοκινητοβιομηχανίας, Autopilot, συγκρούστηκαν με περίπου 16 οχήματα έκτακτης ανάγκης μεταξύ 2018 και 2021. Αυτό είπε ο Ben Nassi, ερευνητής κυβερνοασφάλειας και μηχανικής μάθησης στο Πανεπιστήμιο Ben-Gurion που εργάστηκε στο project. «Ήταν αρκετά ξεκάθαρο για εμάς από την αρχή ότι οι συντριβές μπορεί να σχετίζονται με το άναμμα των “φάρων” έκτακτης ανάγκης. Τα ασθενοφόρα τα αστυνομικά αυτοκίνητα και τα πυροσβεστικά οχήματα έχουν διαφορετικά σχήματα και μεγέθη, επομένως δεν είναι ο τύπος του οχήματος που προκαλεί αυτή τη συμπεριφορά» κατέληξε ο Nassi.

Μια τριετής έρευνα από την Εθνική Διεύθυνση Ασφάλειας Οδικής Κυκλοφορίας των ΗΠΑ σχετικά με τις συγκρούσεις οχημάτων έκτακτης ανάγκης με Tesla οδήγησε τελικά σε μια σαρωτική ανάκληση του λογισμικού Tesla Autopilot, το οποίο έχει σχεδιαστεί για να ελέγχει ορισμένες εργασίες οδήγησης –όπως να χειρίζεται το τιμόνι, επιτάχυνση, φρενάρισμα και αλλαγή λωρίδας σε ορισμένα είδη δρόμων. Η υπηρεσία κατέληξε στο συμπέρασμα ότι το σύστημα δεν εξασφάλιζε πως οι οδηγοί έδιναν προσοχή και είχαν τον έλεγχο των οχημάτων τους, όταν το σύστημα ήταν ενεργοποιημένο.

Τα προηγμένα πακέτα υποβοήθησης οδήγησης άλλων αυτοκινητοβιομηχανιών, συμπεριλαμβανομένου του Super Cruise της General Motors και του BlueCruise της Ford, εκτελούν επίσης ορισμένες εργασίες οδήγησης, αλλά επιβάλλουν στους οδηγούς να δίνουν προσοχή πίσω από το τιμόνι.

Σε αντίθεση με το Autopilot, αυτά τα συστήματα λειτουργούν μόνο σε περιοχές που έχουν χαρτογραφηθεί. Αν και το NHTSA αναγνωρίζει προβλήματα σε «ορισμένα προηγμένα συστήματα υποβοήθησης οδηγού», οι ερευνητές είναι ξεκάθαροι: Δεν είναι σίγουροι τι σχέση έχει αυτό το παρατηρούμενο φαινόμενο φωτός έκτακτης ανάγκης με τα προβλήματα του Αυτόματου πιλότου της Tesla.

Τα πειράματα των ερευνητών αφορούσαν επίσης αποκλειστικά την ανίχνευση αντικειμένων βάσει εικόνας. Πολλές αυτοκινητοβιομηχανίες χρησιμοποιούν άλλους αισθητήρες, όπως ραντάρ και lidar, για να βοηθήσουν στην ανίχνευση εμποδίων στο δρόμο.

Ένα μικρότερο πλήθος προγραμματιστών τεχνολογίας –μεταξύ αυτών και η Tesla– υποστηρίζουν ότι συστήματα που βασίζονται σε εικόνες, επαυξημένη με προηγμένη εκπαίδευση τεχνητής νοημοσύνης, μπορούν να επιτρέψουν όχι μόνο συστήματα υποστήριξης οδηγού, αλλά και εντελώς αυτόνομα οχήματα. Τον περασμένο μήνα, ο Διευθύνων Σύμβουλος της Tesla, Elon Musk, δήλωσε ότι το σύστημα που βασίζεται στο όραμα της αυτοκινητοβιομηχανίας θα επιτρέψει τα αυτόνομα αυτοκίνητα το επόμενο έτος.

Πράγματι, το πώς ένα σύστημα μπορεί να αντιδράσει στα φώτα που αναβοσβήνουν εξαρτάται από τον τρόπο με τον οποίο οι μεμονωμένες αυτοκινητοβιομηχανίες σχεδιάζουν τα αυτοματοποιημένα συστήματα οδήγησης τους. Κάποιοι μπορεί να επιλέξουν να «συντονίσουν» την τεχνολογία τους ώστε να αντιδρούν σε πράγματα που δεν είναι απολύτως βέβαιο ότι αποτελούν στην πραγματικότητα εμπόδια. Για παράδειγμα ένα αυτοκίνητο μπορεί να φρενάρει δυνατά, μπροστά σε ένα κουτί από χαρτόνι σε σχήμα μικρού παιδιού.

Άλλοι κατασκευαστές μπορεί να συντονίσουν την τεχνολογία τους ώστε να αντιδρά μόνο όταν είναι πολύ σίγουροι ότι αυτό που βλέπει είναι εμπόδιο. Αυτή η επιλογή θα μπορούσε να οδηγήσει στο να μην φρενάρει το αυτοκίνητο για να αποφύγει τη σύγκρουση με άλλο όχημα.
Ο Earlence Fernandes, επίκουρος καθηγητής της επιστήμης των υπολογιστών και της μηχανικής στο Πανεπιστήμιο της Καλιφόρνια στο Σαν Ντιέγκο, ο οποίος δεν συμμετείχε στην έρευνα, υποστήριξε ότι τα συστήματα λειτουργούν όπως ένας άνθρωπος, που μπορεί να τυφλωθεί προσωρινά από έντονο φλας. Κάτι που σημαίνει πως επανέρχονται άμεσα χωρίς να μπερδευτούν.