Το software της Uber αγνόησε τον πεζό στο θανατηφόρο ατύχημα

Οι αισθητήρες του αυτόνομου οχήματος της Uber, το οποίο τον Μάρτιο τραυμάτισε θανάσιμα μία πεζό στην Αριζόνα, ήταν ρυθμισμένοι έτσι ώστε να την αγνοήσουν, σύμφωνα με σχετική έκθεση.

Τα παραπάνω αναφέρει το The Information, το οποίο επικαλείται πηγές που ενημερώθηκαν σχετικά με το ζήτημα. Να θυμίσουμε ότι τον Μάρτιο μια γυναίκα προσπαθούσε να διασχίσει μια οδό στην Αριζόνα με ένα ποδήλατο όταν ένα δοκιμαστικό αυτόνομο όχημα της Uber τη χτύπησε και την τραυμάτισε. Το θύμα αργότερα υπέκυψε στα τραύματά του. Έκτοτε η Uber, ξεκίνησε έρευνα για τα αίτια πίσω από το ατύχημα.

Βάσει του The Information, το hardware της εταιρείας λειτουργούσε σωστά, αλλά όχι η ευαισθησία που είχε οριστεί από το software. Δηλαδή, οι αισθητήρες, οι κάμερες, τα ραντάρ και τα Lidar λειτουργούσαν σωστά, αλλά το σύστημα που αποφασίζει ποια αντικείμενα γύρω από το όχημα μπορούν να αγνοηθούν με ασφάλεια, είχε μειώσει την ευαισθησία τους.

Μετά το ατύχημα, κυκλοφόρησε βίντεο από το ατύχημα, το οποίο δείχνει τον οδηγό ασφαλείας να μην έχει την προσοχή του στον δρόμο, γεγονός που προσέλκυσε αρνητική δημοσιότητα. Ωστόσο, δεν μπορεί να πει κανείς με σιγουριά ότι ένας οδηγός σε μη αυτόνομο όχημα θα κατάφερνε να μην τραυματίσει την πεζό καθώς βγήκε ξαφνικά από ένα μέρος που ήταν σκοτεινό. Θα λέγαμε ότι «πετάχτηκε».

Το δημοσίευμα φαίνεται να υπαινίσσεται ότι το ατύχημα προέκυψε επειδή η Uber βιάστηκε να επιδείξει αποτελέσματα, κάτι που την οδήγησε στο να σετάρει έτσι το σύστημά της προκειμένου να έχει να δείξει ένα αυτόνομο όχημα που είναι άνετο.

Όποιος έχει επιβιβαστεί σε αυτόνομα οχήματα των Waymo ή General Motors έχει παρατηρήσει ότι η οδήγηση είναι λίγο περίεργη. Για παράδειγμα, το όχημα σταματά με το παραμικρό κι απότομα. Αυτό συμβαίνει επειδή αντιδρά σε “false positive” εμπόδια, τα οποία δεν υπάρχουν.

Η Uber όμως προκειμένου να γλιτώσει από αυτή τη ρομποτική οδήγηση και πιστεύοντας ότι ένα όχημα που σταματά διαρκώς είναι επίσης επικίνδυνο, προσπάθησε να ρυθμίσει το σύστημά της έτσι ώστε να μην αντιδρά στα false positives, κάτι που είχε ως αποτέλεσμα το ατύχημα.

Να σημειωθεί ότι η Waymo τον περασμένο Νοέμβριο ανακοίνωσε πλήρως αυτόνομα οχήματα χωρίς οδηγό ασφαλείας, κάτι που προσπαθεί να επιτύχει και η Uber μέχρι το τέλος του έτους που διανύουμε.

Πηγή