Διάφορα

Το νέο μοντέλο εκπαίδευσης βοηθά τα αυτόνομα αυτοκίνητα να βλέπουν τα τυφλά σημεία της AI

Το νέο μοντέλο εκπαίδευσης βοηθά τα αυτόνομα αυτοκίνητα να βλέπουν τα τυφλά σημεία της AI

Από την εισαγωγή τους πριν από αρκετά χρόνια, τα αυτόνομα οχήματα σιγά-σιγά πηγαίνουν στο δρόμο σε όλο και περισσότερους αριθμούς, αλλά το κοινό παραμένει επιφυλακτικό από αυτά παρά τα αναμφισβήτητα πλεονεκτήματα ασφάλειας που προσφέρουν στο κοινό.

Οι αυτόνομες εταιρείες οχημάτων γνωρίζουν πλήρως τον σκεπτικισμό του κοινού. Κάθε συντριβή καθιστά πιο δύσκολο να κερδίσει την εμπιστοσύνη του κοινού και ο φόβος είναι ότι εάν οι εταιρείες δεν διαχειρίζονται σωστά την αυτόνομη κυκλοφορία οχημάτων, η αντίδραση μπορεί να κλείσει την πόρτα στην τεχνολογία αυτοκινούμενου αυτοκινήτου με τον τρόπο που το ατύχημα στο Three Mile Island έκλεισε το ανάπτυξη πυρηνικών σταθμών παραγωγής ενέργειας στις Ηνωμένες Πολιτείες τη δεκαετία του 1970.

Η ασφαλέστερη χρήση των αυτόνομων οχημάτων από ό, τι ήδη είναι η αναγνώριση των περιπτώσεων που ίσως δεν είχαν σκεφτεί ποτέ οι προγραμματιστές και ότι η τεχνητή νοημοσύνη θα αποτύχει να ανταποκριθεί κατάλληλα, αλλά ότι ένας ανθρώπινος οδηγός θα κατανοήσει διαισθητικά μια δυνητικά επικίνδυνη κατάσταση. Νέα έρευνα από μια κοινή προσπάθεια του MIT και της Microsoft μπορεί να βοηθήσει στη γεφύρωση αυτού του χάσματος μεταξύ της μηχανικής μάθησης και της ανθρώπινης διαίσθησης για την παραγωγή των ασφαλέστερων αυτόνομων οχημάτων ακόμα.

Καθησυχάζοντας ένα επιφυλακτικό κοινό

Εάν η δημόσια διστακτικότητα δεν ήταν παράγοντας, κάθε αυτοκίνητο στο δρόμο θα αντικαταστάθηκε με ένα αυτόνομο όχημα μέσα σε λίγα χρόνια. Κάθε φορτηγό θα ήταν πλήρως αυτόνομο μέχρι τώρα και δεν θα υπήρχαν οδηγοί Uber ή Lyft, μόνο καμπίνες μεταφοράς που θα παραγγείλατε τηλεφωνικώς και θα ανέβαινε ομαλά στο πεζοδρόμιο σε λίγα λεπτά χωρίς οδηγό.

Τα ατυχήματα θα συνέβαιναν και οι άνθρωποι θα πέθαιναν ως αποτέλεσμα, αλλά με κάποιες εκτιμήσεις, το 90% των θανατηφόρων τροχαίων σε όλο τον κόσμο θα μπορούσε να αποφευχθεί με αυτόνομα οχήματα. Τα αυτόνομα αυτοκίνητα μπορεί να χρειαστεί να επαναφορτίσουν, αλλά δεν χρειάζεται να κοιμηθούν, να κάνουν διαλείμματα και ενδιαφέρονται μόνοι τους για την εκτέλεση των οδηγιών στον προγραμματισμό τους.

Για εταιρείες που βασίζονται στη μεταφορά για τη μετακίνηση αγαθών και ατόμων από το σημείο Α στο σημείο Β, η αντικατάσταση των οδηγών με αυτοκινούμενα αυτοκίνητα εξοικονομεί εργατικό δυναμικό, ασφάλιση και άλλα παρεπόμενα κόστη που συνοδεύονται από την ύπαρξη μεγάλου ανθρώπινου δυναμικού.

Η εξοικονόμηση κόστους και τα κέρδη ασφαλείας είναι απλά πολύ μεγάλα για να κρατήσουν τους ανθρώπους στο δρόμο και πίσω από το τιμόνι.

Κοιμόμαστε, οδηγούμε μεθυσμένοι, αποσπάται η προσοχή μας, ή είμαστε απλά κακοί στην οδήγηση και οι συνέπειες είναι δαπανηρές και θανατηφόρες. Λίγο πάνω από ένα εκατομμύριο άνθρωποι πεθαίνουν κάθε χρόνο στους δρόμους σε όλο τον κόσμο και η μετάβαση σε αυτόνομα εμπορικά φορτηγά μόνη της θα μπορούσε να μειώσει το κόστος μεταφοράς για ορισμένες εταιρείες στο μισό.

Ωστόσο, το κοινό δεν είναι πεπεισμένο και γίνονται πιο σκεπτικοί με κάθε αναφορά ενός ατυχήματος που αφορούσε ένα αυτο-οδηγούμενο αυτοκίνητο.

Edge Cases: Η Αχίλλειος Τακούνι Αυτοκινήτων;

Είτε είναι δίκαιο είτε όχι, το βάρος της επίδειξης αυτόνομης ασφάλειας των οχημάτων βαρύνει εκείνους που υποστηρίζουν την αυτο-οδήγηση τεχνολογία οχημάτων. Για να γίνει αυτό, οι εταιρείες πρέπει να εργαστούν για τον εντοπισμό και την αντιμετώπιση αυτών των περιπτώσεων που μπορούν να προκαλέσουν ατυχήματα υψηλού προφίλ που μειώνουν την εμπιστοσύνη του κοινού στην κατά τα άλλα ασφαλή τεχνολογία.

Τι συμβαίνει όταν ένα όχημα οδηγεί κάτω από το δρόμο και εντοπίζει ένα χτυπημένο καιρό, λυγισμένο, παραμορφωμένο και ξεθωριασμένο σήμα στοπ; Αν και μια προφανώς σπάνια κατάσταση - τα τμήματα μεταφορών πιθανότατα θα είχαν αφαιρέσει ένα τέτοιο σημάδι πολύ πριν φτάσει σε αυτήν την απαίσια κατάσταση - οι ακραίες περιπτώσεις είναι ακριβώς αυτό το είδος της κατάστασης.

Το πλεονέκτημα είναι ένα συμβάν χαμηλής πιθανότητας που δεν πρέπει να συμβαίνει αλλά συμβαίνει στον πραγματικό κόσμο, ακριβώς τα είδη των περιπτώσεων που οι προγραμματιστές και οι διαδικασίες μηχανικής μάθησης μπορεί να μην εξετάσουν.

Σε ένα σενάριο πραγματικού κόσμου, το αυτόνομο όχημα μπορεί να ανιχνεύσει την πινακίδα και δεν έχει ιδέα ότι είναι ένα σήμα στοπ. Δεν το αντιμετωπίζει ως τέτοιο και θα μπορούσε να αποφασίσει να προχωρήσει μέσω της τομής με ταχύτητα και να προκαλέσει ατύχημα.

Ένας ανθρώπινος οδηγός μπορεί να δυσκολευτεί να εντοπίσει και το σήμα στοπ, αλλά αυτό είναι πολύ λιγότερο πιθανό για έμπειρους οδηγούς. Γνωρίζουμε τι είναι ένα σήμα στάσης και αν είναι κάτι άλλο εκτός από την πλήρη καταστροφή, θα ξέρουμε να σταματήσουμε στη διασταύρωση παρά να το προχωρήσουμε.

Αυτό το είδος της κατάστασης είναι ακριβώς αυτό που οι ερευνητές του MIT και της Microsoft ενώθηκαν για να εντοπίσουν και να λύσουν, κάτι που θα μπορούσε να βελτιώσει την αυτόνομη ασφάλεια των οχημάτων και, ελπίζουμε, να μειώσει τα είδη ατυχημάτων που ενδέχεται να επιβραδύνουν ή να αποτρέψουν την υιοθέτηση αυτόνομων οχημάτων στους δρόμους μας.

Μοντελοποίηση στο Edge

Σε δύο δημοσιεύσεις που παρουσιάστηκαν στο συνέδριο Autonomous Agents and Multiagent Systems του περασμένου έτους και στην επικείμενη διάσκεψη Association for the Advogress of Artificial Intelligence, οι ερευνητές εξηγούν ένα νέο μοντέλο για την κατάρτιση αυτόνομων συστημάτων όπως αυτοκινούμενα αυτοκίνητα που χρησιμοποιούν ανθρώπινη συμβολή για να ταυτοποιήσουν και να τα διορθώσουν. τυφλά σημεία »σε συστήματα AI.

Οι ερευνητές εκτελούν την τεχνητή νοημοσύνη μέσω προσομοιωμένων εκπαιδευτικών ασκήσεων, όπως περνούν τα παραδοσιακά συστήματα, αλλά σε αυτήν την περίπτωση, ένας άνθρωπος παρατηρεί τις ενέργειες των μηχανών και προσδιορίζει πότε πρόκειται να κάνει ή έκανε κάποιο λάθος.

Στη συνέχεια, οι ερευνητές λαμβάνουν τα δεδομένα εκπαίδευσης του μηχανήματος και τα συνθέτουν με τα σχόλια του ανθρώπινου παρατηρητή και τα θέτουν μέσω ενός συστήματος μηχανικής μάθησης. Αυτό το σύστημα θα δημιουργήσει στη συνέχεια ένα μοντέλο το οποίο οι ερευνητές μπορούν να χρησιμοποιήσουν για να εντοπίσουν καταστάσεις όπου η AI δεν διαθέτει κρίσιμες πληροφορίες σχετικά με το πώς πρέπει να συμπεριφέρεται, ειδικά σε περιπτώσεις αιχμής.

«Το μοντέλο βοηθά τα αυτόνομα συστήματα να γνωρίζουν καλύτερα τι δεν ξέρουν», σύμφωνα με τον Ramya Ramakrishnan, απόφοιτο φοιτητή στο Εργαστήριο Επιστήμης Υπολογιστών και Τεχνητής Νοημοσύνης στο MIT και επικεφαλής συγγραφέας της μελέτης.

«Πολλές φορές, όταν αυτά τα συστήματα αναπτύσσονται, οι εκπαιδευμένες προσομοιώσεις τους δεν ταιριάζουν με τη ρύθμιση του πραγματικού κόσμου [και] θα μπορούσαν να κάνουν λάθη, όπως να μπουν σε ατυχήματα. Η ιδέα είναι να χρησιμοποιήσουμε τους ανθρώπους για να γεφυρώσουμε αυτό το χάσμα μεταξύ της προσομοίωσης και του πραγματικού κόσμου, με ασφαλή τρόπο, ώστε να μπορούμε να μειώσουμε μερικά από αυτά τα σφάλματα. "

Το πρόβλημα προκύπτει όταν συμβαίνει μια κατάσταση, όπως το παραμορφωμένο σήμα στάσης, στην οποία η πλειονότητα των περιπτώσεων στις οποίες έχει εκπαιδευτεί το AI δεν αντικατοπτρίζει την πραγματική κατάσταση που θα έπρεπε να είχε εκπαιδευτεί να αναγνωρίζει. Σε αυτήν την περίπτωση, έχει εκπαιδευτεί ότι τα σημάδια στοπ έχουν ένα συγκεκριμένο σχήμα, χρώμα κ.λπ. Θα μπορούσε ακόμη και να έχει δημιουργήσει μια λίστα με σχήματα που θα μπορούσαν να είναι σημάδια στοπ και θα ήξεραν να σταματήσουν για αυτά, αλλά αν δεν μπορεί να εντοπίσει ένα σήμα στοπ σωστά, η κατάσταση θα μπορούσε να καταλήξει σε καταστροφή.

"[B] επειδή οι απαράδεκτες ενέργειες είναι πολύ πιο σπάνιες από τις αποδεκτές ενέργειες, το σύστημα τελικά θα μάθει να προβλέπει όλες τις καταστάσεις ως ασφαλείς, κάτι που μπορεί να είναι εξαιρετικά επικίνδυνο", λέει ο Ramakrishnan.

Συναντώντας τα υψηλότερα πρότυπα ασφάλειας

Δείχνοντας στους ερευνητές όπου το AI έχει ελλιπή δεδομένα, τα αυτόνομα συστήματα μπορούν να καταστούν ασφαλέστερα στην άκρη όπου μπορούν να συμβούν ατυχήματα υψηλού προφίλ. Εάν μπορούν να το κάνουν αυτό, μπορεί να φτάσουμε στο σημείο όπου η εμπιστοσύνη του κοινού σε αυτόνομα συστήματα μπορεί να αρχίσει να αυξάνεται και η διάθεση των αυτόνομων οχημάτων μπορεί να ξεκινήσει με σοβαρότητα, καθιστώντας μας όλους ασφαλέστερους ως αποτέλεσμα.


Δες το βίντεο: Mercedes A-Class Production line (Δεκέμβριος 2021).