Διάφορα

Δρ. Abdalla Kablan σχετικά με την οικοδόμηση υπεύθυνης τεχνητής νοημοσύνης

Δρ. Abdalla Kablan σχετικά με την οικοδόμηση υπεύθυνης τεχνητής νοημοσύνης


We are searching data for your request:

Forums and discussions:
Manuals and reference books:
Data from registers:
Wait the end of the search in all databases.
Upon completion, a link will appear to access the found materials.

Ο Δρ. Abdalla Kablan είναι ένας σειριακός επιχειρηματίας και βραβευμένος εμπειρογνώμονας fintech. Ειδικεύεται στη χρήση της τεχνητής νοημοσύνης και της μηχανικής μάθησης στο σχεδιασμό σύνθετων χρηματοοικονομικών συστημάτων.

Καθ 'όλη τη διάρκεια της καριέρας του, ίδρυσε μια σειρά από νεοσύστατες εταιρείες και εταιρείες που ειδικεύονται στη βαθιά μάθηση, την επαγγελματική αντιστοίχιση και τη Fintech. Επιπλέον, ο Δρ Kablan είναι απόφοιτος της Microsoft Ventures, Ηνωμένο Βασίλειο και εργάστηκε σε έργα, τα οποία παρουσιάστηκαν στο Παγκόσμιο Οικονομικό Φόρουμ 2017 στο Νταβός. Οι τελευταίες του επιχειρήσεις είναι ο Wyzer.ai και ο όμιλος Caledo.

Ο Δρ Kablan είναι επίσης ακαδημαϊκός στο Πανεπιστήμιο της Μάλτας όπου διαλέγει και ερευνά θέματα που σχετίζονται με την υπολογιστική νοημοσύνη, τη χρηματοοικονομική μηχανική και την επιστήμη των χρηματοοικονομικών δεδομένων. Κατά τη διάρκεια του διδακτορικού του Μελέτες μεταξύ 2007-2011, ο Δρ Kablan ερεύνησε τους αλγορίθμους κρυπτογραφικών μπλοκ πίσω από το bitcoin (τώρα γνωστός ως blockchain) και είναι γνωστός ειδικός στον τομέα των κατανεμημένων καθολικών. Επιπλέον, ο Δρ. Kablan συμβουλεύει τις κυβερνήσεις σε θέματα που σχετίζονται με τη στρατηγική ανάπτυξη και τη χρήση τεχνολογίας, τις τεχνολογίες Fintech και Blockchain / DLT. Το 2018 ο Δρ Kablan ξεκίνησε τη Σύνοδο Κορυφής DELTA, η οποία έχει γίνει η επίσημη εκδήλωση της Μάλτας για το DLT και την Ψηφιακή Καινοτομία.

Κάθισε με τον Ali Diker του ενδιαφέροντος μηχανικού στο συνέδριο The Next Web 2019 της περασμένης εβδομάδας για να συζητήσει την τρέχουσα κατάσταση της τεχνητής νοημοσύνης και εάν αποτελεί απειλή για την ανθρωπότητα ή όχι. Η συνέντευξη έχει επεξεργαστεί ελαφρά για σαφήνεια.

Ali Diker: Γεια σας Δρ Kablan, χαίρομαι που θα μπορούσατε να είστε μαζί μας σήμερα το απόγευμα. Ήθελα να ξεκινήσουμε συζητώντας ένα κομμάτι που γράψατε στο TechCrunch πριν από μερικά χρόνια σχετικά με το πώς η AI δεν αποτελεί απειλή για την κοινωνία και τον κόσμο γενικά. Πρώτα απ 'όλα, μερικοί άνθρωποι είναι αρκετά απαισιόδοξοι για την τεχνητή νοημοσύνη, επειδή μπορεί να οπλιστεί και μπορεί ακόμη και να είναι πολύ θανατηφόρος, αλλά υπάρχουν αισιόδοξοι που πιστεύουν ότι η AI θα αλλάξει τα πράγματα προς το καλύτερο. Στο κομμάτι σας, λέτε ότι πρέπει να επαναπροσδιορίσουμε μερικές από τις έννοιες, για παράδειγμα τη συνείδηση, καθώς φτάνουμε πιο κάτω στο δρόμο προς την τεχνητή νοημοσύνη. τι πιστεύετε ότι πρέπει να επαναπροσδιοριστεί και πώς και γιατί πιστεύετε ότι πρέπει να επαναπροσδιορίσουμε αυτές τις έννοιες για την τεχνητή νοημοσύνη;

Abdalla Kablan: Πρώτον, ευχαριστώ που με είχατε Ali. Ειλικρινά, το κομμάτι μου δεν ήταν τόσο αισιόδοξο όσο υποδηλώνει ο τίτλος. Είπα λοιπόν ότι η AI δεν είναι απειλή για την ανθρωπότητα, αλλά Ίντερνετ έξυπνων πραγμάτων. Ο λόγος που το διατύπωσα έτσι είναι επειδή πιστεύω πραγματικά ότι μπορεί να πάει με κάθε τρόπο. Βρισκόμαστε στο σταυροδρόμι της ανθρώπινης ιστορίας όπου ορισμένες αποφάσεις πρέπει να ληφθούν τώρα από στρατηγική άποψη που θα μπορούσε να επηρεάσει το μέλλον της ανθρωπότητας.

Τώρα, μίλησα για διάφορες έννοιες και μία από αυτές είναι η συνείδηση. Η επίτευξη συνείδησης στο ψηφιακό μέτωπο είναι εξαιρετικά δύσκολη και εξαιρετικά περίπλοκη. Αυτό συμβαίνει κυρίως επειδή η συνείδηση, όπως η νοημοσύνη, είναι κάτι πολύ αφηρημένο και είναι πολύ δύσκολο να προσδιοριστεί τι είναι η συνείδηση. Ωστόσο, αυτό που επικεντρώνομαι σήμερα είναι στην πραγματικότητα περισσότερο στην επίτευξη σοφίας και στη δημιουργία σοφότερων συστημάτων παρά στη δημιουργία έξυπνων συστημάτων και θα προσπαθήσω να εξηγήσω γιατί.

Το πρόβλημα που είχαμε στο AI γενικά πηγαίνει στις ρίζες της κατανόησης των δεδομένων. Τα δεδομένα, κατά την προσωπική μου γνώμη, είναι μια διαδικασία πέντε βημάτων. τον κύκλο ζωής των δεδομένων, εάν θέλετε. Ξεκινάτε λοιπόν με δεδομένα. επεξεργάζεστε δεδομένα και γίνεται πληροφορία. Οι πληροφορίες με το χρόνο εξελίσσονται σε γνώση. η γνώση με την πρακτική γίνεται κατανόηση του προβληματικού τομέα. και μετά υπάρχει κάτι που - με την εξάσκηση της επεξεργασίας και της κατανόησης και της νοημοσύνης - εξελίσσεται σε σοφία.

Η συντριπτική πλειοψηφία των συστημάτων τεχνητής νοημοσύνης ιστορικά εξακολουθεί να έχει κολλήσει στο να είναι δοξασμένη από τη νοημοσύνη γνώση και δεν έχει επιτύχει το στάδιο της σοφίας και η διαφορά είναι αρκετά σαφής: Η γνώση είναι η διαφορά μεταξύ αληθινού και ψεύτικου, αλλά η Σοφία είναι η διαφορά μεταξύ σωστού και λάθους.

Ένας καλός φίλος μου αρέσει να το λέει ότι η γνώση ξέρει ότι η ντομάτα είναι φρούτο, αλλά η σοφία ξέρει να μην την προσθέσει σε μια φρουτοσαλάτα. Η τεχνητή νοημοσύνη, ιστορικά, δεν μπόρεσε να καταλάβει τη σχέση ή την εξαγωγή της πλευράς της σοφίας. Ο λόγος είναι ότι τα τελευταία 40 έως 50 χρόνια στο AI, ο αγώνας όπλων ήταν κυρίως να δημιουργήσει τον επόμενο Αϊνστάιν, το καλύτερο μαθηματικό μοντέλο που μπορεί να λύσει ένα πρόβλημα όπως να νικήσει τον παγκόσμιο πρωταθλητή στο Chess ή το Go.

Αντί να δημιουργήσουμε έναν Αϊνστάιν, θα έπρεπε να επικεντρωθούμε στη δημιουργία ενός Αριστοτέλη που κατανοεί τις διάφορες πτυχές της νοημοσύνης, όχι μόνο την πνευματική και μαθηματική νοημοσύνη αλλά και την κοινωνική νοημοσύνη, την πολιτιστική νοημοσύνη και τη συναισθηματική νοημοσύνη. Ο λόγος για τον οποίο δεν έχουν επιλυθεί δεν είναι επειδή είναι άλυτοι, είναι ότι κανείς δεν έχει επικεντρωθεί σε αυτά.

Τώρα ανήκω στη νοοτροπία ότι αντί να επικεντρωθούμε στην τεχνητή νοημοσύνη, πρέπει να επικεντρωθούμε στην τεχνητή σοφία. για τη δημιουργία συστημάτων που από το σχεδιασμό ακολουθούν μια καλοπροαίρετη διαδρομή αντί για μια καταστροφική διαδρομή. Ως άνθρωποι, είμαστε πολύ ελαττωματικοί. δεν χρειάζεται ιδιοφυΐα να συνειδητοποιήσουμε ότι είμαστε παράλογοι, αλλά προβλέπουμε παράλογο. Φέρνουμε τους σπόρους της αυτοκαταστροφής μας γιατί καθ 'όλη την ιστορία μας, έχουμε λάβει πολλές αποφάσεις που έχουν προκαλέσει δυστυχία και αγωνία και αν υπάρχει ανώτερη νοημοσύνη, θα συνειδητοποιήσει ότι είμαστε αρκετά ελαττωματικοί και θα είναι πρόβλημα για εμάς.

Ως μέλος της ομαδικής ανθρωπότητας, πρέπει να προστατέψω το μέλλον των ειδών μας και ξέρω ότι είναι αναπόφευκτο ότι εάν η εστίαση είναι στη νοημοσύνη, ένα έξυπνο ον θα συνειδητοποιήσει τα ελαττώματα μας και θα τα εκμεταλλευτεί. Εάν η εστίαση είναι στη σοφία, ένα σοφότερο ον ή μια σοφότερη δημιουργία θα γνωρίζει ότι η καταστροφή της ανθρωπότητας δεν είναι καλή για κανέναν, διότι στο τέλος της ημέρας, η ανθρωπότητα είναι μια ζωτική μορφή και δεν θα πρέπει να μπερδεύεται κατ 'αρχήν.

Το θέμα είναι ότι οι ίδιοι οι άνθρωποι το έχουν κάνει σε άλλα πλάσματα. Ο τρόπος με τον οποίο αντιμετωπίζουμε ιστορικά όχι μόνο τα ζώα αλλά και το ένα το άλλο - παρόλο που είμαστε πολύ έξυπνοι - θα μπορούσε να συμβεί στην πραγματικότητα εάν επιτύχουμε ένα επίπεδο μοναδικότητας ή μηχανικής νοημοσύνης που ξεπερνά την ανθρώπινη νοημοσύνη χωρίς να επικεντρώνεται στη σοφία. Επομένως, η εστίαση στην κανονιστική πλευρά, η εστίαση στην ηθική πλευρά από την άποψη της ανάπτυξης είναι πολύ σημαντική.

Τα έθνη του κόσμου πρέπει πραγματικά να δώσουν μεγαλύτερη προσοχή σε αυτό πριν να είναι πολύ αργά. Ας πάρουμε για παράδειγμα, την αυτοκινητοβιομηχανία, για τόσα χρόνια δεν είχαμε ζώνες ασφαλείας και υπήρχαν πολλοί άνθρωποι που λένε στις αυτοκινητοβιομηχανίες ότι χρειάζεστε ζώνες ασφαλείας, επειδή τα στατιστικά δείχνουν ότι εάν δεν φοράτε ζώνη ασφαλείας, πεθαίνετε . Οι αυτοκινητοβιομηχανίες αντιστάθηκαν σε αυτόν τον κανονισμό για πολύ καιρό έως ότου έπρεπε πραγματικά να αναγκαστούν να βάλουν ζώνες ασφαλείας στα αυτοκίνητα.

Τώρα, πολλοί άνθρωποι πέθαναν χωρίς ζώνες ασφαλείας, αλλά δεν έκανε την ανθρωπότητα να εξαφανιστεί. Το πρόβλημα με το AI είναι ότι όταν οι άνθρωποι συνειδητοποιήσουν ότι πρέπει να ρυθμιστεί, θα είναι ήδη πολύ αργά. Κανείς δεν μπορεί να προβλέψει το μέλλον, αλλά πρέπει να έχουμε στρατηγική προοπτική για το πώς αυτό θα μπορούσε ενδεχομένως να εξελιχθεί εάν δεν είμαστε υπεύθυνοι.

Στη Μάλτα, όπου εδρεύω και από όπου είμαι, η κυβέρνηση πέρυσι δημιούργησε μια εθνική ειδική ομάδα AI για να μελετήσει πραγματικά τις πιθανές επιπτώσεις της μαζικής υιοθέτησης τεχνητής νοημοσύνης, ενώ ταυτόχρονα την ενθαρρύνει και έρχεται με έναν εθνικό στρατηγική που θα προσελκύσει προγραμματιστές τεχνητής νοημοσύνης και έργα AI για να έρθουν και να καινοτομήσουν από τη Μάλτα, αλλά εντός των ρυθμιστικών ορίων μας και εντός μιας εθνικής στρατηγικής που λαμβάνει υπόψη την ηθική πλευρά της ανάπτυξης, την πνευματική ιδιοκτησία και όλα αυτά.

Νομίζω ότι πρέπει να γίνει μια παγκόσμια συζήτηση και μόνο εάν το επίκεντρο της έρευνας και της ανάπτυξης είναι περισσότερο προς τη σοφία, εκεί θα σπάσουμε τη συνείδηση, θα σπάσουμε πράγματα όπως η συναισθηματική νοημοσύνη, η πλευρά της κοινωνικής νοημοσύνης των πραγμάτων. Δεν είναι δύσκολο, γιατί είμαστε στο πολύ πρώιμο στάδιο. Το AI δεν είναι καινούργιο, υπάρχει από την εποχή του Alan Turing, αλλά επικεντρωνόμασταν στη μία πλευρά και ξεχάσαμε το 80% του πραγματικού προβλήματος.

Είναι κατανοητό γιατί ακόμη και στο σχολείο όταν λέτε "ω αυτός ο μαθητής είναι έξυπνος!" γιατί αυτός ο μαθητής έχει την υψηλότερη βαθμολογία, αλλά αυτό δεν σημαίνει ότι είναι ο πιο έξυπνος μαθητής. Αντανακλά τον δικό μας παράλογο τρόπο σκέψης.

ΕΝΑ Δ: Πώς καθορίζουμε τι είναι λογικό για μια τεχνητή νοημοσύνη; Για παράδειγμα, στο Isaac Asimov's Εγώ ρομπότ είχατε τεχνητή νοημοσύνη που προστάτευε τους ανθρώπους από άλλους ανθρώπους. Σε αυτήν την περίπτωση, η τεχνητή νοημοσύνη είναι καλή για μερικούς ανθρώπους και εμπόδιο για άλλους.

AK: Είναι στην πραγματικότητα πολύ, πολύ δύσκολο να το πούμε. Όπως είπα, το AI γίνεται πιο έξυπνο, γίνεται πιο προηγμένο, αλλά ακόμη και οι άνθρωποι προχωρούν πέρα ​​από την πίστη. Θα μπορούσα ακόμη και να υποστηρίξω ότι ως άνθρωποι είμαστε όλοι cyborg αυτή τη στιγμή, επειδή ο ορισμός του cyborg είναι κάποιος που έχει κάποιο είδος κυβερνητικής βελτίωσης στο σώμα του. Έχουμε αυτές τις συσκευές που κρατάμε στα χέρια μας όλη την ώρα και αν το σκέφτεστε ιστορικά, είχαμε υπολογιστές mainframe, τότε είχαμε υπολογιστές, τότε είχαμε φορητούς υπολογιστές, τότε είχαμε iPhone, τότε είχαμε το Google Glass — το οποίο ήταν λίγο προσωρινό…, αλλά είναι θέμα χρόνου πριν αυτά τα πράγματα μπουν στο σώμα μας και όλοι μας γλιστρήσουμε.

Κατά την προσωπική μου άποψη, υπάρχει επίσης μια πρόοδος από την πλευρά του ανθρώπου, αλλά αυτό με τρομάζει ακόμη περισσότερο από το ότι η AI γίνεται πολύ πιο έξυπνη. Δυστυχώς, εάν οι άνθρωποι προχωρούν περισσότερο στην κυβερνητική πλευρά σε αυτό το βαθμό, αυτό θα προκαλέσει μια σημαντική ελιτιστική διάκριση μεταξύ των ανθρώπων, ο πλουσιότερος θα είναι σε θέση να προσφέρει το πιο ακριβό, καλύτερο, πιο έξυπνο τσιπ. Η φυσική επιλογή θα αρχίσει πραγματικά να ευνοεί τους πλουσιότερους από τους πιο υγιείς ή τους πιο έξυπνους και αυτό, κατά τη γνώμη μου, είναι ένα σημαντικό πρόβλημα.

Στο δεύτερο μέρος σχετικά με την τεχνητή νοημοσύνη που προστατεύει τους ανθρώπους από τον άνθρωπο, είναι ένα πολύ βαθύ φιλοσοφικό επιχείρημα. Τελικά πρόκειται να φτάσουμε εκεί και –και πάλι να επιστρέψουμε στη ρύθμιση– πρέπει να προβλέψουμε αυτές τις τάσεις τώρα και να προσπαθήσουμε να βρούμε νόμους για να μην καταλήξουμε σε μια τέτοια κατάσταση ή σενάριο.

ΕΝΑ Δ: Η επόμενη ερώτηση είναι λοιπόν το Blockchain. Πώς θα βοηθήσει η τεχνολογία blockchain να βελτιώσει την τεχνητή νοημοσύνη;

AK: Αυτή είναι μια πολύ καλή ερώτηση. Πιστεύω λοιπόν ότι σύντομα θα υπάρξει σύγκλιση μεταξύ διαφόρων κλάδων, συγκεκριμένα Blockchain, AI και IoT. Σε αυτό το συγκεκριμένο μέτωπο, πρέπει να καταλάβουμε ότι στο μέτωπο blockchain, σε αντίθεση με το AI, είμαστε στα πολύ πρώιμα, πρώιμα στάδια, όπως το Διαδίκτυο στη δεκαετία του 1980 και στις αρχές της δεκαετίας του 1990.

Έτσι, το Διαδίκτυο υπήρχε ως πρωτόκολλο για σχεδόν 30 χρόνια, TCP / IP, μόλις μια ωραία εφεύρεση στις αρχές της δεκαετίας του '90 έβαλε το Διαδίκτυο σε ένα εντελώς διαφορετικό μέρος και αυτή η εφεύρεση ήταν το πρόγραμμα περιήγησης ιστού. Την ημέρα που είχαμε το πρώτο πρόγραμμα περιήγησης, αρχίσαμε να συνειδητοποιούμε αυτό το πρωτόκολλο, το TCP / IP, με αδιανόητο τρόπο εξαιτίας αυτής της ευρετηρίασης για την οποία μιλούσαμε σε επίπεδο κώδικα, τώρα μπορούμε να το οπτικοποιήσουμε και να αναζητήσουμε, μπορούμε να ρωτήσουμε, έγινε πολύ απλούστερο. Με το Blockchain δεν το έχουμε πετύχει, αλλά είναι εντάξει, είναι υγιές και ξέρουμε ότι στην πραγματικότητα πρόκειται να πάμε εκεί και τελικά θα φτάσουμε εκεί.

Το Blockchain, όπως γνωρίζετε, είναι μια αποκεντρωμένη διαδικασία καθολικών που εξακολουθεί να επικεντρώνεται στην αποθήκευση δεδομένων, δεν έχει φτάσει ακόμη στην πλευρά της επεξεργασίας. Προσωπικά πιστεύω ότι σύντομα - και όταν το λέω σύντομα, λέω μεταξύ πέντε και δέκα ετών - το blockchain θα αναπτύξει πολύ πιο εξελιγμένες αρχιτεκτονικές, αποκεντρωμένες αρχιτεκτονικές τεχνολογίας καθολικών, που δεν θα επιτρέψουν μόνο την αποθήκευση αλλά και την επεξεργασία. Αυτό από την άλλη πλευρά θα ενισχύσει τις δυνατότητες απόκτησης, διαχείρισης και επεξεργασίας δεδομένων πέρα ​​από αυτό που έχουμε σήμερα, πράγμα που σημαίνει ότι τα συστήματα AI θα βελτιωθούν σε ένα φανταστικό επίπεδο.

Εάν η AI βελτιωθεί, επιστρέφουμε στο επιχείρημα σχετικά με το εάν η AI θα αποτελέσει απειλή για την ανθρωπότητα. Ωστόσο, πιστεύω πραγματικά ότι το blockchain είναι μια φανταστική, θεϊκή λύση για εμάς, επειδή έχουμε συναίνεση με το blockchain και όταν έχετε συναίνεση, μπορείτε να έχετε κάποια μορφή ελέγχου. Εάν μια AI θα πάει αδίστακτος, μιλώντας συλλογικά ότι δεν πρόκειται να επιτύχει συναίνεση, ως εκ τούτου δεν θα είναι σε θέση να εκτελέσει συγκεκριμένες εργασίες στο δίκτυο γιατί θα γνωρίζαμε ότι αυτό δεν πρέπει να συμβεί επειδή δεν είναι προς όφελος του συνόλου δίκτυο.

Έτσι, το blockchain, επειδή έχουμε αυτούς τους μηχανισμούς συναίνεσης, ελπίζουμε ότι θα έχουμε κάποια μορφή νοημοσύνης στην απόδειξη των έργων, στην απόδειξη των μεριδίων και στην επίτευξη συναίνεσης, έτσι ώστε πέντε, δέκα χρόνια από τώρα θα υπάρξει μεγάλη βελτίωση σε αυτό τρέχουσα τεχνολογία. Αυτό θα μας βοηθήσει να κάνουμε και να κάνουμε τη διάκριση μεταξύ όχι αληθινού και ψεύτικου αλλά σωστού και λάθους και εάν η απόφασή σας να εκτελέσετε μια συγκεκριμένη ενέργεια στο δίκτυο είναι επιβλαβής, τότε δεν θα επιτύχετε αυτήν τη μορφή συναίνεσης.

Πιστεύω λοιπόν ότι το blockchain είναι μια πολύ καλή λύση και εμείς, ως προγραμματιστές, πρέπει να το σκεφτούμε τώρα. Είπα πριν κάνουμε ένα λάθος με το AI ότι νομίζω ότι πρέπει να αναγνωρίσουμε, ότι ακολουθήσαμε πραγματικά το λάθος μονοπάτι με το AI, και με το blockchain θα πρέπει να είμαστε υπεύθυνοι και να έχουμε αυτές τις συνομιλίες και να αναγνωρίσουμε ότι το blockchain δεν πρόκειται να υπάρξει μόνο του. Το AI σύντομα θα ενσωματωθεί και θα προχωρήσει μαζί του. Ας δημιουργήσουμε λοιπόν τους μηχανισμούς συναίνεσης, όχι μόνο για να κάνουμε αυτές τις αποδείξεις που επικυρώνουν τις χρηματοοικονομικές συναλλαγές - που είναι όλες υπέροχες - αλλά όταν πρόκειται για επεξεργασία, όταν αναγνωρίζουμε ότι όταν υπάρχει κάποια μορφή μη καλοπροαίρετης δράσης, την σταματάμε.

Ευκολότερη είπε από ό, τι έγινε, αλλά αν έχουμε αρκετά καλά μυαλά μαζί για να το λύσουμε, δεν είναι κάτι που δεν μπορεί να επιλυθεί. Ό, τι κάνουμε είναι απλά να καθυστερήσουμε το αναπόφευκτο, τελικά θα είμαστε στην κατάσταση όπου η AI ξεπερνά την ανθρώπινη νοημοσύνη, αλλά αν μπορούμε να την καθυστερήσουμε ή να την ελέγξουμε με τρόπο που απομακρύνει το μεγαλύτερο μέρος της βλάβης από εμάς, τότε αυτό θα ήταν υπέροχο.

ΕΝΑ Δ: Αλλά ας πούμε ότι η πλειοψηφία λαμβάνει μια κακή απόφαση σχετικά με το πώς μπορούν να ενσωματωθούν το AI και το blockchain σχετικά με τη διαδικασία. Φυσικά φαίνεται ότι οι πλειοψηφίες τείνουν να λαμβάνουν κακές αποφάσεις, πώς το αντιμετωπίζουμε;

AK: Αυτό είναι ένα εξαιρετικό ερώτημα που αναφέρεται στις βασικές αρχές της δημοκρατίας και της λήψης αποφάσεων. Πιστεύω ότι πρέπει να έχουμε κάποιες μορφές διασφαλίσεων τουλάχιστον όσον αφορά τα πράγματα που είναι προφανή. Εάν η πλειοψηφία λαμβάνει αποφάσεις που γνωρίζουμε ότι ενδέχεται να βλάψουν τους ανθρώπους, όχι μόνο σωματικά αλλά και οικονομικά, δεν θα πρέπει να επιτρέπεται. ακόμα και αν η πλειοψηφία πιστεύει ότι είναι το σωστό.

Και πάλι, η αρνητική πλευρά αυτού είναι ότι επιτυγχάνουμε κάποιο είδος τυραννικής ρύθμισης όπου το σύστημα είναι πιο ισχυρό από τους ανθρώπους. Δεν είμαι σε αρκετά καλή θέση για να λάβω μια κρίση για την οποία νιώθω αρκετά έντονα, αλλά ξέρω ότι είναι ένα πρόβλημα που πρέπει να συζητηθεί και να επιλυθεί, οπότε νομίζω ότι πρέπει να γίνει περισσότερος διάλογος και περισσότερη έρευνα.

Θα ήθελα να αφιερώσω περισσότερο χρόνο για να καθίσω και να το σκεφτώ, αλλά το πρόβλημα που έχουμε όλοι είναι ότι προφανώς στη ζωή υπάρχουν τόσα πολλά άλλα πράγματα που συμβαίνουν. Νομίζω ότι πρέπει να υπάρχουν άνθρωποι που αφιερώνουν το χρόνο τους μόνο για να σκεφτούν και να λύσουν προβλήματα όπως αυτό γιατί έχετε απόλυτο δίκιο, η ιστορία είναι γεμάτη από πλειοψηφίες που λαμβάνουν αποφάσεις που δεν ήταν λάθος για την πλειοψηφία, αλλά δεν θα τα καλούσαμε καλά αποφάσεις.

ΕΝΑ Δ: Θέλω να επιστρέψω σε όσα είπατε νωρίτερα, ότι δεν πρέπει να προσπαθούμε να δημιουργήσουμε περισσότερους Αϊνστάιν, αλλά πρέπει να δημιουργήσουμε περισσότερους Αριστοτέλους. Η τεχνητή νοημοσύνη αναπτύσσεται με τέτοιο τρόπο ώστε να έχουμε AI που συνθέτουν μουσική - αντανακλούν την πορεία ορισμένων δημιουργικών μυαλού όπως ο Μότσαρτ ή ο Μπετόβεν - αλλά αυτό δεν είναι πραγματική δημιουργικότητα. Πιστεύετε ότι τα AI θα αναπτύξουν πραγματική δημιουργικότητα όπως οι άνθρωποι κάποια στιγμή, αναπτύσσοντας νέες ιδέες, τέτοια πράγματα;

AK: Σίγουρα νομίζω ότι είναι δυνατόν, και επιστρέφοντας σε όσα είπα, η δημιουργία σοφότερης τεχνητής νοημοσύνης - ή τεχνητής σοφίας - είναι στην πραγματικότητα μέρος αυτού. Προς το παρόν, ακόμα κι αν έχουμε εκείνα τα λαμπρά AI που συνθέτουν μουσική, αν ρωτήσετε το ίδιο AI «Ποια είναι η πρωτεύουσα της Εσθονίας;» δεν ξέρει για τι μιλάτε γιατί δημιουργήθηκε για έναν συγκεκριμένο σκοπό.

Αυτό δείχνει ότι εξακολουθούμε να εξετάζουμε μια στενή νοημοσύνη αντί για μια ευρύτερη μορφή νοημοσύνης. Προς το παρόν, είναι πολύ δύσκολο να πάρετε το AI που νίκησε τον παγκόσμιο πρωταθλητή του ανθρώπου στο σκάκι για να φτιάξει ένα φλιτζάνι καφέ σε μια κουζίνα που δεν έχει δει ποτέ. Ή ίσως — δικαιολογήστε αυτό το παράδειγμα, ίσως μην το χρησιμοποιήσετε — αλλά ένα από τα ενδιαφέροντα προβλήματα είναι η επιλογή του σωστού ουροποιητικού σε ένα μπάνιο που δεν έχετε ξαναδεί ποτέ, επειδή η ποσότητα της ανθρώπινης νοημοσύνης που πηγαίνει σε αυτή τη διαδικασία είναι αρκετά συγκλονιστική.

Εάν μπείτε μέσα και υπάρχουν πέντε ουρητήρια, παίρνετε το ένα στο πλάι. Εάν κάποιος μπαίνει μέσα, δεν είναι πιθανό να πάρει το ένα δίπλα σας, θα πάει σε ένα με μερικά διαστήματα και ούτω καθεξής. Υπάρχει ένας μεγάλος υπολογισμός συμπερασμάτων που δεν είναι μόνο η νοημοσύνη, η κοινωνική, συναισθηματική, πολιτιστική και πρέπει να το έχετε ζήσει, να το κατανοήσετε και να το καταλάβετε περισσότερο από την πρακτική.

Έχουμε λοιπόν με την τεχνητή νοημοσύνη ότι είμαστε αρκετά στενοί, ακόμη και από μαθηματικής άποψης μοντελοποίησης, γιατί μερικοί θα πουν ότι θέλουμε να λύσουμε το πρόβλημα του σκακιού, ας χρησιμοποιήσουμε ένα νευρωνικό δίκτυο. Κάποιοι θα έλεγαν ότι ας δημιουργήσουμε ένα κλιματιστικό για τον έλεγχο του κλίματος, ας χρησιμοποιήσουμε ασαφή λογική. Θέλουμε να δημιουργήσουμε ένα AI που μπορεί να οδηγήσει ένα ποδήλατο, ας χρησιμοποιήσουμε την ενίσχυση μάθησης.

ΕΝΑ Δ: Μπορείτε να επεκταθείτε σε αυτά λίγο;

AK: Σίγουρος. Η ενίσχυση της μάθησης είναι όμορφη, μιμείται τον τρόπο που οι άνθρωποι μαθαίνουν. Στην ενίσχυση της μάθησης έχετε δύο μαθηματικές συναρτήσεις, τη συνάρτηση ανταμοιβής και την τιμωρία, έτσι είναι πολύ παρόμοια με τον τρόπο που λειτουργεί το ανθρώπινο μυαλό. Αν λοιπόν οδηγείτε ένα ποδήλατο και κάνετε λάθος κίνηση, πέφτετε, σας πονάει, έχετε ενεργοποιήσει τη λειτουργία της τιμωρίας σας και θα ξέρετε ότι δεν θα το κάνετε ποτέ ξανά. Εάν πηγαίνετε σε ευθεία γραμμή και είστε ευχαριστημένοι που πηγαίνετε σε ευθεία γραμμή, ξέρετε ότι πρέπει να το κάνετε έτσι ώστε να ενεργοποιεί μια λειτουργία ανταμοιβής στον εγκέφαλό σας.

Είναι το ίδιο με την ενίσχυση της μάθησης, οπότε αν κάνετε ένα λάθος, λέτε μαθηματικά ότι δεν πρέπει ποτέ να το κάνετε αυτό και αν κάνετε το σωστό, λέτε μαθηματικά να κάνετε περισσότερα από αυτήν τη συμπεριφορά. Για παράδειγμα, υπάρχουν γενετικοί αλγόριθμοι, που σημαίνει ότι αντιγράφουν μηχανισμούς φυσικής επιλογής για να βρουν την βέλτιστη λύση για ένα συγκεκριμένο πρόβλημα όπως διαχείριση χαρτοφυλακίου κ.λπ.

Επομένως, αυτοί δεν είναι συγκλίνοντες κόσμοι, έτσι νομίζω ότι υπάρχει μέλλον για όλα αυτά τα μαθηματικά μοντέλα να δημιουργήσουν πραγματικά υβριδικά συστήματα. Δεν υπάρχει λοιπόν μαθηματικός τρόπος για να κατανοήσετε πράγματα όπως η κοινή λογική ή το συναίσθημα του εντέρου, αλλά η ασαφής λογική είναι το πιο κοντινό μαθηματικό μοντέλο που μπορεί να σας οδηγήσει σε αυτό. Δεν υπάρχει μαθηματικό μοντέλο για να διδάξει ένα παιδί πώς να μετράει από ένα έως δέκα, αλλά ένα νευρωνικό δίκτυο είναι το πλησιέστερο σε αυτό. Δεν υπάρχει μαθηματικό μοντέλο για να μάθετε πώς να οδηγείτε ποδήλατο, αλλά η εκμάθηση οπλισμού σας φέρνει πιο κοντά σε αυτό.

Επομένως, εάν συνδυάσουμε όλα αυτά μαζί, θα επιτύχουμε κάποια μορφή τεχνητής νοημοσύνης που είναι πολύ πιο σημαντική και θα κατανοήσουμε διαφορετικές πτυχές της επίλυσης προβλημάτων που θα μας οδηγήσουν σε ευρύτερη νοημοσύνη που δεν εστιάζει συγκεκριμένα σε ένα συγκεκριμένο πρόβλημα. Νομίζω ότι εκεί πρέπει, πάλι, να δούμε τα πράγματα ακόμη και από άποψη αγνωστικής συμπεριφοράς δεδομένων επειδή τώρα με τα περισσότερα AI, εάν έχω μια AI που θα διαπραγματεύεται στις χρηματοπιστωτικές αγορές, θα την εκπαιδεύω μόνο με χρηματοοικονομικά δεδομένα. Εάν έχω ένα AI που θα προβλέψει τον καιρό, θα το εκπαιδεύσω μόνο σε δεδομένα καιρού.

Αλλά πρέπει να δημιουργήσουμε AIs που είναι δεδομένα αγνωστικής επειδή εμείς, ως άνθρωποι, είμαστε αγνωστικοί δεδομένων. Αν αποφασίσετε να γίνετε ξυλουργός, απλά μαθαίνετε πώς να κάνετε ξυλουργική. Δεν γεννηθήκατε από την πρώτη μέρα γνωρίζοντας ότι θα είστε ξυλουργός. Ως άνθρωποι, ο εγκέφαλός μας συνδέεται με τρόπο ώστε να μπορούμε να μάθουμε διαφορετικά πράγματα ταυτόχρονα. Με το AI, αυτό δεν συμβαίνει.

ΕΝΑ Δ: Λοιπόν, λέτε ότι μπορούμε να δημιουργήσουμε AI που έχει επιθυμίες, όπως - δεν θέλω να το πω αυτό, αλλά είναι το πιο κοντινό πράγμα - συναισθήματα; Είναι δυνατόν, το κατάλαβα;

AK: Τα συναισθήματα είναι ένα πολύ, πολύ ανθρώπινο πράγμα.

ΕΝΑ Δ: Ξέρω, αλλά αυτό που καταλαβαίνω είναι ότι μπορούμε να δημιουργήσουμε μια τεχνητή νοημοσύνη που μπορεί να το αποφασίσει θέλει να γίνω ξυλουργός;

AK: Ενδεχομένως, εάν έχει εκτεθεί σε αυτό. Το κλειδί είναι ότι η τεχνητή νοημοσύνη πρέπει να δημιουργηθεί με τρόπο που εάν θέλω να το μετατρέψω σε ξυλουργό ή αυτοκινούμενο αυτοκίνητο, βασίζεται στις ίδιες βασικές αρχές. Δεν χρειάζεται λοιπόν να το χτίσω από το μηδέν για να γίνω ξυλουργός. Πρέπει να έχω ένα βασικό συστατικό τεχνητής νοημοσύνης και αν επρόκειτο να εξελιχθεί σε ένα αυτο-οδηγούμενο αυτοκίνητο, θα προσθέσω απλώς το αυτοκινούμενο εξάρτημα σε αυτό. Αν ήθελα να είναι ξυλουργός, θα ήθελα απλώς να προσθέσω το συστατικό ξυλουργικής, αλλά ο πυρήνας AI «εγκέφαλος» θα πρέπει να είναι αγνωστικός δεδομένων.

ΕΝΑ Δ: Έχουμε λίγο χρόνο, θέλατε να ολοκληρώσετε τις τελευταίες σκέψεις για το θέμα;

AK: Ναι, έτσι όπως είπα, δεν είμαι ούτε απαισιόδοξος ούτε αισιόδοξος, απλά αισθάνομαι το βάρος της ευθύνης - όχι μόνο στους ώμους μου αλλά και στους ώμους κανενός σε αυτόν τον χώρο - ότι πρέπει να λάβουμε τις σωστές αποφάσεις σήμερα για να διασφαλίσουμε αύριο. Αυτό θα μπορούσε πραγματικά να πάει με κάθε τρόπο και οι αποφάσεις που λαμβάνουμε σήμερα σίγουρα θα επηρεάσουν το μέλλον.

Απλά πάρτε τα κινητά τηλέφωνα τώρα. Είμαστε ήδη τόσο εθισμένοι σε αυτούς και δεν έχουν καμία νοημοσύνη όσον αφορά την αλληλεπίδραση μαζί μας. Φανταστείτε τι θα συμβεί εάν το τηλέφωνο αντιληφθεί πόσο εθισμένοι είστε στο Διαδίκτυο, μπορεί να σας χειριστεί με τρόπους πέρα ​​από την πεποίθηση.

Και πάλι, πρέπει να είμαστε υπεύθυνοι, όπως όλα στην ανθρωπότητα, θα έχετε υπεύθυνους και ανεύθυνους ανθρώπους, γι 'αυτό έχουμε προβλήματα, γι' αυτό έχουμε πολέμους, γι 'αυτό η ιστορία μας είναι γεμάτη με περιπτώσεις όπου σχεδόν καταστράφηκα πλήρως με καταστροφές που δημιουργήθηκαν από εμάς ως άνθρωποι. οπότε θα έχετε πάντα τα ανεύθυνα.

Το πρόβλημα είναι ότι πρέπει να ενσταλάξουμε το αίσθημα ευθύνης από την πλευρά των προγραμματιστών. Μου αρέσει πολύ, για παράδειγμα, αν πηγαίνετε σε εκδηλώσεις όπως αυτό, περισσότεροι άνθρωποι χρησιμοποιούν χάρτινα κύπελλα από πλαστικά κύπελλα επειδή αρχίσαμε να συνειδητοποιούμε ότι το πλαστικό καταστρέφει τον πλανήτη. Συναντάς ανθρώπους τώρα και μοιάζουν «Μην μου δώσεις ένα πλαστικό κύπελλο, δώσε μου ένα χαρτί». Αυτό είναι υπέροχο!

Από την πλευρά των προγραμματιστών, δεν έχουμε καμία αίσθηση ευθύνης, ήταν πάντα για αυτό που νιώθεις, οπότε τώρα υπάρχει μια νέα σχολή σκέψης που σου λέει: «Ακούστε, ό, τι κι αν κάνετε, απλά μην χτυπάτε το μέλλον!» Αυτή είναι λοιπόν η απόφασή μου από όλα αυτά.

ΕΝΑ Δ: Σας ευχαριστώ Abdalla, αυτή ήταν μια υπέροχη συνομιλία για μένα.

AK: Παρομοίως, Ali, αυτό ήταν πολύ διανοητικά διεγερτικό, ευχαριστώ.


Δες το βίντεο: Τεχνητή Νοημοσύνη Τι είναι και πώς αλλάζει δραματικά τον κόσμο μας (Ενδέχεται 2022).