Τα Ρομπότ ως Άτομα― οι κανόνες της ΕΕ και το μέλλον

Το περασμένο καλοκαίρι ένα ρομπότ-φύλακας επετέθη σε ένα βρέφος και το ακινητοποίησε μέσα σε κατάστημα όπως θα έκανε σε  ληστή. Το περιστατικό είναι ένα και οι κατασκευαστές εξηγούν ότι το ρομπότ δε δρα ανεξέλεγκτα αλλά πρέπει να παρακολουθείται, και στην ανάγκη να κατευθύνεται, από ανθρώπινα μυαλά μέσω οθόνης.

Όμως η τεχνητή νοημοσύνη, όχι μόνο λένε πως έχει ξεπεράσει  την ανθρώπινη (εντός εργαστηρίου ακόμα), αλλά ήδη έχουν φτιαχτεί ρομπότ που αναγνωρίζουν τη δική τους φωνή δηλαδή λίγο-λίγο αποκτούν συναίσθηση του εγώ τους. Κι αυτό, θέμα αμέτρητων μυθιστορημάτων Επιστημονικής Φαντασίας, αποτελεί κίνδυνο σοβαρό για την επιβίωσή μας ως είδους.

Δε σας μιλώ υποθετικά. Ρομπότ ήδη χρησιμοποιούνται όχι μόνο ως μυστήρια μηχανήματα στη βιομηχανία  ή ως αυτο-οδηγούμενα αυτοκίνητα (που σχεδιάζεται να βγουν στο δρόμο σε πέντε χρόνια) αλλά και ως ανθρωποειδή που φροντίζουν αρρώστους και ηλικιωμένους.

Οι κίνδυνοι είναι πολλοί. Πρώτη η ανεργία καθώς η τεχνολογία θα καθιστά τους ανθρώπους όλο και πιο αναλώσιμους· μετά είναι το ηθικό ζήτημα  των στρατών και αστυνομιών από ρομπότ· αλλά και τα αισθήματα που αναπτύσσουν οι άνθρωποι για τα ανθρωπόμορφα ρομπότ. Κι ύστερα βεβαίως ακολουθούν όλοι οι φόβοι για τα όσα μπορεί να κάνει για να μας εξολοθρεύσει μια κοινωνία ρομπότ που δε θα μας χρειάζεται.

Το θέμα δεν είναι υποθετικό κι απίθανο αλλά συζητήθηκε στην Ευρωβουλή και η ΕΕ συνέταξε κανόνες για τη σχέση ανθρώπου και ρομπότ ενώ, επιπλέον, εξετάζει αν πρέπει να δοθεί σ' αυτά τα μηχανήματα Status ηλεκτρονικού ατόμου.

Σας φέρνω άρθρα για το ατύχημα, για τη στάση και τους κανόνες της ΕΕ και τους 'Τρεις νόμους Της Ρομποτικής' που έγραψε ο Ισαάκ Ασίμωφ πριν 75 χρόνια και αφού επηρέασαν αμέτρητα βιβλία, σήμερα γίνονται η βάση νέων νόμων. Και πολλές εικόνες με νέα μοντέλα όπως το άλογο του αμερικάνικου στρατού, ο κιθαρίστας, τα 'κορίτσια', το οικοκυρικής και jokey καμηλοδρομίας και, το πολύ γνωστό πια αυτοοδηγούμενο αυτοκινητάκι της Google.

Στις ΗΠΑ όλο και περισσότερες θέσεις ανθρώπινης εργασίας αντικαθίστανται από ρομπότ, τα οποία είναι πολύ φθηνότερα και αποτελούν και «ατραξιόν» για τους επισκέπτες, ωστόσο μερικές φορές οι κίνδυνοι από την παρουσία τους είναι μεγαλύτεροι από την ασφάλεια που παρέχουν.

Σύμφωνα με ρεπορτάζ του τηλεοπτικού σταθμού ABC7 στη Σίλικον Βάλεϊ στην Καλιφόρνια, ένα ρομπότ ασφαλείας στο Εμπορικό Κέντρο Στάνφορντ της περιοχής έπεσε πάνω σε ένα παιδάκι 16 μηνών, το έριξε κάτω και συνέχισε την πορεία του σαν να μην έχει συμβεί τίποτα.

Ασφάλεια που ακινητοποίησε το παιδί 

Το ρομπότ, σύμφωνα με το ρεπορτάζ, χτύπησε το παιδάκι στο κεφάλι, όπως δήλωσε η μητέρα του βρέφους, και στη συνέχεια πέρασε πάνω από το πόδι του, συνεχίζοντας την πορεία του. Ευτυχώς το παιδί δεν έπαθε κάτι σοβαρότερο από μια αμυχή στο πόδι και μια μεγάλη τρομάρα, παρά το γεγονός ότι το ρομπότ ζυγίζει περίπου 150 κιλά.

 Η κατασκευάστρια εταιρεία, η Knightscope, ανέφερε ότι το ρομπότ, ονόματι Κ5, έκανε λόγο για «τερατώδες ατύχημα» και ανέφερε ότι το μηχάνημα έχει ήδη διανύσει 25.000 μίλια χωρίς να παρουσιάσει κανένα πρόβλημα, προσθέτοντας ότι έχει επικοινωνήσει με την οικογένεια του μικρού και τους έχει ζητήσει να μεταβούν στα γραφεία της εταιρείας, ώστε «να τους ζητήσει αυτοπροσώπως συγνώμη για το περιστατικό».

Status «ηλεκτρονικού ατόμου» εξετάζει η ΕΕ για τα ρομπότ!

Άννα ΦαλτάιτςΥιοθέτηση κανόνων για την τεχνητή νοημοσύνη ζητά η Επιτροπή Νομικών Υποθέσεων της ΕΕ. Εξετάζεται να δοθεί στα ρομπότ νομικό status «ηλεκτρονικού ατόμου». Η πρόταση για τις χαμένες θέσεις εργασίας.

Εικόνες Αποκάλυψης όπως αυτές που έχουμε δει οι περισσότεροι σε ταινίες όπως ο «Εξολοθρευτής», μπορεί να απορρίπτονται ως αποκυήματα της φαντασίας, ωστόσο η ταχύτητα με την οποία εξελίσσεται η τεχνολογία φαίνεται πως αποτελεί πλέον σοβαρή πηγή ανησυχίας για τους υπεύθυνους χάραξης πολιτικής, που ψάχνουν τώρα να βρουν τρόπους ώστε να θωρακίσουν την ανθρωπότητα.

Πριν από λίγες ημέρες, η Επιτροπή Νομικών Υποθέσεων ενέκρινε με 17 ψήφους υπέρ και 2 κατά, έκθεση που εισηγήθηκε η Mady Delvaux, με την οποία ζητείται από την Ευρωπαϊκή Επιτροπή να υιοθετήσει λεπτομερείς κανόνες για την αλληλεπίδραση ανθρώπων με τα ρομπότ και την τεχνητή νοημοσύνη (AI).

Στην σχετική έκθεση, όπως αναφέρει το BBC, καθίσταται σαφές πως η επιτροπή θεωρεί πως ο κόσμος βρίσκεται στο χείλος μιας «νέας βιομηχανικής» ρομποτικής επανάστασης, ενώ εξετάζει αν θα πρέπει να δοθεί στα ρομπότ νομικό στάτους ως «ηλεκτρονικών ατόμων».

«Ένας αυξανόμενος αριθμός τομέων της καθημερινότητάς μας επηρεάζεται όλο και περισσότερο από τη ρομποτική. Για να αντιμετωπιστεί αυτή η πραγματικότητα και για να διασφαλιστεί πως τα ρομπότ είναι και θα εξακολουθήσουν να είναι στην υπηρεσία των ανθρώπων, πρέπει επειγόντως να δημιουργήσουμε ένα ενισχυμένο ευρωπαϊκό νομικό πλαίσιο», τονίζει η Delvaux.

Οι σχετικές προτάσεις θα ψηφιστούν από την ολομέλεια του Ευρωπαϊκού Κοινοβουλίου τον Φεβρουάριο και, για να περάσουν, θα πρέπει να εγκριθούν με απόλυτη πλειοψηφία.

Σύμφωνα με την έκθεση, οι σχεδιαστές θα πρέπει να διασφαλίσουν πως όλα τα ρομπότ έχουν διακόπτη που θα επιτρέπει το κλείσιμο λειτουργιών αν είναι απαραίτητο. Την ίδια ώρα, οι χρήστες θα πρέπει να μπορούν να χρησιμοποιούν ρομπότ «χωρίς κίνδυνο ή φόβο φυσικής ή ψυχολογικής βλάβης».

Στην έκθεση αναφέρεται πως τα ρομπότ, τα bots, τα androids και άλλες εκδηλώσεις τεχνητής νοημοσύνης αναμένεται να «εξαπολύσουν μια νέα βιομηχανική επανάσταση που είναι πιθανό να μην αφήσει ανεπηρέαστο κανένα στρώμα της κοινωνίας».

Η νέα εποχή των ρομπότ μπορεί δυνητικά να φέρει «ουσιαστικά απεριόριστη ευημερία» όμως εγείρει επίσης ερωτήματα για το μέλλον της εργασίας και για το αν τα κράτη μέλη πρέπει να εισάγουν ένα βασικό εισόδημα λόγω της απώλειας θέσεων εργασίας από τα ρομπότ.

Οι σχέσεις ρομπότ/ανθρώπων εγείρει ζητήματα για την ιδιωτικότητα, την ανθρώπινη αξιοπρέπεια (ιδιαίτερα σε σχέση με τα ρομπότ φροντίδας) και την φυσική ασφάλεια των ανθρώπων αν τα συστήματα καταρρεύσουν ή χακαριστούν.

Η έκθεση αναγνωρίζει πως υπάρχει πιθανότητα εντός μερικών δεκαετιών η τεχνητή νοημοσύνη να ξεπεράσει την ανθρώπινη διανοητική δυνατότητα.

Αυτό, αν δεν υπάρξει κατάλληλη προετοιμασία, θα μπορούσε να «αποτελέσει πρόκληση για την ικανότητα της ανθρωπότητας να ελέγξει το ίδιο της το δημιούργημα και, συνεπώς, ίσως και για την ικανότητά της να έχει τον έλεγχο της ίδιας της μοίρας της και της διασφάλισης της επιβίωσης του είδους».

Οι νόμοι του Asimov

Η έκθεση αξιοποιεί τους νόμους του συγγραφέα Isaac Asimov για το πώς θα πρέπει να συμπεριφέρονται τα ρομπότ αν και όταν αποκτήσουν αυτογνωσία. Οι νόμοι θα αφορούν τους σχεδιαστές, παραγωγούς και operators των ρομπότ, καθώς δεν μπορούν να μετατραπούν σε μηχανικό κώδικα.

Οι νόμοι αυτοί προβλέπουν τα εξής:

-Ένα ρομπότ δεν μπορεί να βλάψει άνθρωπο ή, μέσω αδράνειας, να επιτρέψει να βλαφθεί ένας άνθρωπος.

-Ένα ρομπότ πρέπει να υπακούει στις διαταγές που δίνουν οι άνθρωποι,εκτός από τις εντολές εκείνες που θα έρχονταν σε σύγκρουση με τον πρώτο νόμο.

-Ένα ρομπότ πρέπει να προστατεύει την υπάρξή του αρκεί μια τέτοια προστασία να μην έρχεται σε σύγκρουση με τον πρώτο ή τον δεύτερο νόμο.

Εν τω μεταξύ, η ρομποτική έρευνα θα πρέπει να σέβεται τα θεμελιώδη δικαιώματα και να διενεργείται προς όφελος της ευημερίας των ανθρώπων, όπως συστήνει η έκθεση.

Μπορεί να απαιτηθεί από τους σχεδιαστές να καταγράφουν σε μητρώα τα ρομπότ τους και να παρέχουν πρόσβαση στον πηγαίο κώδικα για τη διερεύνηση ατυχημάτων και ζημιών που προκαλούνται από bots. Μπορεί επίσης να απαιτηθεί από τους σχεδιαστές να αποκτήσουν έγκριση για νέα ρομποτικά σχέδια από μια επιτροπή ερευνητικής ηθικής.

Η έκθεση προτείνει τη σύσταση ευρωπαϊκής υπηρεσίας για τη ρομποτική και την τεχνητή νοημοσύνη που θα μπορεί να παρέχει τεχνική, ηθική και ρυθμιστική εμπειρογνωμοσύνη.

Προτείνει επίσης πως, λόγω των πολυάριθμων δημοσιευμάτων για το πόσες θέσεις εργασίας μπορούν να «καταληφθούν» από ΑΙ ή ρομπότ, οι χώρες μέλη θα πρέπει να εξετάσουν την εισαγωγή ενιαίου βασικού εισοδήματος για τους πολίτες, το οποίο θα παρέχεται από το κράτος.

Η έκθεση εξετάζει επίσης τις νομικές ευθύνες των ρομπότ και προτείνει πως η ευθύνη θα πρέπει να είναι ανάλογη του πραγματικού επιπέδου των οδηγιών που έχουν δοθεί στο ρομπότ και της αυτονομίας του.

Η ανακοίνωση της Επιτροπής Νομικών Υποθέσεων

Σύμφωνα με το σχετικό δελτίο τύπου που εξέδωσε το ευρωπαϊκό κοινοβούλιο, οι ευρωβουλευτές τονίζουν πως είναι απαραίτητοι πανευρωπαϊκοί κανόνες για να υπάρξει πλήρης εκμετάλλευση της οικονομικής προοπτικής της ρομποτικής και της τεχνητής νοημοσύνης και για να διασφαλιστεί ένα πρότυπο επίπεδο ασφάλειας. Η ΕΕ χρειάζεται να ηγηθεί των ρυθμιστικών προτύπων, ώστε να μην αναγκαστεί να ακολουθήσει αυτά που θα θέσουν τρίτα κράτη.

Οι ευρωβουλευτές καλούν την Κομισιόν να εξετάσει τη δημιουργία μιας ευρωπαϊκής υπηρεσίας για τη ρομποτική και την τεχνητή νοημοσύνη για να παράσχει στις δημόσιες αργές την τεχνική, ηθική και ρυθμιστική εμπειρογνωμοσύνη. Προτείνουν επίσης έναν εθελοντικό ηθικό κώδικα συμπεριφοράς που θα ρυθμίζει το ποιος θα είναι υπεύθυνος για τις κοινωνικές, περιβαλλοντικές και ανθρώπινες επιπτώσεις της ρομποτικής και να διασφαλίσουν πως λειτουργούν σύμφωνα με τα νομικά, ηθικά πρότυπα και τα πρότυπα ασφαλείας. Για παράδειγμα, ο κώδικας αυτός θα πρέπει να συστήνει στους σχεδιαστές ρομπότ να περιλαμβάνουν διακόπτη (kill switch) ώστε τα ρομπότ να μπορούν να κλείνουν σε περιπτώσεις έκτακτης ανάγκης.

Οι ευρωβουλευτές σημειώνουν πως είναι επείγουσα ανάγκη να υπάρξουν εναρμονισμένοι κανόνες ιδιαίτερα για τα αυτό-οδηγούμενα αυτοκίνητα.Ζητούν υποχρεωτικό ασφαλιστικό σχέδιο και τη δημιουργία ταμείου που θα διασφαλίζει πως τα θύματα αποζημιώνονται πλήρως σε περιπτώσεις ατυχημάτων που προκαλούνται από οχήματα χωρίς οδηγό. Μακροπρόθεσμα, η δυνατότητα δημιουργίας ενός συγκεκριμένου νομικού στάτους «ηλεκτρονικών ατόμων» για τα πιο εξελιγμένα αυτόνομα ρομπότ, ώστε να αποσαφηνίζεται η ευθύνη σε περιπτώσεις ζημιάς, θα πρέπει επίσης να εξεταστεί.

Η εξέλιξη της ρομποτικής θα μπορούσε επίσης να οδηγήσει σε μεγάλες κοινωνικές αλλαγές, περιλαμβανομένης της δημιουργίας και απώλειας θέσεων εργασίαςσε ορισμένους τομείς, αναφέρει το κείμενο. Ζητείται από την Κομισιόν να παρακολουθεί στενά τις τάσεις αυτές, περιλαμβανομένων των νέων μοντέλων απασχόλησης και της βιωσιμότητας του τρέχοντος φορολογικού και ασφαλιστικού συστήματος για τη ρομποτική.

Οι τρεις νόμοι της ρομποτικής είναι κανόνες στους οποίους υπακούν τα περισσότερα ρομπότ με ποζιτρονικό εγκέφαλο που εμφανίζονται στα έργα επιστημονικής φαντασίας του συγγραφέα Ισαάκ Ασίμωφ, ενώ χρήση τους έχουν κάνει και άλλοι δημιουργοί επιστημονικής φαντασίας. Οι νόμοι αυτοί πρωτοδιατυπώθηκαν από τον Ασίμωφ στο διήγημα "Runaround" (1942) και είναι οι εξής:

1              Το ρομπότ δε θα κάνει κακό σε άνθρωπο, ούτε με την αδράνειά του θα επιτρέψει να βλαφτεί ανθρώπινο όν

2              Το ρομπότ πρέπει να υπακούει τις διαταγές που του δίνουν οι άνθρωποι, εκτός αν αυτές οι διαταγές έρχονται σε αντίθεση με τον πρώτο νόμο

3              Το ρομπότ οφείλει να προστατεύει την ύπαρξή του, εφόσον αυτό δεν συγκρούεται με τον πρώτο και τον δεύτερο νόμο

Σε μεταγενέστερα μυθιστορήματα του Ασίμωφ, οι τρεις νόμοι της ρομποτικής συμπληρώθηκαν από το ρομπότ Ντάνιελ Όλιβοου με τον μηδενικό νόμο της ρομποτικής:

•                Το ρομπότ δε θα κάνει κακό στην ανθρωπότητα, ούτε με την αδράνειά του θα επιτρέψει να βλαφτεί η ανθρωπότητα,

οπότε και ο πρώτος νόμος συμπληρώθηκε ανάλογα (παρόμοιες προσαρμογές έγιναν και στον δεύτερο και τρίτο νόμο):

•                Το ρομπότ δε θα κάνει κακό σε άνθρωπο, ούτε με την αδράνειά του θα επιτρέψει να βλαφτεί ανθρώπινο όν, εφόσον αυτό δεν αντιτίθεται στο μηδενικό νόμο.

Στους νόμους αυτούς, αλλά και στις παραβιάσεις τους στηρίχθηκαν τα διηγήματα για ρομπότ του Ασίμωφ, αλλά και πολλών άλλων συγγραφέων.

__________________________

Εικόνες

―Ρομπότ οικοκυρικών, άλογο για τον αμερικάνικο στρατό, μουσικός, το αυτοκινούμενο της Google, jokeys για καμηλοδρομίες.

-Το ρομπότ-σικιουριτάς που ακινητοποίησε το παιδάκι

―Ήδη στα μαγαζιά: http://www.robotshop.com/