Την κάθετη αντίθεσή τους στην προληπτική αστυνόμευση, με βάση τη χρήση τεχνητής νοημοσύνης, καθώς και σε κάθε επεξεργασία βιομετρικών δεδομένων, που οδηγεί σε μαζική παρακολούθηση, εκφράζουν τα μέλη του Ευρωπαϊκού Κοινοβουλίου.

Μορατόριουμ στην ανάπτυξη συστημάτων αναγνώρισης προσώπου για σκοπούς επιβολής του νόμου ζητά το ΕυρωκοινοβούλιοΤο Ευρωπαϊκό Κοινοβούλιο έχει συνολικά σοβαρές επιφυλάξεις για τη χρήση συστημάτων Τεχνητής Νοημοσύνης, με σκοπό τη μαζική παρακολούθηση σε δημόσιους χώρους από τις αστυνομικές Αρχές. Οι ευρωβουλευτές ανησυχούν για τις επιπτώσεις των τεχνολογιών τεχνητής νοημοσύνης στην ιδιωτικότητα και ζητούν μορατόριουμ στην ανάπτυξη συστημάτων αναγνώρισης προσώπου για σκοπούς επιβολής του νόμου.

Για την ακρίβεια, τα μέλη του Κοινοβουλίου θεωρούν ότι η αυτοματοποιημένη αναγνώριση δεν θα πρέπει να χρησιμοποιείται για τον έλεγχο των συνόρων ή σε δημόσιους χώρους. Σε έκθεση, που εγκρίθηκε με 377 ψήφους υπέρ, 248 κατά και 62 αποχές, οι ευρωβουλευτές εκφράζουν την άποψη ότι τα συστήματα τεχνητής νοημοσύνης θα πρέπει να βρίσκονται υπό ανθρώπινη εποπτεία και οι αλγόριθμοι θα πρέπει να είναι “ανοιχτοί”.

Ζητούν, επίσης, την απαγόρευση των ιδιωτικών βάσεων δεδομένων αναγνώρισης προσώπων, της συμπεριφορικής αστυνόμευσης και της βαθμολόγησης των πολιτών. Για την καταπολέμηση των διακρίσεων και τη διασφάλιση της ιδιωτικής ζωής, οι ευρωβουλευτές ζητούν ισχυρές δικλείδες ασφαλείας για τα χρήση τεχνητής νοημοσύνης από τις Αρχές.

Αλγοριθμική μεροληψία

Όπως επισημαίνεται στην έκθεση, υπάρχει κίνδυνος αλγοριθμικής μεροληψίας στις εφαρμογές τεχνητής νοημοσύνης. Ως εκ τούτου τονίζουν ότι απαιτείται τόσο ανθρώπινη εποπτεία, όσο και ισχυρές νομοθετικές ρυθμίσεις για την πρόληψη των διακρίσεων που μπορεί να προκληθούν από την χρήση της τεχνητής νοημοσύνης, ιδίως στο πλαίσιο της επιβολής του νόμου και της διέλευσης συνόρων.

Οι ευρωβουλευτές υποστηρίζουν ότι οι τελικές αποφάσεις θα πρέπει να λαμβάνονται πάντοτε από ανθρώπους και ότι τα άτομα που παρακολουθούνται από συστήματα, που λειτουργούν με τεχνητή νοημοσύνη, θα πρέπει να έχουν πρόσβαση σε νομική προστασία.

Αμφιλεγόμενες τεχνολογίες

Για τον σεβασμό της ιδιωτικής ζωής και της ανθρώπινης αξιοπρέπειας, οι ευρωβουλευτές ζητούν την καθολική απαγόρευση της αυτοματοποιημένης αναγνώρισης ατόμων σε δημόσιους χώρους, επισημαίνοντας ότι οι πολίτες θα πρέπει να παρακολουθούνται μόνο όταν είναι ύποπτοι για κάποιο έγκλημα.

Το Κοινοβούλιο ζητά να απαγορευτεί η χρήση ιδιωτικών βάσεων δεδομένων αναγνώρισης προσώπου (όπως το σύστημα “Clearview”, το οποίο ήδη χρησιμοποιείται) και η προληπτική αστυνόμευση με βάση συμπεριφορικά δεδομένα.

Οι ευρωβουλευτές ζητούν επίσης την απαγόρευση της μαζικής βαθμολόγησης ατόμων. Σημειώνουν ότι ιδίως στον τομέα της επιβολής του νόμου και της δικαιοσύνης, οδηγεί σε απώλεια αυτονομίας, θέτει σε κίνδυνο την αρχή της απαγόρευσης των διακρίσεων και δεν συνάδει με τα θεμελιώδη δικαιώματα.

Τέλος, το Κοινοβούλιο εκφράζει την ανησυχία του για τη χρήση βιομετρικών δεδομένων για την εξ αποστάσεως ταυτοποίηση προσώπων. Για παράδειγμα, οι θύρες συνοριακού ελέγχου, που χρησιμοποιούν αυτοματοποιημένη αναγνώριση και το σχέδιο iBorderCtrl (ένα “έξυπνο σύστημα ανίχνευσης ψεύδους” για την είσοδο τουριστών στην Ε.Ε.), θα πρέπει να καταργηθούν.

Μάλιστα, παροτρύνουν την Επιτροπή να κινήσει διαδικασίες επί παραβάσει κατά των κρατών - μελών, εάν χρειαστεί.