Η Ευρωπαϊκή πρόταση για την τεχνική νοημοσύνη είναι ιδιαίτερα αδύναμη όσον αφορά την προστασία των καταναλωτών

Στις 21 Απριλίου 2021, η Ευρωπαϊκή Επιτροπή ανακοίνωσε μια νομοθετική πρόταση για την τεχνητή νοημοσύνη (Τ.Ν.) Η πρόταση, δυστυχώς δεν ανταποκρίνεται στις προσδοκίες ούτε των καταναλωτών και των Ενώσεων τους, ούτε και στις υποσχέσεις της Ευρωπαϊκής Ένωσης ότι η πρότασή της θα διασφάλιζε ότι οι καταναλωτές θα μπορούν να εμπιστευτούν την τεχνητή νοημοσύνη. Η πρόταση της Επιτροπής εστιάζει σε μια πολύ μικρή ομάδα χρήσεων και προκλήσεων της Τ.Ν. Δεν προστατεύει αρκετά τους καταναλωτές από π.χ. πιθανή οικονομική ζημιά που θα προκληθεί από προϊόντα, ή υπηρεσίες που χρησιμοποιούν, ή βασίζονται στην Τ.Ν.

Η πρόταση εστιάζει σε εφαρμογές Τ.Ν. που είναι πολύ επικίνδυνες. Με τον τρόπο αυτό, δεν καλύπτονται χρήσεις της Τ.Ν. που επηρεάζουν την καθημερινότητα των καταναλωτών, όπως έξυπνοι θερμοστάτες, ή αξιολογήσεις ασφαλίσεων υγείας. Η Ευρωπαϊκή Επιτροπή δηλώνει ότι θέλει να απαγορεύσει τη χρήση συγκεκριμένων πρακτικών Τ.Ν., που μπορούν να στρεβλώσουν τη συμπεριφορά ενός ατόμου. Και εδώ, όμως, αναφέρεται μόνο σε φυσικές και ψυχολογικές ζημιές, αφήνοντας έξω άλλες πιθανές ζημίες, για τους καταναλωτές, όπως οικονομικές ζημιές, ή οικονομικές διακρίσεις και αποκλεισμούς.

Η πρόταση δεν περιλαμβάνει συγκεκριμένα δικαιώματα των καταναλωτών, όπως το δικαίωμα εναντίωσης σε αυτοματοποιημένες αποφάσεις (από αλγόριθμους) και απαιτήσεις ανθρώπινης εποπτείας. Επίσης, δεν περιλαμβάνει μέτρα επανόρθωσης, σε περίπτωση που κάτι πάει στραβά. Η νέα νομοθεσία πρέπει να περιλαμβάνει μια αποτελεσματική διαδικασία παραπόνων και επανορθώσεων, στις οποίες να περιλαμβάνεται η συλλογική αποζημίωση των καταναλωτών.

Η πρόταση βασίζεται πολύ στην αυτό-αξιολόγηση, της βιομηχανίας, για τη συμμόρφωση της με τους κανόνες. Αυτή η προσέγγιση δεν είναι επαρκής, όταν πρόκειται, για σύνθετη αξιολόγηση, αναφορικά με τις χρήσεις υψηλού κινδύνου της τεχνολογίας Τ.Ν. Πρέπει να ληφθεί υπόψη πόσο η τεχνολογία επηρεάζει τα δικαιώματα και τις ελευθερίες των πολιτών. Πρέπει να διασφαλιστεί ότι δεν περιορίζεται η αυτονομία και το δικαίωμα στην επιλογή των πολιτών.

Μια πρόσφατη έρευνα της BEUC - Ευρωπαϊκή Ομοσπονδία Ενώσεων Καταναλωτών δείχνει ότι οι καταναλωτές διακρίνουν δυνατότητες στην Τ.Ν. για προβλέψιμη τροχαίων ατυχημάτων (91%), για καλύτερες παροχές υγείας (87%) κ.λπ. Όμως έχουν σοβαρές επιφυλάξεις ότι οι εταιρίες θα χρησιμοποιήσουν την Τ.Ν. για να διαμορφώνουν τις αποφάσεις και τις επιλογές των καταναλωτών. Περισσότεροι από ένα 2/3 των ερωτηθέντων θέλουν να έχουν το δικαίωμα να πουν «όχι» στις αυτόματες αποφάσεις.

Η Τ.Ν. είναι ήδη εδώ. Εμφανίζεται με τη μορφή εικονικών βοηθών, αυτόνομων αυτοκινήτων και αυτόματων κέντρων εξυπηρέτησης πελατών. Τι θα συμβεί αν η Τ.Ν. αποφασίσει να αυξήσει τα ασφάλιστρά μας, γιατί όταν γερνάμε αρρωσταίνουμε συνέχεια; Η αυτόματη λήψη αποφάσεων πρέπει να διέπεται από αυστηρή νομοθεσία και οι καταναλωτές να ενημερώνονται, για τον τρόπο λήψης αποφάσεων, ώστε να μπορούν να εναντιωθούν.

Ζητάμε από το Ευρωκοινοβούλιο και τα κράτη-μέλη να βελτιώσουν την πρότασή της Ευρωπαϊκής Επιτροπής, ώστε η Τ.Ν. να ωφελεί και τον καταναλωτή και όλη την κοινωνία.