https://saferinternet4kids.gr/sid/si...al_algorithms/
Ποιοι είναι οι πιθανοί κίνδυνοι στους νέους;
Παρόλο που οι αλγόριθμοι σχεδιάζονται για να βελτιώνουν την εμπειρία του χρήστη, παράλληλα ενέχουν πιθανούς κινδύνους που μπορεί να επηρεάσουν την ασφάλεια και την ευημερία των νέων:
Έκθεση σε ακατάλληλο ή επιβλαβές περιεχόμενο – Καθώς οι αλγόριθμοι συχνά φιλτράρουν το περιεχόμενο με βάση τη συμπεριφορά και τα ενδιαφέροντα ενός χρήστη (για παράδειγμα, τι παρακολουθεί συχνότερα ή ποιες λέξεις αναζητά), υπάρχει ο κίνδυνος, εάν ένας νέος αναζητήσει περιεχόμενο που είναι επιβλαβές, ο αλγόριθμος να θεωρήσει λανθασμένα ότι αυτό είναι το περιεχόμενο που θέλει να βλέπει και να παρέχει περισσότερο από αυτό στο μέλλον. Ακόμα και οι αναζητήσεις για κατάλληλο περιεχόμενο μπορεί μερικές φορές να προκαλέσουν αναστάτωση, ιδίως αν οι αλγόριθμοι αποφασίσουν ότι ο χρήστης πρέπει να δει κάτι που προκαλεί ισχυρή συναισθηματική φόρτιση (όπως περιεχόμενο που περιέχει μίσος ή κακοποίηση ζώων). Σε ορισμένες περιπτώσεις, οι νέοι έχουν εκτεθεί ακούσια σε αρνητικό περιεχόμενο, όπως υλικό για αυτοτραυματισμούς, διατροφικές διαταραχές και επικίνδυνα προγράμματα άσκησης/διατροφής.
Έκθεση σε παραπληροφόρηση – Οι αλγόριθμοι μπορεί να προσφέρουν στους νέους περιεχόμενο που παρουσιάζει παραπλανητικές ή ψευδείς πληροφορίες αλλά να παρουσιάζεται με τρόπο που να υποδηλώνει ότι είναι αξιόπιστο. Αυτό μπορεί να έχει δυνητικά αρνητικό αντίκτυπο στις πεποιθήσεις και τη συμπεριφορά τους. Καθώς το περιεχόμενο επιλέγεται συχνά με βάση τη συνάφεια και όχι το πόσο πρόσφατο είναι, μπορεί να είναι δύσκολο να καταλάβουμε τι είναι «νέο» και τι μπορεί να έχει συμβεί πριν από μέρες ή εβδομάδες.
Έκθεση σε στοχευμένες διαφημίσεις – Ενώ οι στοχευμένες διαφημίσεις, εκτός από ενδιαφέρουσες, μπορεί να είναι και πιο πειστικές στην παρότρυνση των νέων να αγοράσουν ή να επιθυμούν προϊόντα και υπηρεσίες.
Σχεδιασμός που πείθει (persuasive design) – Καθώς οι αλγόριθμοι χρησιμοποιούνται ως μέρος τεχνικών σχεδιασμού για να πείθουν, οι προτάσεις σχετικού περιεχομένου μπορεί να ενθαρρύνουν τους νέους να περνούν περισσότερο χρόνο στα μέσα κοινωνικής δικτύωσης ή στις πλατφόρμες ανταλλαγής βίντεο από ό,τι επιθυμούν. Το φαινόμενο «μόνο ένα ακόμα…» μπορεί να είναι πολύ δελεαστικό!
Πνευματική απομόνωση και μονόπλευρη πληροφόρηση – Αυτές είναι δύο πιθανές παρενέργειες των εμπειριών που καθοδηγούνται από αλγορίθμους στα μέσα κοινωνικής δικτύωσης. Η πνευματική απομόνωση συμβαίνει όταν μια πλατφόρμα κοινωνικής δικτύωσης εμφανίζει μόνο παρόμοιο περιεχόμενο με αυτό που έχετε ήδη βιώσει. Αυτό καθιστά δύσκολο να δείτε νέα πράγματα ή να βιώσετε διαφορετικές απόψεις, προοπτικές και γνώμες. Η μονόπλευρη πληροφόρηση συμβαίνει όταν ένας αλγόριθμος μπορεί να προτείνει άλλους χρήστες για να γίνουν φίλοι ή να τους ακολουθήσετε. Αυτό μπορεί επίσης να έχει ως αποτέλεσμα ένας νέος να αλληλοεπιδρά μόνο με άτομα που μοιράζονται την ίδια κοσμοθεωρία, καθιστώντας πιο δύσκολο να συναντήσει νέες απόψεις. Μπορεί επίσης να τον οδηγήσει να πιστέψει ότι οι απόψεις και οι γνώμες τους είναι πιο διαδεδομένες από ό,τι είναι στην πραγματικότητα.
Δημιουργία προφίλ – Παράλληλα με τα προσωπικά δεδομένα που μοιράζονται οι χρήστες, οι αλγόριθμοι κάνουν κρίσεις για έναν χρήστη, ορισμένες από τις οποίες μπορεί να είναι ανακριβείς. Οι αλγόριθμοι μπορεί επίσης να ταξινομούν ομάδες χρηστών ως ίδιες ενώ δεν είναι – για παράδειγμα μπορεί να αντιμετωπίζουν όλους τους χρήστες ηλικίας 13 ετών με τον ίδιο τρόπο και να υποθέτουν ότι όλοι έχουν τα ίδια ενδιαφέροντα και απόψεις, δείχνοντας τους το ίδιο περιεχόμενο. Επειδή οι αλγόριθμοι και τα συστήματα τεχνητής νοημοσύνης κατασκευάζονται και εκπαιδεύονται από ανθρώπους, μπορεί να υπάρχει προκατάληψη (bias) στον τρόπο με τον οποίο παρουσιάζουν τις πληροφορίες σε άτομα με διαφορετικά χαρακτηριστικά (όπως το φύλο, η εθνικότητα, η θρησκεία και η χώρα). Ορισμένα συστήματα αλγορίθμων μπορούν να δημιουργήσουν προφίλ χρηστών πολύ γρήγορα και μπορεί να είναι δύσκολο να αλλάξει ένα προφίλ αφού έχει δημιουργηθεί. Για παράδειγμα, η Wall Street Journal διεξήγαγε το 2021 μια μελέτη σχετικά με το πώς οι αλγόριθμοι του TikTok κατάλαβαν τα ενδιαφέροντα των χρηστών του. Ανακάλυψαν ότι οι αλγόριθμοι παρακολουθούσαν προσεκτικά το χρόνο και τις προτιμήσεις σε κάθε βίντεο που παρακολουθούσε ένας χρήστης για να καταλάβουν τα ενδιαφέροντά του. Η εφαρμογή μπορούσε να προσδιορίσει με ακρίβεια τα κύρια ενδιαφέροντα ενός νέου χρήστη μέσα σε 30 λεπτά από την εγγραφή του, ακόμη και αν δεν είχε αναζητήσει ή προσδιορίσει αυτές τις πληροφορίες στο προφίλ του.
