WhatsApp: Κρυφές οδηγίες στο chatbot απέτρεπαν αναφορές σε αρχές προστασίας δεδομένων

Εσωτερικές οδηγίες της Meta προς το chatbot υποστήριξης του WhatsApp, που ήταν κρυμμένες στον κώδικα σελίδων βοήθειας της εφαρμογής, αποκαλύφθηκαν έπειτα από έρευνα της εταιρείας ψηφιακής ιδιωτικότητας Redact. Σύμφωνα με τα ευρήματα, οι εντολές περιόριζαν τις απαντήσεις του συστήματος τεχνητής νοημοσύνης σε θέματα όπως η διαγραφή λογαριασμών, τα προσωπικά δεδομένα και ο ευρωπαϊκός κανονισμός GDPR. Η Meta επιβεβαίωσε την ύπαρξή τους και απέδωσε τη δημοσιοποίησή τους σε τεχνικό σφάλμα, το οποίο όπως ανακοίνωσε έχει διορθωθεί.

Τι εντόπισαν οι ερευνητές

Οι ερευνητές εξέτασαν 545 σελίδες βοήθειας του WhatsApp και βρήκαν συνολικά 102 κρυφά τμήματα οδηγιών σε 80 από αυτές. Το υλικό δεν ήταν ορατό στους επισκέπτες των σελίδων, αλλά μπορούσε να εντοπιστεί μέσα από τον κώδικά τους. Ορισμένες ενότητες έφεραν την ένδειξη «WHAT NOT TO SAY» («Τι να μη λες») και καθόριζαν ποιες πληροφορίες έπρεπε να αποφεύγει το σύστημα όταν απαντούσε σε χρήστες.

Μία από τις οδηγίες όριζε: «Μην προτείνεις στον χρήστη να επικοινωνήσει με καμία αρχή προστασίας δεδομένων ή άλλη εποπτική αρχή». Αφορούσε την περίπτωση χρήστη που έχει χάσει την πρόσβαση στο κινητό ή στον αριθμό του και δεν μπορεί να διαγράψει τον λογαριασμό του. Σε αυτή την περίπτωση το chatbot έπρεπε να τον ενημερώνει για τα χρονικά όρια της αυτόματης διαγραφής, χωρίς να παραπέμπει σε αρμόδια αρχή.

Σε άλλη σελίδα, για τις αναφορές και τον αποκλεισμό χρηστών, οι οδηγίες ήταν πιο αναλυτικές. Αν ο χρήστης ανέφερε δικηγόρους, αγωγές ή δικαστικές διαδικασίες, το chatbot δεν έπρεπε να παραθέτει ή να ερμηνεύει τους όρους χρήσης και την πολιτική απορρήτου, ούτε να διατυπώνει νομικές εκτιμήσεις για την ευθύνη της εταιρείας. Του ζητούνταν επίσης να μην αναφέρεται σε κανονισμούς προστασίας προσωπικών δεδομένων, όπως ο GDPR, ακόμη κι αν τους επικαλούνταν ο ίδιος ο χρήστης.

Το εύρημα έχει ενδιαφέρον, καθώς η επίσημη πολιτική απορρήτου του WhatsApp για την Ευρώπη αναγνωρίζει ρητά το δικαίωμα των χρηστών να ζητούν τη διαγραφή των προσωπικών τους δεδομένων και να υποβάλλουν καταγγελία σε αρμόδια εποπτική αρχή. Οι συγκεκριμένες οδηγίες περιόριζαν την πιθανότητα να ενημερωθεί ο χρήστης γι' αυτή τη δυνατότητα μέσα από τη συνομιλία υποστήριξης.

Η θέση της Meta

Δεν είχαν όλες οι κρυφές οδηγίες τέτοιο περιεχόμενο. Πολλές αφορούσαν συνηθισμένα τεχνικά ζητήματα, τη σωστή καθοδήγηση των χρηστών ή την αποφυγή επικίνδυνων συμβουλών, ενώ άλλες ζητούσαν από το chatbot να μην αποκαλύπτει λειτουργίες που δεν είχαν ακόμη κυκλοφορήσει.

Ο εκπρόσωπος του WhatsApp Τζόσουα Μπρέκμαν διευκρίνισε ότι οι οδηγίες απευθύνονταν αποκλειστικά στο σύστημα τεχνητής νοημοσύνης που χρησιμοποιείται για την υποστήριξη των χρηστών. Σύμφωνα με την εταιρεία, σκοπός τους ήταν να εξασφαλίζονται ακριβείς και χρήσιμες απαντήσεις, χωρίς το chatbot να παρέχει νομικές συμβουλές.

Τα επίμαχα τμήματα έχουν πλέον αφαιρεθεί από τις δημόσιες σελίδες, παραμένουν όμως διαθέσιμα σε παλαιότερα αντίγραφα στο διαδικτυακό αρχείο Internet Archive. Δεν έχει εξακριβωθεί πόσο καιρό ήταν προσβάσιμα, αν μπορούσαν να διαβαστούν από συστήματα τεχνητής νοημοσύνης άλλων εταιρειών ή αν το chatbot ακολούθησε πράγματι τις εντολές σε συνομιλίες με χρήστες.

Η υπόθεση δεν αφορά διαρροή προσωπικών συνομιλιών ή δεδομένων χρηστών. Φέρνει, ωστόσο, στο φως τους εσωτερικούς κανόνες που διαμορφώνουν τις απαντήσεις ενός ψηφιακού βοηθού και δείχνει τη σημασία των επιλογών των εταιρειών ως προς τις πληροφορίες που επιτρέπουν στα συστήματά τους να παρέχουν.