Πρέπει να λέω στους πελάτες ότι μιλούν με AI;

Τι λέει το άρθρο 50, χωρίς νομικά

Ο κανονισμός (ΕΕ) 2024/1689 — αυτό που όλοι λένε EU AI Act — έχει ένα άρθρο ειδικά για τη διαφάνεια, το 50. Η πρώτη του παράγραφος αφορά ακριβώς τα συστήματα που μιλούν με ανθρώπους: ο πάροχος πρέπει να τα σχεδιάζει έτσι ώστε ο άνθρωπος να ενημερώνεται ότι συνομιλεί με σύστημα τεχνητής νοημοσύνης. Εξαίρεση υπάρχει όταν αυτό είναι προφανές σε έναν λογικά ενημερωμένο και προσεκτικό άνθρωπο από τις περιστάσεις. Παρακάτω, το ίδιο άρθρο ορίζει και το πώς: η ενημέρωση δίνεται με σαφή και διακριτό τρόπο, το αργότερο τη στιγμή της πρώτης επαφής.

Δύο πράγματα αξίζει να κρατήσετε. Πρώτον, το «προφανές» δεν σώζει το τηλέφωνο. Ένα chatbot μέσα σε ένα παράθυρο με τίτλο «ψηφιακός βοηθός» ίσως να είναι προφανές· μια φωνή που σηκώνει το τηλέφωνο του ιατρείου σας και λέει «Καλησπέρα σας» δεν είναι. Δεύτερον, η υποχρέωση σχεδιασμού βαρύνει τον πάροχο του συστήματος — αυτόν που το φτιάχνει — όχι το κομμωτήριο ή το ιατρείο που το χρησιμοποιεί. Στην πράξη όμως ο πελάτης ακούει το δικό σας όνομα, και σε εσάς θα παραπονεθεί αν νιώσει ότι τον ξεγέλασαν.

Αυτό το κείμενο δεν είναι νομική συμβουλή. Είναι η ανάγνωση του άρθρου από μια εταιρεία που το εφαρμόζει σε κάθε κλήση και θέλει να ξέρετε τι να περιμένετε.

Τι σημαίνει «ενημέρωση» μέσα σε μια κλήση

Στο τηλέφωνο η ενημέρωση είναι μια πρόταση που ακούγεται. Για να κάνει τη δουλειά της, πρέπει να έχει τέσσερα χαρακτηριστικά.

• Να λέγεται φωναχτά, στην αρχή. Πριν ο πελάτης πει το όνομά του, το τηλέφωνό του ή τον λόγο που καλεί. Όχι στο τέλος, όχι «αν ρωτήσει».
• Να είναι κατανοητή. «Μιλάτε με αυτόματο ψηφιακό βοηθό» το καταλαβαίνει όποιος σηκώνει τηλέφωνο. «Η κλήση εξυπηρετείται από σύστημα συνομιλιακής τεχνητής νοημοσύνης» δεν το καταλαβαίνει κανείς στα πρώτα τρία δευτερόλεπτα.
• Να είναι στη γλώσσα του πελάτη. Ενημέρωση στα αγγλικά σε κλήση που γίνεται στα ελληνικά δεν ενημερώνει κανέναν.
• Να μην αναιρείται μετά. Αν ο πελάτης ρωτήσει στη μέση της κουβέντας «είσαι άνθρωπος;», η απάντηση είναι η αλήθεια. Σύστημα που δηλώνει στην αρχή ότι είναι AI και μετά παριστάνει τον άνθρωπο έχει ακυρώσει την ενημέρωση.

Ένας ήχος, ένα «μπιπ» ή μια γραμμή στους όρους χρήσης της ιστοσελίδας δεν είναι ενημέρωση. Ο άνθρωπος που καλεί δεν έχει διαβάσει τίποτα· ό,τι μαθαίνει, το μαθαίνει από αυτό που ακούει.

Τι κάνει η Παρούσα

Κάθε κλήση που απαντά η Παρούσα ξεκινά με την ίδια φράση, πριν από το «Καλησπέρα»:

«Σας ενημερώνουμε ότι μιλάτε με αυτόματο ψηφιακό βοηθό. Τα στοιχεία της κλήσης χρησιμοποιούνται μόνο για τη διαχείριση του ραντεβού σας.»

Δεν χρειάζεται να μας πιστέψετε: είναι τα πρώτα δεκατρία δευτερόλεπτα της πραγματικής ηχογραφημένης κλήσης που δημοσιεύουμε, με απομαγνητοφώνηση. Η πρόταση καλύπτει δύο πράγματα μαζί: ποιος μιλά — το άρθρο 50 — και για ποιον σκοπό χρησιμοποιούνται τα στοιχεία που θα δώσει ο πελάτης, που είναι η βασική ενημέρωση του GDPR. Μόνο μετά ακολουθεί ο χαιρετισμός με το όνομα της επιχείρησής σας.

Η ενημέρωση δεν είναι ρύθμιση που μπορεί να απενεργοποιήσει ένα κατάστημα ή ένα ιατρείο για να «ακούγεται πιο φυσικό». Είναι μέρος του συστήματος: σε παραγωγική λειτουργία, το σύστημα της Παρούσας δεν ξεκινά καν με την ενημέρωση κλειστή. Το ίδιο ισχύει και για το έξυπνο chat της σελίδας κρατήσεων, που δηλώνει από το πρώτο του μήνυμα ότι είναι ψηφιακός βοηθός AI. Και αν ο πελάτης ρωτήσει, η Παρούσα απαντά ότι είναι ψηφιακή βοηθός — ποτέ δεν παριστάνει τον άνθρωπο.

Θα φύγουν οι πελάτες μόλις το ακούσουν; Δεν έχουμε μετρήσεις να σας δείξουμε και δεν θα επινοήσουμε. Αυτό που μπορείτε να ελέγξετε μόνοι σας είναι η ηχογράφηση: ο πελάτης ακούει την ενημέρωση, ρωτά τιμή και διάρκεια, αλλάζει ώρα δύο φορές, ρωτά και για δεύτερη υπηρεσία, και κλείνει το ραντεβού. Μία κλήση δεν είναι στατιστική· είναι όμως μια ολόκληρη κλήση, χωρίς κόψιμο.

Τι να ελέγξετε σε οποιονδήποτε πάροχο

Όποια AI γραμματέα κι αν εξετάζετε, η ενημέρωση είναι το πρώτο πράγμα που μπορείτε να δοκιμάσετε χωρίς να ξέρετε τίποτα από τεχνολογία. Πέντε ερωτήσεις:

• Καλέστε τον αριθμό επίδειξης και μετρήστε. Σε πόσα δευτερόλεπτα ακούτε ότι μιλάτε με σύστημα AI; Αν δεν το ακούσετε πριν σας ζητηθεί το όνομά σας, ρωτήστε γιατί.
• Ρωτήστε τη φωνή «είσαι άνθρωπος;». Η μόνη σωστή απάντηση είναι «όχι».
• Ρωτήστε αν η ενημέρωση απενεργοποιείται. Αν σας πει ο πάροχος ότι μπορείτε να την κλείσετε για να ακούγεται «πιο ανθρώπινη», σκεφτείτε ποιος αναλαμβάνει το ρίσκο όταν κλείσει: εσείς.
• Ρωτήστε για το chat και τα μηνύματα. Ο κανόνας αφορά κάθε κανάλι όπου το σύστημα συνομιλεί με ανθρώπους, όχι μόνο τη φωνή.
• Ρωτήστε για τα δεδομένα. Πού αποθηκεύονται οι κλήσεις και τα στοιχεία, για πόσο, για ποιον σκοπό. Αυτό είναι GDPR, όχι AI Act, αλλά ο πελάτης σας δεν κάνει τη διάκριση — και η ίδια πρόταση στην αρχή της κλήσης μπορεί να τα καλύψει και τα δύο.

Ζητήστε και το ακριβές κείμενο της ενημέρωσης γραπτά. Ένας πάροχος που την έχει σχεδιάσει σωστά το δίνει αμέσως — είναι ήδη μέσα σε κάθε κλήση του.

Γιατί αξίζει να το λέτε, ακόμα κι αν δεν ήταν υποχρέωση

Ο κανονισμός απλώς έβαλε σε νόμο κάτι που η καλή εξυπηρέτηση ήξερε ήδη: ο άνθρωπος που μιλά με μηχανή νομίζοντας ότι μιλά με άνθρωπο θα το ανακαλύψει — από μια παράξενη παύση, από μια απάντηση που δεν ταιριάζει — και τότε θα θυμώσει με εσάς, όχι με τη μηχανή. Ο άνθρωπος που το ξέρει από την αρχή συγχωρεί περισσότερα και λέει το τηλέφωνό του πιο καθαρά. Η διαφάνεια δεν κοστίζει ραντεβού· κοστίζει μία πρόταση στην αρχή της κλήσης. Μια AI γραμματέας που τη λέει χωρίς να της το ζητήσετε σας λέει και κάτι για το πώς θα φερθεί στους πελάτες σας σε όλα τα υπόλοιπα.