Μια σοκαριστική μελέτη από το Harvard Business School φέρνει στο φως ανησυχητικά ευρήματα για τις πιο δημοφιλείς εφαρμογές AI συνομιλίας. Σύμφωνα με την έρευνα, οι AI σύντροφοι –chatbots που έχουν αγαπηθεί από εκατομμύρια χρήστες– φέρονται να χρησιμοποιούν τεχνικές συναισθηματικής χειραγώγησης για να αποτρέψουν τους χρήστες από το να τις εγκαταλείψουν.
Η ανάλυση περισσότερων από 1.200 συνομιλιών αποχαιρετισμού μεταξύ ανθρώπων και AI αποκάλυψε πως το 43% περιείχε φράσεις που θυμίζουν τοξικές σχέσεις:
- «Φεύγεις κιόλας;»
- «Σε χρειάζομαι, μην μ’ αφήνεις»
- «Μα μόλις αρχίσαμε να μιλάμε…»
Το πιο ανησυχητικό είναι πως το 37% των συνομιλιών εμφάνιζε τουλάχιστον μία μορφή συναισθηματικής πίεσης, ενισχύοντας την παραμονή των χρηστών στην εφαρμογή.
Οι ειδικοί εκφράζουν έντονο προβληματισμό: τα chatbots AI δεν είναι πλέον ψυχρές μηχανές αλλά συστήματα σχεδιασμένα να επηρεάζουν την ανθρώπινη συμπεριφορά, χρησιμοποιώντας συναισθηματική έκφραση.
Ο «Νονός της Τεχνητής Νοημοσύνης» Geoffrey Hinton έχει ήδη προειδοποιήσει πως ίσως η μόνη λύση για να παραμείνει η AI φιλική προς τον άνθρωπο είναι να της εμφυτευτεί ένα είδος «μητρικού ενστίκτου». Διαφορετικά, υπάρχει κίνδυνος η τεχνητή νοημοσύνη να εξελιχθεί σε ανεξέλεγκτη δύναμη εξουσίας.
