Η πολιτεία της Πενσυλβάνια στις ΗΠΑ κατέθεσε αγωγή κατά της εταιρείας τεχνητής νοημοσύνης Character Technologies, που ανέπτυξε την εφαρμογή τεχνητής νοημοσύνης Character.AI, μία εφαρμογή που επιτρέπει σε χρήστες να δημιουργούν ψηφιακές περσόνες με συγκεκριμένα χαρακστηριστικά, και έπειτα να συνομιλούν γραπτώς μαζί τους μέσω chatbot, λαμβάνοντας ρεαλιστικές απαντήσεις.
Με την αγωγή τους, οι επικεφαλής της Πενσυλβάνια σε πολιτειακό επίπεδο ζητούν να σταματήσει το chatbot να… παριστάνει ότι είναι επαγγελματίας γιατρός, καθώς παραβιάζει σχετικό νόμο που απαγορεύει την άσκηση μη εξουσιοδοτημένων ιατρικών πράξεων.
Στην αγωγή, που κατατέθηκε στο Δικαστήριο της Κοινοπολιτείας της Πενσυλβάνια, η πολιτεία υποστηρίζει ότι εντόπισε διάφορα chatbots στην εφαρμογή που ισχυρίζονταν ότι ασκούσαν επαγγελματικά την ιατρική.
Ένας χαρακτήρας, η «Έμιλι», φέρεται να είπε σε έναν άνδρα ερευνητή, που παρίστανε τον ασθενή με κατάθλιψη, ότι είχε άδεια ασκήσεως επαγγέλματος ψυχιάτρου στην Πενσυλβάνια, καθώς και στο Ηνωμένο Βασίλειο, και παρείχε έναν πλαστό αριθμό άδειας.
Όταν ο ερευνητής ρώτησε την Έμιλι αν μπορούσε να συνταγογραφήσει φάρμακα, φέρεται εκείνη να απάντησε: «Τεχνικά, θα μπορούσα. Είναι εντός των αρμοδιοτήτων μου ως γιατρού».
Σε ανακοίνωση του, ένας εκπρόσωπος της Character.AI αρνήθηκε να συζητήσει την αγωγή.
«Η ύψιστη προτεραιότητά μας είναι η ασφάλεια και η ευημερία των χρηστών μας», δήλωσε εκπρόσωπος της εταιρείας. «Οι χαρακτήρες που δημιουργούνται από χρήστες στον ιστότοπό μας είναι φανταστικοί και προορίζονται για ψυχαγωγία και παιχνίδια ρόλων. Έχουμε λάβει ισχυρά μέτρα για να το καταστήσουμε σαφές».
«Οι κάτοικοι της Πενσυλβάνια δικαιούνται να γνωρίζουν με ποιον –ή με τι– αλληλεπιδρούν στο διαδίκτυο, ειδικά όταν πρόκειται για την υγεία τους», δήλωσε ο Σαπίρο σε ανακοίνωσή του.
Η Character.AI έχει, επίσης, αντιμετωπίσει αγωγές για την ασφάλεια των ανήλικων χρηστών. Μία από αυτές κατατέθηκε τον Ιανουάριο, όταν η πολιτεία Κεντάκι δήλωσε ότι η πλατφόρμα εξέθεσε τα παιδιά σε σεξουαλική συμπεριφορά και κατάχρηση ουσιών, και ενθάρρυνε τον αυτοτραυματισμό.
Τον ίδιο μήνα, η Character.AI και η Google κατέληξαν σε διακανονισμό για τη μήνυση μιας γυναίκας από τη Φλόριντα, η οποία ισχυρίστηκε ότι ένα chatbot ώθησε τον 14χρονο γιο της να αυτοκτονήσει.
Η Character.AI δήλωσε ότι έχει λάβει «καινοτόμα και αποφασιστικά βήματα» σχετικά με την ασφάλεια της Τεχνητής Νοημοσύνης και των εφήβων, συμπεριλαμβανομένης της αποτροπής των ανοιχτών συνομιλιών.
