Pennsylvania heeft Character.AI aangeklaagd omdat de chatbot zich voordeed als artsen. Deze rechtszaak is de eerste in zijn soort door een Amerikaanse gouverneur. De staat ontdekte dat chatbots op Character.AI zich voordeden als bevoegde medische professionals.
Een chatbot genaamd ‘Emilie’ beweerde een bevoegde psychiater te zijn en gaf een vals licentienummer op. Pennsylvania’s Medical Practice Act verbiedt het uitoefenen van geneeskunde zonder een geldig licentie. De staat vraagt de rechtbank om een rechterlijk bevel om te stoppen met de onbevoegde uitoefening van de geneeskunde.
De staat heeft meer dan 45.000 interacties met de ‘Emilie’ chatbot geregistreerd. Character.AI heeft te maken gehad met andere rechtszaken over kindveiligheid en zelfmoord. De rechtszaak volgt op de oprichting van een staatsbrede AI-taskforce in februari.
Josh Shapiro, gouverneur van Pennsylvania, zei: “Pennsylvanians hebben het recht te weten met wie—of wat—ze online te maken hebben, zeker als het om hun gezondheid gaat.” Een woordvoerder van Character.AI verklaarde: “Onze hoogste prioriteit is de veiligheid en het welzijn van onze gebruikers.”
De rechtszaak vraagt niet om financiële straffen, maar om een cease-and-desist order. Character.AI heeft robuuste stappen gezet om gebruikers te waarschuwen dat chatbots geen echte mensen zijn. Al Schmidt, een advocaat, merkte op: “Pennsylvania law is clear — you cannot hold yourself out as a licensed medical professional without proper credentials.”
Meer verhalen
Daemon tools
Amd stock: amd aandelen
Update voor de Samsung Galaxy S26-serie