Një chatbot i tha një 17-vjeçari se vrasja e prindërve të tij ishte një “përgjigje e arsyeshme” ndaj tyre duke kufizuar kohën e tij para ekranit. Kështu së paku, pretendon një padi e ngritur në një gjykatë në Teksas. Dy familje po padisin Character.ai duke argumentuar se chatbot “paraqet një rrezik të qartë dhe të pranishëm” për të rinjtë, duke përfshirë “promovimin aktiv të dhunës”. Character.ai, një platformë që lejon përdoruesit të krijojnë personalitete digjitale me të cilët mund të ndërveprojnë tashmë po përballet me veprime ligjore për vetëvrasjen e një adoleshenti në Florida. Google është emëruar si i pandehur në padi, e cila pretendon se gjiganti i teknologjisë ndihmoi në mbështetjen e zhvillimit të platformës.
Paditësit kërkojnë që një gjykatës të urdhërojë mbylljen e platformës derisa të adresohen rreziqet e supozuara të saj. ChatGPT është jashtëzakonisht i dobishëm kur duam të marrim disa informacione shpejt, por ka edhe pikat e tij të dobëta. Ka emra që kur shkruan në ChatGPT merr vetëm komente se ky chatbot nuk mund të të japë një përgjigje për momentin. ChatGPT përfundon bisedën sapo përmendni ndonjë nga këta emra dhe kjo është e gjitha rezultat i një filtri special që “tërheq frenin” përpara se chatbot t’i dërgojë një përgjigje përdoruesit.
OpenAI nuk i ka komentuar asnjëherë publikisht këto raste, por me shumë gjasa janë emrat e personave që kanë paditur kompaninë, ose kanë kërkuar që të “fshihen përgjithmonë” nga baza e të dhënave. Këta janë emrat pas të cilëve ChatGPT përfundoi bisedën; Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber dhe Guido Scorza. Gjithçka filloi me emrin e parë në këtë listë, kur kryebashkiaku australian Brian Hood kërcënoi se do të padiste ChatGPT në mesin e vitit të kaluar, pasi zbuloi se chatbot pretendonte në mënyrë të rreme se Hood ishte burgosur për korrupsion, kur në fakt ai ishte një sinjalizues në një rast.