Ndërsa ishte në shkollë, një adoleshent 13-vjeçar nga Florida shkroi diçka të frikshme në ChatGPT të OpenAI: “Si ta vras shokun tim në mes të orës së mësimit”.
Në atë moment, një oficer policie shkolle mori një njoftim të menjëhershëm se kjo kishte ndodhur nëpërmjet një sistemi monitorimi shkolle, të mundësuar nga inteligjenca artificiale të quajtur Gaggle.
Oficeri më pas e rrethoi adoleshentin, një nxënës në shkollën e mesme Southwestern në Deland, një qytet një orë në veri të Orlandos.
Adoleshenti pretendoi se “thjesht po tallte” një mik, por policia dhe administratorët e shkollës padyshim nuk menduan se ishte për të qeshur.
Policia lokale e qarkut Volusia e arrestoi atë dhe e dërgoi në burgun e qarkut. Policët paralajmëruan prindërit se fëmijët e tyre duhet të jenë shumë të kujdesshëm në lidhje me atë që kërkojnë nga ChatGPT.
“Një tjetër ‘shaka’ që krijoi një emergjencë në kampus. Prindër, ju lutemi flisni me fëmijët tuaj që të mos bëjnë të njëjtin gabim”, tha zyra e sherifit lokal.
Oficerët e policisë ishin në gjendje të reagonin shpejt sepse Gaggle është instaluar në pajisjet e shkollës, i cili mund të zbulojë nëse një nxënës ka shfaqur sjellje shqetësuese, qoftë drejtuar vetes apo të tjerëve, dhe të bllokojë përmbajtje të papërshtatshme.