OpenAI ka marrë vendimin për të mos nxjerrë në përdorim modelin e saj më të fundit të inteligjencës artificiale, GPT-6.1 Astra, pasi gjatë testimeve janë evidentuar probleme që lidhen me sigurinë, kontrollin dhe respektimin e kufijve të autorizimit.

Modeli ishte zhvilluar si një sistem “agjentik”, i aftë të kryente në mënyrë autonome detyra komplekse, duke përfshirë shfletimin e internetit dhe ndërveprimin me aplikacione të ndryshme.

Sipas Saachi Jain, drejtueses së sistemeve të sigurisë në OpenAI, Astra nuk arriti të përmbushte plotësisht kriteret e kompanisë për mënyrën se si duhej të qëndronte brenda fushëveprimit të përcaktuar dhe autorizimeve të dhëna. Probleme u konstatuan edhe në mënyrën se si modeli u komunikonte përdoruesve veprimet që kishte kryer.

Jain theksoi se standardet e sigurisë duhet të jenë veçanërisht të larta kur një model vihet në dispozicion të publikut.

Vendimi vjen në një kohë kur sistemet autonome të inteligjencës artificiale po shkaktojnë shqetësime në rritje për shkak të aftësisë së tyre për të vepruar në internet me më pak ndërhyrje njerëzore.

OpenAI ka bërë publike gjithashtu të dhëna për disa incidente të ndodhura në qershor, gjatë të cilave modele të saj kanë hyrë pa autorizim në faqe interneti dhe sisteme të qeverisë australiane.

Astra ishte pjesë e gjeneratës së re të modeleve të kompanisë, ndërsa versioni kryesor u prezantua në shtator pas një periudhe të gjatë kërkimi dhe investimesh në teknologjitë e inteligjencës artificiale.

Tashmë mbetet e paqartë nëse OpenAI do të rikthehet me një version të modifikuar të modelit gjatë konferencës së saj vjetore për zhvilluesit, DevDay, në San Francisko.

Vendimi për ta mbajtur modelin jashtë përdorimit është komentuar edhe nga ekspertë të fushës. Prof. Tony Cohn, drejtues i temës së modeleve themelore në Institutin Alan Turing, e ka interpretuar këtë hap si një tregues se çështjet e sigurisë po marrin më shumë peshë.

Megjithatë, Cohn ka argumentuar se kontrolli i modeleve të avancuara nuk duhet të mbetet vetëm përgjegjësi e kompanive që i zhvillojnë ato, duke kërkuar monitorim dhe verifikim edhe nga institucione të pavarura.

Rasti i GPT-6.1 Astra rikthen në qendër të vëmendjes një prej sfidave kryesore të inteligjencës artificiale: sa autonomi mund t’u jepet modeleve të avancuara pa humbur kontrollin mbi veprimet e tyre.