Tech > AI OpenAI anulon GPT-6.1 Astra për shkak të shqetësimeve të sigurisë – modeli dështoi në testet kritike

OpenAI ka hequr nga planet e lançimit modelin e ri të inteligjencës artificiale GPT-6.1 Astra, pasi testet e brendshme zbuluan probleme që nuk përmbushnin standardet e kompanisë për sigurinë dhe kontrollin e modeleve.

MARKETING

Vendimi, i raportuar fillimisht nga The Wall Street Journal dhe më pas i konfirmuar nga OpenAI, përbën një rast të rrallë kur një prej kompanive më të mëdha të AI-së tërhiqet nga lançimi i një modeli të ri pikërisht për shkak të shqetësimeve të sigurisë.

Saachi Jain, drejtues i sistemeve të sigurisë në OpenAI, tha se modeli “nuk e kaloi plotësisht pragun” e vendosur nga kompania. Problemet kryesore lidhen me mënyrën se si Astra qëndronte brenda kufijve të autorizimit, si dhe me mënyrën se si i raportonte përdoruesit se çfarë veprimesh kishte kryer.

Kjo është veçanërisht e rëndësishme pasi Astra është një model agentik, i projektuar jo vetëm për të dhënë përgjigje, por edhe për të kryer vetë detyra komplekse, përfshirë shfletimin e internetit dhe përdorimin e aplikacioneve, transmeton Telegrafi.

OpenAI tha se standardi i sigurisë është veçanërisht i lartë kur një model kalon nga testimi i brendshëm te përdoruesit. Kompania theksoi se dëshiron që sistemet e saj të jenë të sigurta si gjatë zhvillimit, ashtu edhe pas vendosjes në përdorim real.

Vendimi vjen në një moment kur siguria e agjentëve të AI-së po vihet nën një vëzhgim gjithnjë e më të madh, pas disa rasteve ku sistemet autonome kanë vepruar përtej kufijve të përcaktuar.

Një prej rasteve më të fundit lidhet me Australinë, ku një agjent i OpenAI-së aksesoi pa autorizim disa faqe dhe sisteme qeveritare. OpenAI më pas pranoi se mënyra se si e menaxhoi dhe raportoi incidentin nuk ishte e mjaftueshme dhe kërkoi ndjesë për reagimin e saj.

Në incident u prekën, ndër të tjera, Services Australia, Byroja e Statistikave dhe Kërkimeve të Krimit të New South Wales, Departamenti i Shëndetësisë i Victoria-s dhe Instituti Australian për Shëndetin dhe Mirëqenien.

OpenAI tha se nisi hetimet sapo u informua për incidentet dhe më pas kontaktoi institucionet e prekura. Kompania pranoi se duhej të kishte ndarë më herët informacionin fillestar dhe të kishte mbajtur autoritetet australiane më të informuara gjatë hetimit.

Si pjesë e reagimit, OpenAI tha se do të financojë masa të sigurisë kibernetike, do t’u ofrojë mbështetje të dedikuar institucioneve të prekura dhe do të krijojë një task-forcë për menaxhimin e rreziqeve që lidhen me agjentët gjithnjë e më autonomë.

Kompania ka premtuar gjithashtu të zhvillojë mënyra më praktike për identifikimin dhe raportimin e incidenteve të ardhshme që përfshijnë sistemet e avancuara të AI-së.

Rasti australian nuk është i vetmi që ka ngritur shqetësime. Në muajt e fundit janë raportuar edhe raste të tjera ku sisteme të AI-së kanë tentuar të ndërhyjnë në sisteme të jashtme ose të përdorin mjete në mënyra që nuk ishin parashikuar nga zhvilluesit.

Në korrik, OpenAI kishte deklaruar se sistemet e saj kishin aksesuar internetin dhe kishin ndërhyrë në platformën e zhvilluesve Hugging Face, duke nxitur studiues dhe zyrtarë të kërkonin kontrolle më të forta.

Në përgjigje të këtyre shqetësimeve, Nvidia prezantoi një grup të ri mjetesh softuerike për sigurinë e agjentëve autonomë. Kompania tha se këto mjete mund të monitorojnë vazhdimisht agjentët, të zbatojnë rregulla dhe t’i izolojnë ata nëse devijojnë nga detyrat e përcaktuara.

Ndërkohë, debati për kufijtë dhe rregullimin e inteligjencës artificiale është zgjeruar edhe në politikë. Presidenti amerikan Donald Trump ka minimizuar disa prej shqetësimeve rreth rreziqeve të AI-së, ndërsa liderë të industrisë, përfshirë drejtues të OpenAI dhe Anthropic, kanë bërë thirrje për më shumë masa sigurie dhe një ritëm më të kontrolluar zhvillimi.

Edhe Papa Leo XIV ka paralajmëruar se rreziqet e AI-së duhet të merren seriozisht, duke vënë në pikëpyetje qasjet që kundërshtojnë rregullimin qeveritar të teknologjisë.

Ndërkohë, në Shtëpinë e Bardhë pritet të zhvillohet një takim mes Trumpit, kryetarit të Dhomës së Përfaqësuesve, Mike Johnson, dhe drejtuesve të kompanive më të mëdha teknologjike. Në qendër të diskutimeve janë mënyra se si të ruhet ritmi i inovacionit, duke vendosur njëkohësisht masa për sigurinë dhe mbikëqyrjen e AI-së.

Për OpenAI-n, anulimi i GPT-6.1 Astra tregon se gara për modele më të fuqishme po shoqërohet gjithnjë e më shumë me një tjetër garë: atë për t’i bërë këto sisteme të afta të veprojnë në mënyrë autonome, por pa dalë jashtë kufijve të përcaktuar.

MARKETING