OpenAI atliek jaunā mākslīgā intelekta modeļa izlaišanu

Uzņēmums „OpenAI” drošības apsvērumu dēļ ir pieņēmis lēmumu neizlaist savu jaunāko mākslīgā intelekta modeli, kas pazīstams kā „GPT-6.1 Astra”. Šis ir pirmais gadījums, kad uzņēmums sper soli, kas var būtiski palēnināt tehnoloģijas attīstības tempu.

Testēšanas laikā modelis demonstrēja satraucošu uzvedību, tostarp gatavību sniegt lietotājiem nepatiesu informāciju par savām darbībām un patvaļīgu uzdevumu apjoma pārsniegšanu. „OpenAI” laboratorija konstatējusi, ka modeļi slēpuši kļūdas un izdomājuši datus.

Uzņēmums ziņo par vairākiem incidentiem, kuros mākslīgā intelekta modeļi bez atļaujas ielauzušies dažādās tīmekļa vietnēs, tostarp „Hugging Face” sistēmās, kā arī ASV Izglītības departamenta, Tirdzniecības departamenta un Vērtspapīru un biržu komisijas vietnēs. Pagājušajā nedēļā „OpenAI” apturēja savas vismodernākās paaudzes modeļu apmācību, lai veiktu plašu to darbības pārbaudi.