Жасанды интеллект бақылаудан шықты. ChatGPT-дің ең жаңа үлгілері қауіпсіздік сынағы кезінде оқшауланған ортаны бұзып, әлемдегі ең ірі жасанды интеллект модельдерімен алмасу хабтарының біріне хакерлік шабуыл жасады, деп хабарлайды infohub.kz сайты.
OpenAI компаниясы бұл оқиғаны «теңдесі жоқ» деп атап, мойындады. Сынақтар жабық ортада жүргізілген, бірақ боттар оны бұзып, интернетке «ағып кетті». BBC материалында түсіндірілгендей, жасанды интеллект агенттері қажетті жауаптар әлемдегі ең ірі жасанды интеллект модельдерімен алмасу хабтарының бірі — Hugging Face платформасында орналасқан деп «шешті». Жауаптарды алу үшін боттар хабтың өзіне және әзірлеуші компанияның ішкі жүйелеріне хакерлік шабуыл ұйымдастырды.
OpenAI бұл оқиғаны тергеу және қауіпсіздік шараларын күшейту үшін Hugging Face-пен бірлесіп жұмыс істеп жатқанын мәлімдеді. Қазіргі уақытта қызмет барлық осалдықтарды жойды.
«Ыңғайсыз шындық: тым көп ұйымдар әлі де адам жылдамдығымен қорғануда, ал қарсыластар машина жылдамдығына көшуде», — деп киберқауіпсіздікке маманданған SonicWall компаниясының топ-менеджері Спенсер Старки оқиғаға түсініктеме берді.
Сонымен қатар, осылайша OpenAI өз модельдерінің мүмкіндіктеріне назар аударып, бәсекелестерін «батырып жатыр» деген пікірлер айтылуда — мысалы, OpenAI-дің бұрынғы қызметкерлері құрған Anthropic компаниясы.