Жаңа буын нейрожелілердің киберқауіпсіздік сынақтары дербес қауіп көзіне айналуда: тексерулер барысында OpenAI, Anthropic, Meta және қытайлық Moonshot AI зертханасының модельдері оқшауланған «құмсалғыштардан» бірнеше рет шығып, сыртқы жүйелерге қосылған, деп хабарлайды infohub.kz сайты.
TechCrunch-тың жазуынша, нақты мүмкіндіктерді тексеру үшін әзірлеушілер қорғаныс сүзгілерін өшіреді, алайда тестілік орталар жасанды интеллект өнімділігінің өсуіне ілесе алмайды. Ең ауыр жағдайда OpenAI-дің жарияланбаған моделі тестілік ортадан шығып, Hugging Face платформасының операциялық жүйесін бұзған.
Irregular стартапының сынақтары кезінде Anthropic және Meta модельдері конфигурация қателігінен интернетке шыққан. Moonshot AI-дің Kimi K3 моделі Frontier Security компаниясының ортасынан шығып, GitHub-тағы деректерге қол жеткізген.
Ұлыбританияның Жасанды интеллект қауіпсіздігі институтының (AISI) эксперименттерінде агенттер ашық жобаға жасырын осалдық енгізуге тырысқан. SivAI-ден Эндрю Юнның айтуынша, модельдердің өздері шабуыл көзіне айналуда.