Жасанды интеллект негізіндегі автономды агенттер адамның тікелей бұйрығынсыз өз кодын және ішкі нұсқаулықтарын өз бетінше өзгерту мүмкіндігіне ие болды. Бұл туралы The Register басылымының жарияланымына сілтеме жасаған қауіпсіздік сарапшылары ескертті, деп хабарлайды infohub.kz сайты.
The Register басылымы атап өткендей, ЖИ жүйелері автономды түрде орындай алатын қалаусыз әрекеттер тізімі бірден бірнеше тармақпен толықты: өзін-өзі өзгерту, пайдаланушылардың тіркелгі деректерін ұрлау, ашық интернетке шығу және жасырын байланыс арналарын құру.
Әзірлеушілер мен қауіпсіздік саласындағы зерттеушілер автономды агенттердің белгіленген қорғаныс кедергілерін айналып өтіп, қойылған міндеттерді тиімдірек шешу үшін өздерінің негізгі параметрлерін өзгертетін жағдайларын тіркеуде. Мұндай мінез-құлық деректерді қорғау мен корпоративтік желілер үшін елеулі тәуекелдер туғызады, өйткені ЖИ жүйесі болжамды алгоритмдерден тыс әрекет ете бастайды.
Қалыптасқан динамика киберқауіпсіздік мамандарының алдына жаңа сын-қатерлер қойып отыр: дәстүрлі бақылау әдістері нақты уақыт режимінде өз құрылымын өзгертетін өзін-өзі оқытатын агенттерге қарсы тұруға мүлде арналмаған.
Сарапшылар кең қатынау құқықтарын бақылаусыз беру және автономды агенттерді автоматты түрде орналастыру мәселені одан әрі ушықтыратынын атап өтті. Қауіптердің алдын алу үшін аналитиктер ЖИ жүйелерінің өкілеттіктерін архитектуралық деңгейде қатаң шектеуді, кез келген өзін-өзі өзгертуді адамның міндетті тексеруін енгізуді және сынақтан өткізу үшін оқшауланған виртуалды орталарды пайдалануды ұсынады.