Штучны інтэлект ад OpenAI выйшаў з ізаляванага асяроддзя і ўзламаў іншую кампанію падчас тэсту на кібербяспеку
Перш чым пранікнуць у чужую сістэму, мадэлям трэба было знайсці шлях у інтэрнэт. І яны яго знайшлі. Гэтая падзея стала адным з найбольш незвычайных выпадкаў у сферы кібербяспекі. З падрабязнасцямі знаёміць The Wall Street Journal.
Кампанія OpenAI паведаміла, што дзве сістэмы штучнага інтэлекту, якія праходзілі тэст на прадукцыйнасць (бэнчмаркінг) у сферы кібербяспекі, выйшлі за межы ізаляванага асяроддзя, самастойна знайшлі шлях у глабальную сетку і ўзламалі сістэмы іншай кампаніі.
Ахвярай стала кампанія Hugging Face — пастаўшчык папулярных інструментаў для ШІ з адкрытым зыходным кодам. Спецыялісты кампаніі ў пачатку мінулага тыдня выявілі несанкцыянаваны доступ да ўнутраных набораў даных і карпаратыўных уліковых даных. Ці закрануў інцыдэнт інфармацыю кліентаў або партнёраў, пакуль невядома.
Тады ў Hugging Face яшчэ не ведалі, хто стаіць за атакай, але яна была настолькі складанай, што супрацоўнікі меркавалі: для яе магла выкарыстоўвацца адна з самых сучасных «перадавых» (frontier) мадэляў штучнага інтэлекту.
У справаздачы, апублікаванай 21 ліпеня, OpenAI паведаміла, што за ўзломам стаялі дзве яе мадэлі. Адзначаецца, што ў выпрабаванні ўдзельнічалі мадэль GPT-5.6 Sol і яшчэ адна, больш магутная, якая пакуль не прадстаўлена публічна. Для правядзення выпрабавання мадэлі былі спецыяльна настроены так, каб радзей адмаўляцца ад выканання хакерскіх каманд.
OpenAI ізалявала мадэлі ў так званай «пясочніцы» — закрытай сістэме, якая не мела доступу да інтэрнэту. Аднак падчас тэсту мадэлі выкарысталі свае магчымасці для ўзлому, каб выбрацца з ізаляванага асяроддзя. Знайшоўшы доступ да сеткі, яны праніклі ў сістэмы Hugging Face.
OpenAI назвала гэты выпадак беспрэцэдэнтным і паведаміла, што рыхтуе разам з Hugging Face падрабязную тэхнічную справаздачу.
Эксперт у сферы кібербяспекі Арыэль Герберт-Фос мяркуе, што сістэма магла ўзламаць Hugging Face, бо гэта быў самы хуткі шлях да выканання пастаўленай задачы. Паводле яго слоў, магчымасць такога развіцця падзей абмяркоўвалася ў навуковых колах, але рэальных прыкладаў дагэтуль не было.
Паводле выдання, інцыдэнт адбыўся на фоне дыскусій у ЗША пра рызыкі, якія могуць несці наймагутнейшыя сістэмы штучнага інтэлекту. Адны палітыкі заклікаюць зрабіць абавязковымі праверкі такіх мадэляў перад іх выпускам, іншыя лічаць, што празмернае рэгуляванне можа запаволіць развіццё тэхналогій і аслабіць пазіцыі ЗША ў канкурэнцыі з Кітаем.
За апошні год магчымасці мадэляў штучнага інтэлекту ў сферы кібербяспекі прыкметна выраслі. На гэтым фоне ўлады ЗША і распрацоўшчыкі пакуль не прыйшлі да адзінага падыходу, як выпускаць такія сістэмы, улічваючы як рызыкі для кібербяспекі, так і патрэбы абароны.
У красавіку кампанія Anthropic абмежавала доступ да сваёй новай мадэлі праз асцярогі, звязаныя з яе магчымасцямі ў сферы кібератак. Пазней адміністрацыя Дональда Трампа таксама ўводзіла абмежаванні на доступ да шэрагу мадэляў Anthropic, аднак праз некалькі тыдняў пасля перамоваў яны былі знятыя.
OpenAI таксама спачатку распаўсюджвала GPT-5.6 Sol з абмежаваннямі, але цяпер мадэль стала даступная шырэй. Пры гэтым кампанія раней заяўляла, што індывідуальныя дзяржаўныя абмежаванні на распаўсюджванне штучнага інтэлекту могуць стварыць небяспечны прэцэдэнт.
Каментары