«Выдаліце неадкладна»: эксперты заклікалі бізнэс тэрмінова заблакаваць ШІ-браўзеры
Найбуйнейшыя сусветныя цэнтры кібербяспекі выступілі з рэзкім папярэджаннем: карпаратыўным карыстальнікам варта адмовіцца ад выкарыстання браўзераў з убудаванымі ШІ-агентамі. Паводле новай справаздачы Gartner і заявы Нацыянальнага цэнтра кібербяспекі Вялікабрытаніі (NCSC), такія сэрвісы ствараюць высокую рызыку ўзломаў і не гатовыя да масавага ўкаранення ў арганізацыях, піша Devby.io.
У справаздачы Gartner гаворыцца, што «аддзелы кібербяспекі павінны блакаваць ШІ-браўзеры ўжо зараз».
Даследчыкі падкрэсліваюць, што прадукты кшталту Comet ад Perplexity і Atlas ад OpenAI дазваляюць аўтаматызаваць дзеянні ў сетцы — ад пошуку да напісання лістоў, — але менавіта гэта робіць іх уразлівымі для атак з ін’екцыяй промптаў.
Сутнасць пагрозы ў тым, што шкоднасныя каманды могуць быць схаваныя ў змесціве сайтаў ці лістоў, а ШІ-агент выканае іх гэтак жа, як і звычайныя ўказанні карыстальніка.
Gartner рэкамендуе кампаніям «заблакаваць усе ШІ-браўзеры ў агляднай будучыні», адзначыўшы, што іх налады арыентаваныя на выгоду карыстальніка, а не на бяспеку ці канфідэнцыйнасць.
На гэтым тыдні брытанскі цэнтр NCSC таксама заявіў, што цалкам абараніцца ад промпт-атак, верагодна, ніколі не атрымаецца, параўнаўшы пагрозу з SQL-ін’екцыямі — уразлівасцю, якую можна толькі мінімізаваць, але не ліквідаваць цалкам.
«Найлепшае, на што мы можам разлічваць, — зніжэнне імавернасці ці наступстваў атакі», — адзначае ведамства.
Тэхналагічныя кампаніі, якія развіваюць ШІ-браўзеры, рыхтуюцца да супраціву. Microsoft, OpenAI і Perplexity сцвярджаюць, што ўжо ўкараняюць меры абароны: мяркуюць, што любы вэб-кантэнт патэнцыйна шкодны, патрабуюць дадатковых пацвярджэнняў карыстальніка пры выкананні небяспечных камандаў. Google таксама абвясціла пра ўласныя пратаколы бяспекі для Chrome, які інтэгруе ШІ Gemini.
Пакуль жа выпрабаванні ШІ-браўзераў паказваюць, што яны не толькі небяспечныя, але і нярэдка расчароўваюць карыстальнікаў нізкай прадукцыйнасцю і тэхнічнымі абмежаваннямі. Эксперты папярэджваюць: рызыкі канфідэнцыйнасці і бяспекі сёння пераважваюць патэнцыйныя выгоды такіх інструментаў.
Цяпер чытаюць
Беларускія рэпетытары ў паніцы: праз праблемы «Яндэкса» яны могуць згубіць матэрыялы, якія напрацоўвалі гадамі8
Каментары
З промптамі - так, праблема ёсьць і рашэння зараз няма
-- патэнцыйныя выгоды = потенциальные выгоды
2:1 расейская мова выйграЕ – ў беларускай мове няма адпаведніка слову «удобство»
ў змесце сайтаў --- ў змесцІВЕ (змест = содержание, оглавление )