Расійская агентура выкарыстала нейрасетку Claude для крадзяжу і для ўплыву на выбары

Кампанія Anthropic апублікавала справаздачу аб злоўжываннях сваімі мадэлямі штучнага інтэлекту ў перыяд са снежня 2025 па жнівень 2026 года. Як паведамляе BBC, адной з галоўных пагроз сталі спробы выкарыстання чат-бота Claude для навуковых даследаванняў, якія маглі прывесці да стварэння біялагічнай зброі.

Карыстальнікі звярталіся да нейрасеткі па дапамогу ў напісанні грантавых заявак на вывучэнне віруса чыкунгунья. Запыты тычыліся генетычнай мадыфікацыі патагену для павелічэння ягонай заразнасці і здольнасці абыходзіць імунную сістэму чалавека.

Выданне The New York Times удакладняе, што падазроная праца павінна была праводзіцца ў вайсковым даследчым інстытуце. Тэхналагічная кампанія не змагла дакладна вызначыць мэтазгоднасць такіх эксперыментаў: яны маглі прывесці як да стварэння вакцыны, так і да распрацоўкі біялагічнай зброі. З-за высокай рызыкі акаўнты навукоўцаў былі заблакаваныя. У справаздачы таксама фіксуюцца спробы выкарыстання штучнага інтэлекту для распрацоўкі праграмнага забеспячэння для ракет і баявых дронаў з боку карыстальнікаў з Расіі, Кітая і Емена. Пасля гэтых інцыдэнтаў Anthropic узмацніла абмежаванні ў сваіх найноўшых мадэлях Claude Fable 5 і Mythos.

Аўтаматызацыя кібератак і шпіянажу

Штучны інтэлект значна знізіў бар'ер для правядзення маштабных хакерскіх аперацый. Выданне CyberScoop прыводзіць даныя аб актыўнасці зламысніка пад псеўданімам JackPoterz, чые метады супадаюць з расійскай дзяржаўнай групоўкай Midnight Blizzard. Ён выкарыстоўваў Claude для арганізацыі шпіёнскай кампаніі супраць больш чым дваццаці ўрадавых і абаронных устаноў Украіны і Еўропы.

Нейрасетка бесперапынна маніторыла рэакцыю антывірусных праграм на шкоднасны код, і пры выяўленні пагрозы аўтаномныя агенты імгненна перапісвалі праграму. Такім чынам былі скрадзеныя дакументацыя на сістэмы відэабачання для дронаў і сотні тысяч нацыянальных ідэнтыфікацыйных запісаў.

Тэхналогія таксама паскорыла дзейнасць іншых груповак. Кітайскія студэнты з дапамогай роя ІІ-агентаў знаходзілі дзясяткі ўразлівасцей нулявога дня ў сеткавым абсталяванні на працягу месяца. А кіберзлачынны сіндыкат ShinyHunters выкраў больш за 2100 карпаратыўных ключоў доступу да воблачных сэрвісаў Microsoft Azure усяго за 34 гадзіны.

Генерацыя прапаганды і крадзеж даных

Справаздача апісвае факты выкарыстання мадэляў для стварэння сетак фальшывых акаўнтаў. Як адзначае тэлеканал Sky News, расійскія дзяржаўныя медыя выкарыстоўвалі Claude для генерацыі прапагандысцкіх матэрыялаў, якія маскаваліся пад незалежныя навіны для ўплыву на выбары ў Малдове. Падобныя кампаніі таксама фіксаваліся з боку Ірана і Турцыі.

Асобным кірункам злоўжыванняў стала так званая дыстыляцыя — крадзеж даных кітайскімі ІІ-лабараторыямі. Кампаніі Alibaba, DeepSeek і Moonshot AI стварылі тысячы фальшывых акаўнтаў для генерацыі да трох мільёнаў запытаў штодня да старых версій Claude. Атрыманыя адказы выкарыстоўваліся для навучання ўласных кітайскіх нейрасетак.

Некаторыя лабараторыі ўпотай перанакіроўвалі запыты сваіх карыстальнікаў да амерыканскай мадэлі, выдаючы яе адказы за свае. Сярод перададзеных такім чынам даных апынуліся запісы з камер назірання, якія запытвалі прадстаўнікі кітайскай арміі.

Адстаўка даследчыка і праблема кантролю

Публікацыя справаздачы пра злоўжыванні адбылася на фоне ўнутранага крызісу ў індустрыі. З кампаніі Anthropic звольніўся адзін з даследчыкаў Джэйкаб Коксан. Сваё звальненне ён патлумачыў тым, што канкурэнцыя паміж Anthropic і OpenAI вядзе да некантралюемага развіцця тэхналогій. Ён адзначыў, што некаторыя яго калегі лічаць магчымым знішчэнне чалавецтва штучным інтэлектам да канца гэтага дзесяцігоддзя. Эксперты ў галіне кібербяспекі падкрэсліваюць, што сітуацыя, пры якой прыватныя карпарацыі самастойна і без дэмакратычнага нагляду вызначаюць межы бяспечнага выкарыстання штучнага інтэлекту, стварае рызыкі для грамадства.

• 0
• 0
• 0
• 0
• 0
• 0
• 0
• 0