Свет

Нейрасеткі могуць выпадкова выдаць інструкцыю стварэння ядзернай зброі?

Міністэрства энергетыкі ЗША разам з іншымі ведамствамі выкарыстоўвае папулярную сістэму штучнага інтэлекту для тэсціравання ядзернай бяспекі. Аднак, як піша выданне Axios, гэта можа прывесці да сцэнару, калі нейрасеткі, дапушчаныя да ядзерных праграм, могуць выпадкова выдаць сакрэты любому карыстальніку.

Ілюстрацыйны малюнак, створаны з дапамогай штучнага інтэлекту ChatGPT (DALL·E)

Амерыканская высакатэхналагічная кампанія Anthropic разам з Міністэрствам энергетыкі ЗША выпрабоўвае свае мадэлі штучнага інтэлекту (ШІ), каб пераканацца, што яны не могуць быць выкарыстаны для стварэння ядзернай зброі. Пра гэта кампанія паведаміла выданню Axios.

Anthropic заяўляе, што яе сістэма штучнага інтэлекту Claude (адна з самых перадавых на сёння нейрасетак) стала першай, якой афіцыйна дазволілі выкарыстоўвацца ў сакрэтных урадавых праграмах ЗША, у тым ліку ядзернай.

З красавіка гэтага года Anthropic супрацоўнічае з Адміністрацыяй па нацыянальнай ядзернай бяспецы (NNSA), і адначасова ладзіць з ёй маштабнае сумеснае даследаванне, ці можа Claude раптоўна выдаць ядзерныя сакрэты трэцім асобам па запыце. 

Спецыялісты NNSA і Anthropic наўмысна спрабуюць «узламаць» Claude і прымусіць яго, напрыклад, зліць інструкцыю па распрацоўцы ядзернай зброі, піша Axios (з гэтага вынікае, што штучны інтэлект ужо мае доступ да такога тыпу даных).

Даследаванне яшчэ працягваецца і скончыцца толькі ў лютым 2025 года, таму вынікі тэсціравання Claude пакуль не вядомыя. Кампанія Anthropic, у сваю чаргу, плануе падзяліцца высновамі з навуковымі лабараторыямі і іншымі арганізацыямі, каб яны маглі таксама правесці аналагічныя выпрабаванні.

Навошта ўвогуле даваць ШІ доступ да ядзернай праграмы?

Нейрасеткі могуць істотна павысіць эфектыўнасць ядзерных удараў: яны здольныя разлічваць траекторыю палёту боегалоўкі такім чынам, каб патрапіць у цэль з мінімальнымі стратамі і разбурэннямі. Гэта асабліва важна для тактычнай ядзернай зброі, якая прызначана для паразы лакальных аб'ектаў.

Перадавыя сістэмы ШІ, як той жа Claude, таксама здольныя з высокай дакладнасцю сімуляваць ядзерныя выбухі і аналізаваць іх наступствы. Гэтая інфармацыя можа спатрэбіцца для ўдасканалення канструкцыі боегаловак. Акрамя таго, ШІ можа апрацоўваць даныя аб ландшафце, экалогіі, інфраструктуры на тэрыторыі праціўніка і гэтак далей, задаючы, задаючы аптымальныя параметры для ўдару.

Каментары

Трамп абвясціў энергетычнае перамір'е паміж Расіяй і Украінай33

Трамп абвясціў энергетычнае перамір'е паміж Расіяй і Украінай

Усе навіны →
Усе навіны

Ва Украіне адрэагавалі на «заявы з-за мяжы» аб неабходнасці замены Зяленскага24

New York Times: Вашынгтон спакушаў Расію ў тым ліку вывадам беларускага калію з-пад санкцый11

У Антарктыдзе рэзка скарацілася калісьці найбуйнейшая калонія пінгвінаў. Іх меней аж на паўмільёна2

У Польшчы адбыўся яшчэ адзін напад з нажом у школе, ёсць параненыя7

Расія скароціць выплаты Беларусі на 1,4 мільярда рублёў. Што хаваецца за «бязвыплатнымі» грашыма бюджэту?4

Кая Калас: Цяпер не час аслабляць ціск на Маскву, у панядзелак будзе новы пакет санкцый6

Першы танкер з расійскім дызелем ужо падыходзіць да берагоў ЗША10

Трамп: Украіне прыйшоў час завесці новага прэзідэнта103

Аэрастаты вяртаюцца на поле бою: як іх выкарыстоўвае Украіна і ці могуць яны абараніць масты Кіева

больш чытаных навін
больш лайканых навін

Трамп абвясціў энергетычнае перамір'е паміж Расіяй і Украінай33

Трамп абвясціў энергетычнае перамір'е паміж Расіяй і Украінай

Галоўнае
Усе навіны →

Заўвага:

 

 

 

 

Закрыць Паведаміць