Навука і тэхналогіі11

Openal, Microsoft і Amazon дамовіліся абараняць чалавецтва ад магутных ШІ-сістэм

Верагоднасць «уцёкаў» нейрасеткі ад чалавека расце. Гэта першае маштабнае пагадненне па бяспецы штучнага інтэлекту.

Ілюстрацыйнае фота «Наша Ніва»

OpenAI, Microsoft, Amazon і яшчэ 13 буйных кампаній, якія займаюцца распрацоўкамі ў сферы штучнага інтэлекту, падпісалі маштабнае пагадненне аб бяспецы.

Дамова прадугледжвае, што кампаніі распрацуюць спецыяльныя пратаколы бяспекі, якія дазволяць не выкарыстоўваць штучны інтэлект у небяспечных для чалавецтва або злачынных мэтах. Кампаніі таксама павінны будуць растлумачыць, як яны збіраюцца ацэньваць рызыкі і якія пастановы будуць прымаць у тых ці іншых сітуацыях, паведамляе брытанскі ўрад.

Таксама падпісанты пагаднення вызначаць «чырвоныя лініі», пры перасячэнні якіх распрацоўкі будуць прыпыняцца, а праекты — адключацца. Вызначыць гэтыя «чырвоныя лініі» дапамогуць урады краін.

У ліку патэнцыйных рызык называюць аўтаматызаваныя кібератакі і пагрозу стварэння біялагічнай зброі з дапамогай ШІ. Для такіх выпадкаў кампаніі павінны будуць прадугледзець» аварыйныя выключальнікі», актывацыя якіх прыпыніць распрацоўкі.

Пагадненне было падпісана ў ходзе Саміту па ШІ ў Сеуле. Акрамя таго, на канферэнцыі кіраўнік OpenAI Сэм Альтман анансаваў выхад GPT-5. Падрабязнасцяў ён не раскрыў, аднак намякнуў, што новая версія ШІ будзе значна больш магутнай за папярэднюю — на слайдзе, які паказаў Альтман, GPT-5 прадстаўлена ў відэа вялізнага кіта, тады як GPT-4 намаляваная касаткай. Чакаецца, што сістэма будзе запушчана ў найбліжэйшыя месяцы.

Эксперты і карыстальнікі раней выказвалі меркаванне, што з выхадам GPT-5 верагоднасць «уцёкаў» ШІ з-пад чалавечага кантролю ўзрасце да 22%.

Каментары1

  • рубільнік
    23.05.2024
    Кітаю будзе начхаць на гэтыя вашыя меры бяспекі)
 
Націсканне кнопкі «Дадаць каментар» азначае згоду з рэкамендацыямі па абмеркаванні.

Цяпер чытаюць

ЗША галасавалі ў ААН па рэзалюцыі наконт вайны ва Украіне разам з Расіяй і Беларуссю39

ЗША галасавалі ў ААН па рэзалюцыі наконт вайны ва Украіне разам з Расіяй і Беларуссю

Усе навіны →
Усе навіны

Вайскоўца Дудука з 120-й асобнай механізаванай брыгады судзяць за перавышэнне ўлады2

Пратасевіч: Вядомыя выпадкі, калі зняволеныя адмаўляліся прызнаваць віну і ўсё адно атрымлівалі памілаванне7

У расійскае консульства ў Марселі кінулі два кактэйлі Молатава

«Ніхто не зрабіў большае шкоды для Беларусі, чым ён»? Ліст пра Станіслава Шушкевіча34

У Папы Францішка пачалася ныркавая недастатковасць1

Расследавальнікі далі новую ацэнку загінулых расійскіх вайскоўцаў на вайне ва Украіне13

За мінулыя суткі на пажарах у Беларусі загінулі восем чалавек

Зарабіў, вярнуўся, перамог. Хто такі Фрыдрых Мерц, які стане новым канцлерам Германіі8

Што за мацак зачараваў беларусак праходкамі ў вітрыне ў адных майтках12

больш чытаных навін
больш лайканых навін

ЗША галасавалі ў ААН па рэзалюцыі наконт вайны ва Украіне разам з Расіяй і Беларуссю39

ЗША галасавалі ў ААН па рэзалюцыі наконт вайны ва Украіне разам з Расіяй і Беларуссю

Галоўнае
Усе навіны →

Заўвага:

 

 

 

 

Закрыць Паведаміць