Навука і тэхналогіі11

Openal, Microsoft і Amazon дамовіліся абараняць чалавецтва ад магутных ШІ-сістэм

Верагоднасць «уцёкаў» нейрасеткі ад чалавека расце. Гэта першае маштабнае пагадненне па бяспецы штучнага інтэлекту.

Ілюстрацыйнае фота «Наша Ніва»

OpenAI, Microsoft, Amazon і яшчэ 13 буйных кампаній, якія займаюцца распрацоўкамі ў сферы штучнага інтэлекту, падпісалі маштабнае пагадненне аб бяспецы.

Дамова прадугледжвае, што кампаніі распрацуюць спецыяльныя пратаколы бяспекі, якія дазволяць не выкарыстоўваць штучны інтэлект у небяспечных для чалавецтва або злачынных мэтах. Кампаніі таксама павінны будуць растлумачыць, як яны збіраюцца ацэньваць рызыкі і якія пастановы будуць прымаць у тых ці іншых сітуацыях, паведамляе брытанскі ўрад.

Таксама падпісанты пагаднення вызначаць «чырвоныя лініі», пры перасячэнні якіх распрацоўкі будуць прыпыняцца, а праекты — адключацца. Вызначыць гэтыя «чырвоныя лініі» дапамогуць урады краін.

У ліку патэнцыйных рызык называюць аўтаматызаваныя кібератакі і пагрозу стварэння біялагічнай зброі з дапамогай ШІ. Для такіх выпадкаў кампаніі павінны будуць прадугледзець» аварыйныя выключальнікі», актывацыя якіх прыпыніць распрацоўкі.

Пагадненне было падпісана ў ходзе Саміту па ШІ ў Сеуле. Акрамя таго, на канферэнцыі кіраўнік OpenAI Сэм Альтман анансаваў выхад GPT-5. Падрабязнасцяў ён не раскрыў, аднак намякнуў, што новая версія ШІ будзе значна больш магутнай за папярэднюю — на слайдзе, які паказаў Альтман, GPT-5 прадстаўлена ў відэа вялізнага кіта, тады як GPT-4 намаляваная касаткай. Чакаецца, што сістэма будзе запушчана ў найбліжэйшыя месяцы.

Эксперты і карыстальнікі раней выказвалі меркаванне, што з выхадам GPT-5 верагоднасць «уцёкаў» ШІ з-пад чалавечага кантролю ўзрасце да 22%.

Каментары1

  • рубільнік
    23.05.2024
    Кітаю будзе начхаць на гэтыя вашыя меры бяспекі)
 
Націсканне кнопкі «Дадаць каментар» азначае згоду з рэкамендацыямі па абмеркаванні.

Цяпер чытаюць

ЗША галасавалі ў ААН па рэзалюцыі наконт вайны ва Украіне разам з Расіяй і Беларуссю45

ЗША галасавалі ў ААН па рэзалюцыі наконт вайны ва Украіне разам з Расіяй і Беларуссю

Усе навіны →
Усе навіны

У цэнтры Мінска людзі выгульвалі сабак проста па лёдзе Свіслачы. Іх ганялі ратавальнікі

«Іх сабакі брэшуць па начах, палохаюць дзяцей». Жыхары шматпавярховіка ў Мінску скардзяцца на суседзяў, што пераехалі з прыватнага дома2

Вядомыя імёны мінімум 100 тысяч расіян, якія загінулі на вайне з Украінай10

4,972% — вось чаму гэта самая важная лічба нямецкіх выбараў19

Удзельнікі вайны з Украінай, якія вярнуліся з вайны, забілі ў Расіі як мінімум 240 чалавек

Вайскоўца Дудука з 120-й асобнай механізаванай брыгады судзяць за перавышэнне ўлады2

Пратасевіч: Вядомыя выпадкі, калі зняволеныя адмаўляліся прызнаваць віну і ўсё адно атрымлівалі памілаванне7

У расійскае консульства ў Марселі кінулі два кактэйлі Молатава

«Ніхто не зрабіў большае шкоды для Беларусі, чым ён»? Ліст пра Станіслава Шушкевіча37

больш чытаных навін
больш лайканых навін

ЗША галасавалі ў ААН па рэзалюцыі наконт вайны ва Украіне разам з Расіяй і Беларуссю45

ЗША галасавалі ў ААН па рэзалюцыі наконт вайны ва Украіне разам з Расіяй і Беларуссю

Галоўнае
Усе навіны →

Заўвага:

 

 

 

 

Закрыць Паведаміць