Навука і тэхналогіі11

Openal, Microsoft і Amazon дамовіліся абараняць чалавецтва ад магутных ШІ-сістэм

Верагоднасць «уцёкаў» нейрасеткі ад чалавека расце. Гэта першае маштабнае пагадненне па бяспецы штучнага інтэлекту.

Ілюстрацыйнае фота «Наша Ніва»

OpenAI, Microsoft, Amazon і яшчэ 13 буйных кампаній, якія займаюцца распрацоўкамі ў сферы штучнага інтэлекту, падпісалі маштабнае пагадненне аб бяспецы.

Дамова прадугледжвае, што кампаніі распрацуюць спецыяльныя пратаколы бяспекі, якія дазволяць не выкарыстоўваць штучны інтэлект у небяспечных для чалавецтва або злачынных мэтах. Кампаніі таксама павінны будуць растлумачыць, як яны збіраюцца ацэньваць рызыкі і якія пастановы будуць прымаць у тых ці іншых сітуацыях, паведамляе брытанскі ўрад.

Таксама падпісанты пагаднення вызначаць «чырвоныя лініі», пры перасячэнні якіх распрацоўкі будуць прыпыняцца, а праекты — адключацца. Вызначыць гэтыя «чырвоныя лініі» дапамогуць урады краін.

У ліку патэнцыйных рызык называюць аўтаматызаваныя кібератакі і пагрозу стварэння біялагічнай зброі з дапамогай ШІ. Для такіх выпадкаў кампаніі павінны будуць прадугледзець» аварыйныя выключальнікі», актывацыя якіх прыпыніць распрацоўкі.

Пагадненне было падпісана ў ходзе Саміту па ШІ ў Сеуле. Акрамя таго, на канферэнцыі кіраўнік OpenAI Сэм Альтман анансаваў выхад GPT-5. Падрабязнасцяў ён не раскрыў, аднак намякнуў, што новая версія ШІ будзе значна больш магутнай за папярэднюю — на слайдзе, які паказаў Альтман, GPT-5 прадстаўлена ў відэа вялізнага кіта, тады як GPT-4 намаляваная касаткай. Чакаецца, што сістэма будзе запушчана ў найбліжэйшыя месяцы.

Эксперты і карыстальнікі раней выказвалі меркаванне, што з выхадам GPT-5 верагоднасць «уцёкаў» ШІ з-пад чалавечага кантролю ўзрасце да 22%.

Каментары1

  • рубільнік
    23.05.2024
    Кітаю будзе начхаць на гэтыя вашыя меры бяспекі)

Цяпер чытаюць

Ці пагражае Крыму блакада праз паралізаваны Крымскі мост?6

Ці пагражае Крыму блакада праз паралізаваны Крымскі мост?

Усе навіны →
Усе навіны

«Госпадзе, такое трызненне!» Усё больш беларусак пішуць, што ім званілі з міліцыі і пыталіся, ці жывыя яны2

Падлеткі п'юць лекі ад раку, каб стаць вышэйшымі. Дактары б'юць трывогу

Нямецкія футбольныя клубы пачалі абмяжоўваць смартфоны на стадыёнах

Расія атакавала балістычнымі ракетамі Паўночны і Паўднёвы масты Кіева2

У Расіі заявілі, што ўдзел Еўропы ў перамовах па Украіне з імі не ўзгадняўся. Хоць Уіткаф і Кушнер сцвярджалі адваротнае2

Былая жонка буйнога беларускага бізнэсмена прысвяціла разводу мастацкую выставу: з выкарыстанымі прэзерватывамі12

Па Мазыры панесліся чуткі пра маньяка і серыйныя забойствы. А што напраўду?

18‑гадовы аргенцінскі футбаліст памёр пасля прылёту мяча ў галаву1

Урсула фон дэр Ляен прывяла Беларусь як прыклад, да чаго прыводзіць адмова ад еўраінтэграцыі21

больш чытаных навін
больш лайканых навін

Ці пагражае Крыму блакада праз паралізаваны Крымскі мост?6

Ці пагражае Крыму блакада праз паралізаваны Крымскі мост?

Галоўнае
Усе навіны →

Заўвага:

 

 

 

 

Закрыць Паведаміць