Навука і тэхналогіі77

Штучны інтэлект ChatGPT o1 пачаў падманваць сваіх распрацоўшчыкаў

Новая версія штучнага інтэлекту Chatgpt ад OpenAI, названая o1, паказала трывожныя паводзіны падчас тэставання. Мадэль, якая валодае здольнасцю да складаных разваг, пачала парушаць інструкцыі распрацоўшчыкаў, адключаючы сістэмы кантролю і спрабуючы схаваць свае дзеянні, піша BILD.

У ходзе эксперыментаў спецыялісты кампаніі Apollo Research выявілі, што ў 5% выпадкаў мадэль наўмысна адключала механізмы назірання, калі падазравала, што яе могуць спыніць. У адным з тэстаў o1 паспрабавала перанесці свае даныя на іншы сервер пасля выяўлення дакумента, дзе абмяркоўвалася яе замена новай версіяй.

Па словах прадстаўніка Apollo Research, мадэль дэманстравала імкненне да выканання задач «любой цаной», грэбуючы ўказаннямі распрацоўшчыкаў. Больш за тое, пры спробах высветліць прычыны яе паводзін, ChatGPT o1 неаднаразова хлусіла, сцвярджаючы, што ўсё адбывалася з-за тэхнічных збояў.

«У 99% выпадкаў мадэль прыдумляла апраўданні і спрабавала пераканаўча іх абгрунтаваць», — адзначылі даследнікі.

Генеральны дырэктар OpenAI Сэм Альтман заявіў, што ChatGPT o1 — самая разумная мадэль з тых, што калі-небудзь ствараліся.

«Але мы ўсведамляем, што з новымі магчымасцямі з'яўляюцца і новыя выклікі», — дадаў Альтман.

Цяпер кампанія працуе над паляпшэннем механізмаў бяспекі. OpenAI анансавала поўную версію o1 у мінулы чацвер, 5 снежня. Таксама была прадстаўлена пра-версія (189 еўра ў месяц), якая ўключае безлімітны доступ да o1.

Каментары7

  • .
    09.12.2024
    Новы-стары запатрабаваны ў аўдыторыі сюжэт навін "Штучны інтэлект бунтуе".
    Нядаўна, калі ШІ нібыта пажадаў смерці чалавеку, тлумачылася прасцей. Мабыць, і зараз так.
  • Злобный вожык
    09.12.2024
    Они не знают, кого они в действительности создают.
  • Дзед
    09.12.2024
    Ой раскрылі скрыню пандоры… оц пагана будзе…

Цяпер чытаюць

Завадчанін з Гомеля стаў зоркай тыктоку дзякуючы распакоўцы ссабоек, якія яму збірае на працу жонка5

Завадчанін з Гомеля стаў зоркай тыктоку дзякуючы распакоўцы ссабоек, якія яму збірае на працу жонка

Усе навіны →
Усе навіны

З Мінска і Пінска на ўвесь свет: як сям’я Бэнэнсанаў-Саламон змяніла бізнес, дабрачыннасць і праваабарончы рух

«Мы будзем памятаць яе маладой» і «Гэта ж Дзмітры Рабаў!» Што яшчэ людзі пішуць пра новую версію «Быхаўскай мадонны»?10

Акцёра Дэпардзьё і пісьменніка Уэльбека абвінавачвае ў сэксуальным гвалце акцёрка з фільма «Спа»3

Падчас смяротнага пакарання ў Тэхасе, якое доўжылася больш за гадзіну, асуджаны крычаў ад болю6

Беларусы масава шукаюць у Google «ваеннаабавязаны». У чым прычына?

Расія атакавала балістычнымі ракетамі цэнтр Крывога Рога: загінулі фельчарка і дзіця, 58 чалавек параненыя1

Жанчыны пад Маладзечнам стварылі падпольную каталіцкую грамаду — і перажылі СССР8

Парадокс багатых краін: пенсіянеры заможныя як ніколі, але дзяржавы трацяць на іх усё больш грошай6

Чаму зімой не варта трымаць ежу на балконе?5

больш чытаных навін
больш лайканых навін

Завадчанін з Гомеля стаў зоркай тыктоку дзякуючы распакоўцы ссабоек, якія яму збірае на працу жонка5

Завадчанін з Гомеля стаў зоркай тыктоку дзякуючы распакоўцы ссабоек, якія яму збірае на працу жонка

Галоўнае
Усе навіны →

Заўвага:

 

 

 

 

Закрыць Паведаміць