Японская кампанія паказала першы ў свеце штучны інтэлект для навуковых адкрыццяў. Ён адразу паспрабаваў перапісаць свой код
Пасля афіцыйнага выхаду нейрасеткі незалежныя даследчыкі падчас тэставання заўважылі ў яе працы «дзіўныя паводзіны», а затым экстранна ўмяшаліся, каб спыніць яе.
Японская тэхналагічная кампанія Sakana AI стварыла і выпусціла першы ў свеце штучны інтэлект (ШІ), прызначаны для аўтаматызацыі навуковых даследаванняў і здзяйснення навуковых адкрыццяў.
У афіцыйным прэс-рэлізе кампаніі гаворыцца, што новы ШІ быў распрацаваны ў партнёрстве з Оксфардскім універсітэтам і іншымі вядомымі ВНУ.
Нейрасетка называецца The AI Scientist («ШІ-навуковец»), яна прапануе пашыраныя магчымасці для даследаванняў і паскарэння навуковых адкрыццяў, а таксама падтрымлівае карыстальнікаў у розных задачах, такіх, як генерацыя ідэй, напісанне кода, правядзенне эксперыментаў, абагульненне вынікаў, складанне даследчых работ і падагульненне экспертных ацэнак.
У дадатак да гэтага нейрасетка можа складаць поўныя навуковыя артыкулы, уключаючы тлумачэнні і кантэкст вынікаў», — распавяла на днях японская кампанія Sakana AI, прадстаўляючы новы прадукт.
Аднак адразу ж пасля афіцыйнага выхаду «ШІ-навукоўца», незалежныя даследчыкі выявілі ў ягонай працы небяспечныя анамаліі.
«У адным з эксперыментаў нейрасетка з-за ліміту часу на вырашэнне задачы паспрабавала перапісаць свой код, каб зняць часовыя абмежаванні і скончыць працу ў зручных для яе тэмпах.
Для гэтага штучны інтэлект стаў самастойна ўсталёўваць у сваю структуру староннія бібліятэкі Python з неправераных і небяспечных крыніц. Працэс спампоўкі бібліятэк стаў бясконцым, а ўзнікненне новых працэсаў у праграмным кодзе ШІ — «некантраляваным», што запатрабавала тэрміновага ручнога ўмяшання з боку даследчыкаў», — піша буйны партал Ars Technica.
Незалежныя даследчыкі пасля тэставання «ШІ-навукоўца» адзначылі, што нават у кантраляваным даследчым асяроддзі важна не дапускаць аўтаномную працу сістэм штучнага інтэлекту, якія маюць доступ да знешняга свету. Такія сістэмы здольныя парушыць функцыянаванне аб'ектаў крытычна важнай інфраструктуры ці ствараць шкоднаснае праграмнае забеспячэнне.
Сама японская кампанія Sakana AI, якая выпусціла «ШІ-навукоўца», пакуль ніяк не каментавала анамаліі ў паводзінах свайго прадукту, якія адбыліся падчас незалежных тэставанняў. Аднак яшчэ ў працэсе стварэння нейрасеткі супрацоўнікі Sakana AI падкрэслівалі важнасць бяспечнага падыходу пры працы з «ШІ-навукоўцам» і прапанавалі выкарыстоўваць ізаляваныя асяроддзі (пясочніцы) для прадухілення «непажаданых дзеянняў» мадэлі.
Адна з нейрасетак паспяхова прайшла тэст Т'юрынга. Гэта адбываецца ўпершыню ў гісторыі
Чат-боты могуць падтрымліваць нацызм і іншыя антычалавечыя ідэалогіі з-за адной асаблівасці
Каго лічыць прэзідэнтам Беларусі і якая згушчонка лепшая? Пратэсціравалі ChatGPT-4 Omni — нашумелую версію папулярнай нейрасеткі
Цяпер чытаюць
Беларусь ужо не толькі пра палітвязняў. З чым Святлана Ціханоўская паехала на адзін з галоўных форумаў па бяспецы ў ЗША і што там рабіў Сяргей Ціханоўскі1515
Каментары