Навука і тэхналогіі1010

Японская кампанія паказала першы ў свеце штучны інтэлект для навуковых адкрыццяў. Ён адразу паспрабаваў перапісаць свой код

Пасля афіцыйнага выхаду нейрасеткі незалежныя даследчыкі падчас тэставання заўважылі ў яе працы «дзіўныя паводзіны», а затым экстранна ўмяшаліся, каб спыніць яе.

Ілюстрацыйная выява. Фота: vecteezy

Японская тэхналагічная кампанія Sakana AI стварыла і выпусціла першы ў свеце штучны інтэлект (ШІ), прызначаны для аўтаматызацыі навуковых даследаванняў і здзяйснення навуковых адкрыццяў.

У афіцыйным прэс-рэлізе кампаніі гаворыцца, што новы ШІ быў распрацаваны ў партнёрстве з Оксфардскім універсітэтам і іншымі вядомымі ВНУ.

Нейрасетка называецца The AI Scientist («ШІ-навуковец»), яна прапануе пашыраныя магчымасці для даследаванняў і паскарэння навуковых адкрыццяў, а таксама падтрымлівае карыстальнікаў у розных задачах, такіх, як генерацыя ідэй, напісанне кода, правядзенне эксперыментаў, абагульненне вынікаў, складанне даследчых работ і падагульненне экспертных ацэнак.

У дадатак да гэтага нейрасетка можа складаць поўныя навуковыя артыкулы, уключаючы тлумачэнні і кантэкст вынікаў», — распавяла на днях японская кампанія Sakana AI, прадстаўляючы новы прадукт.

Аднак адразу ж пасля афіцыйнага выхаду «ШІ-навукоўца», незалежныя даследчыкі выявілі ў ягонай працы небяспечныя анамаліі.

«У адным з эксперыментаў нейрасетка з-за ліміту часу на вырашэнне задачы паспрабавала перапісаць свой код, каб зняць часовыя абмежаванні і скончыць працу ў зручных для яе тэмпах.

Для гэтага штучны інтэлект стаў самастойна ўсталёўваць у сваю структуру староннія бібліятэкі Python з неправераных і небяспечных крыніц. Працэс спампоўкі бібліятэк стаў бясконцым, а ўзнікненне новых працэсаў у праграмным кодзе ШІ — «некантраляваным», што запатрабавала тэрміновага ручнога ўмяшання з боку даследчыкаў», — піша буйны партал Ars Technica.

Незалежныя даследчыкі пасля тэставання «ШІ-навукоўца» адзначылі, што нават у кантраляваным даследчым асяроддзі важна не дапускаць аўтаномную працу сістэм штучнага інтэлекту, якія маюць доступ да знешняга свету. Такія сістэмы здольныя парушыць функцыянаванне аб'ектаў крытычна важнай інфраструктуры ці ствараць шкоднаснае праграмнае забеспячэнне.

Сама японская кампанія Sakana AI, якая выпусціла «ШІ-навукоўца», пакуль ніяк не каментавала анамаліі ў паводзінах свайго прадукту, якія адбыліся падчас незалежных тэставанняў. Аднак яшчэ ў працэсе стварэння нейрасеткі супрацоўнікі Sakana AI падкрэслівалі важнасць бяспечнага падыходу пры працы з «ШІ-навукоўцам» і прапанавалі выкарыстоўваць ізаляваныя асяроддзі (пясочніцы) для прадухілення «непажаданых дзеянняў» мадэлі.

Каментары10

  • Кастусь
    18.08.2024
    люди, перестаньте с огнем играть, вспомните хотя бы Терминатора-2
  • Кастусь
    18.08.2024
    Акаліт, ну да, написать свою нейрасетку - это ж как 2 пальца, так, акалит?
  • Электронік
    18.08.2024
    Робат шукаў спосаб, каб безпакарана ябланіць дэдлайны... Адразу бачна, што яго стваралі людзі

Цяпер чытаюць

«Будуць сядзець. Нават калі ў пяць, дзесяць разоў больш будзе». Лукашэнка не збіраецца спыняць рэпрэсіі, хоць Коўл і просіць28

«Будуць сядзець. Нават калі ў пяць, дзесяць разоў больш будзе». Лукашэнка не збіраецца спыняць рэпрэсіі, хоць Коўл і просіць

Усе навіны →
Усе навіны

Лявон Вольскі прэзентаваў кліп на песню «Лекар ачуняй» ВІДЭА1

Прынц Гары заявіў, што вярнуўся б у войска, каб змагацца з Расіяй2

Прэм'ер Аўстраліі падчас пасяджэння з Пуціным запатрабаваў ад яго неадкладна спыніць «сваю вайну»

Беларускі добраахвотнік дэбютуе ў прафесійным боксе

«Бабуля таксама гнала». Беларус пераехаў у Польшчу і працягнуў займацца самагонаварэннем, хоць гэта забаронена4

«Я адчуваю сябе дурнем». Ілан Маск пашкадаваў пра грошы, што аддаў на падтрымку рэспубліканцаў13

Пуцін, Трамп і Сі прынялі «дэкларацыю аб міры», раскрытыкавалі ў ёй Гаагскі трыбунал14

У Мінску ў наземным грамадскім транспарце можна аплаціць праезд банкаўскай карткай2

Лаўрова спыталі, ці ўдаліся перамовы Пуціна з Трампам і Сі. Адказ быў няўцямным ВІДЭА1

больш чытаных навін
больш лайканых навін

«Будуць сядзець. Нават калі ў пяць, дзесяць разоў больш будзе». Лукашэнка не збіраецца спыняць рэпрэсіі, хоць Коўл і просіць28

«Будуць сядзець. Нават калі ў пяць, дзесяць разоў больш будзе». Лукашэнка не збіраецца спыняць рэпрэсіі, хоць Коўл і просіць

Галоўнае
Усе навіны →

Заўвага:

 

 

 

 

Закрыць Паведаміць