Japonskaja kampanija pakazała pieršy ŭ śviecie štučny intelekt dla navukovych adkryćciaŭ. Jon adrazu pasprabavaŭ pierapisać svoj kod
Paśla aficyjnaha vychadu niejrasietki niezaležnyja daśledčyki padčas testavańnia zaŭvažyli ŭ jaje pracy «dziŭnyja pavodziny», a zatym ekstranna ŭmiašalisia, kab spynić jaje.
18.08.2024 / 15:47
Ilustracyjnaja vyjava. Fota: vecteezy
Japonskaja technałahičnaja kampanija Sakana AI stvaryła i vypuściła pieršy ŭ śviecie štučny intelekt (ŠI), pryznačany dla aŭtamatyzacyi navukovych daśledavańniaŭ i ździajśnieńnia navukovych adkryćciaŭ.
U aficyjnym pres-relizie kampanii havorycca, što novy ŠI byŭ raspracavany ŭ partniorstvie z Oksfardskim univiersitetam i inšymi viadomymi VNU.
Niejrasietka nazyvajecca The AI Scientist («ŠI-navukoviec»), jana prapanuje pašyranyja mahčymaści dla daśledavańniaŭ i paskareńnia navukovych adkryćciaŭ, a taksama padtrymlivaje karystalnikaŭ u roznych zadačach, takich, jak hienieracyja idej, napisańnie koda, praviadzieńnie ekśpierymientaŭ, abahulnieńnie vynikaŭ, składańnie daśledčych rabot i padahulnieńnie ekśpiertnych acenak.
U dadatak da hetaha niejrasietka moža składać poŭnyja navukovyja artykuły, uklučajučy tłumačeńni i kantekst vynikaŭ», — raspaviała na dniach japonskaja kampanija Sakana AI, pradstaŭlajučy novy pradukt.
Adnak adrazu ž paśla aficyjnaha vychadu «ŠI-navukoŭca», niezaležnyja daśledčyki vyjavili ŭ jahonaj pracy niebiaśpiečnyja anamalii.
«U adnym z ekśpierymientaŭ niejrasietka z-za limitu času na vyrašeńnie zadačy pasprabavała pierapisać svoj kod, kab źniać časovyja abmiežavańni i skončyć pracu ŭ zručnych dla jaje tempach.
Dla hetaha štučny intelekt staŭ samastojna ŭstaloŭvać u svaju strukturu staronnija biblijateki Python ź niepravieranych i niebiaśpiečnych krynic. Praces spampoŭki biblijatek staŭ biaskoncym, a ŭźniknieńnie novych pracesaŭ u prahramnym kodzie ŠI — «niekantralavanym», što zapatrabavała terminovaha ručnoha ŭmiašańnia z boku daśledčykaŭ», — piša bujny partał Ars Technica.
Niezaležnyja daśledčyki paśla testavańnia «ŠI-navukoŭca» adznačyli, što navat u kantralavanym daśledčym asiarodździ važna nie dapuskać aŭtanomnuju pracu sistem štučnaha intelektu, jakija majuć dostup da źniešniaha śvietu. Takija sistemy zdolnyja parušyć funkcyjanavańnie abjektaŭ krytyčna važnaj infrastruktury ci stvarać škodnasnaje prahramnaje zabieśpiačeńnie.
Sama japonskaja kampanija Sakana AI, jakaja vypuściła «ŠI-navukoŭca», pakul nijak nie kamientavała anamalii ŭ pavodzinach svajho praduktu, jakija adbylisia padčas niezaležnych testavańniaŭ. Adnak jašče ŭ pracesie stvareńnia niejrasietki supracoŭniki Sakana AI padkreślivali važnaść biaśpiečnaha padychodu pry pracy z «ŠI-navukoŭcam» i prapanavali vykarystoŭvać izalavanyja asiarodździ (piasočnicy) dla praduchileńnia «niepažadanych dziejańniaŭ» madeli.
Adna ź niejrasietak paśpiachova prajšła test Tjurynha. Heta adbyvajecca ŭpieršyniu ŭ historyi
Čat-boty mohuć padtrymlivać nacyzm i inšyja antyčałaviečyja ideałohii z-za adnoj asablivaści