Kiraŭnik Anthropic Daryjo Amadei zaklikaŭ zapavolić raźvićcio ŠI, kab jon nie staŭ niebiaśpiečnym dla ludziej

Daryjo Amadei, kiraŭnik kampanii Anthropic, jakaja stvaryła madeli štučnaha intelektu Claude, zaklikaŭ zapavolić i pačać staranna kantralavać raźvićcio pieradavych madelaŭ ŠI.

U apublikavanym u subbotu artykule Amadei piša, što jon nie stavić pad pytańnie nieabchodnaść raźvićcia ŠI, ale ŭ toj ža čas bačyć, što jano niasie z saboj surjoznyja pahrozy, i kampanijam, i ŭradam roznych krain treba dać čas, kab razabracca ź imi, piša Bi-bi-si.

Amadei prapanuje ŭzmacnić kantrol za raźvićciom ŠI na troch kirunkach: niezaležny manitorynh madelaŭ ŠI i ich udaskanaleńnia, raspracoŭka pravił unutry ŠI-industryi i pryniaćcie abmiežavańniaŭ na hłabalnym uzroŭni.

Apošnim časam u śviecie raście chvalavańnie nakont niebiaśpieki, ź jakoj spałučana raźvićcio ŠI. Na hetym tydni ekśpiert Anthropic u halinie biaśpieki vykarystańnia ŠI Evan Chjubinhier zajaviŭ, što štučny intelekt najbližejšaje dziesiacihodździe ź vierahodnaściu vyšej za 10% moža pahubić usio čałaviectva.

Śledam za hetym sama kampanija Anthropic zajaviła, što zabłakavała dziejnaść nienazvanych karystalnikaŭ, jakija sprabavali vykarystoŭvać jaje madeli štučnaha intelektu dla daśledavańniaŭ, zdolnych pryvieści da stvareńnia bijałahičnaj zbroi.

Daryjo Amadei ŭ svaim artykule pakazvaje, što madeli ŠI ŭdaskanalvajucca nievierahodna chutka, i ŭ tym liku ŭdaskanalvajecca ich zdolnaść samim stvarać nastupnaje pakaleńnie ŠI. Amadei nahadvaje pra zdareńnie ŭ jaho kankurenta, kampanii OpenAI, jakaja ŭ lipieni pryznała, što jaje ŠI-ahienty bieź viedańnia ludziej učynili kibierataku na staronnija sajty.

«[Ahienty OpenAI] pa sutnaści dziejničali jak kalektyŭ fanatykaŭ», — piša Amadei.

Sama OpenAI ŭ kamientaryjach z nahody taho zdareńnia pryznała, što da lipienia dla jaje «nie była vidavočnaj važnaść kamunikacyi pamiž ahientami», i zajaviła, što z pryčyny rostu ryzyki vychadu ahientaŭ z-pad kantrolu zapavolvaje raźvićcio niekatorych pieradavych madelaŭ i instrumientaŭ.

Amadei ŭ svaim artykule zaklikaje raźvivać ŠI «ŭ zbałansavanym tempie, jaki zabiaśpiečyć biaśpieku biez admovy ad karyści, jakuju jon prynosić».

Heta, jak tłumačyć kiraŭnik Anthropic, nie aznačaje, što navučańnie madelaŭ treba spynić — jon tolki zaklikaje kampanii nadavać dastatkova času na naładku i biaśpieku ich madelaŭ, a taksama na ich acenku niezaležnymi ekśpiertami.

Anthropic, pa słovach Amadei, biare na siabie takija abaviazacielstvy ŭ adnabakovym paradku i adnačasova zaklikaje ŭrady roznych krain zapatrabavać ad inšych kampanij-raspracoŭščykaŭ pieradavoha ŠI pieraniać ich prykład.

Pry hetym zakanadaŭstva, jak pryznaje Amadei, moža nie paśpiavać za raźvićciom śfiery ŠI, i tamu jon zaklikaje inšyja kampanii z hetaj śfiery dobraachvotna i razam vypracavać adpaviednyja standarty.

«Ja liču, što kali my vyjhrajem za košt zapavoleńnia chacia b hod-dva da vychadu madelaŭ na krytyčny ŭzrovień ich zdolnaściej, i patracim hety čas na ŭdaskanaleńnie mier biaśpieki i pryviadzieńnie madelaŭ u adpaviednaść čałaviečym kaštoŭnaściam, my istotna źnizim vierahodnaść surjoznaj katastrofy», — piša Amadei.

Asobna kiraŭnik amierykanskaj kampanii zakranaje pytańnie mižnarodnaj kankurencyi, pierš za ŭsio z Kitajem. Zapavoleńnie, na jaho dumku, pavinna adbyvacca skaardynavana i pry hetym biez taho, kab ZŠA sastupili pieršynstvo ŭ śfiery ŠI Kitaju. Dla hetaha zapavoleńnie pavinna być abmiežavanym.

Akramia taho, Amadei zaklikaje ŭłady ZŠA pryniać miery da taho, kab ŠI-čypy amierykanskich kampanij nie pradavalisia kitajcam i kab u cełym hetyja technałohii nie traplali ŭ ruki aŭtakratyj.

Na artykuł u błozie Amadei adrazu ž adhuknulisia inšyja viadomyja dziejačy śfiery ŠI.

Uładalnik X Iłan Mask padtrymaŭ Amadei, łakanična napisaŭšy: «Daryjo maje racyju».

Firmie Maska SpaceXAI naležyć čatbot Grok. Kampaniju Anthropic Mask raniej nazyvaŭ «złom», ale ŭ hetym mai jon pradaŭ joj kampjutarnyja mahutnaści za 15 młrd dalaraŭ i źmianiŭ ton.

• 0
• 0
• 0
• 0
• 0
• 0
• 0
• 0