Kiraŭniki najbolšych ŠI-kampanij prosiać zapavolić raspracoŭku štučnaha intelektu. Im samim stała strašna
Mahčymaści štučnaha intelektu rastuć chutčej, čym zdolnaść čałaviectva kantralavać jaho, i pryjšoŭ čas zapavolić raźvićcio, kab paźbiehnuć katastrofy — tak ličać sami raspracoŭščyki štučnaha intelektu.
Amierykanskija kampanii viaduć pieramovy ź Biełym domam, a sotni ich supracoŭnikaŭ padpisvajuć adkryty list z zaklikam abmiežavać tempy raspracoŭki štučnaha intelektu, pakul jon nie vyjšaŭ z-pad kantrolu i nie stvaryŭ surjoznych prablem, piša Bi-bi-si.
Tolki za apošnija niekalki dzion prahramy dvuch lidaraŭ haliny — OpenAI i Anthropic — zdoleli vyjści z zakrytych testavych «piasočnic» strohich režymaŭ u adkryty internet i ŭzłamać čužyja sistemy dziela ŭłasnaj vyhady. Takoha scenaru daŭno čakali i bajalisia — i, zdajecca, hety momant nadyšoŭ.
«Mianie ŭpieršyniu praniało da hłybini dušy, i ja nie razumieju, čamu ludzi tak spakojna reahujuć», — skazaŭ Sem Altman, kiraŭnik OpenAI, kampanii-stvaralnika ChatGPT.
«Što rabić, kali ciapier raspracoŭka pojdzie takimi tempami? Mahčyma, daviadziecca strymlivać chutkaść raźvićcia štučnaha intelektu», — zajaviŭ jon na hetym tydni ŭ padkaście Invest Like the Best.
Darya Amadei, kiraŭnik Anthropic — raspracoŭščyka Claude, jašče ŭ červieni papiaredžvaŭ, što na praciahu hoda-dvuch ŠI zrobić jakasny skačok i pieratvorycca ŭ pahrozu, jakoj daviadziecca supraćstajać na dziaržaŭnym uzroŭni.
«U apošnija miesiacy źjavilisia biassprečnyja śviedčańni nievierahodnaj mahutnaści štučnaha intelektu i źviazanych z hetym ryzyk. Kibierbiaśpieka ŭžo pad pytańniem. Nie za harami bijałahičnaja pahroza, a paśla — i samastojnaść štučnaha intelektu», — napisaŭ Amadei ŭ červieńskim ese.
«Pryjšoŭ čas pierajści da surjoznaha i abaviazkovaha rehulavańnia štučnaha intelektu», — papiaredziŭ jon i prapanavaŭ uvieści strohi nahlad za biaśpiekaj — nie na ŭzroŭni avijacyi abo miedykamientaŭ, a značna bolš žorstki — jak za abarotam radyjeaktyŭnych materyjałaŭ.
Na hetym tydni OpenAI paviedamiła, što padčas testavańnia mahčymaściej novaj madeli ŭ zakrytym asiarodździ — «piasočnicy» — prahrama zdoleła vyjści ŭ internet i ŭzłamać starońniuju płatformu Hugging Face u pošukach «šparhałki» dla testu.
Paśla hetaha Anthropic praviała aŭdyt 140 tysiač ułasnych testaŭ i vyjaviła try vypadki, kali madeli Claude atrymali dostup da internetu praz asiarodździe starońniaha partniora, a zatym uzłamali sistemy troch inšych kampanij.
ŠI vychodzić z-pad kantrolu
Aściarohi kiraŭnikoŭ viadučych ŠI-kampanij padzialajuć i ich supracoŭniki.
Na hetym tydni bolš za 1300 raspracoŭščykaŭ štučnaha intelektu padpisali adkryty list z zaklikam da ŭładaŭ ZŠA abjadnać namahańni ź inšymi krainami i razam vypracavać «techničnyja i rehulatarnyja instrumienty dla metanakiravanaha strymlivańnia tempaŭ aŭtamatyčnaj raspracoŭki pieradavych madelaŭ štučnaha intelektu».
«Viadučyja suśvietnyja ŠI-kampanii dapuskajuć, što jany ŭščylnuju nablizilisia da aŭtamatyzacyi raspracoŭki. Ciažka dakładna pradkazać, nakolki heta paskoryć raźvićcio ŠI, adnak isnuje realnaja ryzyka taho, što mahčymaści štučnaha intelektu stvarać novyja sistemy imkliva vyjduć za miežy našaha razumieńnia i zdolnaści kiravać imi», — havorycca ŭ liście.
Ale tut uźnikaje prablema: u raspracoŭku ŠI ŭkładzieny vielizarnyja srodki, a kankurencyja pieraškadžaje supracoŭnictvu. Nichto nie choča pryjści da finišu druhim, tamu nichto nie choča zapavolvacca, adznačajecca ŭ adkrytym liście.
Heta paćvierdziŭ i prezident ZŠA Donald Tramp — kiraŭnik krainy, jakaja źjaŭlajecca suśvietnym lidaram jak pa abjomach inviestycyj, tak i pa kolkaści dasiahnieńniaŭ u śfiery raspracoŭki štučnaha intelektu.
«My dumajem, jak kantralavać. Ale taksama my pavinny zachavać lidarstva», — prakamientavaŭ jon situacyju z vychadam ŠI OpenAI z «piasočnicy».
Amierykanskija ŭłady ŭžo ŭmiešvalisia ŭ terminy vypusku pieradavych madelaŭ — apošni raz heta adbyłosia z relizam Mythos ad Anthropic.
Paśla incydentu z ahientam OpenAI, jaki pa ŭłasnaj inicyjatyvie pieratvaryŭsia ŭ chakiera, bajučysia pravalić ekzamien, kiraŭnik kampanii Sem Altman adpraviŭsia ŭ Vašynhton: u sieradu jon sustrakaŭsia ź sienatarami, a ŭ čaćvier — z administracyjaj prezidenta ZŠA.
Paśla vizitu ŭ Kanhres Altman skazaŭ žurnalistam, što ŭ cełym zhodny z tym, što vykładziena ŭ adkrytym liście, choć sam asabista jaho nie padpisvaŭ. Paśla vychadu ź Biełaha doma kamientaroŭ ad jaho nie pastupiła.
Jak rehulavać ŠI
Pieršyja kroki ŭ rehulavańni štučnaha intelektu ŭłady ZŠA pavinny zrabić užo ŭ bližejšyja dni.
1 žniŭnia zakančvajecca adzin z klučavych terminaŭ, praduhledžanych červieńskim ukazam Trampa ab raźvićci i biaśpiecy pieradavych ŠI-madelaŭ. Da hetaj daty čynoŭniki pavinny vyznačyć, jakija sistemy buduć adnosicca da hetaj katehoryi i padpadać pad «asablivy režym».
Hety režym daloki ad poŭnaha rehulavańnia i krychu nahadvaje situacyju z Mythos. Kali raspracoŭščyki Anthropic zrazumieli razburalny patencyjał novaj viersii Claude, jany zapavolili vypusk i dali mahčymaść uładam, armii, najbujniejšym bankam i inšym krytyčna važnym dla nacyjanalnaj biaśpieki strukturam pravieryć uraźlivaści svajoj kibierabarony pierad novaj pahrozaj.
Krytyki rehulavańnia ličać, što jano moža pryvieści da padaŭleńnia kankurencyi i stvareńnia zakrytaj sistemy, u jakoj pieravahi ad pieradavych madelaŭ štučnaha intelektu atrymaje vuzkaje koła ludziej, źviazanych z uładami i raspracoŭščykami, a hramadstva apyniecca ŭ projhryšy.
«Kancentracyja ŭłady praz ŠI — heta žach», — skazaŭ Sem Altman.
— «Mianie pałochaje śviet, u jakim całkam abhruntavanyja strachi vykarystoŭvajucca jak nahoda zajavić: ŠI niebiaśpiečny, tamu chaj jon budzie ŭ rukach vuzkaha koła ludziej, jakija jaho razumiejuć, a vy nie chvalujciesia — za vas usio vyrašać».
«Tamu treba zrazumieć, jak zrabić tak, kab nie ŭźnikała adčuvańnia, byccam rehulavańnie ŭvodzicca ŭ čyichści intaresach, i kab usio heta nie vyhladała jak zmova pamiž viadučymi raspracoŭščykami», — skazaŭ Altman.
— «Heta niaprosta, ale tut vielmi važna ŭsio zrabić pravilna».
Ciapier čytajuć
Siarhiej Cichanoŭski zapuściŭ svoj jutub-kanał ź vieršami i kazkami88
Kamientary