Znaŭcy štučnaha intelektu prahnazujuć, što nieŭzabavie padrobki stanie niemahčyma vyjavić
I prahramnaje zabieśpiačeńnie dla vyjaŭleńnia fejkaŭ, i vadzianyja znaki mohuć być pieramožanyja.
Internet siońnia napoŭnieny roznymi biazhłuzdymi rekłamnymi videa, dzie naprykład, premjer-ministr Vialikabrytanii Ryšy Sunak raspaviadaje pra «nadzvyčaj prybytkovuju» prahramu, nibyta raspracavanuju Iłanam Maskam, z dapamohaj jakoj hledačy mohuć rehularna «ekanomić». Časam źjaŭlajecca i sam «Mask», kab paćvierdzić hetuju infarmacyju.
Heta tolki adna z mnostva padobnych rekłamnych abjaŭ, stvoranych z dapamohaj štučnaha intelektu. Ale nie tolki źniešnaść znakamitaściaŭ moža vykarystoŭvacca ŭ sumniŭnych metach. U červieni 2023 hoda Fiederalnaje biuro rasśledavańniaŭ ZŠA papiaredžvała hramadskaść pra złamyśnikaŭ, jakija vykarystoŭvajuć ŠI dla stvareńnia fejkavych videarolikaŭ i vyjaŭ zvyčajnych ludziej na seksualnuju tematyku z metaj vymahalnictva hrošaj.
Jak vyjavić takija padmany — heta źjaŭlajecca aktualnaj temaj siarod daśledčykaŭ ŠI. Mnostva firmaŭ, ad startapaŭ da viadomych technałahičnych hihantaŭ typu Intel i Microsoft, prapanujuć prahramnaje zabieśpiačeńnie, jakoje nakiravana na vyjaŭleńnie mašynnazhienieravanych miedyja. Vytvorcy vialikich madelaŭ ŠI tym časam šukajuć sposaby «vadzianoha znaka» na svajoj pradukcyi, kab možna było lohka adroźnić realnyja vyjavy, videa ci tekst ad zhienieravanaha mašynaj.
Ale takija technałohii pakul vyjaŭlajucca nie asabliva nadziejnymi. Znaŭcy ŠI, zdajecca, zmročna aceńvajuć pierśpiektyvy. The Economist pravioŭ apytańnie delehataŭ NeurIPS, adnoj z najbujniejšych kanfierencyj u halinie ŠI, jakaja adbyłasia ŭ Novym Arleanie ŭ śniežni 2023 hoda. U vyniku z 23 apytanych śpiecyjalistaŭ 17 schililisia da dumki, što miedyja, stvoranyja ŠI, z časam stanie niemahčyma vyjavić. Tolki adzin delehat skazaŭ, što nadziejnaje vyjaŭleńnie budzie mahčymym; astatnija piać admovilisia, addajučy pieravahu blizkaj biełarusam stratehii «pačakać i pahladzieć».
Prahramnaje zabieśpiačeńnie dla vyjaŭleńnia fejkaŭ abapirajecca na ideju, što ŠI-madeli pakidajuć ličbavy śled. Albo im nie ŭdasca karektna pieradać niekatoryja aśpiekty realnych vyjaŭ i videa ci stvoranaha čałaviekam tekstu, albo jany dadaduć štości lišniaje — i rabić heta jany buduć dastatkova časta, kab inšaje prahramnaje zabieśpiačeńnie zaŭvažyła pamyłku. Ale z kožnym dniom najlepšyja ŠI-madeli robiać usio mienš pamyłak.
Pakul pryznaki ŠI časta ŭsio jašče prysutničajuć u zhienieravanym kantencie, navat kali ich stanovicca ŭsio ciažej zaŭvažyć ludziam. I padobna tamu, jak mašyny možna navučyć nadziejna identyfikavać katoŭ abo rakavyja puchliny na miedyčnych skanavańniach, ich taksama možna navučyć adroźnivać realnyja vyjavy ad tych, jakija stvarajucca ich ŠI-kalehami.
Ale i tut zdarajucca pamyłki. Prahramnaje zabieśpiačeńnie dla vyjaŭleńnia fejkaŭ schilna da iłžyvych spracoŭvańniaŭ (pamyłkova paznačajučy «čałaviečy» kantent jak stvorany štučnym intelektam) i iłžyvych admoŭ (dazvalajučy materyjałam, stvoranym mašynaj, prachodzić niezaŭvažanymi). U adnym ź niadaŭnich daśledavańniaŭ było vyjaŭlena, što samaja efiektyŭnaja prahrama nie zmahła pravilna raspaznać stvoranyja kampjutaram vyjavy ŭ 13% vypadkaŭ (choć hety vynik i lepšy za čałavieka, jakija pamylaŭsia ŭ siarednim u 39% vypadkaŭ). Krychu lepiej iduć spravy z tekstam. Adzin śviežy analiz paraŭnaŭ 14 roznych instrumientaŭ i vyjaviŭ, što nivodzin nie dasiahnuŭ dakładnaści bolš za 80%.
Kali sproba vyjavić stvoranyja kampjutaram nośbity pastfaktum zanadta składanaja, inšy mažlivy varyjant — paznačyć ich zahadzia ličbavym vadzianym znakam. Ideja składajecca ŭ tym, kab dadać admietnuju rysu, jakaja dosyć tonkaja, kab nie paharšać jakaść tekstu abo vyjavy, ale vidavočnaja kožnamu, chto budzie jaje šukać.
Tak, mnohija mietady naniasieńnia vadzianych znakaŭ na vyjavy ŭklučajuć tonkuju naładu piksielaŭ, naprykład, zruch ich koleraŭ. Źmieny zanadta tonkija, kab ich zaŭvažyła čałaviečaje voka, ale ich moža ŭłavić mašyna. Adnak abrezka vyjavy, jaje pavarot abo navat razmyćcio i nastupnaje paŭtornaje dadańnie rezkaści mohuć vydalić takija ślady.
Adna z hrup daśledčykaŭ z NeurIPS pradstaviła schiemu vadzianych znakaŭ pad nazvaj «Kolcy dreva». Tak zvanyja «dyfuzijnyja madeli», samy daskanały typ prahramnaha zabieśpiačeńnia dla hienieracyi vyjaŭ, pačynajuć z zapaŭnieńnia svajho ličbavaha pałatna vypadkovym «šumam», ź jakoha pavolna ŭźnikaje patrebny malunak. «Mietad drevavych kolcaŭ» ubudoŭvaje vadziany znak nie ŭ hatovuju karcinku, a ŭ hety samy «šum» na samym pačatku. Kali prahramnaje zabieśpiačeńnie, jakoje stvaryła malunak, zapuskajecca ŭ zvarotnym paradku, jano prajhraje vadziany znak razam z šumam.
Daśledčyki adznačajuć, što hetuju techniku niaprosta padmanuć, ale heta ŭsio ž nie źjaŭlajecca niemahčymym. U honku ŭzbrajeńniaŭ ustupajuć inšyja daśledčyki, jakija imknucca pieramahčy mietady vadzianych znakaŭ. Tak, inšaja hrupa pradstaviła mietad (jašče nie recenzavany), jaki moža, pa ich słovach, ścirać vadzianyja znaki. Heta pracuje šlacham dadańnia elemientaŭ novaha «šumu», a zatym vykarystańnia inšaj madeli ŠI dla vydaleńnia hetaha «šumu», što vydalaje zychodny vadziany znak u pracesie. U vieraśni navukoŭcy z University of Maryland apublikavali artykuł (taksama jašče nie recenzavany), u jakim śćviardžałasia, što ni adzin z sučasnych mietadaŭ vadzianych znakaŭ na vyjavach, uklučajučy i vyšej apisany mietad «Kolcy dreva», nie źjaŭlajecca nadziejnym.
Tym nie mienš, u lipieni 2023 hoda amierykanski ŭrad abviaściŭ ab «dobraachvotnych abaviazacielstvach» ź niekalkimi firmami ŠI, u tym liku OpenAI i Google, pa pavieličeńni inviestycyj u daśledavańni mietadaŭ vadzianych znakaŭ. Viadoma, mieć niedaskanałyja harantyi i mietady lepš, čym nie mieć ich uvohule; adnak madeli z adkrytym zychodnym kodam, jakija karystalniki mohuć naładžvać samastojna, kantralavać budzie ciažej. Pakul zdajecca, što ŭ bitvie pamiž detektyvami i stvaralnikami fejkaŭ pieravaha zastajecca na baku apošnich.
«Padlik hałasoŭ jak sataniscki rytuał». Były člen kamisii raskazaŭ, jak u Biełarusi falsifikujuć vybary8
Kamientary