Google адкрыў скрыню Пандоры. Рэвалюцыйны інструмент стварае фэйкавую рэальнасць у адзін клік
Замяніць бел-чырвоныя-белыя сцягі на чырвона-зялёныя ў пратэстоўцаў у Беларусі, прыбраць незадаволеных кітайскімі ўладамі студэнтаў з плошчы Цяньаньмэнь, дадаць выбух, мёртвыя целы ці знішчаную вайсковую тэхніку на вуліцы Нью-Ёрка — цяпер Google дазволіў рабіць падобнае імгненна, аўтаматычна і праўдападобна. Усё дзякуючы новаму штучнаму інтэлекту Reimagine, які выклікаў сур'ёзныя асцярогі ў экспертаў па бяспецы.
26.08.2024 / 08:00
Прыклады працы новага штучнага інтэлекту ад Google пад назвай Reimagine (Пераасэнсуй): першае параўнанне паказвае, як у адзін клік з вядомай фатаграфіі можна прыбраць культавых «Дыджэяў перамен», а другое параўнанне — як імгненна зрабіць ДТЗ са смяротным вынікам там, дзе яго ніколі не было. Фоты: «Наша Ніва», Cath Virginia / The Verge
Для фотарэдактара Magic Editor ад Google, які па змаўчанні стаіць у дадатку Google Photo, быў выпушчаны новы штучны інтэлект пад назвай Reimagine (Пераасэнсуй), які ў адзін клік дазваляе мяняць кантэкст і сэнс любых фатаграфій (ШІ пакуль даступны толькі для найноўшых мадэляў смартфонаў Google Pixel).
Новы інструмент, які ўжо быў названы рэвалюцыйным, адкрывае велізарныя магчымасці для спекуляцый, падману і прапагандысцкага ператварэння рэальнасці, «да чаго свет яшчэ не гатовы», папярэджвае буйное выданне The Verge са спасылкай на экспертаў па бяспецы.
Рэвалюцыйнасць новага ШІ тлумачыцца ў першую чаргу не ягонымі магчымасцямі рэдагавання фота, а менавіта тым, што раней для стварэння падробак было неабходна хоць крыху разбірацца ў інструментах і прынцыпах працы фаташопа і падобных праграм. Нягледзячы на адносна нядаўняе з'яўленне ў такіх праграмах убудаваных нейрасетак, якія істотна паскаралі працэс змены фатаграфій, частка працы ўсё роўна ладзілася карыстальнікамі ўручную. Да гэтага моманту.
Цяпер Reimagine толькі па адным тэкставым запыце за секунды робіць увесь комплекс працы, на які звычайна патрабуецца пэўны час і хаця б мінімальныя ўменні карыстацца фаташопам.
Так, на прыкладзе сусветна вядомай фатаграфіі пратэстаў на кітайскай плошчы Цяньаньмэнь «Нашай Ніве» ўдалося за секунду натуральна прыбраць пратэстоўца, які выйшаў насустрач танкам. Праграма аўтаматычна прыбрала нават дробную дэталь у выглядзе адкіданага чалавекам ценю на белай разметцы дарогі.
Сэнс фатаграфіі ад гэтага істотна мяняецца і становіцца незразумела, што на ёй адбываецца (магчыма, звычайны вайсковы парад).
Уверсе сусветна вядомы арыгінальны здымак выхаду кітайскага пратэстоўца насустрач танкам, якія ехалі падаўляць студэнцкія пратэсты (падзеі адбываліся 4 чэрвеня 1989-га), а ўнізе штучна адрэдагаваны варыянт фота, на якім ніякага адважнага пратэстоўца не існуе, што зроблена ў адзін клік дзякуючы Reimagine. Фота: Wikimedia Commons
Другі прыклад — культавае фота «Дыджэяў перамен», зробленае ў разгар прэзідэнцкіх выбараў у Беларусі ў жніўні 2020-га. У адзін клік штучны інтэлект ад Google здолеў цалкам прыбраць і іх, але ўсё ж пакінуў некалькі дробных артэфактаў, калі прыгледзецца.
Культавыя Дыджэі перамен таксама імгненна зніклі, але штучны інтэлект пакінуў за сабой шэраг ненатуральных слядоў. Фота: «Наша Ніва»
Іншымі магчымасцямі Reimagine падзялілася і выданне The Verge. Па адным тэкставым запыце журналісты змаглі «пераасэнсаваць» некалькі звычайных здымкаў, куды былі дададзены трывожныя дэталі.
Напрыклад, на адну са станцый метро можна хутка і праўдападобна дадаць бомбу, змясціць на прылавак крамы жывую змяю, скінуць вайсковы верталёт у вадаём ці зладзіць ДТЗ са смяротным вынікам там, дзе яго ніколі не было. Кошт пытання — некалькі секунд.
Фоты: The Verge
Фоты: The Verge
Фоты: The Verge
Фоты: The Verge
Фоты: The Verge
The Verge адзначае, што новы інструмент Google часам сам дае карыстальніку падказкі, як зрабіць фатаграфіі больш правакацыйнымі ці небяспечнымі. З-за хуткай масавай даступнасці Reimagine свет можа сутыкнуцца з беспрэцэдэнтна вялікай колькасцю фэйкавых навін, якія будуць падмацоўваецца больш дэталізаванымі і праўдападобнымі фотападробкамі, якія зможа зрабіць любы чалавек у лічаныя секунды.
Сама кампанія Google у адказ на ўсю крытыку і засцярогі незалежных экспертаў прызнала, «што часам яе штучны інтэлект спрыяе злоўжыванням і пераходзіць межы дазволенага», але пры гэтым падкрэсліла, што працягне змагацца з гэтым дзеля бяспекі карыстальнікаў.
Знаўцы штучнага інтэлекту прагназуюць, што неўзабаве падробкі стане немагчыма выявіць
У Ілана Маска раптам аб'явіўся «сын з Кеніі». Просіць грошай на «ўз'яднанне з бацькам»