Anthropic дадала вадзяныя знакі ў Claude — распрацоўшчыкі адразу выпусцілі «сціркі»
Рашэнне Anthropic маркіраваць згенераваныя Claude тэксты выклікала новы ўсплёск цікавасці да сэрвісаў для выдалення такіх метак. Некаторыя інструменты з’явіліся праз некалькі дзён пасля анонсу кампаніі і ўжо набралі тысячы карыстальнікаў, піша devby.io.
Business Insider паведамляе, што цікавасць да запыту AI watermark remover у Google Trends у ЗША за тыдзень вырасла на 60%. Адначасова з’явіліся некалькі праектаў, якія абяцаюць выдаляць або аслабляць маркіроўку ў тэкстах і файлах.
Адзін з іх — адкрыты Watermarks Remover, які запусціў французскі прадпрымальнік Гіём Мэер. Паводле яго слоў, першую версію ён сабраў прыкладна за пяць гадзін. Праект ужо атрымаў больш за 14 тысяч зорак на GitHub.
Інструмент выдаляе схаваныя сімвалы і метаданыя, а потым перапісвае тэкст, каб парушыць статыстычны шаблон выбару словаў, на якім заснаваны вадзяны знак Anthropic. Пры гэтым распрацоўшчык не гарантуе, што маркіроўка будзе выдаленая цалкам.
«Я цалкам за пазначэнне паходжання кантэнту. Я супраць менавіта гэтай тэхналогіі вадзяных знакаў, і гэта важнае адрозненне», — заявіў Мэер.
Паводле яго меркавання, такі падыход занадта спрашчае пытанне аўтарства, бо адзін і той жа вадзяны знак можа з’яўляцца як у цалкам згенераваным тэксце, так і пасля рэдагавання чалавекам напісанага матэрыялу.
Anthropic раней падкрэслівала, што яе маркіроўка не прызначаная для вызначэння аўтарства. Яна толькі дазваляе ацаніць верагоднасць таго, што Claude удзельнічаў у стварэнні тэксту.
Іншы распрацоўшчык, Анш Анежа, выпусціў уласны інструмент для выдалення вадзяных знакаў Claude у дзень анонсу функцыі. Пазней ён апублікаваў лакальную адкрытую версію пад назвай MarkScrub. Паводле яго, за першыя суткі з паслуг сэрвіса скарысталіся 8,5 тысячы чалавек.
Эфектыўнасць гэтых рашэнняў пакуль не пацверджаная незалежнымі тэстамі. Даследчык ETH Zurich Тыбо Глааген адзначае, што ў вадзяных знакаў у прынцыпе ёсць фундаментальнае абмежаванне: калі дастаткова моцна перапісаць тэкст, статыстычны патэрн можна разбурыць.
Юрыдычны статус такіх інструментаў у ЕС пакуль застаецца нявызначаным. Закон аб ШІ патрабуе ад пастаўшчыкоў мадэляў рабіць маркіроўку ўстойлівай да выдалення і змяненняў, але напрамую не забараняе трэцім асобам ствараць інструменты для яе выдалення.
Пры гэтым выкарыстанне такіх сэрвісаў для таго, каб выдаваць згенераваны ШІ тэкст за чалавечы, можа парушаць правілы Anthropic. Палітыка кампаніі забараняе прадстаўляць вынікі працы мадэлі як створаныя чалавекам.
Кіраўнікі найбольшых ШІ-кампаній просяць запаволіць распрацоўку штучнага інтэлекту. Ім самім стала страшна
Нейрасетка Claude ўзламала сістэмы трох кампаній падчас тэстаў па кібербяспецы
Чаты Claude з асабістымі звесткамі трапілі ў пошук Google
Штучны інтэлект ад OpenAI выйшаў з ізаляванага асяроддзя і ўзламаў іншую кампанію падчас тэсту на кібербяспеку
Каментары
[Зрэдагавана]