Openal, Microsoft i Amazon damovilisia abaraniać čałaviectva ad mahutnych ŠI-sistem
Vierahodnaść «uciokaŭ» niejrasietki ad čałavieka raście. Heta pieršaje maštabnaje pahadnieńnie pa biaśpiecy štučnaha intelektu.
OpenAI, Microsoft, Amazon i jašče 13 bujnych kampanij, jakija zajmajucca raspracoŭkami ŭ śfiery štučnaha intelektu, padpisali maštabnaje pahadnieńnie ab biaśpiecy.
Damova praduhledžvaje, što kampanii raspracujuć śpiecyjalnyja pratakoły biaśpieki, jakija dazvolać nie vykarystoŭvać štučny intelekt u niebiaśpiečnych dla čałaviectva abo złačynnych metach. Kampanii taksama pavinny buduć rastłumačyć, jak jany źbirajucca aceńvać ryzyki i jakija pastanovy buduć prymać u tych ci inšych situacyjach, paviedamlaje brytanski ŭrad.
Taksama padpisanty pahadnieńnia vyznačać «čyrvonyja linii», pry pierasiačeńni jakich raspracoŭki buduć prypyniacca, a prajekty — adklučacca. Vyznačyć hetyja «čyrvonyja linii» dapamohuć urady krain.
U liku patencyjnych ryzyk nazyvajuć aŭtamatyzavanyja kibierataki i pahrozu stvareńnia bijałahičnaj zbroi z dapamohaj ŠI. Dla takich vypadkaŭ kampanii pavinny buduć praduhledzieć» avaryjnyja vyklučalniki», aktyvacyja jakich prypynić raspracoŭki.
Pahadnieńnie było padpisana ŭ chodzie Samitu pa ŠI ŭ Sieule. Akramia taho, na kanfierencyi kiraŭnik OpenAI Sem Altman anansavaŭ vychad GPT-5. Padrabiaznaściaŭ jon nie raskryŭ, adnak namiaknuŭ, što novaja viersija ŠI budzie značna bolš mahutnaj za papiaredniuju — na słajdzie, jaki pakazaŭ Altman, GPT-5 pradstaŭlena ŭ videa vializnaha kita, tady jak GPT-4 namalavanaja kasatkaj. Čakajecca, što sistema budzie zapuščana ŭ najbližejšyja miesiacy.
Ekśpierty i karystalniki raniej vykazvali mierkavańnie, što z vychadam GPT-5 vierahodnaść «uciokaŭ» ŠI z-pad čałaviečaha kantrolu ŭzraście da 22%.
Ciapier čytajuć
Jak niezaležnyja sacyjołahi pravodziać apytańni ŭ siońniašnich realijach? 12 pytańniaŭ i adkazaŭ3
Kamientary