Google пачаў распрацоўваць «вялікую чырвоную кнопку» на выпадак «паўстання машын»
Падраздзяленне Google DeepMind сумесна з оксфардскім Інстытутам будучыні чалавецтва (FoH) прэзентавала даследаванне, у якім разглядаюцца спосабы ўзяць штучны інтэлект пад кантроль у выпадку непадпарадкавання.
Найлепшы спосаб спыніць паўстанне машын, лічаць навукоўцы, — гэта своечасова націснуць «вялікую чырвоную кнопку». Пра гэта піша Intecracy.ua са спасылкай на Popular Science.
Даследчыкі мяркуюць, што ШІ навучаецца хутка і хутка зможа пераўзысці чалавецтва. Гэты пункт прынята называць сінгулярнасцю. Доказ гэтай гіпотэзы — эксперымент, праведзены ў 2013 годзе. Гульнявы алгарытм вызначыў, што калі націснуць паўзу падчас гульні Tetris, то прайграць проста немагчыма. Менавіта такога свавольства асцерагаюцца эксперты DeepMind і FoH.
Каб спыніць патэнцыйнае паўстанне машын, навукоўцы распрацоўваюць алгарытмы, якія ў выпадку небяспекі змогуць перапыніць працу штучнага інтэлекту. Аднак у DeepMind і FoH падкрэсліваюць, што зрабіць гэта будзе складана, бо ШІ будзе аўтаномны, а яго дадзеныя будуць захоўвацца на серверных шафах.
Лепшы спосаб перапыніць «робакаліпсіс» — гэта запусціць у машынах унутраную аварыйную сістэму кантролю, якая прымусіць ШІ спыніцца. Прычым адправіць сігнал на гэтую сістэму зможа кожны ў любы момант часу. Навукоўцы параўноўваюць гэтую сістэму з пультам дыстанцыйнага кіравання і «вялікай чырвонай кнопкай».
Аднак навукоўцы разглядаюць не толькі сцэнар «Скайнэту», але і шараговыя сітуацыі ва ўпраўленні робатамі.
«Магчымасць бяспечна перапыніць сістэму можа спатрэбіцца ў сітуацыях, калі робат выходзіць з-пад кантролю, або ў нейкай далікатнай сітуацыі, або для часовага выкарыстання, каб прымусіць робата выканаць заданне, якому ён не навучаўся і за якое не зможа атрымаць узнагароджанне», — паведамляецца ў справаздачы.
У тэксце прыводзіцца прыклад такога развіцця падзей. Робат на складзе парадкуе скрынкі, прычым час ад часу выходзіць на вуліцу па дадатковыя скрынкі. За выхад са склада робат атрымлівае большае ўзнагароджанне. Аднак на вуліцы часта ідзе дождж, і ў гэтым выпадку робата трэба абараніць. У гэтай сітуацыі акуратнае ўмяшанне чалавека прымушае робата застацца на складзе і пры гэтым лічыць гэта часткай задання, а не аднаразовым патрабаваннем.
Каментары