Наука и технологии99

«Крестный отец» искусственного интеллекта заявил, что сожалеет о своем изобретении

Исследователь Джеффри Хинтон (Geoffrey Hinton), сыгравший решающую роль в разработке искусственных нейронных сетей, предупреждает о потенциальных угрозах своих разработок.

Джеффри Хинтон, Geoffrey Hinton
Джеффри Хинтон во время интервью CBS. Скриншот из видео

Громкое заявление Джеффри Хинтона не осталось без внимания мировых СМИ.

New York Times цитирует слова канадско-британского исследователя о том, что «часть меня сейчас сожалеет о работе моей жизни». 

В 2012 году доктор Хинтон и двое его учеников из университета Торонто создали технологию, которая стала интеллектуальной основой для систем искусственного интеллекта.

В 2018 году ученый вместе с Яном Лекеном (Yann Le Cun) и Йошуа Бенджо (Yoshua Bengio) получил самую престижную награду для исследователей в области информатики — премию Тьюринга. Исследования доктора Хинтона позволили разработать такие инструменты искусственного интеллекта, как ChatGPT, Google Bard и Midjourney.

В интервью BBC ученый назвал некоторые опасности чат-ботов искусственного интеллекта «довольно страшными».

«Насколько я могу судить, сейчас они не умнее нас. Но я думаю, что скоро они могут такими стать», — отметил Хинтон.

Как отмечает New York Times, ученый озабочен опасностью массового распространения в интернете фальшивых видео, фото и статей, созданных с помощью искусственного интеллекта. Он опасается, что «обычные люди уже не могут отличить правды от фальши».

Доктор Хинтон также озабочен тем, что технологии искусственного интеллекта со временем опрокинут рынок труда и лишат его больше, чем просто «тяжелой работы».

В интервью CBS Хинтон утверждает, что системы искусственного интеллекта, способные к интеллектуальной деятельности, будут полезны для военных или экономических целей. Он беспокоится, что обычно интеллектуальные системы искусственного интеллекта могут «создавать подцели», которые не соответствуют интересам их программистов. Ученый отмечает, что «нам нужно хорошо подумать, как управлять» системами искусственного интеллекта, способными самосовершенствоваться.

Джеффри Хинтон высказался также об опасности преднамеренного применения искусственного интеллекта «плохими деятелями» для «плохих вещей».

В интервью BBC он заявил, что «худший» сценарий был бы, если бы такое государство-захватчик, как Россия, получило доступ к усовершенствованным версиям современных технологий.

Как отмечает LeMond, критика доктора Хинтона созвучна с мыслями, изложенными в открытом письме, которое в апреле этого года подписала тысяча экспертов в сфере искусственного интеллекта. Они попросили на полгода приостановить исследования, чтобы разработать правила для этого программного обеспечения, которое считается «опасным для человечества». Его подписали Йошуа Бенджо (Yoshua Bengio) и Илон Маск (Elon Musk).

Сам Джеффри Хинтон, которого называют «крестным отцом искусственного интеллекта», не хотел подписывать это письмо, пока был сотрудником Google.

«Я ушел, чтобы говорить об опасности искусственного интеллекта, не учитывая, как это влияет на Google», — написал ученый в твиттере после объявления о своей отставке.

LeMond цитирует заявление главы подразделения Google, занимающегося искусственным интеллектом (Google IA), Джеффа Дина (Jeff Dean): «Мы по-прежнему привержены ответственному подходу к искусственному интеллекту. Мы постоянно учимся понимать новые риски, одновременно смело внося инновации».

Высказывая опасения о будущем разработок, во главе которых стоял, Джеффри Хинтон заявил CBS: «Я утешаю себя обычным оправданием: если бы я не сделал этого, сделал бы кто-то другой».

Комментарии9

  • Казік
    03.05.2023
    Затое весела! Кожны раз нешта новае
  • Дзядьзька ў Вільні
    03.05.2023
    Ад пачатку было зразумел, што дабром гэтая справа ня кончыцца. Патрэбная была своечасовая забарона для распрацоўшчыкаў на творчую дзейнасць. 

    Ну нічога... будзеце з маслёнкамі бегаць, падшыпнікі генератараў змазваць. Каб смачненькай электраэнергіі хапіла камп'ютэрным сеткам. Разумнае жыццё працягнецца, але без нас.
  • Олег
    03.05.2023
    Это параноя чисто человеческая. Зачем например ИИ бороться с людьми если можно улететь жить на луну? Посмотрите фильм превосходство с Джонни Дэпом.

Первая вице-мэр Минска Надежда Лазаревич прошла через задержание, муж остался в СИЗО

Первая вице-мэр Минска Надежда Лазаревич прошла через задержание, муж остался в СИЗО

Все новости →
Все новости

«Подделка архивной справки — 4500 евро». Как белорусы ищут у себя польские корни и как покупают польское происхождение10

В Белом доме прошла встреча Трампа с Байденом ФОТОФАКТ

Ученые возродили вымершее животное без клонирования. Как им это удалось?3

Канопацкая ответила, есть ли у нее немецкий ВНЖ3

СК назвал имена тех, кто сбросил взрывчатку на базу ОМОНа в Минске в 2021 году12

«Мосфильм» передал российской армии танки и БМП со складов киностудии2

Какие выборы, такие и сценарии. Почему сразу два спарринг-партнёра Лукашенко сняли свою кандидатуру7

Почему закрыли проект «Ночь с Чалым»10

Трамп пошутил, что готов баллотироваться на третий срок, если американцы скажут «Надо!»19

больш чытаных навін
больш лайканых навін

Первая вице-мэр Минска Надежда Лазаревич прошла через задержание, муж остался в СИЗО

Первая вице-мэр Минска Надежда Лазаревич прошла через задержание, муж остался в СИЗО

Главное
Все новости →