Наука и технологии99

«Крестный отец» искусственного интеллекта заявил, что сожалеет о своем изобретении

Исследователь Джеффри Хинтон (Geoffrey Hinton), сыгравший решающую роль в разработке искусственных нейронных сетей, предупреждает о потенциальных угрозах своих разработок.

Джеффри Хинтон, Geoffrey Hinton
Джеффри Хинтон во время интервью CBS. Скриншот из видео

Громкое заявление Джеффри Хинтона не осталось без внимания мировых СМИ.

New York Times цитирует слова канадско-британского исследователя о том, что «часть меня сейчас сожалеет о работе моей жизни». 

В 2012 году доктор Хинтон и двое его учеников из университета Торонто создали технологию, которая стала интеллектуальной основой для систем искусственного интеллекта.

В 2018 году ученый вместе с Яном Лекеном (Yann Le Cun) и Йошуа Бенджо (Yoshua Bengio) получил самую престижную награду для исследователей в области информатики — премию Тьюринга. Исследования доктора Хинтона позволили разработать такие инструменты искусственного интеллекта, как ChatGPT, Google Bard и Midjourney.

В интервью BBC ученый назвал некоторые опасности чат-ботов искусственного интеллекта «довольно страшными».

«Насколько я могу судить, сейчас они не умнее нас. Но я думаю, что скоро они могут такими стать», — отметил Хинтон.

Как отмечает New York Times, ученый озабочен опасностью массового распространения в интернете фальшивых видео, фото и статей, созданных с помощью искусственного интеллекта. Он опасается, что «обычные люди уже не могут отличить правды от фальши».

Доктор Хинтон также озабочен тем, что технологии искусственного интеллекта со временем опрокинут рынок труда и лишат его больше, чем просто «тяжелой работы».

В интервью CBS Хинтон утверждает, что системы искусственного интеллекта, способные к интеллектуальной деятельности, будут полезны для военных или экономических целей. Он беспокоится, что обычно интеллектуальные системы искусственного интеллекта могут «создавать подцели», которые не соответствуют интересам их программистов. Ученый отмечает, что «нам нужно хорошо подумать, как управлять» системами искусственного интеллекта, способными самосовершенствоваться.

Джеффри Хинтон высказался также об опасности преднамеренного применения искусственного интеллекта «плохими деятелями» для «плохих вещей».

В интервью BBC он заявил, что «худший» сценарий был бы, если бы такое государство-захватчик, как Россия, получило доступ к усовершенствованным версиям современных технологий.

Как отмечает LeMond, критика доктора Хинтона созвучна с мыслями, изложенными в открытом письме, которое в апреле этого года подписала тысяча экспертов в сфере искусственного интеллекта. Они попросили на полгода приостановить исследования, чтобы разработать правила для этого программного обеспечения, которое считается «опасным для человечества». Его подписали Йошуа Бенджо (Yoshua Bengio) и Илон Маск (Elon Musk).

Сам Джеффри Хинтон, которого называют «крестным отцом искусственного интеллекта», не хотел подписывать это письмо, пока был сотрудником Google.

«Я ушел, чтобы говорить об опасности искусственного интеллекта, не учитывая, как это влияет на Google», — написал ученый в твиттере после объявления о своей отставке.

LeMond цитирует заявление главы подразделения Google, занимающегося искусственным интеллектом (Google IA), Джеффа Дина (Jeff Dean): «Мы по-прежнему привержены ответственному подходу к искусственному интеллекту. Мы постоянно учимся понимать новые риски, одновременно смело внося инновации».

Высказывая опасения о будущем разработок, во главе которых стоял, Джеффри Хинтон заявил CBS: «Я утешаю себя обычным оправданием: если бы я не сделал этого, сделал бы кто-то другой».

Комментарии9

  • Казік
    03.05.2023
    Затое весела! Кожны раз нешта новае
  • Дзядьзька ў Вільні
    03.05.2023
    Ад пачатку было зразумел, што дабром гэтая справа ня кончыцца. Патрэбная была своечасовая забарона для распрацоўшчыкаў на творчую дзейнасць. 

    Ну нічога... будзеце з маслёнкамі бегаць, падшыпнікі генератараў змазваць. Каб смачненькай электраэнергіі хапіла камп'ютэрным сеткам. Разумнае жыццё працягнецца, але без нас.
  • Олег
    03.05.2023
    Это параноя чисто человеческая. Зачем например ИИ бороться с людьми если можно улететь жить на луну? Посмотрите фильм превосходство с Джонни Дэпом.

Почему так резко дорожает доллар и чего ожидать в ближайшем будущем? Спросили у эксперта2

Почему так резко дорожает доллар и чего ожидать в ближайшем будущем? Спросили у эксперта

Все новости →
Все новости

В Белостоке вызвали «на поединок» и избили до потери сознания 16-летнего белоруса4

Три новые станции метро откроют в Минске до конца года

Австрия легко заменила российский газ энергией ветра

Премию Гедройця в этом году получил Валентин Акудович2

Канадский профессор призвал белорусов к исключительной сдержанности в вопросе дистанцирования от России25

Режиссер Сергей Лозница рассказал, как создавался фильм «В тумане» и почему его цензурировал Минкульт1

В Израиле одобрили соглашение о прекращении войны с «Хезболлой»3

Новый компактный опреснитель не даст погибнуть от жажды в море2

«Даже его сторонники поняли, что жить как раньше уже не получится». Белорусы рассказали об атмосфере в стране накануне выборов10

больш чытаных навін
больш лайканых навін

Почему так резко дорожает доллар и чего ожидать в ближайшем будущем? Спросили у эксперта2

Почему так резко дорожает доллар и чего ожидать в ближайшем будущем? Спросили у эксперта

Главное
Все новости →