Сергей Шахматов (obninskchess_ru) wrote,
Сергей Шахматов
obninskchess_ru

Супер-умный "Искусственный Интеллект" будет смотреть на людей, как на муравьев



Британский астрофизик Стивен Хокинг объяснил читателям Reddit, почему он выступает против "гонки ИИ" и создания сверхразумных машин, и рассказал о том, чем грозит замена всех рабочих на роботов.

Известный британский космолог Стивен Хокинг объяснил свое неприятие технологий искусственного интеллекта – по его мнению, сверхразумные машины будут смотреть на людей, как на расходный материал или муравьев, мешающих решению поставленной перед ними задачи.

Общаясь с пользователями портала Reddit, Хокинг подчеркнул, что он не считает подобные машины "злыми"существами, желающими уничтожить человечество из-за интеллектуального превосходства над нами. Скорее, они просто не будут замечать человечество.

"СМИ постоянно искажают мои слова. Главный риск от развития ИИ заключается не в их злобе, а в компетенции. Сверхумный ИИ будет очень хорошо справляться с задачами, и если его и наши цели не будут совпадать, у нас будут огромные проблемы", — объясняет ученый.

В качестве примера Хокинг привел гипотетическую ситуацию, в которой мощный искусственный интеллект управляет работой или постройкой новой плотины ГЭС. Для такой машины в первую очередь будет важно то, как много энергии вырабатывает вверенная ей система, а судьбы людей будут иметь для нее никакого значения.

"Среди нас мало людей, кто топчет муравейники и наступает на муравьев со злости, но представьте ситуацию – вы контролируете ГЭС, вырабатывающую электроэнергию. Если вам нужно поднять уровень воды и в результате этого один муравейник будет затоплен, то проблемы утопающих насекомых вас вряд ли будут беспокоить. Давайте не ставить людей на место подобных муравьев", — продолжает космолог.


Другой потенциальной проблемой от дальнейшего развития систем Искусственного Интеллекта и роботехники может стать то, что Хокинг называет "тиранией хозяев машин" – стремительный рост разрыва в уровне доходов между богатыми людьми, монополизировавшими производство разумных машин, и остальными слоями населения Земли.

Хокинг предлагает решить эти ситуации двумя путями – замедлив разработку Искусственного Интеллекта и переключившись на создание не "универсального", а узкоспециализированного искусственного разума, способного решать крайне ограниченный круг задач.

Источник
Tags: интересное, наука, новости
Subscribe

Posts from This Journal “наука” Tag

promo obninskchess_ru ноябрь 30, 2019 01:49 4
Buy for 100 tokens
Много вы знаете в интернете абсолютно бессмысленных сервисов? А часто ли вы обращались на этих сервисах в техподдержку? Я знаю один из бессмысленных — WebMoney . Для работы в интернете, получения и перевода денег, сервис абсолютно бесполезный и откровенно проигрывающий Яндексу…
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 0 comments