• Вы находитесь тут:
  • Sci314
  • Новости
  • Страх перед искусственным интеллектом укоренился в массовой культуре

Страх перед искусственным интеллектом укоренился в массовой культуре

Лучшие умы человечества, от Стивена Хокинга до Илона Маска, говорили об экзистенциальной угрозе человечеству от «рук» цифрового разума.

Профессор Калифорнийского университета в Беркли Стюарт Рассел так же говорит об этой угрозе, но в его видении будущего нет злых роботов, которые восстают против господства людей. По версии Рассела, машины в какой-то момент просто станут настолько эффективными, что уничтожат нас, выполняя задание, которое мы им дали.

Стюарт Рассел — эксперт по машинному обучению и автор книги «Совместимость с человеком: искусственный интеллект и проблема контроля» («Human Compatible: AI and the Problem of Control»).

«Традиционный голливудский сюжет: машины спонтанным образом приобретают сознание, а потом решают, что ненавидят людей и захотят всех убить», — замечает профессор Рассел. Но это, по его мнению, неправильное видение робоапокалипсиса, ведь у машин нет человеческих эмоций.

«Нам нужно беспокоиться не о сознании злых машин, а о компетентности машин, которые выполняют поставленные нами задачи», — убежден ученый.

«Слишком компетентные»

В интервью программе BBC Today профессор Рассел описал гипотетическую ситуацию, в которой может угрожать существованию человечества искусственный интеллект.

Представьте, что существует сверхмощный искусственный интеллект, который может контролировать климат на планете. Ему ставят задачу вернуть уровень углекислого газа в атмосфере на доиндустриальный уровень.

«Система сочтет, что самый эффективный способ это — уничтожить людей. Это же они производят углекислый газ», — говорит профессор. «Это можно обойти, например, поставив ей условие не избавляться от людей. Что тогда сделает система? Она будет делать так, чтобы рождалось все меньше и меньше детей, пока люди не исчезнут совсем».

Это пример того, к чему может привести работа искусственного интеллекта в связи с непродуманными инструкциями человека.

Сверхразум

Актуальные на сегодня системы искусственного интеллекта имеют узкое применение. Они созданы для решения четко определенных проблем в какой-то одной сфере, говорят ученые Центра изучения экзистенциальных рисков университета в Кембридже.

Триумфальным моментом для этой философии искусственного интеллекта была победа компьютера «Дип Блю» над действующим чемпионом мира по шахматам Гарри Каспаровым в 1997 году. Но «Дип Блю» был создан исключительно для игры в шахматы. В шашки он проиграл бы и пятикласснику.

Последние достижения в области искусственного интеллекта позволили создать совершенно другие программы. Например, программа AlphaGo Zero научилась игре в го самостоятельно, не используя данные о прошлых играх, в которые играли люди, и только за три дня игры с собой вышла на недосягаемый для обычного человека уровень.

Во время создания AlphaGo Zero применили алгоритмы глубинного обучения. Это означает, что для разработки программы потребовалось немного человеческой работы. При этом AlphaGo Zero умеет хорошо играть и в шахматы, и в сеге. Программа полностью способна для самостоятельного обучения. У кого-то это может вызывать опасения.

«С течением времени, когда искусственный интеллект становится более мощным и универсальным, появляется риск, что он станет сверхумным, то есть превысит человека во многих или во всех сферах», — говорят в Центре изучения экзистенциальных рисков.

«Мы не знаем, чего хотим»

Профессор Рассел считает, что просто ставить перед искусственным интеллектом конкретные задачи — это не выход, потому что люди сами не могут их достаточно хорошо формулировать.

«Мы не понимаем, что нам что-то не нравится, пока этого не происходит», — говорит он. «Нам нужно изменить сам базовый подход к созданию систем искусственного интеллекта», — добавляет профессор. Он считает, что давать роботам задания, которые они потом выполняют — вообще неправильное решение. «Система должна понимать, что ей непонятна цель. — говорит он. — Когда создаются такие системы, они действительно зависят от человека. Они начинают спрашивать разрешения перед тем, как что-то сделать, потому что не уверены, хотите ли вы этого».

И самое важное, говорит профессор, они не будут сопротивляться, если вы решите их выключить, потому что они созданы таким образом, чтобы не делать того, что вам не нравится.

Лампа Аладдина

Искусственный интеллект сегодня создают так, будто это джин из лампы, говорит профессор Рассел. Вы трете лампу и говорите: «Хочу, чтобы произошло это или это». И если искусственный интеллект достаточно мощный, то он сделает именно то, что вы попросите.

«Проблема с джином в том, что третье желание всегда отменит два первых, потому что человек неправильно их сформулировал. Машина, которая ставит себе неверную цель, становится де-факто врагом человечества, и этот враг намного сильнее нас», — заключает ученый.

  • Вы находитесь тут:
  • Sci314
  • Новости
  • Страх перед искусственным интеллектом укоренился в массовой культуре
  • Вы находитесь тут:
  • Sci314
  • Новости
  • Страх перед искусственным интеллектом укоренился в массовой культуре