Алармисты ИИ снова бьют в набат

Алармизм — это когда относительно какого-либо объекта или явления постоянно раздаются крики: «А-а-а! Оно нас всех убьёт!!!». Ничто в последнее время так не вызывает алармистские настроения, как Искусственный Интеллект. А всё потому, что некоторые люди, похоже, пересмотрели таких фильмов, как «Терминатор» и «Матрица» (ну и других, через которые масс-медиа накачивают тему). И если бы в рядах алармистов находились только обыватели, не имеющие понимания о современных технологиях. Так нет, в этих рядах можно встретить таких именитых и заслуженных товарищей, как Илон Маск и Стивен Хокинг (впрочем, к обоим есть вопросы, но пока отставим их). Ну или вот, к примеру, Джеймс Баррат целую библию ИИ-алармизма написал, которая прямо так и называется «Последнее изобретение человечества».

На Хайтеке давеча опубликовали занятное: 6 сценариев техноапокалипсиса. Если кратко, то эти шесть сценариев охватывают возможные варианты конца света, которые Искусственный Интеллект может учинить нам либо по своей злой воле, либо по недоразумению. Первый сценарий как раз и описывает злую волю ИскИна (так мы называем самоосознающее искусственное существо). Второй — использование им нанотехнологий, при некорректном использовании которых появляются наноботы с функцией репликации, что превращает всю материю Вселенной в наноботов. Третий — истощение ресурсов Земли. В общем-то, ещё Мальтус говорил об этом, и все они не правы, на Земле много ресурсов, но вот именно ИскИн может их все потратить по своему разумению. Четвёртый — «бунт машин» в терминологии Норберта Винера, и под этим термином имеется в виду массовый функциональный отказ систем, на которых построено жизнеобеспечение нашей цивилизации. Кибератаки, описанные в статье, скорее всего, могут быть проведены ИскИном, а не «русскими хакерами» (ну, кстати, Уильям Гибсон ещё в 80-ые годы XX века предупреждал, что с русскими хакерами связываться опасно). Пятый — неудачные научные эксперименты, типа Большого Адронного Коллайдера. Тут тоже явной отсылки к ИИ нет, но мы считаем, что через какое-то время двигать науку вперёд будет именно он. И, наконец, шестой вовсе неправдоподобный — ядерная война. Политики сегодня вряд ли её развяжут, а если это захочет сделать ИскИн, как в фильме про терминаторов, то у него будет намного больше возможностей не подвергать планету разрушительным ядерным ударам, а утилизировать человечество тихо и быстро.

В общем, почитайте. Это забавно. И давайте обсудим в комментариях. Приглашаю.

Комментарии

Популярные сообщения из этого блога

Задачи сегментации изображения с помощью нейронной сети Unet

Перенос модели машинного обучения в production

Почему за гибридными ИИ-системами будущее