Всероссийский муниципальный форум


"Местное самоуправление: современные вызовы"
В рамках форума состоится награждение победителей "XI Всероссийского конкурса"
18-19
Сентября
2018 г.
Москва
Персоны и мнения№ 3 март 2018 — 23 Марта 2018

ИИ против человечества: шах и… мат?

Российская Федерация

Версия для печати 527 Материалы по теме
ИИ против человечества:  шах и… мат?

Человек пока — единственное (?) разумное (???) существо на планете. Но это ненадолго. Мы активно создаем себе компаньона — искусственный интеллект (ИИ), который, как мы полагаем, непременно должен стать нашим другом и помощником. Но не сбудутся ли вместо этих надежд самые страшные фантазии голливудских футурологов? Известный ученый в области нейрофизиологии, психолингвистики и теории сознания, доктор биологических наук, профессор Татьяна Владимировна Черниговская вполне допускает такое развитие событий.

Но самое главное: новая цивилизация, по ее мнению, УЖЕ наступила. Мы же к ней оказались не только не готовы, но даже не осознаем (а можем и не осознать никогда) все истинные опасности.

Лекция Т. В. Черниговской «Искусственный интеллект — вызов для человечества» состоялась 18 января 2018 года в рамках Гайдаровского форума. Мы публикуем некоторые размышления, предостережения и аргументы автора.

Антропоцен заканчивается

В последнем докладе Римского клуба говорится, в частности, о том, что «технологические игры» представляют опасность не только в практическом, но и в мировоззренческом смысле. Мы можем потерять контроль над развитием ситуации. Если машины начнут принимать за нас какие-то важные решения, что вообще остается людям?

Необходима, как говорят члены Римского клуба, эпоха нового просвещения, переосмысления главных цивилизационных принципов. И для начала они предлагают отказаться от редукционизма. Как происходит процесс анализа, например, в естественной науке? Ученые берут какой-то объект и все больше и больше рубят его на части. В настоящее время дорубились уже до наночастиц. Но, во-первых, это, вероятно, вообще неправильная постановка вопроса. Потому что, как предполагали многие крупные философы еще до того, как началось это бесконечное расчленение материи: целое больше суммы его частей. Юрий Михайлович Лотман, крупнейший советский гуманитарий, семиотик, будучи человеком блестяще остроумным, в свое время говорил: конечно, можно теленка разобрать на стейки, но беда в том, что он обратно не собирается. От того, что ты рассмотришь каждый нейрон, знание о целом не появится.

Во-вторых, когда-то Альберт Эйнштейн писал: основа естественных наук — это то, что характеристики внешнего мира независимы от наблюдателя. Так было. Однако сегодня уже хорошо известно: то, в какой позиции находится ученый, как задает вопросы, как ставит эксперимент, — все это влияет на результат. А уж после разработок в области квантовой механики это ни у кого не вызывает сомнений.

Третье — это то, о чем уже давно догадался Станислав Лем: «Там, где успех боевых операций зависит от микромиллиметров и наносекунд, на сцену, подобно новому богу войны, выходит случайность». И прямое предостережение: «Системы неслыханно быстрые ошибаются неслыханно быстро».

Мир стал нечеловекомерен. Появились величины и пространства, в которых мы не живем. Человек не существует ни в наносекундах, ни в нанометрах — в них вообще живые не живут. Появился интернет вещей, самоорганизация сетей. Более того, цифровая реальность начинает быть игроком на поле эволюции — она становится признаком отбора в социуме. Если я умею всем этим пользоваться, я попадаю в одну категорию людей. А если я только блины умею печь — совершенно в другую.

Хвост виляет собакой?

У эволюции действительно есть вектор? Похоже, да. Похоже, что все ее потуги вели к тому, чтобы образовались нервная система и — высочайшая стадия всего — человеческий мозг.

Но если есть вектор, значит, есть и какая-то цель? Какая? Откуда она взялась? И зачем Вселенной это понадобилось? Она ведь и так знает, как ей жить: атомы в курсе, как им соединяться, планеты — вращаться, галактики — сталкиваться... Зачем понадобилось некое существо, которое будет разгадывать законы природы, которые и так действуют?

А мозг? Наш собственный, человеческий мозг? Он ведь такое вытворяет… Каждому из нас кажется, что мы — хозяева положения. Однако лучшая уловка мозга заключается в том, что он делает все сам. Он вообще какой-то самодостаточный монстр. Все решения принимает он, а не мы. Но этим его коварство не ограничивается. Потому что потом он еще посылает нам утешительный сигнал: мол, не волнуйся, это ты сам все придумал, ты молодец, самостоятельный и ответственный человек. Если это так (а есть данные, которые дают основания так считать), то все остальные проблемы — просто смех. Потому что это означает, что мы — лишь очень хорошие программы.

Мы боимся потерять контроль над искусственным интеллектом? А у нас есть контроль над собственным интеллектом? В голове каждого из нас — сложнейшая нейронная сеть. Каждый из нейронов может иметь от 50 до 100 тысяч связей с другими частями мозга. Это уже квадриллион. А если умножим его на 10 (число глиальных клеток, которые, кстати, имеют собственную память и свои задачи)… И вот с этим мы хотим конкурировать, создавая искусственный интеллект?

После обеда — подвиг?

Что говорят создатели ИИ? Мы узнаем, по каким алгоритмам работает реальный мозг, и сделаем устройство по его образу и подобию. А вы уверены, что у мозга есть только алгоритмы? Эйнштейн говорил, главные вещи делаются интуитивно: «Интуиция — священный дар, разум — покорный слуга».

Открытие происходит не с по­мощью логарифмической линейки. Ты не можешь запланировать сделать открытие. Тебя как ударяет. Или оно приходит во сне. Рассудок не контролирует целиком то, что происходит. Ты впадаешь в какое-то другое состояние. В мемуарах крупных ученых много тому примеров. Мы не можем не обращать на них внимания — это слишком серьезно.

Мозг у людей существенно разный. А у творцов, людей искусства — даже структурно иной. Отсюда возникает вопрос «про курицу и яйцо». У них другой мозг — и поэтому они стали Моцартами? Или из-за того, что они играли на скрипке, у них сформировался такой мозг? И следующий: а зачем Эйнштейн играл на скрипке? А Менделеев в свободное время… шил чемоданы? Моя версия: они переключали мозг на другой режим работы — и это рождало лучшие всплески нашей цивилизации. Это рассчитать на арифмометре «Феликс» невозможно.

Еще один вопрос: что станет с литературой, искусством, музыкой, если мы доиграемся до исчезновения с планеты? Они останутся? Вопрос, разумеется, не о том, останутся ли ноты, книги, картины. Если здесь лежит том Шекспира, но нет человека, который умеет его читать, то это является не томом Шекспира, а физическим объектом. Если звучит музыка, но нет того, кто может ее понимать, она — просто звук. Для комара нет никакого Моцарта.

И наконец, главное: зачем вообще существует искусство? Ведь, кажется, вот лежит реальное яблоко. Для чего его рисовать или лепить? Зачем все эти повторы? Но, как говорил все тот же Лотман, искусство вовсе не повторяет, не изображает, не копирует жизнь — оно ее создает.

Пафос речи в этой ее части сводится к следующему: не стоит воспринимать искусство как какой-то десерт или довесок. Вроде мы сначала занимаемся серьезными вещами, а уж потом, как полагается образованным людям, ходим в музеи, слушаем музыку. Это, разумеется, не лишнее. Но речь о другом. Искусство — это вообще иной способ познания или даже создания мира. Овладеет ли им искусственный интеллект?

Поделиться