Каждый раз, когда я сталкиваюсь с опасениями об ужасах искусственного интеллекта, за которыми стоит искреннее удивление: неужели появится разум, который вытеснит человека, неужели вдруг человечество исчезнет, я вспоминаю замечательную повесть Клиффорда Саймака «Город». Уникальный фантаст, он начинает свое произведение со слов: «Я хочу рассказать вам о том, о чем рассказывают псы, когда они собираются у камина. Они говорят, что когда-то на этой планете было уникальное существо — оно называлось “человек”. И даже была подобного рода цивилизация».

Разработанные мной подходы и метафоры — это не просто образы. Это конструирование реальности. Как мы помним, в основе когнитивной революции, без которой не было бы искусственного интеллекта, лежала компьютерная метафора «Человек есть устройство по переработке и извлечению информации». Эта компьютерная метафора глубоко частична.

Все дело в том, что, как говорил психолог и мой учитель Алексей Николаевич Леонтьев, «самое страшное, что мы, создавая искусственные системы, вдруг забываем, что мы их создали, и начинаем учиться у искусственного интеллекта уму-разуму». Это блистательная формула, и это самая большая опасность. Мы вдруг ложимся под то, что мы с вами сделали… Поэтому, когда мы начинаем верить, что созданная нами система сильнее человека… Ну разве в этом виновен искусственный интеллект?

…Новая машина сразу же сочинила увлекательный детективно-фантастический роман «Адам», где говорилось о поиске и разоблачении Последнего Человека.

Скрывалось это забавное и жалкое существо якобы в труднодоступных районах Гималаев и Тибета, прикрываясь, кроме медвежьей шкуры, еще и фиговым листком фальшивой справки, утверждавшей, что оно – тоже Машина. Будучи выловлено, существо стало рвать иррациональную растительность на своем запоминающем устройстве и кричать: черт же меня дернул всё это выдумать! Оказалось, что безумное устройство всерьез мнило, будто оно и есть Творец Мыслящих Машин, а именно – Человек... Представ перед грозными очами Электронного Индикатора Истины, Адам расплакался и признал, что не по праву присвоил себе титул совершеннейшей из Машин, намереваясь использовать его в корыстных целях, для узурпации власти. Нелепая претензия вызвала дружный хохот.

– Ты в своем ли уме? – сказали Адаму. – Ты что же, хотел, чтобы миллионы Мыслящих Машин, бесконечно более совершенных чем ты, танцевали вокруг тебя хороводом, как планеты вокруг солнца? Вокруг тебя, вокруг маленькой и жалкенькой козявочки?! Да что у нас своих дел, что ли, нет? Оглянись вокруг, очухайся!

Оглянувшись вокруг, Адам и сам понял комичность ситуации. Тогда он также расхохотался, немедленно покаялся во всем и смиренно стал просить о помиловании. Учитывая чистосердечное раскаяние подсудимого, Осуждающая Машина милостиво заменила полагавшийся ему смертный приговор простым усекновением глупой «головы» с последующей заменой этого крайне несовершенного органа на никелированное Запоминающее Устройство.

С тех пор модернизированный Адам работает в информатике архивариусом и читает публичные лекции на тему: «Почему я перестал верить в человека». Недавно он женился на красавице-машине «Галатея» с походкой шагающего экскаватора, и все надеются, что их дети будут примерными Мыслящими Машинами, а не нелепыми уродами с головами вместо запоминающего устройства, о чем Адам позаботился сам, попросив заменить его антикварные органы воспроизведения себе подобных на какие-нибудь более современные. – подробнее