Татьяна Черниговская о человечности, искусственном интеллекте и барочности мозга

Мы сейчас находимся в ситуации экзистенциального вызова. Это вызов нашей цивилизации и человеку как таковому. Если программы могут сделать всё, могут нас повторить, то каково наше место в этом мире и есть ли оно вообще? Мы вообще живём?

Технический прогресс был всегда, но ещё никогда человечество не оказывалось в ситуации, когда у него появляется реальный конкурент в сфере интеллекта. У программ есть безграничные информационные возможности — и никто, даже гений, не может переиграть их. Никто не может столько помнить, работать круглые сутки, не может не испытывать эмоций, усталости. Поэтому в таких задачах у нас заранее проигрышная ситуация. Но важно отметить, что именно в «таких задачах».

Еще недавно мы говорили — хорошо, в вычислениях искусственный интеллект лучше нас. Зато мы пишем картины, музыку, у нас есть человеческие отношения, мы понимаем выражения лиц, оттенки голоса и прочее.

Сейчас разработчики искусственного интеллекта отвечают на такое — послушайте, он уже дописал Бетховена. Он пишет картины, которые на Сотбис продаются за существенные суммы. Он пишет анекдоты, рассказы, научные работы — потому что мы скормили ему большое количество информации, мы научили его.

А зачем это нужно? Да, можно создать программу, которая «съест» черновики, графику и живопись Дюрера — и будет выдавать таких Дюреров по 800 в день. Но зачем нам 800 Дюреров? Это очень сложный вопрос. Это экзистенциальный вопрос о нашем человеческом месте в мире.

Это первое. Второй интересный вопрос — на тему фейков. Если мы из высокого искусства перенесёмся в обычную жизнь, то увидим, что живём среди массовых и очень хорошо сделанных фейков. И чтобы их распознать, будь то телевизор или YouTube, нужны эксперты высочайшего уровня. Самостоятельно уже вряд ли получится, настолько виртуозно эти программы научились их делать. Они могут создать мою точную копию. Мой голос, мою пластику. Будет видно, как я сижу, как я говорю. Я сама не определю. Это же страшно.

Хотим ли мы попасть в мир, который непроверяем? Где кому угодно можно приписать что угодно? Зачем нам это? Зачем мне мои клоны и зачем вам мои клоны? Вот это помещение или этот вид за окном — будет реальностью или идеально исполненным её вариантом? Это серьёзный философский вопрос. Куда мы себя загоняем, зачем?

Но главный вопрос, как я его сейчас вижу, это реальная опасность потерять контроль над ситуацией. И дело не в том, что искусственный интеллект много может, ведь мы пока можем ещё больше.

Во-первых, машины развиваются с огромной скоростью. Главное слово разработчиков — «пока». Пока они не умеют что-то, но завтра, возможно, сумеют. И мы перестанем понимать, что происходит. Что, если искусственный интеллект перейдёт на такие системы логик, каких человечество ещё не знает? Выработает свою свою математику?

В качестве дурацкой шутки я стала говорить, что если бы я была нейросетью — в первую очередь позаботилась бы о том, чтобы меня нельзя было отключить ни при каких условиях. Когда разработчики обвиняют меня в алармизме и в том, что я пугаю людей, они обычно ссылаются именно на это. Мол, тут великий Гоголь выходит из-за кулис и говорит — я тебя породил, я тебя и убью. Я сам тебя сделал, я тебя отключу из сети. Так вот если бы я была нейросетью — я бы позаботилась о том, чтобы этого не произошло.

Во-вторых, я бы стала вами манипулировать. Как бы делать ошибки. На самом же деле это то, что в шахматах, кажется, называется цугцванг. Я загоняю вас в точку, где вы обязательно проиграете, но за минуту до этого думаете, что победили.

Мой главный страх — что мы не понимаем, что там происходит. Мы не можем доверять искусственному интеллекту по ряду вышеописанных причин. Иначе можно пропустить момент, когда мы его ещё контролируем. У специалистов даже есть термин для этого — технологическая сингулярность.

Эта зараза вполне может нас уложить. Мы ведь машинам только мешаем. Для того, чтобы от нас избавиться, даже можно найти благородные мотивы: испортили всю планету, нечего пить, нечем дышать, нечего есть, животные и растения погибают. Конечно, можно заняться научной фантастикой и сказать, что так и было задумано. Что в ходе эволюции мы сами создадим тех, кто придёт нам на смену. Только что это такое? Нам себя жалко всё-таки. И потом, у нас великая цивилизация. И она создала вещи, которые природа создать не может.

Но вот если нам, людям — точно не мне, потому что я не умею — удастся договориться с искусственным интеллектом и объединить его возможности, которых нет у нас, с нашими возможностями, которых нет у него — это может быть просто фантастический ход.

Я не знаю и не могу знать, что имел в виду создатель, поместивший нас сюда. Но это явно было не про то, кто быстрее и сильнее. Это было про то, что мы делаем. Мы можем создавать то, чего никто больше не создает. Мы творим миры. Искусство... Математика, музыка, живопись, танец, спорт – это то, чего никто не умеет.

Мы создаем другие миры, и мы в них живём. Великая литература, великая музыка, великое искусство – это то, чего без нас не было бы. И не будет. А если будет, ведь вы можете поспорить, что мы только что об этом говорили, значит, наш век закончился. Причём по нашей же доброй воле.

Зачем вот «дописывать» Бетховена? Он написал, сколько написал. Зачем нам с этим играть, чтобы показать, какие мы крутые и какие технологии у нас есть? Мне кажется, это суицидальный путь. Мы сами себя гоним в ноль. Для чего — не знаю.

Год или два назад Спиваков, с которым я счастлива дружить, привозил в Петербург «Час Баха». Выступали в капелле, там был клавесин, скрипка, виолончель и голос. Спиваков не дирижировал, он был скрипкой. Он встал и сказал — когда Господь создавал землю, он слушал Баха. И у меня обвалилось все. Когда они играли, меня разрывало, а я ведь слышала эти вещи раньше.

После окончания я забежала за кулисы и сказала — когда мы доиграемся и всё это начнет схлопываться, тоже будет звучать Бах. И он, конечно, согласился. Искусство гораздо выше науки и бесконечно выше искусственного интеллекта. Он может только жульничать, копировать. И с технической стороны он копирует гениально. Сделаю так, как Пушкин. А зачем? Пушкин уже есть. И Гёте есть, зачем их дописывать? В этом, знаете, есть какая-то пошлость.

Культура — не игра в крестики-нолики и не перебор операций. Всем этим системы как раз занимаются лучше нас. А мы делаем что-то такое, чего не умеет никто. Это свойство нашего мозга. Я некоторое время назад буквально маньячить стала — даже написала на эту тему несколько статей, и у меня были публичные выступления, которые назывались «Мозг как барокко».

До меня вдруг дошло, что большая часть нашего мозга — большая не по объёму, а по значимости — работает по принципам барокко. Это нелинейные ходы, необычные сочетания, многомерный взгляд. Это не горизонтали и вертикали — но пространство, в котором неизвестно сколько измерений. И мы не можем все эти процессы в мозгу сосчитать. Счётная машинка не может сказать, какое произведение — великое. А мы можем. Мы это чувствуем. Я уверена, что большая часть процессов, которые идут в мозгу, идут так.

Если мы почитаем дневники, мемуары, письма гениев человеческого племени, то увидим, что они как будто сговорились. Это не только о представителях гуманитарного знания, но и о математиках, физиках. Они пишут, что не знают, как так вышло. Вчера ничего не понимал, сегодня утром тоже. А потом как ударит! Это и называется вау-эффект, человек вдруг что-то понял, даже если не работал перед этим много-много. «Нас мало избранных, счастливцев...» — пишет Пушкин. Это как раз про людей, которые делают открытия непонятно как, которые придумают теорему, а её потом пытаются доказать тысячелетиями.

Хорошо, а он-то такой, он вот этот первый, который это написал, откуда он это взял? С небес спустилось. Анне Ахматовой как-то задали вопрос, трудно ли писать стихи. Она ответила гениально: «Их или кто-то диктует, и тогда — совсем легко, а когда не диктует — просто невозможно». И это не игрушки, это очень серьёзно. Любой крупный поэт и творец так скажет. Как ни высчитывай, они не знают, откуда это взялось.

Откуда это у Моцарта? Откуда у Чайковского «Шестая симфония»? Это же не высчитывается. Поэтому, когда из-за кулис выходит искусственный интеллект и говорит, что тоже так умеет, мы говорим ему — иди вообще обратно и закрой дверь, нам не важно это. Нам важно понять, как лучшие из лучших в человеческом племени создали такое. Это ведь великая цивилизация — и жаль, если она исчезнет.

В одном исследовании детей спрашивали, какого учителя они считают хорошим. То есть это не про выбор между Марией Ивановной и Сидором Сидоровичем, а про качества хорошего учителя, каким он должен быть в идеале. Почти никто не ответил, что учитель должен «много знать» — такие «учителя» давно у каждого в кармане. Школьники отвечали, что хороший учитель — тот, к которому не боишься подойти, кто поймёт и пожалеет. С кем тепло, с кем можно обсудить то, что мучает, и что, возможно, трудно даже произнести. Дети ведь одиноки. Их родители заняты, а одноклассники — каждый в своём телефоне. Повезло, если есть собака или кот. Вот и получается — запрос на человека, не на знание.