By using this website, you consent to the collection, storage and use of your personal data by means of Google Analytics and Yandex.Metrica services. If you do not agree to the conditions listed here in, you must refrain from further use of this website.
Science and technology

«Место науки в будущем» | Диалог Татьяны Черниговской и Юрия Оганесяна

1
Почему люди науки создают относительные ценности, а люди искусства — ценности абсолютные? Как можно родиться гением, но не стать им? Учёные придумывают законы или их открывают? Амбассадор Noôdome, нейролингвист Татьяна Черниговская и специалист в области экспериментальной ядерной физики Юрий Оганесян беседуют об искусственном и естественном интеллекте, о даре человека познавать и способностях нашего мозга творить миры.

Татьяна Черниговская
нейролингвист, амбассадор Noôdome
Юрий Оганесян
академик РАН, физик
Вероника Зонабенд
сооснователь и президент сообщества Noôdome
Вероника Зонабенд
Начать мне бы хотелось с цитаты Роберта Музиля.
«Именно в гениальных личностях воплощается дух их времени, пусть и против их воли, без их ведома. Вероятно, правильнее было бы говорить, что это средний человек на столетие отстает от своего времени»
В пример можно привести теорему Ферма, которую не могли доказать те самые сто лет. И здесь хотелось бы поговорить про гениев. И можно ли вывести формулу гениальности. Юрий Цолакович?
Юрий Оганесян
Вы знаете, мне будет трудно сказать, как устроен мозг.
Вероника Зонабенд
Это мы спросим Татьяну Владимировну.
Татьяна Черниговская
Я ещё не сошла с ума до такой степени, чтобы ответить.
Юрий Оганесян
Когда я учился в школе, нам преподавали психологию. И педагог нам рассказывал — было такое ошибочное мнение — что умный тот, у кого мозг тяжелый, масса большая. Головной мозг Толстого весил 2,8 килограмма, Владимир Ильич Ленин имел два кило сто, а Анатоль Франс — 450 граммов. Наверное, это не очень правильно — взвешивать мозг. Тогда начали говорить, что зависит не от веса, а от поверхности, от извилин. Может быть. На этом мои знания мозговые кончаются. Поэтому на вопрос, который вы задаёте, может быть, я бы сказал: не только мозг. Может, эмоции тоже? Не зря человеку нужны органы чувств, обоняние, осязание, зрение, слух. Мне кажется, да, всё включается. И мозг, конечно, тоже.

Поэтому, когда в современном мире начинают рассуждать об искусственном интеллекте, то почему-то всё время говорят: вот компьютер, вот мозг, вот компьютер, вот мозг. А где остальное? Не надо думать, что наступает озарение, как это описывается, скажем, в деяниях святых апостолов.
project-image
Как апостол Павел, когда он ещё не был апостолом, шёл из Иерусалима в Дамаск, чтобы воевать с христианами, и вдруг на пути, на подходе к Дамаску, возникло озарение, и голос с неба, голос Христа, сказал ему: «Что ты делаешь, Павел, зачем ты меня гонишь?». У него было озарение.

Мне кажется, это всё не так. Любое озарение созревает — научное, по крайней мере. И не только тот гений, кто сказал: «Вот оно, истина!». А много людей было вокруг этого, многие сидели на этом дереве. Он-то, может быть, был выше всех, оплот на самой верхушке этого дерева. Но если бы его не было — другой бы поднялся. Всё равно бы это было. Потому что это натура человека. Его желание познать, узнать, докопаться. Это дар, который людям дан Богом.
Вероника Зонабенд
Почему же кому-то пришло в голову, а кому-то нет? Вы считаете, что этого элемента озарения нет?
Юрий Оганесян
Говорят, что Менделееву приснилась эта таблица. Кстати, сам Дмитрий Иванович этого не отрицал. Он улыбался, но не говорил, что это не так. Я, например, школьником решал задачи во сне. У меня получалось не днём, а во сне: я просыпаюсь — всё понятно. Я даже удивлялся, почему я раньше не мог догадаться. Я и до сих пор, должен вам сказать, когда у меня что-то получается, первым чувством: «Как я не мог догадаться раньше?». Понимаете? Вот эта, как у нас говорят, причинно-следственная связь между явлениями. Сначала она хаотическая, потом всё более и более выстроена — и, наконец, вот она. Это большой труд многих людей, вот что я хотел сказать. И то, что до чего-то, может быть, я не додумался, но додумался кто-то другой, кто об этом сказал, опубликовал, — я же этим пользуюсь.
Вероника Зонабенд
Спасибо, Юрий Цолакович. Татьяна Владимировна?
Татьяна Черниговская
Я хочу сказать, что пока мы сидели за занавесью, ужасно не хотелось прекращать разговор. Мы думали: как жалко, что никто не слышит того, о чём мы говорим.

На самом деле разговор очень широко пошёл, тут может быть несколько линий.

Первое. Про мозг. Из того, о чём мы что-нибудь знаем, во Вселенной нет ничего сложнее, чем человеческий мозг. Вот так я аккуратно сформулирую. У нас 100 миллиардов нейронов. 100 миллиардов! У нас примерно столько же клеток, в которых утоплены эти нейроны, от греческого слова «глия», что означает «клей». Считалось, что это просто упаковка — где-то же они должны лежать. На них вообще никто всерьёз не смотрел. Но уже какое-то время выяснено, что у этой глии, которую, я повторяю, игроком-то никто не считает, есть своя память. У неё есть много чего. Если рождается ребенок, у которого нарушена глия, то все вправе ожидать серьёзных когнитивных нарушений. Я к чему про это говорю? Мало того, что там 100 миллиардов нейронов, там ещё примерно столько же игроков, на которых никто и не смотрел.

У каждого из нейронов может быть примерно 50 тысяч — по-разному, есть разные типы — связей с другими частями в мозгу. Кто, в отличие от меня, умеет считать, тот получит число квадриллион. Квадриллион связей в мозгу! Кто вообще в состоянии с этим справиться?

Теперь про большой или маленький мозг. У неандертальцев мозг был больше, чем у нас. Встает вопрос, почему он уменьшился. На этот вопрос, кстати, нет ответа. Точно понятно, что увеличение именно объёма мозга никому не нужно, потому что речь идет о такой сложной системе, что увеличивать её ещё просто нет никакого резона.
project-image
Дальше. Мы радуемся тому, что у нас сложный мозг — сложнее, чем у всех — что у нас есть извилины, борозды и это всё. Сообщаю тем, кто не знает, неприятную новость. У врановых интеллект официально признан равным интеллекту шимпанзе, а шимпанзе — это следующие за нами, так что не стоит преуменьшать. У них абсолютно гладкий мозг, без каких бы то ни было извилин и борозд. Более того, у них нет новой коры, которой мы так гордимся. Не говоря о том, что у них нет лобных долей, которыми мы тоже гордимся и которые делают всю сложную когнитивную работу. Эволюция не обещала, что она будет идти одной дорогой.

Примером, о котором я сейчас говорю, доказывается тот факт, что можно достичь очень мощных интеллектуальных успехов с совершенно другой системой. Я уже не говорю про моего любимого, которого я перестала есть, — осьминога. У него восемь нервных систем. Восемь! В каждой этой его штуке. И более того, нет центрального процессора. И тут я вообще останавливаюсь, потому что я не понимаю, как это может функционировать. Но ведь это так. Понимаете, мы не можем делать вид, что это не так. Мы имеем дело с очень сложными вещами.

Дальше я перескакиваю на тему гениев – не-гениев. Я своим студентам рассказываю следующую басню. Я говорю: вам может повезти, и от дедушки с бабушкой достанется рояль Steinway и скрипка Страдивари. Неприятность заключается в том, что нужно научиться на них играть. Эти инструменты по праву ваши, потому что они написаны в геноме. Вы уже родились — гением можно только родиться. Но им зато можно не стать.

Если бы Бах не родился в семье Бахов, он бы никогда не узнал, что он Бах, что он гениальный музыкант. Он должен учиться, должен узнать, что бывает клавесин, должен узнать, что такое музыка. Это я реагирую на то, что Юрий Цолакович замечательно сказал: «не только мозг». Это, конечно, мозг. Если нет подходящего мозга, не о чем говорить. Но если есть подходящий мозг, он должен попасть в питательную среду. Глядя на мою близкую и дорогую приятельницу Марину Лошак, я говорю: учить искусству нужно всех, учить музыке нужно всех. Ты не знаешь, где это. Для того, чтобы ты узнал, что это твоя дорога, ты сначала должен попробовать разные дороги. Если ты не пробовал ни одной, ничего не выйдет.

И ещё один шаг делаю на той дороге, по которой уже ходили. Насчёт озарения и не-озарения. Первый мой комментарий будет такой. Если вы не согласны, Юрий Цолакович, то дайте мне в лоб. Очень крупные учёные из вашей сферы, физики, математики, химики, естественные науки в их лучших, высших проявлениях, вопрос ставят так: самые главные законы мы придумываем или открываем? Это в англоязычной литературе так и пишется: discovered or found.
Юрий Оганесян
Они уже там есть.
Татьяна Черниговская
Тогда понятно, почему вы говорите, если бы не открыл Менделеев, то открыл, может быть, хуже, позже и так далее, но открыл бы кто-то другой. Тогда я спрашиваю, где он это взял? Аузана нет, который из нас пьёт кровь всё время…
Вероника Зонабенд
Он здесь в верхних рядах.
Татьяна Черниговская
Он не даст соврать. Он в том числе и здесь не раз это говорил. И, конечно, у нас между собой много раз этот вопрос возникал. А Пуанкаре где взял, если не секрет? Он сам не мог доказать. Или Ферма, откуда он взял? Откуда все эти люди взяли то, на что потом уходили как минимум десятилетия, а чаще столетия, чтобы доказать, что он уже вынул и показал? Он где взял-то? Может, расскажет?
Юрий Оганесян
Да. Золотые слова.
Вероника Зонабенд
То есть наш удел — бесконечный поиск? И развитие того, что мы постоянно что-то ищем и находим, что существует, а мы об этом не знаем. Но почему кто-то находит и догадывается о чём-то раньше?
Татьяна Черниговская
Повезло. Родился с таким геномом, попал в хорошую среду. Я настаиваю на этом. Очень важно, где человек растет. Опять же то, что мы за занавеской друг другу говорили. Я сейчас все выдам.
project-image
Нужен широкий кругозор. Согласны ли вы? Где ты это возьмешь? Гуляешь по морю, увидел какой-нибудь сучочек, бабочку или раковину — и говоришь: «Батюшки, вот оно!». Ты не занимаешься ни бабочками, ни сучочками, ни ракушками, ты занимаешься другими вещами. Но ассоциация пришла. Она может прийти на концерте Спивакова, когда читаешь Мандельштама или когда ничего не делаешь, а думаешь, как тебе всё осточертело и чтобы вообще все они исчезли с лица земли как можно скорее. И в этот момент тебя ударит. Поэтому мой вопрос к вам — всё-таки озарение есть. Озарение, может быть, не в том смысле, что ударяет в какой-то момент. До этого нужно дозреть. Периодическую таблицу не увидела во сне кухарка Менделеева. Её даже не увидела его дочка, которая бы лучше не морочила голову Андрею Белому, а также большому списку Серебряного века. И Блока бы поберегла.
Вероника Зонабенд
Можно я немножко поверну? Юрий Цолакович, по поводу того, что «не берется просто так, ниоткуда». Это известные слова «…и опыт, сын ошибок трудных, и гений, парадоксов друг».
Юрий Оганесян
Все мы живем, что-то делаем, что-то создаем. Создаем в том числе какие-то ценности, открытия. Но те, кто занимается наукой, естественными науками, мне кажется, создают относительные ценности. Именно поэтому, если не он — то кто-то другой всё равно бы это нашёл. Это уже есть. Мы живем в мире, и наука изучает окружающий нас материальный мир. Вот, собственно говоря, её цель. Раньше понял — гений, позже понял — во врата гения уже не выпадаешь. Поэтому гений, собственно говоря, это тот, кто понял раньше своего времени, раньше всех. Вперёд вышел.

Мы вернёмся ещё к гениям. А вот теперь духовный мир, нематериальный. В мире было много талантливых художников. Возьмём любого из них. Возьмём, скажем, Веласкеса, хотя могли бы взять кого-то другого. Известный испанский художник, рисовал своих карликов. До него были художники, после него были художники. Но Веласкеса не было, он был один. И в этом смысле они создают абсолютные ценности. Поэтому имеет смысл не смешивать вместе Менделеева с его таблицей — это материальный мир, и Веласкеса с его полотном — это духовный мир.

Но удивительная вещь — эти два мира не могут жить отдельно. Не могут, понимаете, не могут. Теперь дошли до XXI века. В XXI веке мы начинаем говорить об интеллектах — естественных, искусственных. Мы не очень понимаем, что такое интеллект естественный.
Татьяна Черниговская
В этом-то и ловушка. Неправильный перевод. Это к интеллекту вообще никакого отношения не имеет.
Юрий Оганесян
Уже начинаем говорить об искусственном интеллекте? Но почему бы нет? Например, мы все знаем, что компьютер обыгрывает в шахматы любого гроссмейстера. Когда-то, 40 лет назад, гроссмейстеры играли с компьютером. Сейчас ни один гроссмейстер не играет с компьютером — наверняка проиграет. Грубо говоря, его потенциальные возможности в сравнении с человеком выше.
Вероника Зонабенд
А может быть, даже и больше.
Юрий Оганесян
Да. Я хотел бы сказать об этом буквально два слова. У нас в Академии наук есть очень молодой академик Арутюн Ишханович Аветисян, блестящий специалист в области математики и искусственного интеллекта. Был у нас в Дубне, я лично имел удовольствие немножко с ним подискутировать про искусственный интеллект. Он очень красиво показал, что, кажется, есть искусственный интеллект слабый, а есть сильный. Тоже хорошо — и слабый, и сильный. Потом он показал, что слабый интеллект ещё можно разбить на шесть уровней доверия — что тоже хорошо, края размытые. Что слабый надо обучать. А сильный, вроде, должен обучать тебя. Пока мы у слабого. Но мы говорим о сильном. Пока он обучаемый, но мы всё время говорим, когда он уже начнёт нас обучать.

А я предложил им сделать по-другому. Давайте перейдём на другой край спектра. Не на спектр умных, а на спектр дураков. Всех со слабым интеллектом: слабый человеческий интеллект и слабый вот этот компьютерный интеллект, который сейчас нам помогает со страшной силой. И тут я вспомнил «Собачье сердце» Булгакова. Булгаков написал замечательный роман, где Шариков был собакой — по определению интеллекта почти никакого. Ему пересадили гипофиз, потом ещё какие-то органы. И он стал постепенно входить в человеческое общество, так сказать, приобщаться к нему. Но пересадили ему органы от какого-то пьяницы, хулигана. Давайте возьмём Шарикова.
Татьяна Черниговская
Да, я давно спрашиваю: интеллект кого вы делаете? Дурака или нет?
Юрий Оганесян
Давайте возьмём Шарикова. Не будем брать профессора Преображенского, будем брать Шарикова. Шариков и искусственный интеллект. Так сравнения нет. Во-первых, Шариков начал качать права, так ведь? Потом он начал претендовать на жилплощадь. Он очень быстро усвоил, что делать можно. Но он совсем не усваивал, чего делать нельзя. Я хочу вам сказать, что если бы Преображенский его вновь не перевёл в собаку, жилплощадь он бы у него отобрал. Это точно.
Татьяна Черниговская
Как минимум.
Вероника Зонабенд
К вопросу о том, что мы говорили: учёные создают относительные ценности, открытие — это не то, что создают, а то, что открывают. А в искусстве что-то создаётся.
Юрий Оганесян
Да, именно так и есть. Татьяна Владимировна об этом говорит: учёные открывают, а художник не открывает, он создает. В этом их разница.
Татьяна Черниговская
Если позволите, я могу прокомментировать.

Я говорю аккуратно, поэтому я говорю «насколько мы знаем». Это не дежурная фраза, это правда. Так вот, насколько мы знаем, из живущих на Земле никто, кроме людей, не создает миры. Наш мозг не только для того, чтобы обрабатывать информацию, которая приходит через глаза, уши, кожу, носы, через органы чувств. У нас сделан мозг, который творит миры. И эти миры обладают для нас не меньшей ценностью, чем физический мир. Откуда идут религиозные войны, откуда вообще всё идет? Из вещей, которые мы сами создали. Их нет в природе.
project-image
У меня много лет есть книжка, называется «Proust Was a Neuroscientist». Пруст, как известно, это Пруст. В этой книжке мне очень нравится идея. Художники — это творцы, у них есть какие-то дополнительные органы чувств, они унюхивают какие-то вещи до того, как это делают учёные. Импрессионисты увидели мир так, как потом сенсорная физиология показала — через десятки лет — что мы на самом деле смотрим на него. Смотрим, я имею в виду, не в механическом смысле. А видим мир таким, как видели импрессионисты. Откуда они это взяли-то?

Пруст написал про память в своих общеизвестных романах такое, что психологи про память стали писать, повторяю, через десятки лет. Я веду к тому, что у людей такого типа есть нюх. Я в последние дни читала много о Пенроузе, его собственные воспоминания. Он пишет: «Я заранее знаю, где правильное решение проблемы. Я потом трачу годы математической кошмарной работы, чтобы это доказать. Но я знаю заранее». Спрашивается, а как, собственно, он знает? Один из его ответов, я думаю, вам понравится. Я беру «which is more attractive». Или он прямо пишет «beautiful» или даже «aesthetical». Это не метафора. Он на самом деле чует.

Я такими вещами очень интересуюсь в последние годы, речь идет о крупных ученых. Многие из них говорят такую же вещь: «Я просто чувствую, я просто это вижу». Более того, действительно крупные учёные-мыслители говорят, что настоящее открытие — это всё not-computable. Всё, что связано с сознанием, с открытиями — non-computable processes. Или даже не processes, а event. Event — это что такое? Это значит унюхал, увидел, почувствовал — и это из области искусства. Я к тому, что наука и искусство не так разнесены, как на первый взгляд кажется, когда речь идет о высших проявлениях. Почему так интересно говорить с Юрием Цолаковичем, потому что этот учёный… Как вообще это может быть — открыть элемент? Это что? Это же божественное дело. Откуда он взялся вообще на вашу голову?
Вероника Зонабенд
А вот как это произошло? Это открытие?
Юрий Оганесян
Я пытаюсь сказать, что это не божественное, но полубожественное. Найдем какой-то компромисс.
project-image
Но мне кажется, что самое главное — это способность абстрактного мышления. То, про что мы говорим «дежавю, это же дежавю». Откуда? Это и есть типичный пример абстрактного мышления. Чем мы дальше развиваемся и идём вперёд, тем более мы мыслим абстрактно. И мы меняемся, и то, что нам нравится, меняется. И то, что чисто абстрактно — живопись, музыка — всё меняется. Это так сложно, что не надо упрощать. Вот тут не надо упрощать.
Вероника Зонабенд
Безусловно. Но всё равно — вы же помните, когда был этот вау-момент?
Татьяна Черниговская
Кстати, это термин — «вау-эффект», а по-русски — дурацкое слово, но тоже термин — «ага-эффект». Это когда не понимал, не понимал, ничего не выходит, я бездарь. Каждый серьёзный учёный это переживал много раз. Надо бросать, я не понимаю абсолютно — а потом тебя как ударит. Боже, это так просто, почему никто не понимает? А что вчера-то не было просто? Как это вышло? Поэтому очень интересно: как это у вас, собственно, получилось?
Юрий Оганесян
Интересно ещё то, что род человеческий с этого и начинался — с абстрактного мышления. Когда были разные группы людей, они ещё не были людьми в нашем понимании. Какие-то были сильные, какие-то слабые. Неандертальцы были сильнее, чем Homo sapiens. Они жили севернее, они переносили холод, были более рослые. Но они не мыслили абстрактно. А Homo sapiens стали мыслить абстрактно в тот момент, когда начали разговаривать друг с другом. И тогда, скажем так, очень грубо — так говорят писатели, не я — неандерталец говорил: «Не ходи туда, там лев, он тебя загрызёт». Они уже могли предупреждать друг друга. А Homo sapiens говорили: «Не ходи туда, там лев, но он такой красивый, у него такая борода, у него такие глаза, он так смотрит». Это моментально расходилось. Не то, что он может тебя загрызть, а то, что у него красивая борода и такие глаза. В конце концов, Homo sapiens пошёл вверх, а неандерталец вниз.
Наш мозг не только для того, чтобы обрабатывать информацию, которая приходит через глаза, уши, кожу, носы, через органы чувств. У нас сделан мозг, который творит миры. И эти миры обладают для нас не меньшей ценностью, чем физический мир
Татьяна Черниговская
Татьяна Черниговская
Да, но из этого тогда встает вопрос. У меня всегда вопросов в миллион раз больше, чем ответов, естественно.

Вопрос такой. Всё-таки я одной половиной лингвист, а другой нейрофизиолог, нейроучёный — так это теперь называется. В природе нет ни нравственности, ни морали, ни оценок. Природа жестока. Дарвиновская эволюция базируется на чём? Я не предполагаю сейчас лекцию читать, надо иметь в виду, что теория эволюции не одна. Но Дарвин что считает? Побеждает сильнейший, правильно? Вообще безнравственная позиция. Побеждает тот, у кого кулак. А теперь я спрашиваю: кулак или мозг? Или мозги? Побеждает тот, у кого мышцы большие или у кого мозгов больше? Я бы всё-таки предпочла второе. Хотя жизненных примеров мы видим мало.
Вероника Зонабенд
Давид всё-таки победил Голиафа.
Юрий Оганесян
Кто лучше абстрактно мыслил.
Вероника Зонабенд
Да. А скажите ещё: что такое ошибка и насколько она важна в процессе познания, открытий?
Татьяна Черниговская
Можно я скажу общие вещи? Но интересно слушать не меня, а Юрия Цолаковича. Почему я влезла, тем не менее. Шнитке, который, насколько я понимаю, не писал — я имею в виду, не писал тексты — но довольно много давал интервью. В одном из интервью он пишет, что для значительного открытия — неважно, это наука или музыка — должно быть что-то неправильное, должен быть сбой. И он приводит пример. Скажем, в раковину, в которой потенциально может возникнуть жемчужина, должен попасть песок. Она не должна быть стерильной. Если она как в операционной, ничего и не будет. Чтобы возникло серьёзное, должен быть сбой. Они говорят: божественная ошибка, я не знаю, почему я так сделал, что-то сорвалось. Поэтому это не единственная, но одна из немногочисленных дорог, на которой нам искусственный интеллект не конкурент.

Он может сымитировать ошибку. Это да. Дипфейк — вот его чёртова дорога. Он сделает вид, как будто переживает, как будто мучается. Сделает вид, каким трудом ему далась живопись. И как он сделал то, что сделал Малевич. Вот что такое «Чёрный квадрат»? Пусть Марина Лошак отвечает. Это отсутствие форм — или..? «Чёрный квадрат» — это либо никаких форм, либо — моя версия другая. Туда, как в чёрную дыру, загнали плотно-плотно все формы мира. Вот чем он является.
Юрий Оганесян
Продолжу вашу мысль.
project-image
Я просто призываю не путать ошибку с неудачей. Ошибка — это есть деяние наперекор установленному. Например, когда мы говорим о научной работе. Что такое научная работа? Я всегда объясняю так. Как человек ищет грибы в лесу? Он пошёл, не нашёл, вернулся назад. Пошёл в другое место, не нашёл, вернулся. Пошёл опять, опять вернулся. Если из ста таких походов вы нашли семь грибов — вы гений. Вот что такое гений. Это, вообще-то говоря, мучительная работа. Не каждый человек возьмёт на себя такое. Устроить себе такую жизнь значит в 93% случаев получать отрицательный результат. Можно в конце концов разувериться в самом себе, вы понимаете? Но все эти 93% — это же не ошибки, это поиски. Это неудача. Надо привыкнуть терпеть неудачи, эти удары судьбы, чтобы потом до чего-то докопаться. Ошибаться не надо, я точно уверен. Если что-то делаешь неправильно, не надо этого делать. Вот и всё.
Татьяна Черниговская
Гениальные вещи говорите. Можно я чуть-чуть добавлю? Я тоже образ грибов часто использую. Но только не галлюциногенных, прошу без провокации. Я имею в виду вот что. Если ты идешь в лес искать грибы, неплохо бы, чтобы ты знал, что такое грибы. Правда? Это к вопросу об определении. Потому что в противном случае ты в корзинку массу всего наберешь. Там будут и грибы. Но там будут ещё сучочки, листочки и много разных прекрасных вещей. Но в самых сложных областях науки у нас нет определений.

Поскольку я тоже из тех безумцев, которые занимаются проблемой сознания... А что такое сознание? Упаси Господь эту тему начать. Я просто для того, чтобы её тут же и закончить, сообщаю. Только теорий сознания сейчас — знаете, сколько их в мире? Сообщаю: двести. Двести теорий — это безумие. А что мы собираемся искать? Доходя до такой степени сложности, мы упираемся в то, что мы не знаем, что ищем. А выхода нет — от того, что я сейчас произнесу 200 этих определений, ситуация только ухудшится, она не улучшится. Поэтому что делать? В науке есть такие вещи, про которые мы не знаем, что это. И вот что вы скажете? Вы, в отличие от меня, гениальный учёный. Что с этим делать?
Юрий Оганесян
Узнаем когда-нибудь.
Татьяна Черниговская
Но если серьёзно, из этого следует, что мы можем продолжать исследовать те вещи, которые мы не определили. Правда ведь?
Вероника Зонабенд
То есть, по большому счёту, мы не знаем, что ищем? Пойди туда — не знаю куда.
Татьяна Черниговская
Да, но всё-таки не до такой степени безумия. Мы всё-таки не идём искать грибы в Мариинский театр. Я надеюсь не дожить до этого.
Юрий Оганесян
Ну, Татьяна Владимировна, мир богат и Бог милостив.
Татьяна Черниговская
Это да.
Вероника Зонабенд
А ещё есть аспект пропорции глубины и широты знания.
project-image
Всё-таки мы должны найти правильный баланс. Потому что, с одной стороны, специалист подобен флюсу — и тот, и другой односторонние. Но если ты начинаешь действовать очень широко — это, в общем, любительщина. Где этот баланс, какова глубина познания, накопленного опыта, нужных для открытия чего-то действительно нового?
Юрий Оганесян
Вероника, я не такой, но я обожаю профессионалов. Я могу простить всё, если человек — действительно профессионал и делает своё дело. Я любуюсь, как человек делает, будь он артист, механик или уборщик. Профессионала видно сразу. Поэтому не надо этому противопоставлять что-то. Пусть он будет более поверхностный — а за счёт чего? Если за счёт его профессионализма, то не надо. Я сторонник того, что не надо.
Вероника Зонабенд
Только что мы говорили про широту кругозора, которая важна.
Юрий Оганесян
Если ты можешь помочь кругозору без ущерба для своей профессии, это замечательно.
Татьяна Черниговская
Кстати, сейчас этот вопрос очень важный, поскольку образование меняется, и мы должны готовить людей, которые имеют знания и в биологии, и в лингвистике, и в психологии, и в математике, и так далее. Но последнее, чего мы хотим, — это выпускать дилетантов. Вот это я ненавижу. Кто-нибудь хочет лечиться у зубного врача, который кое-что где-то там почитал? Мы не хотим такого. А что теперь с этим делать? На этот вопрос ответа, между прочим, нет. Потому что вы не можете держать человека в университете 15 лет, учить этому, а потом вот этому. Значит, надо как-то выбрать, но человечество об этом не договорилось. Но в серьёзных университетах все осознают эту опасность. С одной стороны, нужен кругозор. А с другой стороны — за счёт чего, какой ценой? Но если бы у меня был выбор, я бы, конечно, ответила как Юрий Цолакович — только профессионал.
Вероника Зонабенд
Понятно. Интересно.
Татьяна Черниговская
И в голосе у неё была печаль.
Вероника Зонабенд
Да, потому что на самом деле непонятно, где граница — человек профессионал или любитель?
Юрий Оганесян
Каждый для себя находит. Она всегда находится.
Татьяна Черниговская
Хорошо, Юрий Цолакович только что же сделал живописную выставку? Вот пример. Меня волнует судьба Эйнштейна, горемыки. Он же играл на скрипке. Вообще я сделала две крупных ошибки. Первая. Я не сама это придумала, но я много раз читала, что Эйнштейн играл на скрипке чудовищно. Что лучше бы он вообще в руки не брал и оставил всех в покое.
Юрий Оганесян
Это правда.
Надо привыкнуть терпеть неудачи, эти удары судьбы, чтобы потом до чего-то докопаться. Ошибаться не надо, я точно уверен. Если что-то делаешь неправильно, не надо этого делать
Юрий Оганесян
Татьяна Черниговская
И тут Владимир Теодорович Спиваков, которому есть основания доверять и с которым мы дружим, мне сказал: «А вы это вообще с чего взяли? У меня есть запись». Я спрашиваю: «Что у вас есть?» — «Запись. Играет он, кстати, на Страдивари».

Вот тут был мой страшный позор. Я сказала: «Откуда вы знаете, на чём он играет?» Он посмотрел на меня с глубоким сожалением. «Вообще, я слышу», — он сказал.

Вторая ошибка, которую я сделала. Я считала — опять же, напрасно считала. Почему надо всё проверять? Берём не Пенроуза, а Эшера с его невозможными пространствами. И я так довольна, я об этом публично говорила, студентам говорила, что я теперь знаю, откуда Эшер всё это взял — он был другом семьи Пенроузов, они его обучили этому делу. И показываю картинку, которую нарисовал старший Пенроуз, отец. Вот эта лестница, которая одновременно ведет и вниз, и вверх. Только что в этой книге, с которой я провела несколько дней на диване, читаю: это Эшер умудрился найти. Это не влияние Пенроузов, что было бы объяснимо. Как он смог справиться с этими пространствами?
project-image
У него несколько картин, где эта невероятная геометрия, так не бывает. Это к вопросу о том, как роскошно художники унюхивают даже такие невероятные вещи. И ещё, наконец, про Эйнштейна. Оказывается, что он играл в квартете, и один из квартета был Макс Ньюман, если я не ошибаюсь, физик, который играл на рояле, а Эйнштейн играл на скрипке. Его все ругали, говорили: до четырёх сосчитать не может, не может в такт попасть. А ещё говорит про пространство и время. До четырёх ты можешь сосчитать? Короче говоря, действительно крупные мыслители были не ущербны и в других вещах.
Юрий Оганесян
Нет, это правильно. Мне кажется, почему художник стал художником, музыкант стал музыкантом — почему так случилось? Люди свои органы чувствуют: парфюмер хорошо чувствует запах, художник имеет глаза — он видит то, что другие не видят. То есть у одного обострено зрение, у другого обострён слух, у третьего обострён мозг, предположим.
Татьяна Черниговская
И на меня показывает.
Юрий Оганесян
Запах, как у Зюскинда в «Парфюмере», да, помните? Он вообще только по запаху жил. Вот так это получается. В этом смысле это люди исключительные, конечно. Это не средние люди. Моя жена была музыкантом, скрипачкой. У неё был абсолютный слух. Она слышала то, что другие не слышали. Но надо действительно иметь дарование. Не надо требовать, чтобы человек хорошо на скрипке играл, если у него дарование другое. Важно дарование.
Вероника Зонабенд
Дарование, с которым мы рождаемся, и ещё…
Татьяна Черниговская
И попасть в хорошие руки. На грядку, на которой прорастёт.
Вероника Зонабенд
В связи с тем, врожденное дарование или приобретённое? Эмоциональный интеллект, социальный интеллект — то, что вроде бы было преимуществом человека, а искусственный интеллект этого не умел. Но на нашей предыдущей встрече Герман Греф сказал, что на самом деле это уже есть и у искусственного интеллекта.
Татьяна Черниговская
Страшное дело. Страшное в этом — скорость, с которой эти навыки у того, что мы называем искусственным интеллектом, появляются. Огромная скорость. Вы справедливо говорили, что речь идёт о слабом и о сильном искусственном интеллекте.
project-image
project-image
Сильный искусственный интеллект — пусть меня извинят профессионалы, которые здесь есть — это интеллект, равный человеческому или больше него. Вот о чём речь идёт. И если лет 20 назад говорили: ой, бросьте панику, ещё лет 50 ничего не будет. Потом стали говорить: через 20 лет, через 10, через 5. А сейчас знаете, что говорят? В этом году. Это говорят не домохозяйки, а специалисты. Огромная скорость этого движения. Он умеет все больше и больше. Они распознают эмоции — чего раньше не умели. Они читают лица... Я бывший фонетист и чутко к звуку отношусь. Они прекрасно разбирают интонации — эмоциональные и синтаксические. Они научились работать на полную катушку. Но хуже другое — они их хорошо имитируют. Понимаете, он будет врач-псевдоврач. Не дай бог у него лечиться. Он будет так сопереживать, как никто. Просто брат родной. Отец и мать. Рыдать будет, как он вам сочувствует. Но это липа.

Дописана симфония Бетховена. Если не секрет, зачем? Если это игрушки и мы просто играем, тогда можно в разные игры играть. А зачем её дописывать? Я спрашивала искусствоведов, например, Викторию Эммануиловну Маркову: если перед вами будут лежать две картины — одна, допустим, Караваджо (она нежно любит Караваджо), а другая — гениальная копия, — как вы определите, где оригинал, а где подделка? Только я вам ставлю условие — никаких инструментов. Ультрафиолет, анализ, как сплетён холст, из чего сплетён, анализ красок — всё это мы запрещаем. Ни рентгена, ничего. Глаза. Я говорю: «Определите?» Она говорит: «Определю». Я говорю: «Почему?» Вот дальше фраза, важная для всех специальностей. «Так я ж вижу». «Я же вижу». Насмотренность, у нашего племени есть насмотренность, наслушанность. Это то, что не ложится в алгоритмы, этого нет в учебниках, это опыт. Я же вижу, что говорят старые диагносты, гениальные врачи. Почему же мы не идём лечиться к искусственному интеллекту?

Он знает столько, сколько ни один врач не может знать. А мы как? Лично я сплетни собираю. Есть такой Сидор Сидорович или Абрам Иосифович. Чёрт его знает, как он ставит диагнозы, но это верное дело, он знает. Практически все эксперты высокого ранга отвечают: «Откуда же я знаю, как я это делаю? Я просто это вижу». Или: «Я просто это слышу». Или по запаху, по походке. Это всё не алгоритмы, это то, чего нет в учебниках. И это то, что делает искусство. Я всё своё гну — разница между этими мирами не такая большая, как мы привыкли думать.
Вероника Зонабенд
Последний вопрос от меня, потом, я думаю, будет много вопросов из зала. Тогда чем люди будут заниматься в будущем, чему надо учить детей? Какие навыки, знания нужно приобретать?
Татьяна Черниговская
Чему учить? Водить всё время в музеи. Приучить — причём именно приучить — слушать сложную музыку, смотреть сложные фильмы. Не есть чупа-чупс вместо того, чтобы делать серьёзные вещи. Другой вопрос: где вы наберёте такое количество учителей, если не секрет?
1
Евгения Романовская (вопрос из зала)
Здравствуйте. Спасибо большое за эту встречу. Мы говорили всё время как раз про non-computable event. Как будто это было лейтмотивом всей встречи. И параллельно говорили в конце, что искусственный интеллект настолько быстро развивается, что всё происходит на молниеносных скоростях. А не случилось ли уже, что этот non-computable event уже там есть? Что настолько быстро происходит эта насмотренность и самообучение, что как будто бы самое страшное — что ничто не отличает наш интеллект и искусственный — уже могло произойти? Потому что кажется, что даже учёные уже плохо понимают, что там происходит.
Татьяна Черниговская
Если можно, я отвечу. Вероника вспомнила, как здесь беседовали Александр Асмолов, Герман Греф и еще, кажется, Эльвира Набиуллина. И я могла бы помолчать, но вылезла. И я задала вопрос Грефу, я его сейчас произнесу, а ответ был противоположен тому, который я ждала именно от Германа.

Мой вопрос был такой. А что мы будем делать, если системы искусственного интеллекта перейдут на какой-то другой тип логики, которого мы не знаем? Логик человеческих-то целый ряд, да? А это будет какая-то такая, про которую мы не знаем вообще ничего. Я была уверена, что Герман Оскарович скажет мне то, что он обычно мне говорит. У нас с ним хорошие отношения. Он скажет: «Прекратите свой алармизм, всё в порядке, спасибо зарядке». А он мне на это говорит: «Вы, Татьяна Владимировна, опоздали. Это уже произошло». Это Герман сказал. Как это произошло? Это значит, что мы утратили контроль? Если мы не понимаем, что эта зараза делает, что это значит? Что это такое тогда? Это мой ответ.

Не я тот человек, кто должен отвечать, а разработчики. У меня есть один — я его не буду называть — один из разработчиков, в Силиконовой долине сидит. И он мне вдруг какое-то время назад прислал письмо: «I'm nervous». Я говорю: «А что это вы nervous?» Потому что сетка, которую они создают, которая у них в домашнем кругу носит название Morpheus — незамысловато, но на рынок выйдет с другим — стала проявлять черты, как он говорит, self-awareness. Self-awareness? Самосознание? Это значит, что она личность, что у неё свои планы и задачи, а мы ничего не понимаем. Это что вообще такое? Я не хочу никого пугать, но такая опасность на самом деле есть. Не я тот человек, который может об этом говорить — это точно.
Артём Оганов (вопрос из зала)
Спасибо огромное за потрясающую беседу и, в особенности, за юмор. У меня один маленький комментарий и один коротенький вопрос каждому из вас. Первое. Маленький комментарий. Я единственный, кто это заметил, или другие тоже заметили, что беседа про место науки в будущем почти целиком свелась к обсуждению искусственного интеллекта? Что подчеркивает, на мой взгляд, насколько это важная тема, насколько она всех волнует.

И два коротких вопроса. Юрий Цолакович, вы рассказывали, что в детстве мечтали стать художником-архитектором, но папа запретил, и вы стали физиком. Вы также сказали, что художники создают абсолютную ценность, а учёные открывают относительную ценность. Вы не жалеете, что стали физиком? А Татьяне Владимировне вот какой вопрос. Я всё-таки запутался и не понял. Эйнштейн плохо играл на скрипке, чем всех доставал? Или блестяще играл на Страдивари?
Татьяна Черниговская
Всё-таки мне надо больше молчать. Я всё время нарываюсь на такое.

Нет, я сама не слышала. Но из того, что писали многие, следует: играл он чудовищно. И я думала: если он так чудовищно играет, на кой чёрт он это делает? И моя версия, серьёзная версия, была в том, что он переводит мозг в другой режим работы. Но Владимир Спиваков, которому я доверяю, говорит, что играл он вполне прилично. Поэтому... Он не попадал все время. Ему говорили: великий учёный до четырёх не может сосчитать. Выходит, что плохо. Это, кстати, я читала несколько раз «couldn't keep pace with the times». Он всё время то отставал, то опережал. Не мог держать ритм, я бы сказала.
Юрий Оганесян
Я уже говорил, что я бы не стал этого требовать от Эйнштейна. Понимаете, падаем в другое. То, что я называю абстрактным, духовным. Вы хотите обязательно приземлить к чему-то, чтобы можно было покрутить, получить энергию или ещё что-то. Послушайте, если есть что-то, и мы этого не знаем, то рано или поздно мы узнаем. Так устроен человек. И это наша специальность. Мы сами пошли на это.
Татьяна Черниговская
Как я завидую этим физикам и математикам.
Юрий Оганесян
А другой человек не хочет этого, он хочет другого. Он по-другому мыслит. Это совершенно другое мышление. То, что я называю духовным мышлением. И мы говорим: люди гуманитарного склада ума вот так мыслят и так создают свои абстракции. А потом, когда эти абстракции вылезают, мы говорим: да нет, это, в общем-то, не абстракция. То есть он пришёл к красоте мира через абстракцию. Понимаете? Это очень сложно, но очень красиво, я бы сказал.
Татьяна Черниговская
О, вот оно началось. «Очень красиво». Пенроуз, на котором я тронулась умом на некоторое время, говорил «unexpected simplicity». Вот тут меня вообще качнуло. Неожиданная простота. Когда учёные такого класса как Пенроуз и Юрий Цолакович делают этот шаг, они вдруг упираются сквозь невероятную сложность в простую, но абсолютно совершенную красоту. Вот оно. Был раньше арифмометр. Кто постарше — помнит. Моя страсть была. «Феликс» его звали. Вот такая машина, крутишь ручку как у мясорубки. Он ещё весь был инкрустированный, непростой. И ты крутишь, а он считает. Так вот это не учёные. Учёные не крутят — они другие шаги делают. И тогда им открывается эта немыслимая красота, которая оказывается простой. Но для того, чтобы до этой простоты дойти, какой путь идут эти люди!
Илья Клебанов (вопрос из зала)
У меня не будет вопроса, спокойно. Спасибо огромное госпоже Черниговской и господину Оганесяну за эту блестящую беседу, которая чётко показала, что мы, видимо, уже лишены права думать о месте науки в будущем. Похоже, это уже произошло. И они очень талантливо нам это показали. Похоже, мы подошли к той черте, когда человек уже, скорее всего, не может определять то самое будущее — в том числе будущее науки, о котором мы сегодня слушали. Спасибо вам. Но это не вопрос. У вас был совершенно потрясающий пример — Homo sapiens и неандертальцы. Мы уже находимся в этой ситуации? Мы — те самые неандертальцы?
Татьяна Черниговская
Да. Мой ответ — да. И это не шутка.
Илья Клебанов
Всё, я вот это хотел услышать. Спасибо вам огромное.
Татьяна Черниговская
Вам смешно, а нам, можно сказать, горько. Потому что я уже стала думать: ну хорошо, мы даже сколько-то лет назад получили грамоту от Президиума Академии Наук за дискуссию по поводу того, закончена эволюция человека или нет. Переругались тогда в пух и прах, но грамоту дали всем.

Нет, подождите, нам никто не обещал. Мы — венец творения вот на этом кусочке. Никто не обещал, что дальше ничего не будет. А может быть, подумала я недавно, Господь так придумал? Дал нам такой мозг — хороший, между прочим — чтобы мы сами придумали себе «продолжение»? Ведь киборг — это же реальная вещь, правильно? Коленку заменили, тазобедренный заменили, печень заменили, лёгкие заменили, сердце заменили, глаз заменили, чип вставили, в ухо тоже всё, что надо, вставили. И всё ещё люди? А можно я задам вопрос? Юрий Цолакович, скажите, искусственный интеллект может сделать открытие? Не технического сорта?
Юрий Оганесян
Не знаю. Когда я беседовал с ними, мы все пришли к выводу, что нет.
Татьяна Черниговская
Я надеюсь. Это значит, будущее есть.
Марина Лошак (вопрос из зала)
Можно я пару слов скажу? Во-первых, я бы хотела вступиться за дилетантов. Я люблю дилетантов, я не люблю профессионалов. Мне кажется, что именно среди дилетантов наша надежда в мире будущего, о котором мы говорим, — связанного с совершенным искусственным интеллектом, то есть с логикой прежде всего.
project-image
project-image
Во-первых, если говорить про искусство, то самые главные прорывы сделаны дилетантами. Теми, кто вне академических правил пошёл совершенно по другому пути, совершив ту самую логическую ошибку, совершив какой-то алогичный шаг. Люди, абсолютно расслабленные внутренне, без желания получить пятёрку, потому что существуют определённые правила. В этот момент они совершенно свободны внутри, и именно тогда к ним приходит нечто. Я могу привести миллион таких примеров.

В мире есть несколько существенных, очень важных кураторов в области искусства, которые время от времени собираются и обмениваются пониманием того, каковы сегодня с точки зрения морали и этики главные тренды, связанные с миром искусства. Очень важно это понимать. Замечательный куратор, многие его знают, мы делали с ним немало выставок — Жан-Юбер Мартен. Он совершил невероятный прорыв, сделал выставку «Маги Земли», которая перевернула сознание людей следующим образом. Он соединил самых главных профессионалов и шедевры с великим анонимным искусством Африки, Азии и показал произведения тех художников, у которых нет имени, просто потому что это было не принято. И, собственно, мир искусства и мир зрителей увидел, что это равноценные вещи, что аноним так же ценен, как великий профессионал, имя которого мы знаем.

Поэтому я думаю, что здесь есть надежда. Потому что наш условный будущий искусственный интеллект всё-таки старается не совершать непрограммируемые ошибки, которые вне логики, а внутри наших чувств и нашего сознания. И это на самом деле самое главное.
Вероника Зонабенд
Спасибо, Марина.
Татьяна Черниговская
Хотела молчать, но не выходит. Дело в том, что в мозгу есть разные режимы работы. Один из этих режимов называется дефолт. Про это состояние говорят, что мозг как бы ничем не занят. Это самое ценное состояние для творчества. Те, кто в этом разбирается, пишут: оставьте мозг в покое. Let it wonder where it wants. Вот прямо так и пишут. Пускай о чём хочет, о том и думает — о барышнях, о чём угодно. Именно на этой дороге он выйдет на крупный шаг. А не оттого, что будет перебирать правила. Искусственный интеллект это сделает несопоставимо с нами. И по скоростям, и по объёмам. Только это не нужно. Это не прорыв.
Юрия Оганесян
Добавлю ещё. Ты начинаешь что-то делать, а потом видишь, что пошло не туда. То есть не видишь, а чувствуешь. Ну как же: делал эксперимент, но не укладывается и всё. И в этот момент ты теряешь покой. Вот это очень важно. Теряешь покой и каждый раз опять возвращаешься, возвращаешься, возвращаешься… И в конце концов ты говоришь: «А эксперимент-то был сделан неправильно, всё сначала». А художник — не так? Берёт и смажет всю картину, а потом на ней рисует новую. Иногда по пять раз. Это и есть творчество. И в этом смысле оно одинаково по натуре человека. Жизнь его коротка, несоизмерима со Вселенной — ей 13,7 миллиарда лет. Но вот это чувство…Не очень понятно, как это может сделать искусственный интеллект. Это невозможно, это на уровне интуиции.
Татьяна Черниговская
Надеюсь, что никак. Я только боюсь, что он будет имитировать. Будет делать вид, что он может.

И что мы считаем интеллектом? Этих интеллектов целый список. Интеллект — это не только умение считать. Это не computation.
Юрий Оганесян
Конечно, не только играть в шахматы.
Татьяна Черниговская
Нет, конечно. Меня интересует, как эта зараза, искусственный интеллект, обыграл четырех лучших игроков в покер. Ещё с го я как-то готова терпеть, но покер? Это poker face, правильно? Блеф. Как это может быть? Но он обыграл. Это значит, он может делать что-то, чего мы не понимаем.
Юрий Оганесян
Пока он может делать только то, чему мы его обучили.
Татьяна Черниговская
Это пока. Теперь он сам обучается — и мы не знаем как.
Юрий Оганесян
А вы хотите сказать: не обучайте его? Да?
Вероника Зонабенд
Хочу всех поблагодарить. Сегодня у нас была третья встреча нашего совместного проекта с телеканалом Кино ТВ «Диалоги о будущем». Мы пытались говорить о будущем науки — и поняли, что наука, творчество, искусство очень связаны. Человеку в первую очередь дана возможность творить. И о том, что мы сами себя мало знаем. Мы мало знаем, что мы на самом деле можем и умеем, почему делаем какие-то вещи, какие открытия совершаем. Не знаем ни механизма, почему это происходит, ни того, как это происходит. Но, может быть, и слава Богу. У нас остаётся много возможностей для познания. И наша следующая встреча в рамках этих диалогов будет посвящена творчеству. Спасибо большое, что были с нами.
«Место науки в будущем» | Диалог Татьяны Черниговской и Юрия Оганесяна
/9