Академик Анохин: Современный искусственный интеллект - это "черный ящик"
Константин Владимирович, сегодня даже политики говорят: кто будет лидером в области искусственного интеллекта (ИИ), тот будет править миром. И он уже творит удивительные вещи. Мало того что пишет картины и музыку, распознает образы, лучше человека ставит диагнозы, так еще обыгрывает его в покер и го, демонстрируя не просто фантастическое быстродействие и способность оценивать огромное число вариантов, но и интуицию. А это уже серьезный скачок к разуму. Ваш проект и дальше будет усовершенствовать такие системы? А может он перейти какую-то критическую черту и обрести разум?
Константин Анохин: Нет, мы не намерены оптимизировать уже существующие системы ИИ и обыгрывать чемпионов. Цель другая. Нас интересует прорыв в фундаментальном знании. Мы хотим понять, как мозг кодирует когнитивную информацию и как это можно использовать в следующем поколении ИИ.
Но ученые, утверждают, что хотя уже удалось картировать практически все его зоны, это не приблизило науку к разгадке, как же он работает.
Константин Анохин: Мы в проекте планируем другое. Открывший двойную спираль ДНК нобелевский лауреат Фрэнсис Крик сказал как-то соавтору этого великого открытия Джеймсу Уотсону: "Нам так и не удалось пока найти двойную спираль мозга". Он имел в виду, что нам еще не удалось расшифровать когнитивный код мозга. Как в его клетках кодируется информация когнитивного уровня - наши мысли, наши намерения, наши знания? Вот мы с вами разговариваем, мой мозг ее генерирует, ваш принимает. Но где и как в мозге рождается эта информация? Как она хранится в нейронных сетях и как извлекается? Это и есть то, что мы будем исследовать в проекте.
А наука имеет такие инструменты?
Константин Анохин: Да, уже есть подходы, разработанные за последние десятилетия. Скажем, мозгу надо запомнить новую информацию. Оказывается, для этого в его нервных клетках включается особая молекулярная реакция. Принципиально важно, что этот механизм универсальный, он работает во всех нервных клетках, которые участвуют в запоминании новой информации. И мы уже можем увидеть в мозге животных, как новая информация "вспыхивает". Засечь все клетки, в которых это происходит. Таким образом можно измерить, сколько бит новой информации получил мозг. Но этого мало. Уже есть математические методы, которые позволяют совершить обратный трюк: только по мозговой карте нейронов, которые "загораются" в мозге при работе с новой информацией, примерно сказать, а что это была за информация.
Вы рассказываете удивительные вещи. А можно немного подробнее рассказать, что позволяет заглянуть в мозг, увидеть наглядно, как он работает с информацией? Как в нем рождаются мысль, чувство, намерение?
Константин Анохин: Это сложные инструменты оптики, лазерной физики, фотоники, которые работают совместно с методами генетической инженерии. Например, нам удалось сделать мозг мыши, сгенерировавший новую информацию, в прямом смысла прозрачным, поместив его в специальный раствор, имеющий тот же коэффициент преломления, как клеточная мембрана и некоторые белки. И это позволяет увидеть весь нейронный след новой информации, задать мозгу вопросы, где, когда, при каких условиях она в нем возникает. Как она попадает в те или иные клетки? Почему, когда мышь увидела кошку, информация попадет именно в эти клетки, а не в соседние? И наконец, как мозг ее запоминает, хранит и извлекает?
А для этого надо знать, как она кодируется, о чем и говорил Крик?
Константин Анохин: Совершенно верно. Это одна часть проекта. Вторая - надо перенести эти принципы кодирования, принципы работы биологического мозга в искусственный интеллект. И прежде всего увидеть, а как же он сам работает. Сделать его тоже прозрачным.
А разве непонятно? Это же не некое тело, как мозг, а программа, которая имитирует работу нейронных сетей мозга. Какая в программе может быть "мутность"? Ее учат на примерах, натаскивают на разные задачи, а потом выпускают в мир, чтобы уже сама решала подобные.
Константин Анохин: Вы правы, кроме одного: на самом деле современный ИИ - это "черный ящик". Мы знаем, что на его входе есть задача, а на выходе - решение. А что происходит внутри, в десятках и сотнях скрытых слоев искусственной нейронной сети - пока мало понятно. Та же проблема, что стояла перед исследователями мозга.
А зачем это знать? Щелкает задачи, которые человеку не под силу, и прекрасно.
Константин Анохин: Дело в том, что системы ИИ становятся все сложнее, в них миллионы искусственных нейронов. Они начинают вести себя все более непредсказуемо, делать что-то свое, не предусмотренное нами, выдавать дикие, на взгляд человека, ошибки, а мы не понимаем, в чем дело. Можно ли такому ИИ доверять решение ответственных задач, если неизвестно, куда его заведет? Чтобы снизить эти риски, и нужно сделать "мозг" ИИ таким же прозрачным, как биологический.
А следующим шагом мог бы стать перенос принципов кодирования мозгом когнитивной информации в искусственный интеллект. С этим связан третий блок проекта. Чтобы следующие поколения ИИ были более похожи на естественный мозг, они должны строиться и на принципиально новой элементной базе, из "кирпичиков", похожих на нейронные сети мозга. Как и нейроны в мозге, генерировать в ИИ импульсы, с их помощью общаться друг с другом и т.д.
Сегодня многие лаборатории в мире идут таким же путем, хотят повторить природу, создавая искусственные нейроны и синапсы. А затем с их помощью конструировать отдельные элементы мозга.
Константин Анохин: Мы знаем эти работы, но в нашем проекте мы пошли иным путем. Мы будем пробовать экспериментировать с искусственными нейронами, которые работают на принципах фотоники, используя свет. Это принципиально иная технология, которая только зарождается в последние два-три года. Оказалось, что с помощью таких оптических элементов можно создать нейроноподобные устройства, которые обладают долговременной памятью и способны к ассоциативному обучению.
А что изменится в компьютерном мире и информационных технологий с появлением таких новых систем ИИ?
Константин Анохин: Классические компьютерные системы, составлявшие на протяжении более 60 лет основу информационных технологий, приближаются к пределам по скорости обработки данных, энергопотребления, надежности и программируемости. Требуются принципиально новые решения. Мы считаем, что как и во все предыдущие времена, технологии ИИ вновь обратятся за новыми принципами к головному мозгу. Это лучшее из существующих сегодня интеллектуальных устройств. Даже небольшая доля его возможностей, воплощенная в информационных технологиях, способна коренным образом трансформировать промышленность, общество и экономику.
Уже первая задача рассчитанного на три года проекта сама по себе грандиозна. Понять, как мозг кодирует информацию! Над этим наука бьется десятилетия, тратятся миллиарды долларов, но пока мозгу удается хранить свои тайны.
Константин Анохин: Понимаю, что вы имеете в виду. Конечно, и эта задача, как и создание ИИ на основе принципов работы биологического мозга, не на три года. К ней надо двигаться пошагово. Сколько таких шагов нам предстоит сделать? Я считаю, что сделать важный шаг в разгадке ключевых принципов когнитивного кода вполне реально в ближайшей перспективе.
А не может из вашей "колбы" родиться искусственный разум, которого так боялся Стивен Хокинг, опасаются другие ученые? Тот разум из фантастических романов, который выйдет из-под контроля человека и будет по своему разумению править миром. Где человеку уже и места может не оказаться.
Константин Анохин: Можно сказать однозначно, что у нынешних систем ИИ никакого разума нет. Ни одна из даже самых передовых систем не знает о своем собственном существовании, у нее нет "Я". Приблизит ли наш проект искусственный разум? Не могу исключить этого в далекой перспективе.
Уже страшно...
Константин Анохин: Вопрос в том, а какова альтернатива? Отказаться от исследования? Не стремиться понять, как устроен мозг? Но он всегда манил, и не только ученых. А сегодня с появлением современных методов такая цель становится особенно заманчивой. В эту гонку включаются все новые группы по всему миру, вкладываются миллиарды и миллиарды долларов. Убежден, что тайна когнитивного кода будет наукой разгадана. Если от этой задачи откажемся мы, ее все равно решат другие. Скорее всего, человечеству просто придется выстраивать в связи с этим новые системы безопасности. Как было, например, с ядерным и химическим оружием.
Кстати, чтобы исключить аварии на АЭС, созданы системы встроенной безопасности.
Константин Анохин: Что-то подобное должно быть встроено и в системы искусственного разума, если он будет, конечно, создан.
В консорциум проекта входят МГУ имени М.В. Ломоносова (головная организация), Институт высшей нервной деятельности и нейрофизиологии РАН, Институт вычислительной математики им. Г.И. Марчука РАН. Всего в работах будут участвовать 73 ученых, среди них 18 ученых в возрасте до 39 лет, а также 5 аспирантов, 4 студента. Средний возраст участников проекта - 41 год. Среди исполнителей такие признанные в мировом сообществе ученые, как Борис Семенович Лукьянчук, Григорий Николаевич Ениколопов, Максим Алексеевич Волгушев, Леонид Леонидович Мороз.