Ученые научили робота сомневаться

Искусственный интеллект сегодня настолько стремительно умнеет, что поражает даже самих создателей таких систем. Он ставит диагнозы лучше врачей, разрабатывает принципиально новые лекарства, анализируя социальные сети, предсказывает самоубийства и т.д. Но самые громкие его достижения, конечно, разгром чемпиона мира в древнюю игру го и асов в покер. Машина продемонстрировала не только умение блефовать, но и поразительную интуицию. В отличие от шахмат, где все решает способность просчитывать на максимальное количество ходов вперед, в го в принципе невозможно перебрать все варианты. Каждый ход имеет 200 вариантов, а всего их больше, чем атомов во Вселенной. Даже чеимпионы не могут однозначно оценить позицию, настолько все неопределенно. Но программисты сумели научить этому машину. Теперь она способна не просто считать ходы, а постоянно оценивать позицию и искать лучшие продолжения. Все это дало повод создателям таких систем заявлять, что они уже думают, как человек.

Словом, homo sapiens повержен безжалостной и совершенной техникой, им же порожденной. Поэтому неожиданным выглядит совместный проект международного научного коллектива, куда входят ученые Саратовского государственного технического университета им. Гагарина и Центра биомедицинских технологий Технического университета Мадрида. Говоря образно, они немного очеловечили машину, научив ее сомневаться.

Как это удалось? Как известно, в основе современных систем искусственного интеллекта лежат нейронные сети - аналог нейронных сетей мозга. Естественно, вначале ученым надо было понять, а что происходит в нашем мозге, когда он колеблется, выбирая между несколькими непростыми вариантами. Для этого группе добровольцев предложили серию разных по сложности задач, а поиск решения фиксировался на магнитоэнцефалограммах. Постепенно удалось выделить сигналы, которые фиксировались при решении простых однозначных задач. Именно они и стали школой для дальнейшего обучения искусственного интеллекта. На них он постепенно научился почти мгновенно распознавать в магнитоэнцефалограммах различные простые изображения.

А затем началась более серьезная работа: машине предъявили сигналы, которые появились в мозге, когда добровольцам показали сложные, неоднозначные рисунки. Как же она себя повела? По словам авторов проекта, искусственный интеллект начал "метаться" между вариантами ответов. Многократно переключать отклик.

Из этого исследования можно сделать два вывода. Во-первых, теперь с помощью искусственного интеллекта можно по магнитоэнцефалограммам отслеживать состояния, когда человек сомневается в выборе. Во-вторых, создать такие системы искусственного интеллекта, которые в сложных ситуациях не будут принимать однозначное решение, нередко неверное, а остановятся, постараются накопить дополнительную информацию, а если и она не поможет, то вообще "замереть". Действовать по принципу - не навреди. Как говорится, лучше семь раз отмерить, и один раз отрезать. В качестве примера авторы приводят ситуацию, когда марсоход, сомневаясь в выборе решения, запрашивает оператора на Земле, а сам останавливается, ожидая решения.

Поиск таких состояний эффективен также для тестирования и тренировки человека, когда надо быстро принимать решения в стрессовых ситуациях. Это важно для многих профессий: пилотов, водителей, спасателей, военных