Почему роботов предложили приравнять к источникам повышенной опасности

Роботов и системы искусственного интеллекта предлагается приравнять к источникам повышенной опасности. Это значит, что владельцы "умных систем" будут отвечать за вред, причиненный машинами по глупости.

С подобными предложениями выступила рабочая группа программы "Цифровая экономика Российской Федерации", которая провела масштабное исследование, какими должны быть законы для роботов и искусственного интеллекта.

"Это большое исследование является первым шагом на пути к регулированию робототехники и технологий искусственного интеллекта, - сказал "РГ" глава проекта, руководитель Исследовательского центра проблем регулирования робототехники и искусственного интеллекта АНО "Робоправо" Андрей Незнамов. - В мире есть считаные аналоги таких работ. Мы рассмотрели огромное количество различных правовых и регуляторных мер. При этом составили уникальный регуляторный ландшафт - вся первая часть исследования посвящена обзору зарубежного опыта".

В исследовании даются предложения, как относиться к роботам и искусственному интеллекту с юридической точки зрения. Рекомендации логичны. Роботу не нужно отдельных гражданских прав, нынешние технологии до этого, конечно, не доросли и вряд ли дорастут. Не стоит забывать, что "Терминатор" - не научная фантастика, а скорее сказка. Потому робот, конечно же, не сможет отвечать за свои действия, нельзя делать из него стрелочника.

Если машина причинила вред, надо искать человека. Кому отвечать - зависит от причин. Например, если случился сбой программы, держать ответ программисту. Если робот выполнял конкретные команды, отвечать будет оператор. Если робот самообучаемый, то тот, кто из людей больше всех повлиял на его обучение, тот и виноват.

Кроме того, предлагается разработать правовые правила робототехники, вплоть до требований к датчикам. Например, оговаривается, что при разработке должна быть предусмотрена возможность контролирования действий робота со стороны человека. Кроме того, у роботов должны быть черные ящики и красные кнопки "выкл.", чтобы можно было моментально отключить в любой момент.

Создание, внедрение и использование роботов должны осуществляться при условии максимального обеспечения безопасности человека, общества и государства, а также непричинения вреда человеку, человечеству, живым существам и всей их среде обитания. При этом при создании роботов цель обеспечения безопасности человека должна всегда превалировать над всеми иными целями и задачами. "Мы отчетливо понимаем, что создание в России передовой нормативно-правовой базы является первостепенной целью перехода к цифровой экономике, и опираться здесь стоит в первую очередь на уже имеющийся опыт", - говорит руководитель российской практики в области ИС, ИТ и телекоммуникаций международной компании Виктор Наумов.

Кошелек

Беспилотный автомобиль застрахуют через депозит нотариуса

В следующем году в Москве и Татарстане начнется эксперимент по выводу на дорогу беспилотных автомобилей.

В самостоятельное плавание, естественно, такие машины никто пока отпускать не планирует. Автомобили будут управляться автоматически, но со страхующим водителем в салоне. Планируется тестировать беспилотные лимузины около трех лет.

Доступ к пилотному проекту смогут получить только компании с уставным капиталом не менее 100 миллионов рублей. При этом каждую машину необходимо будет застраховать на 10 миллионов. Деньги владелец автомобиля сможет внести на депозитный счет нотариуса, где они будут заблокированы и выплачены пострадавшим в случае аварии.

"Депозит нотариуса является надежным, безопасным и эффективным инструментом для финансовых расчетов, - рассказывают в Федеральной нотариальной палате. - И не только в случае со страхованием авто. Он незаменим, когда вам необходимо внести платеж, чтобы исполнить свои обязательства по кредиту, а некуда - банк обанкротился. Платить в этом случае все равно необходимо - проценты за просрочку никто не отменял, но если требуемая сумма будет внесена в депозит нотариуса, обязательство считается исполненным".

Подробности

Дроны запретят детям

Эксперты рабочей группы программы "Цифровая экономика" не исключают, что могут быть введены возрастные ограничения на владение роботами. А некоторые дроны предлагается регистрировать.

Рекомендации по дальнейшему развитию правового регулирования в сфере робототехники и технологий искусственного интеллекта разбиты на несколько блоков: что надо сделать в ближайшее время, что - в среднесрочной перспективе (от года до пяти лет), что надо планировать на будущее, лет через пять. Например, в среднесрочной перспективе надо приступать к пакетным изменениям, направленным на регулирование отдельных категорий роботов, в зависимости от уровня фактического технического развития: роботов-курьеров, регулирование технологий искусственного интеллекта в финансовой сфере; регулирование технологий автоматизации и роботизации при отправлении правосудия; регулирование применения военных роботов и т.д.

В частности, предполагается разработка системы регистрации отдельных категорий роботов, например, беспилотных летательных аппаратов, роботов-курьеров, отдельных медицинских роботов, умных роботов и других.

Для роботов-курьеров, например, должны быть прописаны требования по обеспечению безопасного управления. Робот не должен мешать движению, представлять опасность и наносить вред людям, имуществу и окружающей среде, должен быть оборудован отражателями, световыми сигналами. Такие условия необходимо прописать законодательно, а программисты потом будут вшивать правила в программы роботов.

Также законодательство, по мнению правоведов, должно предусматривать сохранение обязательных экземпляров посредством депонирования программного обеспечения созданных роботов. Для целого ряда киберфизических систем может иметь значение возможность обеспечения доступа к программному обеспечению. "Это может быть прежде всего актуально для жизненно важных систем, таких как нанороботы и медицинские имплантаты. Необходимость депонирования исходного кода таких роботов может предполагать участие частного (эскроу-агент) или публичного (нотариус, государственный орган или учреждение) института, - говорится в исследовании. - Наличие экземпляра данного программного обеспечения необходимо на случай, когда производитель прекращает осуществлять производство данных устройств".

Роботы обрабатывают массу данных. Разработчики робототехники должны гарантировать, что личная информация будет защищена и использоваться только разрешенными способами. Программы обязаны гарантировать конфиденциальность.