РБК: Последний закон робототехники

21.11.2017 - 17:41

Подготовлен проект конвенции, регулирующей отношения искусственного интеллекта и людей

Отношения человека и искусственного интеллекта должны быть законодательно урегулированы, считают в Госдуме. В первой половине 2018 года профильный комитет рассмотрит проект конвенции о робототехнике и искусственном интеллекте

Комитет Госдумы по экономической политике, промышленности, инновационному развитию и предпринимательству рассмотрит конвенцию по робототехнике и искусственному интеллекту, рассказал РБК представитель Исследовательского центра проблем регулирования робототехники и искусственного интеллекта «Робоправо», разработавшего документ (есть в распоряжении РБК).

Председатель комитета Сергей Жигарев через помощника подтвердил эту информацию. Предполагаемый срок рассмотрения конвенции, а также формирования предложений законотворческих документов по теме «роботехника» – первое полугодие 2018 года. «Вопросы отношения человека и искусственного интеллекта – это вопросы, которые должны быть законодательно урегулированы в ближайшее время. После широкого общественного обсуждения с участием представителей экспертного, научного сообщества, а также представителей общественности документ поступит на рассмотрение в нижнюю палату парламента», – сообщил Жигарев.

Цель разработанной конвенции – определить основные проблемы, которые могут возникнуть в обществе и правовой системе в связи с активным развитием киберфизических систем, обобщить основные правила робототехники и обозначить возможные направления решения существующих и ожидаемых проблем, указано в документе.

Что предлагают авторы конвенции

    1.К объектам робототехники авторы документа относят все категории роботов в самом широком понимании независимо от их назначения, степени опасности, мобильности или автономности, а также киберфизические системы с искусственным интеллектом в любой форме.

    2.Авторы документа предлагают исходить из того, что «создание, внедрение и использование роботов должно осуществляться при условии максимального обеспечения безопасности человека, общества и государства, а также непричинения вреда человеку, человечеству, живым существам и всей их среде обитания».

    3.Роботы, создаваемые в военных целях, «должны иметь изначально заложенные в них и не поддающиеся изменениям ограничения, соответствующие положениям международного гуманитарного права». Такие роботы не должны использоваться для причинения вреда мирному населению.

    4.Предлагается установить повышенные требования к защите от несанкционированного доступа третьих лиц при эксплуатации роботов, потенциально способных причинить человеку существенный, в том числе смертельный, вред (медицинские роботы, имплантируемые устройства, высокоавтоматизированные транспортные средства, военные роботы и т.д.).

    5.Роботы должны постоянно фиксировать информацию об условиях своего функционирования и всех совершаемых ими действиях и хранить в специальном «черном ящике».

    6.Физически взаимодействующие с людьми и не находящиеся под прямым управлением человека роботы должны иметь функцию моментального или аварийного отключения по требованию («красную кнопку»).

    7.«Человек не должен умалять человеческое достоинство своим обращением с роботами».

Инвестиционный менеджер Фонда развития интернет-инициатив (ФРИИ) Никита Юрьев отмечает, что рынки роботов и искусственного интеллекта тесно взаимосвязаны – развитие первого невозможно без второго. «В свою очередь, рынок роботов создает широкие возможности для работы в направлении искусственного интеллекта: глубинного и машинного обучения, обработки естественного языка, машинного зрения», – отметил Юрьев. Он привел прогноз компании Grand View Research, согласно которому объем мирового рынка искусственного интеллекта в 2017 году должен составить около $19,18 млрд, а к 2025 году достигнет $35,9 млрд.

Рынок роботов только в сфере услуг должен достичь $27,5 млрд к 2023 году при среднем темпе роста 15,18% в год, приводит Юрьев данные компании MarketsandMarkets. Рынок роботов в производстве к этому же сроку должен достичь $71,72 млрд. При этом суммарно мировые расходы на роботов, по данным IDC, должны уже к 2019 году превысить $135,4 млрд. «Лидером в данном направлении считают Азиатско-Тихоокеанский регион, а одним из самых ярких игроков – Boston Dynamics (американская инжиниринговая компания, некоторое время принадлежавшая Google, сейчас принадлежит SoftBank. – РБК)», – рассказал представитель ФРИИ.

Проект конвенции, разработанный «Робоправом», не первая попытка законодательно урегулировать рынок искусственного интеллекта. В декабре 2016 года «Ведомости» сообщили, что основатель Grishin Robotics и сооснователь Mail.Ru Group Дмитрий Гришин совместно с юристом Виктором Наумовым разработали концепцию закона о робототехнике.

Этот законопроект предлагает дополнить Гражданский кодекс главой о роботах-агентах, то есть тех роботах, которые могут действовать автономно. «Мы продолжаем активное обсуждение законодательных инициатив в этой области, по разным оценкам экспертов, рынок искусственного интеллекта к 2020 году вырастет до $5 млрд», – передал Гришин РБК через представителя.

Исследовательский центр «Робоправо» создан как автономная некоммерческая организация в начале 2017 года по инициативе сотрудников международной юридической фирмы Dentons Андрея Незнамова и Виктора Наумова, рассказал РБК представитель центра. По его словам, разработанные по заказу Гришина поправки стали «толчком к созданию конвенции». В то же время он отметил, что законопроект и конвенция практически не пересекаются по смыслу. «Появление «закона Гришина» инициировало широкое обсуждение вопросов регламентации робототехники. В совокупности с этими и другими факторами встал вопрос о принятии законов о робототехнике вообще, а не только внесении изменений в Гражданский кодекс», – отметил он.

Как пояснил представитель центра «Робоправо», многие эксперты в мире говорят о необходимости создания общего свода правил взаимодействия человека с роботами и искусственным интеллектом. «Мы решили попытаться сделать это. Проанализировали существующие законы и правила. Постарались их обобщить, а также сделать ряд новых предложений, не претендуя на исчерпываемость и окончательность», – отметил он.

Как в мире юридически регулируют искусственный интеллект

На данный момент в мире практически не существует специальных законодательных актов, определяющих статус машин с искусственным интеллектом. В США, например, рассмотрение возникающих споров по этой проблеме основывается на действующих общих законах, что зачастую вызывает трудности при рассмотрении дел в суде.

Специальный закон о робототехнике был принят в 2008 году в Южной Корее. Несмотря на то что в акте «О содействии развитию и распространению умных роботов» фактически не идет речи о регулировании искусственного интеллекта, а в качестве основной его цели было заявлено стимулирование робототехники и улучшение качества жизни граждан, в документе дается несколько важных определений. Под термином «умный робот» южнокорейские законодатели предлагают понимать «механическое устройство, которое самостоятельно воспринимает внешнюю среду, распознает обстоятельства, в которых работает, и движется самостоятельно». В одной из статей закона говорится, что в будущем правительство имеет право принять специальный закон, регулирующий этические нормы развития робототехники, которым должны следовать разработчики, производители и пользователи умных роботов.

Первые шаги в этом направлении делают и в Европе. В феврале 2016 года Европарламент принял резолюцию «Нормы гражданского права в робототехнике», в которой парламентарии обратили внимание на важность развития законодательной базы, а также отметили необходимость введения единой системы классификации роботов и общеевропейской системы их регистрации. Большое внимание в документе уделяется этическим принципам: например, отмечается, что потенциал использования робототехники должен оцениваться с точки зрения отсутствия угроз безопасности и здоровью человека, свободе и неприкосновенности частной жизни.

В ходе саммита ЕС, который прошел в Брюсселе в октябре 2017 года, лидеры европейских стран договорились в начале 2018 года разработать европейский подход к проблеме искусственного интеллекта. В официальных документах саммита также говорилось о необходимости активнее реагировать на новые мировые тенденции, к которым относится развитие искусственного интеллекта.

Автор: Анна Балашова.
При участии: Алексей Гаврилко-Алексеев.

Источник: РБК

Мнение автора не всегда совпадает с позицией редакции.

Люди в материале: нет
Loading...


В 10 лет уже собирают роботов-сумоистов. Чем уникальна Озерцовская средняя школа?



Новости Беларуси. Благодаря постоянной поддержке главы государства, сегодня Парк высоких технологий – ведущий кластер IT в Восточной Европе и СНГ, рассказали в проекте «Сделано».

При этом ПВТ решает проблему занятости молодежи. Талантливых парней и девушек до 31 года здесь больше половины. И своих айтишников компании практически ведут со школьной скамьи.

С первого класса я начал собирать от самых простеньких машинок, которые только поворачивают шестеренки и крутятся колесики, до тяжелых механизмов.

О таких говорят: «Умный не по годам». Мише Федорову всего 10, но познаниями в робототехнике он может превзойти любого сверстника, а серьезными планами – даже многих взрослых.

У четвероклассника здесь, как и с роботами, все предельно ясно – растет программистом. Такие намерения и у остальных ребят.

Никого не смущают каникулы. В школу под Минском приходят регулярно. Сегодня, к примеру, здесь настоящие баталии роботов-сумо. Такой технологичный кружок по интересам в учреждении открылся в 2016 году. С тех пор с робототехникой на «ты» каждый шестой ученик.

Сергей Судник, учитель информатики и физики Озерцовской средней школы:
Дети, начиная с первого класса, тянутся к этим игрушкам, даже не требуется на начальном этапе их заинтересовывать. Они сами хотят этим заниматься. У нас уже есть собственная база – наборы для занятий с учащимися с 1 до 11 класса. Участвуем в различных робототехнических соревнованиях.

Информационные технологии – сегодня одно из важнейших направлений развития школы. На протяжении пяти лет учреждение образования является единственным ресурсным центром информатизации в Минском районе. Это значит, что здесь готовы передать опыт в том числе и в робототехнике коллегам из соседних деревень и поселков. На повышенном уровне в школе также изучают физику и математику. А скоро здесь откроется совместный с айтишниками STEM-класс – для углубленных занятий программированием и 3D-моделированием.  

Виктор Савицкий, директор Озерцовской средней школы:
За компьютерными технологиями, за робототехникой – будущее нашей страны. Если вспомнить, что было 50, 40 лет назад и сегодняшний день – это абсолютно несравнимые вещи. Я сам по образованию физик, поэтому это мне ближе, отсюда и началось. Одна из целей нашего педколлектива, чтобы сельские школы не отличались от городских. В данном направлении идет большая работа. 

Над проектом работали: Маргарита Науменко, Анна Мороз, Виталий Гончарик, Тимофей Беляев