Нужны ли нам законы в сфере внедрения робототехники?

Состязания роботов

Около 10 миллионов долларов пожертвовал на борьбу с опасными роботами владелец компании Tesla Элон Маск (Elon Musk). Немецкие исследователи поддерживают эту инициативу. Команда юристов из Вюрцбурга пытается выяснить, понадобятся ли в ближайшее время Германии законы в области робототехники. 

Руководитель компании Tesla Элон Маск, физик Стивен Хокинг (Stephen Hawking) и Эрик Хорвиц (Eric Horvitz), руководитель отдела исследований компании Microsoft, серьезно обеспокоены этим вопросом. Масштабы использования искусственного интеллекта настораживают производителей автомобилей, специалистов космической отрасли, ученых и экспертов по программному обеспечению. В открытом письме несколько месяцев назад они описали возможные последствия повсеместного использования искусственного интеллекта.

Составители письма не отвергают концепции применения искусственного интеллекта, но предлагают установить некоторые правила игры. Искусственный интеллект и робототехника открывают новые возможности: с их помощью можно победить болезни, повысить эффективность работы промышленных предприятий, создать режим автопилота для автомобилей, преодолеть языковые барьеры. Конечно, финансовые затраты на разработки систем искусственного интеллекта огромны.

Но создатели инициативы предупреждают: последствия использования искусственного интеллекта для работы и жизни сложно предсказать. Полезность любой технологии для общества определяется множеством факторов. Поэтому внедрение искусственного интеллекта должно обсуждаться представителями различных сфер жизни. Экономика, право, информационная безопасность, философия – все эти области должны внести вклад в развитие концепции искусственного интеллекта. Понадобятся ли в ближайшем будущем законы в области робототехники? Мы представляем некоторые примеры использования автономных или частично автономных систем в промышленности. В сфере публичного права вопрос о необходимости создания законодательной базы касательно применения искусственного интеллекта стоит еще более остро.

Роботы прогонят усталость

Создатели робототехники делают свои машины все более интеллектуальными. Частично автономные устройства в ближайшие годы будут установлены на производственные линии, где люди и машины будут работать плечом к плечу. Размоются границы между производителем робототехники, пользователем и потребителем – роботы быстро усваивают новую информацию и на основе новых знаний самостоятельно принимают решения.

В будущем на промышленных предприятиях может быть внедрена система, в которой будут храниться характеристики, возраст, данные о конституции тела и другие данные о работнике. Робот должен распознать, кто из сотрудников работает рядом. Если этот сотрудник делает много перерывов в течение рабочей смены, что согласно профилю не является обычным поведением, робот распознает, что человек устал, и замедляет процесс взаимодействия с этим сотрудником. Или другой вариант: робот может увеличить яркость света, чтобы человек взбодрился.    

Может ли робот контролировать человека?

Если сотрудник делает слишком много ошибок, что для него нехарактерно, робот может сделать из этого соответствующие выводы. По мнению Герхарда Ринкенауэра (Gerhard Rinkenauer), сотрудника Института Лейбница по изучению трудовых процессов, пользовательские профили должны быть разработаны заранее при участии специальных комиссий. Первые приблизительные пользовательские профили могут быть составлены с помощью опросников. Для усвоения и интерпретации поведения пользователя нужны методы машинного обучения: например, непрерывная регистрация поведения человека при помощи визуальных датчиков и интеллектуальные алгоритмы интерпретации и обучения.

С помощью этих средств модель пользовательского профиля может быть уточнена, что позволит предсказывать поведение сотрудника на рабочем месте. Здесь и возникают первые правовые вопросы. Как информация, содержащаяся в пользовательском профиле, соотносится с правом на защиту персональных данных сотрудника? Могут ли машины обрабатывать данные о сотрудниках, кому принадлежат эти данные – руководителю, производителю робота или сотруднику? И еще более серьезный вопрос: может ли робот манипулировать человеком без его ведома, например, увеличивая яркость света для повышения активности сотрудника? А если это приведет к травме или аварии – что тогда?

Проблема гармонизации

Достаточно ли законодательства, предусматривающего ответственность изготовителя за нарушения качества и безопасности товара (работ, услуг)? В общем случае закон об ответственности за продукт касается и области робототехники. «Однако если эти законы не полностью учитывают характерные свойства роботов, необходимо проверять, соответствует ли выбранная норма данному виду робототехники», – пишет Томас Кристаллер (Thomas Christaller) в своей книге о роботах. Разработка законопроектов зависит от количества участников. Юристы еще не определились, кого винить в случае аварии: робота или человека. Кроме того, совместное принятие решений многими участниками трудового процесса может привести к серьезным ошибкам. Команда юристов из Вюрцбурга работает над формулировкой основных проблем, связанных с широким внедрением робототехники.

Исследования юристов порадовали бы Элона Маска. Ведь миллиардер пожертвовал 10 миллионов долларов Институту будущего жизни (Future of Life Institute, FLI), который занимается исследованиями и прогнозированием развития искусственного интеллекта и взаимодействия человека и робототехники в будущем. В этой программе необходимо задействовать и юристов: законы, нормы и предписания должны учитывать все производственные нюансы, связанные с внедрением робототехники в промышленности. Так нужны ли нам отдельные законы, связанные с внедрением искусственного интеллекта? Нет! Но представители юриспруденции, законодательных органов и судебной власти из разных стран должны договориться, как применять действующие нормы и законы к робототехнике. В этом международном и межотраслевом согласовании на данном этапе и заключается основная сложность внедрения роботов и искусственного интеллекта.

 

Возврат к списку

Хотите подписаться на статьи электронного журнала "Электрорешения"?