Правительство РФ творчески переработало законы робототехники Азимова. Робот может бездействовать в опасной для человека ситуации, но должен чтить Конституцию
Правительство РФ приняло «Концепцию развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года». Концепция предусматривает, что развитие таких технологий «должно основываться на базовых этических нормах». Эти нормы перечислены в концепции. Некоторые из них очень похожи на знаменитые законы робототехники, сформулированные писателем-фантастом Айзеком Азимовым. Мы сравнили законы робототехники Азимова с этическими нормами, предложенными правительством.
Законы робототехники Азимова
Концепция правительства РФ
Приоритет благополучия и безопасности человека, защиты его основополагающих прав и свобод (цель обеспечения благополучия и безопасности человека должна преобладать над иными целями разработкии применения систем искусственного интеллекта и робототехники)
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред
Запрет на причинение вреда по инициативе систем искусственного интеллекта и робототехники (по общему правилу следует ограничивать разработку, оборот и применение систем искусственного интеллекта и робототехники, способных по своей инициативе целенаправленно причинять вред человеку)
2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат первому закону
Подконтрольность человеку (в той мере, в которой это возможно с учетом требуемой степени автономности систем искусственного интеллекта и робототехники и иных обстоятельств)
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит первому или второму законам
Проектируемое соответствие закону, в том числе требованиям безопасности (применение систем искусственного интеллекта не должно заведомо для разработчика приводить к нарушению правовых норм)
Недопущение противоправной манипуляции поведением человека
- Разработчики концепции взяли только половину первого закона робототехники Азимова. В России робот может спокойно наблюдать за гибелью людей: ему только запрещено целенаправленно вредить им.
- В концепции правительства совсем нет аналога третьего закона робототехники Азимова. Роботам не вменяется в обязанность забота о собственной безопасности.
- Наконец, искусственный интеллект должен действовать в рамках закона. Например, чтить обновленную Конституцию — в частности, ему нельзя будет призывать к отчуждению части территории РФ. То есть разработчикам роботов-помощников вроде Siri и «Алисы» придется проверять, как их детище отвечает на вопрос: «Чей Крым?»
Денис Дмитриев