ЦАХАЛ выбирает цели в секторе Газа с помощью искусственного интеллекта. Из-за этого вместе с боевиками ХАМАС гибнет огромное число мирных жителей Главное из расследования «+972» и «Сиха мекомит»
Израильские военные для определения целей в секторе Газа полагаются на программу под названием «Лаванда» с применением технологий искусственного интеллекта, утверждается в расследовании журналиста и активиста Юваля Авраама (оно опубликовано на иврите в издании «Сиха мекомит» и по-английски в издании «+972»). По данным Авраама, полученным от неназванных источников в израильской разведке, ЦАХАЛ с начала войны в Газе в октябре 2023 года практически автоматизировал процесс поиска боевиков ХАМАС. «Лаванда» допускает ошибки — но командование израильской армии санкционировало беспрецедентно высокий «сопутствующий ущерб», что приводит к гибели множества гражданских лиц. В ЦАХАЛ эти утверждения называют ложью и настаивают, что «система» с использованием искусственного интеллекта из расследования — всего лишь база разведданных о боевиках, а не список утвержденных целей.
Раньше ЦАХАЛ допускал уничтожение противника с «сопутствующим ущербом» лишь после тщательных проверок. Но после 7 октября 2023 года проверки свели к минимуму
Правила, принятые в Армии обороны Израиля, допускают уничтожение военных командиров противника (в том числе ХАМАС), даже если существует риск гибели гражданских лиц, — например, при ударе по его дому. Требуется тщательная проверка идентификации цели, а также подтверждение, что в зоне поражения нет детей.
По словам собеседников Юваля Авраама, после нападения ХАМАС на Израиль 7 октября 2023 года и начала ответной израильской военной операции в секторе Газа подход радикально изменился. Все боевики ХАМАС были признаны «законными целями». Тем самым количество целей увеличилось до нескольких десятков тысяч, и военным стало не хватать времени на тщательные проверки. Тогда ЦАХАЛ пришлось автоматизировать процесс.
Согласно источникам Авраама, функцию определения целей возложили на программу «Лаванда» (לבנדר) с применением алгоритмов искусственного интеллекта (ИИ). Ее разработало «Подразделение 8200», которое входит в Управление военной разведки ЦАХАЛ и занимается радиоэлектронной разведкой. По словам источников, на пике «Лаванда» пометила около 37 тысяч палестинцев как боевиков ХАМАС (показатель меняется в зависимости от строгости критериев, предписанных программе).
При составлении списка целей «Лаванда» анализирует данные почти каждого из двух с лишним миллионов жителей сектора Газа, собранные с помощью различных систем наблюдения, включая камеры, дроны и слежку по мобильным телефонам, — и оценивает по 100-балльной шкале вероятность, что тот или иной человек — боевик ХАМАС или «Исламского джихада». ИИ сопоставляет установленные ранее характеристики уже известных боевиков с характеристиками объекта наблюдения. Если совпадало достаточное количество характеристик, программа маркировала его как террориста и автоматически включала в список на устранение.
Разведчики рассказали, что поначалу проверяли, верно ли «Лаванда» идентифицировала того или иного человека как «законную цель». Убедившись, что точность достигала 90 процентов, командование решило, что этого достаточно, и целеуказание «Лаванды» практически стало равноценно приказу нанести удар. Формально приказ по-прежнему отдает человек, но на перепроверку вывода программы тратится не более 20 секунд. Чаще всего перепроверка сводится к тому, чтобы убедиться, что цель — мужчина.
«Лаванда» то и дело ошибается. Но израильское командование закрывает глаза на «сопутствующий ущерб»
По рассказам источников Авраама, «Лаванда» регулярно маркировала как боевиков тех, кто демонстрировал схожие с ними паттерны поведения, но на самом деле не участвовал в боевых действиях: полицейских, родных и однофамильцев террористов, мирных жителей, пользующихся телефонами, которые раньше принадлежали членам ХАМАС.
«Во время войны палестинцы постоянно обмениваются телефонами, — рассказал один источник. — Люди отдают их супругам или друзьям, теряют их. Нельзя полагаться на то, что машина со стопроцентной точностью определит, какой телефон кому принадлежит».
Другой сотрудник разведки рассказал, что к ошибкам подходили «статистически». Командование ЦАХАЛ якобы спокойно относилось к тому, что в списки террористов попадет какое-то количество мирных жителей. По словам еще одного информатора, руководство разведки оказывало постоянное давление на подчиненных, чтобы те, используя «Лаванду», регулярно обновляли список целей. Из-за этого военные понижали строгость критериев, считавшихся достаточными для причисления к боевикам. В зависимости от заданных условий «Лаванда» могла признавать одного и того же человека то гражданским, то боевиком.
Израильская система массового наблюдения в Газе позволяет «связать» каждого человека со зданием, где тот с большой долей вероятности проживает. Собеседники Авраама рассказали о вспомогательной программе «Где папа» (איפה אבא), которая анализирует передвижения тысяч людей, маркированных как «законные цели», определяет, когда они оказываются дома, — и посылает сигнал ответственному за атаку офицеру. Здание подвергается бомбардировке. Кто еще в этот момент может там находиться, зачастую просто не учитывается.
Кроме того, по словам источников Авраама, при устранении тех, кого «Лаванда» определила как боевиков низшего звена, израильтяне предпочитают экономить дорогие «умные» бомбы — и применяют «тупые», которые не взрываются в определенной квартире, а сносят все здание.
При устранении командиров ХАМАС израильским военным разрешается убивать больше 100 мирных жителей. Некоторые источники объясняют такие установки жаждой мести
Информаторы Авраама рассказали, что в первые недели войны при устранении каждого боевика низшего звена, независимо от его ранга и военной значимости, допустимым «сопутствующим ущербом» считались 15–20 гражданских лиц. Такие установки они назвали беспрецедентными по меркам ЦАХАЛ. По словам сотрудников разведки, принцип пропорциональности при подсчете возможных жертв заменило стремление убить как можно больше членов ХАМАС.
Источники сообщили, что в настоящее время израильское командование перестало массово маркировать цели для уничтожения в жилых домах среди оперативников ХАМАС низшего звена — во многом из-за давления со стороны американского правительства. К тому же большинство зданий в Газе уже повреждены или уничтожены, из-за чего армия больше не может полагаться на данные разведки. Один информатор и вовсе заверил, что удары по рядовым боевикам наносились только в первые недели войны, а затем прекратились из-за необходимости экономить снаряды.
Однако ЦАХАЛ по-прежнему проводит аналогичные операции против командиров ХАМАС. По сведениям источников, в таких случаях даже больше 100 жертв среди гражданских признаются допустимым «сопутствующим ущербом». Это беспрецедентная установка, аналогов которой нет в истории военных операций не только Израиля, но и, например, США в Ираке, Сирии и Афганистане.
«Мы знали, что можем убить больше 100 гражданских, — вспоминает один из информаторов бомбардировку 2 декабря, целью которой был командир одного из батальонов ХАМАС. — С психологической точки зрения это казалось мне странным. Больше 100 гражданских — это уже по ту сторону какой-то красной линии». По сведениям израильской правозащитной организации «Бецелем», в той атаке были уничтожены десятки зданий и погибли десятки людей, а еще сотни оказались под завалами.
Другой информатор рассказал, что при устранении еще одного командира ХАМАС ЦАХАЛ поднял планку допустимых жертв среди гражданских до 300 человек. 17 октября 2023 года израильская армия осуществила атаку, основываясь на приблизительных данных о местоположении террориста, и разбомбила лагерь палестинских беженцев Бурейдж. По сообщениям очевидцев, тогда ЦАХАЛ уничтожил от 16 до 18 зданий. «Сопутствующий ущерб» составил несколько десятков человек. Некоторые информаторы в разговоре с Авраамом предположили, что агрессивный подход ЦАХАЛ отчасти объяснялся жаждой мести за события 7 октября.
Материал был обновлен после публикации. Мы добавили развернутый комментарий представителя ЦАХАЛ на расследование Юваля Авраама.
ЦАХАЛ настаивает на соответствии своей политики нормам международного права. А «искусственный интеллект» из расследования в израильской армии называют обычной базой данных
Представитель ЦАХАЛ на прямой запрос авторов расследования ответил, что списка целей, составленного искусственным интеллектом, не существует.
Более развернутый комментарий в Армии обороны Израиля дали британской газете The Guardian:
Некоторые из утверждений, содержащихся в ваших вопросах, лишены оснований, некоторые — отражают ошибочное понимание директив ЦАХАЛ и международного права. После смертоносной атаки террористической организации ХАМАС 7 октября, Армия обороны Израиля преследует цель ликвидации военного потенциала ХАМАС.
Как метод своих операций ХАМАС размещает боевиков и военную технику в сердце жилых кварталов. Группировка систематически использует мирное население как живой щит и ведет боевые действия из зданий якобы гражданской инфраструктуры, включая жилые дома, больницы, мечети, школы и объекты ООН. В отличие от ХАМАС, ЦАХАЛ привержен международному праву и действует в соответствии с ним. В частности, Армия обороны Израиля наносит удары только по военным целям и боевикам и при этом соблюдает все меры предосторожности и правила соразмерности [сопутствующего ущерба]. Любые инциденты-исключения строго проверяются и расследуются.
Процесс идентификации военных целей ХАМАС состоит из различных типов средств и методов, включая инструменты управления информацией, которые используются для помощи разведывательным аналитикам в сборе и оптимальном анализе разведданных из множества источников. Вопреки утверждениям [из расследования Авраама], ЦАХАЛ не использует систему искусственного интеллекта, которая идентифицирует боевиков или пытается предсказать, является ли конкретный человек террористом. Информационные системы — всего лишь аналитические средства в процессе определения целей. Согласно директивам ЦАХАЛ, аналитики должны проводить независимые проверки, в рамках которых они убеждаются, что идентифицированные цели соответствуют конкретным параметрам в соответствии с международным правом и дополнительными ограничениями, предусмотренными директивами.
«Система», о которой идет речь в вопросе, — это не система, а просто база данных, цель которой — собрать перекрестные подтверждения разных источников разведки, чтобы иметь актуальную информацию о боевиках террористических организаций. Это не перечень боевиков, санкционированных для атаки.
Согласно международному гуманитарному праву, человек, идентифицирующий себя как член вооруженной группировки (такой как боевое крыло ХАМАС), или человек, непосредственно участвующий в боевых действиях, считаются законной целью. Эта правовая норма отражена в политике всех законопослушных стран, и Армия обороны Израиля придерживается ее на протяжении всей войны.
Для каждой цели процедуры ЦАХАЛ требуют проведения индивидуальной оценки потенциального военного преимущества [от уничтожения цели] и предполагаемого сопутствующего ущерба. И такие оценки категорически запрещены в отношении одобрения ударов по отдельным людям. Оценка сопутствующего ущерба основана на множестве методов и средств сбора разведданных для максимальной точности с учетом всех обстоятельств. ЦАХАЛ не наносит ударов, когда ожидаемый сопутствующий ущерб чрезмерен по отношению к потенциальному военному преимуществу. Согласно нормам международному права, оценку соразмерности проводит командование — на основании всей собранной до удара информации, а, естественно, не на основании последствий уже нанесенного удара.
Что касается способа нанесения ударов — ЦАХАЛ предпринимает все усилия, чтобы снизить ущерб гражданскому населению, насколько это возможно в оперативных условиях во время проведения атаки.
Соответственно, ЦАХАЛ изучает цели перед ударом и выбирает подходящие боеприпасы в соответствии с оперативными и гуманитарными соображениями, учитывая оценку структурных и географических условий цели, окружающую ее среду, потенциальный эффект для мирных жителей, критическую инфраструктуру в районе атаки и другие факторы. Авиационные боеприпасы без встроенного комплекса высокоточного наведения — стандартное вооружение армий развитых стран по всему миру. Для обеспечения точности ударов ЦАХАЛ использует такие снаряды, опираясь на расчеты конкретной точки сброса, производимые бортовыми системами самолетов, которыми управляют обученные пилоты. И в любом случае, большинство используемых боеприпасов — высокоточные.
ЦАХАЛ категорически отвергает утверждения о приверженности политике убийства десятков тысяч людей в их собственных домах.
Израильские военные и прежде рассказывали, что учат ИИ определять «опасных людей»
И все же есть немало подтверждений, что израильские военные работают над программой, похожей на «Лаванду», как ее описывают источники Авраама.
- Еще в 2021 году вышла книга под названием «Команда человека и машины: как создать синергию между человеком и искусственным интеллектом, которая перевернет наш мир». Автор обозначен только инициалами и воинским званием: «бригадный генерал Й. С.». По сведениям израильской газеты «Гаарец», это командир «Подразделения 8200», чья личность засекречена.
- Описывая технологию, которая поможет автоматизировать определение «опасных людей», Й. С. почти повторяет то, как описали «Лаванду» собеседники Авраама. Он также перечисляет характеристики, предположительно позволяющие вычислить боевика: участие в одном чате в Whatsapp с установленным террористом, регулярная смена телефона и места проживания.
- А в 2023 году (еще до нападения ХАМАС) на конференции по ИИ в Тель-Авивском университете выступил некто полковник Йоав из «Подразделения 8200». Он упомянул «новую сложную машину по определению целей», способную вычислять «опасных людей» на основании их сходства с известными боевиками.
- В ноябре 2023 года, на второй месяц войны в Газе, тот же Юваль Авраам выпустил расследование о программе «Благовещение» (הבשורה), также основанной на технологиях ИИ и предназначенной для выбора целей для ударов ЦАХАЛ — только не людей, а зданий. Существование этой программы подтвердили журналисты-расследователи из The Guardian.
- Тогда же израильские военные показывали репортерам The New York Times систему мониторинга перемещений населения сектора Газа, основанную на данных биллинга сотовых телефонов. Они подчеркивали, что избегают ударов по тем местам, где наблюдают большое скопление людей.
«Медуза»