Для розробки, розгортання та використання штучного інтелекту (ШІ) у військових цілях потрібна належна нормативна база. Будь-які такі рамки повинні відповідати міжнародному праву. Крім того, оскільки існуюче міжнародне право не містить конкретних вказівок щодо військового застосування штучного інтелекту, нормативні рамки повинні підтримувати застосування та імплементацію міжнародного права.
У цьому дописі пропонується, щоб правила ведення бойових дій (ПВБД) могли слугувати основою для регулювання використання ШІ у військових цілях на основі аналізу основних інструментів для підготовки та проведення військових операцій з ШІ. У публікації стверджується, що ПВБД добре відповідає нормативним потребам штучного інтелекту, зокрема тому, що вони представляють собою цілісну, специфічну та конкретну, але гнучку структуру. Правила ведення бойових дій може бути особливо корисним для регулювання взаємодії людей і машин і контролю людини над системами ШІ.
Потреба у військових правилах штучного інтелекту
Поява військових застосувань штучного інтелекту потребує нових правил через властиві йому функції та характеристики, які відрізняються від традиційного військового обладнання та комп’ютерних програм. Це особливо стосується тих випадків, коли ШІ дозволяє автономно приймати рішення за допомогою зброї або систем підтримки прийняття рішень.
Системи ШІ з принаймні частково автономними можливостями зараз розробляються або вже розгортаються у військових операціях. Повідомляється, що американська протикорабельна ракета великої дальності (ПКРВД), керована штучним інтелектом, здатна автономно вибирати та вражати цілі. У березні 2020 року в Лівії турецький безпілотник Kargu-2 нібито стежив за людськими цілями та вражав їх без прямого контролю з боку оператора. Ізраїльські системи Lavender і Gospel, які підтримують рішення щодо націлювання, також покладаються на ШІ.
Таким чином, різні міжнародні ініціативи та процеси спрямовані на створення міжнародної нормативної бази для розробки, розгортання та використання військового ШІ. Ці ініціативи та процеси включають групу урядових експертів зі смертоносних автономних систем зброї, саміти щодо відповідального штучного інтелекту у військовій сфері, очолювану США Політичну декларацію про відповідальне використання штучного інтелекту та автономії у військових цілях та відповідний процес на Генеральній Асамблеї ООН.
Військове застосування штучного інтелекту також вимагає нормативних актів на національному рівні. Тому багато держав і НАТО прийняли політику, щодо використання штучного інтелекту в оборонних і військових цілях, як-от Етичні принципи штучного інтелекту Міністерства оборони США та Принципи НАТО щодо відповідального використання штучного інтелекту в обороні. Проте як міжнародні, так і національні правила та політика потребують належної нормативної бази, яка конкретизує та реалізує їхні цілі та суть, відповідаючи при цьому специфічній природі ШІ.
Правила взаємодії )Rules of Engagement \ )
Правила взаємодії є добре підходящим інструментом для регулювання військових застосувань штучного інтелекту. Сучасні збройні сили широко використовують правила взаємодії для визначення обставин і обмежень щодо розгортання військових сил.
Таким чином, ці правила дозволяють збройним силам переводити політичні та військово-стратегічні цілі та вимоги міжнародного права в оперативний контекст. У цьому сенсі, згідно з Посібником із правил ведення бойових дій у Сан-Ремо, Правила виконання бойових дій є «поєднанням вимог військової та політичної політики, [які] мають бути обмежені діючими міжнародними та внутрішніми правовими параметрами».
Якщо говорити точніше, Правила дій передбачають дозвіл та/або обмеження щодо, серед іншого, «застосування сили, розміщення та розміщення сил, а також використання певних конкретних можливостей». Зазвичай вони містять основні елементи, включаючи загальні інструкції для командира та загальні політичні та правові питання, пов’язані з операцією. Інструкції також можуть охоплювати попередження перед застосуванням сили, застосуванням конкретної зброї, а також обмеження та дозволи на застосування сили для захисту цивільних осіб і цивільних об’єктів та/або нападу на певні військові об’єкти. У правил взаємодій також можуть бути зазначені, які командири в системі командування відповідають за санкціонування певних дій.
Правила дії є частиною більшої нормативно-правової бази, пов’язаної з розгортанням збройних сил і застосуванням сили. Таким чином, вони взаємодіють з іншими типами військових директив, зокрема з цілевказівками та тактичними директивами. Директиви щодо націлювання містять конкретні інструкції щодо націлювання, включаючи обмеження на об’єкти, на які можна націлюватися, і мінімізацію побічної шкоди. Тактичні директиви — це «накази, спрямовані або для сил в цілому, або для конкретних типів підрозділів чи систем озброєнь, які регулюють або виконання конкретних типів місій в рамках операції в цілому, або обмежують використання конкретних систем озброєнь під час проведення операція».
Правила взаємодії також має різні форми. Вони можуть видаватися як накази про виконання та розгортання, оперативні плани та постійні директиви. Зазвичай їх пишуть і керують військові юридичні радники. Основою для складання Правил виконання можуть служити загальні правила дій і типові документи, такі як Довідник із правил ведення бойових дій Сан-Ремо та документ НАТО MC362/1. Хоча Правила виконання обов’язків, як правило, не розповсюджуються для всіх рядів, солдатам часто надають карти пам’яті, що містять спрощені версії Правил виконання обов’язків, з якими вони повинні ознайомитися.
Застосування правила взаємодії до військового штучного інтелекту
Правила взаємодії може слугувати належною нормативною базою для використання штучного інтелекту у військових цілях, зокрема тому, що він відповідає центральним вимогам, визначеним політиками як необхідні для штучного інтелекту. Дійсно, міжнародні та національні дискусії щодо регулювання військового штучного інтелекту призвели до висновку, що правила мають бути цілісними, конкретними та конкретними, але гнучкими.
По-перше, правила, що регулюють використання військового штучного інтелекту, мають бути цілісними в тому сенсі, що вони мають відображати різноманітні міркування, окрім простих військових чи правових. Етичні міркування, зокрема, залишаються основним питанням, яке слід розглядати в таких нормах. Зокрема, це стосується рівня автономії систем штучного інтелекту та форми значущого людського контролю над ними, але, серед інших питань, це також стосується рівнів прийнятної передбачуваності та помилок систем штучного інтелекту. Правила взаємодії є хорошою нормативною базою, зокрема тому, що вони представляють сукупність політичних, військових і правових міркувань і можуть включати додаткові міркування, такі як етичні обмеження, характерні для конкретної технології.
По-друге, правила мають бути конкретними, оскільки не існує універсальної формули для використання штучного інтелекту. Штучний інтелект для високо автономних систем озброєння потребує інших параметрів, ніж, наприклад, додатки штучного інтелекту для управління охороною здоров’я. Але певний тип технології також може потребувати різних операційних обмежень залежно від того, для чого використовується технологія або як вона використовується. Різні правила взаємодії або подібні правила поведінки можуть бути прийняті для різних випадків використання. У той час як міжнародне право, політика, військові доктрини та військові директиви можуть визначати фундаментальні нормативні основи та стандарти використання штучного інтелекту у військовому контексті загалом, Правила використання можуть визначати правила для конкретних застосувань.
По-третє, нормативні акти мають бути як конкретними, так і гнучкими, оскільки вони мають належним чином керувати поведінкою в різних ситуаціях. ПДР можуть бути написані та прийняті для кожної конкретної місії та можуть містити специфікації для конкретних ситуацій, які можуть виникнути під час конкретної місії. Оскільки події можуть змінюватися під час роботи, специфікації може знадобитися змінити. Правила взаємодії зазвичай включає каскадний лист повноважень, який визначає, хто має повноваження на певному рівні команди змінювати визначені параметри для дій. Таким чином, параметри можна адаптувати відповідно до потреб ситуації, що може бути корисним, зокрема, для керівництва використанням систем штучного інтелекту, які мають здатність навчатися на основі нових вхідних даних
Правила взаємодії щодо об’єднання людина-машина та управління людиною
У контексті військових операцій і місій правила взаємодії може, зокрема, визначати параметри для команди «людина-машина» та людського контролю над системами штучного інтелекту. Правила взаємодії може визначити, як командиру або оператору необхідно контролювати та контролювати систему під час розгортання. Наприклад, правила взаємодії може визначати географічну зону або список потенційних завдань, для виконання яких оператори мають право використовувати системи штучного інтелекту. Правила взаємодії також може визначити форму людського контролю, необхідного в конкретних ситуаціях, наприклад прямий, спільний або наглядовий контроль, і те, як він буде реалізований. Це особливо актуально, коли штучний інтелект використовується в контексті націлювання, зокрема, коли держави вирішили не дозволяти системам штучного інтелекту приймати рішення щодо націлювання загалом або, зокрема, не проти людей.
Правила взаємодії також можна використовувати для визначення часових перевірок або інших обмежень, таких як попередньо встановлені інструкції системі та/або оператору щодо влучення чи невлучення в дію по конкретних цілях. Правила взаємодії може також звертатися до інших джерел, таких як посібники та директиви, які описують, як запроваджувати різні форми людського контролю. Подібним чином, правила взаємодії може передбачити, що система повинна позначати несподівані події або проблеми, які мають відношення до оператора, і коли оператор повинен повідомити свого керівника про ці змінені події або проблеми.
Правила взаємодії також може обмежувати повноваження командирів або операторів, що може змусити їх звернутися до ланцюжка командування для отримання дозволу. Це може бути суттєвою роллю для правил взаємодії, що охоплює об’єднання «людина-машина» у військових операціях, зокрема, коли стикаються з непередбаченими ситуаціями чи проблемами, для вирішення яких система або її використання раніше не були протестовані, навчені та/або авторизовані.
Правила дії також можуть визначати, коли командири повинні звертатися за юридичною консультацією. Це може бути необхідним, зокрема, коли об’єднання «людина-машина» та контроль людини підпорядковані закону цільового призначення. Правила взаємодії також може вказати, чи буде необхідним новий юридичний перегляд алгоритму, якщо він розробляє нові функції з потенційними новими правовими наслідками.
Висновок
Підсумовуючи, правила взаємодії може бути корисним інструментом для керівництва використанням військового штучного інтелекту, зокрема тому, що він представляє собою цілісну, специфічну та конкретну, але гнучку нормативну базу. правила взаємодії може доповнювати та впроваджувати політику, правила та керівні принципи у вищому ешелоні, таким чином уможливлюючи перенесення військових, політичних, правових та етичних принципів і цілей у конкретні дії. ROE може бути особливо корисним для об’єднання людей і машин і конкретизації значущого людського контролю над системами штучного інтелекту, зокрема в контексті націлювання. Таким чином, правила взаємодії може функціонувати як основний інструмент для підготовки та проведення військових операцій з використанням штучного інтелекту. Крім того, вони можуть підтримувати конкретизацію, застосування та реалізацію існуючого та потенційного майбутнього міжнародного права.
Comments