Употребе система вештачке интелигенције у оружаним сукобима : правна заштита и правни изазови

Abstract

Употребе система/елемената вештачке интели- генције (АI) током и у вези са оружаним сукобима намећу бројне етич- ке и правне изазове почев од начелних, у области формулисања основ- них принципа стварања алгоритама AI, контроле људи над њима и адекватних и ригорозних тестирања њихове сигурности/безбедно- сти. Наглашени су правни изазови и потреба правне заштите од употребе елемената и облика AI у домену оружаних сукоба. Предмет бројних научних и стручних дискусија на међународном нивоу је евен- туална забрана употребе „смртоносних аутономних оружаних си- стема“, способност алгоритама AI да поштују начела међународног хуманитарног права, потреба регулисања употребе елемената и фор- ми AI у војне сврхе – „аутономних“ оружаних система и издвајање захтева/смернице „значајне људске контроле“ над системом. Једно од темељних питања је да ли институти међународног кривичног пра- ва могу да се примене у ситуацијама када се услед дејства борбених средстава која поседују елементе AI остваре обележја међународног кривичног дела, пре свега ратних злочина, или је потребно формули- сати нова/додатна правна правила. Ауторка у раду издваја основне видове употребе система AI током оружаних сукоба/у вези са оружа- ним сукобима: уграђивање у оружане системе, употреба у сајбер и информатичким операцијама и „ратови информацијама“; информа- тивна, помоћна и аналитичка улога AI софтвера.

The use of AI systems/elements during/in relation to armed conflicts imposes numerous ethical and legal challenges, starting from fundamental principles in the field of formulating basic principles of creating AI algorithms, human control over them, and adequate and rigorous testing of their security. In this paper legal challenges and the need for legal protection from the use of AI elements and forms in the domain of armed conflicts are emphasized. The subject of numerous scientific and expert discussions at the international level is the potential ban on the use of „Lethal Autonomous Weapons Systems” („LAWS”), the ability of AI algorithms to respect the principles of international humanitarian law, the need for regulation of the use of AI elements and forms for military purposes – „autonomous” weapons systems, and highlighting the requirement/guideline for „meaningful human control” over the system. One of the fundamental questions is whether institutes of international criminal law can be applied in situations where the elements of international crimes, primarily war crimes, are realized due to the actions of combat means possessing elements of AI or whether it is necessary to formulate new/additional legal rules. The author in the paper highlights the main types of use of AI systems during armed conflicts/in relation to armed conflicts: embedding in weapon systems, use in cyber and information operations, and „information warfare”; informational, support, and analytical roles of AI software.