Право. Людина. Довкілля

Баланс між громадською безпекою та громадянськими правами: успіхи та виклики систем відеоспостереження на основі ШІ

Сурія Сагар Ваддіпарті, Фуад Бабаєв
Завантажити статтю
Анотація

У сучасному суспільстві безпека набула особливої цінності, що зумовило зростаючу увагу до інтелектуального відеоспостереження. Метою дослідження був системний аналіз сучасних підходів до ШІ-відеоаналітики, включаючи технологічні алгоритми, правові обмеження та соціальні наслідки їх застосування. Методологію становив міждисциплінарний підхід із поєднанням системного, правового, порівняльного, аналітичного аналізу та кейс-стаді. У ході дослідження було проаналізовано функціональні можливості інтелектуальних відеосистем, що ґрунтувалися на машинному та глибокому навчанні. Дослідження виявило, що сучасні системи ШІ-відеоаналітики, попри їхню ефективність у підвищенні безпеки (виявлення загроз, аналіз поведінки), породжували серйозні етико-правові ризики, зокрема порушення приватності та алгоритмічну дискримінацію. Порівняльний правовий аналіз засвідчив значну різницю між моделями регулювання у різних юрисдикціях: європейські системи зосереджуються на захисті приватності, натомість китайська – на превенції загроз. Відеоаналітика з використанням штучного інтелекту суттєво вплинула на право на приватність, зокрема через масовий збір біометричних даних та автоматичне профілювання, що викликало суперечки щодо відповідності міжнародним стандартам, таким як Загальний регламент про захист даних і Конвенція про захист прав людини. Порівняльний аналіз показав різні підходи: у ЄС домінує захист приватності (наприклад, заборона розпізнавання облич у Франції), тоді як у Китаї та США акцент зроблено на безпеку, часто за рахунок прав громадян. Регуляторні виклики включали неузгодженість національних законів із міжнародними нормами, зокрема щодо зберігання даних та алгоритмічної упередженості. Для досягнення балансу запропоновано чіткі юридичні рамки, обмеження строків зберігання даних, незалежний нагляд та «етичні паспорти» алгоритмів, що дозволило б поєднати ефективність технологій із гарантіями прав людини. Рекомендовано уніфікацію стандартів, що враховують як технічні можливості, так і етико-правові норми. Практична цінність полягає у можливості використання результатів для проєктування збалансованих ШІ-систем відеоаналітики

Ключові слова

контроль; правові рамки; алгоритмічна упередженість; політика конфіденційності; запобігання злочинності; суспільна безпека

ЦИТУВАТИ
Vaddiparti, S.S., & Babaiev, F. (2025). Balancing public safety and civil rights: Successes and challenges of AI-based video surveillance systems. Law. Human. Environment, 16(2), 118-134. https://doi.org/10.31548/law/2.2025.118
Використані джерела

[1] Ahmed, I., & Jeon, G. (2021). A real-time person tracking system based on SiamMask network for intelligent video surveillance. Journal of Real-Time Image Processing, 18(5), 1803-1814. doi: 10.1007/s11554-021-01144-5.

[2] Almeida, D., Shmarko, K., & Lomas, E. (2022). The ethics of facial recognition technologies, surveillance, and accountability in an age of artificial intelligence: A comparative analysis of US, EU, and UK regulatory frameworks. AI and Ethics, 2(3), 377-387. doi: 10.1007/s43681-021-00077-w.

[3] Ameen, M., & Stone, R. (2023). Advancements in crowd-monitoring system: A comprehensive analysis of systematic approaches and automation algorithms: State-of-the-art. arXiv. doi: 10.48550/arXiv.2308.03907.

[4] Anderljung, M., et al. (2023). Frontier AI regulation: Managing emerging risks to public safety. arXiv. doi: 10.48550/arXiv.2307.03718.

[5] Andrew, J., & Baker, M. (2021). The general data protection regulation in the age of surveillance capitalism. Journal of Business Ethics, 168, 565-578. doi: 10.1007/s10551-019-04239-z.

[6] Antunes, M.E. (2019). Surveillance and predictive policing through AI. Retrieved from https:// www.deloitte.com/an/en/Industries/government-public/perspectives/urban-future-with-a-purpose/surveillance-and-predictive-policing-through-ai.html?utm.

[7] Ardabili, B.R., Pazho, A.D., Noghre, G.A., Neff, C., Bhaskararayuni, S.D., Ravindran, A., Reid, S., & Tabkhi, H. (2023). Understanding policy and technical aspects of ai-enabled smart video surveillance to address public safety. Computational Urban Science, 3(1), article number 21. doi: 10.1007/s43762-023-00097-8.

[8] Atkinson, K., Collenette, J., Bench-Capon, T., & Dsehtsiarou, K. (2021). Practical tools from formal models: The ECHR as a case study. In J. Maranhão & A.Z. Wyner (Eds.), Proceedings of the eighteenth international conference on artificial intelligence and law (pp. 170-174). New York: Association for Computing Machinery. doi: 10.1145/3462757.3466095.

[9] Baek, D.S. (2024). Skynet project in China – the rise of ubiquitous surveillance. Retrieved from https://medium.com/@davidsehyeonbaek/skynet-project-in-china-the-rise-of-ubiquitous-surveillance-33fee53c350e.

[10] Cabanillas-Carbonell, M., Rivera, J.S., & Muñoz, J.S. (2025). Artificial intelligence in video surveillance systems for suspicious activity detection and incident response: A systematic literature. Advances in Science and Technology Research Journal, 19(3), 389-405. doi: 10.12913/22998624/196795.

[11] California Consumer Privacy Act. (2018, June). Retrieved from https://oag.ca.gov/privacy/ccpa.

[12] Çelikkaya, D. (2024). Ethical concerns of artificial intelligence use in the criminal justice system under EU law. Istanbul: Marmara Universitesi.

[13] CLOUD Act Resources. (2019, April). Retrieved from https://www.justice.gov/criminal/cloud-act-resources.

[14] Constitution of the United States. (1787, September). Retrieved from https://constitution.congress.gov/constitution/amendment-4/.

[15] Convention for the Protection of Human Rights and Fundamental Freedoms. (1950, November). Retrieved from https://www.echr.coe.int/european-convention-on-human-rights.

[16] Díaz-Rodríguez, N., Del Ser, J., Coeckelbergh, M., de Prado, M.L., Herrera-Viedma, E., & Herrera, F. (2023). Connecting the dots in trustworthy Artificial Intelligence: From AI principles, ethics, and key requirements to responsible AI systems and regulation. Information Fusion, 99, article number 101896. doi: 10.1016/j.inffus.2023.101896.

[17] Doboș, S., & Bagrin, V. (2024). The balance between privacy and safety: The ethics of public video surveillance. In Technical-scientific conference of students, master and PhD students (pp. 805-809). Chisinau: Tehnica-UTM.

[18] El-Alfy, E.-S., Bebis, G., & Zhou, M. (2023). Intelligent image and video analytics. London: CRC Press.

[19] Fontes, C., Hohma, E., Corrigan, C.C., & Lütge, C. (2022). AI-powered public surveillance systems: why we (might) need them and how we want them. Technology in Society, 71, article number 102137. doi: 10.1016/j.techsoc.2022.102137.

[20] General Data Protection Regulation. (2016, May). Retrieved from https://gdpr-info.eu.

[21] Habbal, A., Ali, M.K., & Abuzaraida, M.A. (2024). Artificial Intelligence trust, risk and security management (AI trism): Frameworks, applications, challenges and future research directions. Expert Systems with Applications, 240, article number 122442. doi: 10.1016/j.eswa.2023.122442.

[22] Hysen, E. (2024). AI at DHS: A deep dive into our use case inventory. Retrieved from https://www. dhs.gov/archive/news/2024/12/16/ai-dhs-deep-dive-our-use-case-inventory?utm.

[23] Kaminski, M.E., Snow, J., Wu, F.T., & Hughes, J. (2021). Symposium: The California consumer privacy act. SSRN. doi: 10.2139/ssrn.3763290.

[24] Karishma, V.R., & Vigneswaran, T. (2023). Artificial intelligence in video surveillance. In

P. Swarnalatha (Ed.), Handbook of research on deep learning techniques for cloud-based industrial IoT (pp. 1-17). London: IGI Global. doi: 10.4018/978-1-6684-8098-4.ch001.

[25] Kashef, M., Visvizi, A., & Troisi, O. (2021). Smart city as a smart service system: Human-computer interaction and smart city surveillance systems. Computers in Human Behavior, 124, article number 106923. doi: 10.1016/j.chb.2021.106923.

[26] Kosinski, M. (2021). Facial recognition technology can expose political orientation from naturalistic facial images. Scientific Reports, 11(1), article number 100. doi: 10.1038/s41598-020-79310-1.

[27] Mantelero, A. (2022). Beyond data: Human rights, ethical and social impact assessment in AI. Berlin: Springer Nature. doi: 10.1007/978-94-6265-531-7.

[28] Nishat, K. (2024). Human rights protections in digital surveillance: Balancing security needs and privacy rights. Mayo Communication Journal, 1(1), 83-92.

[29] Personal Information Protection Law of the People’s Republic of China. (2021, August). Retrieved from https://www.gov.cn/xinwen/2021-08/20/content_5632486.htm.

[30] Poirson, C. (2021). The legal regulation of facial recognition. In K. Miller & K. Wendt (Eds.), The fourth industrial revolution and its impact on ethics: Solving the challenges of the agenda 2030 (pp. 283-302). Cham: Springer. doi: 10.1007/978-3-030-57020-0_21.

[31] Privacy Act. (1974, December). Retrieved from https://www.justice.gov/opcl/privacy-act-1974.

[32] Rashid, A.B., & Kausik, A.K. (2024). AI revolutionising industries worldwide: A comprehensive overview of its diverse applications. Hybrid Advances, 7, article number 100277. doi: 10.1016/j.hybadv.2024.100277.

[33] Ricciardi Celsi, L. (2023). The dilemma of rapid AI advancements: Striking a balance between innovation and regulation by pursuing risk-aware value creation. Information, 14(12), article number 645. doi: 10.3390/info14120645.

[34] Şengönül, E., Samet, R., Abu Al-Haija, Q., Alqahtani, A., Alturki, B., & Alsulami, A.A. (2023). An analysis of artificial intelligence techniques in surveillance video anomaly detection: A comprehensive survey. Applied Sciences, 13(8), article number 4956. doi: 10.3390/app13084956.

[35] Smith, M., & Miller, S. (2022). The ethical application of biometric facial recognition technology.

AI & Society, 37(1), 167-175. doi: 10.1007/s00146-021-01199-9.

[36] Sugianto, N. (2021). Responsible AI for automated analysis of integrated video surveillance in public spaces. Gold Coast: Griffith University. doi: 10.25904/1912/4371.

[37] Sugianto, N., Tjondronegoro, D., Stockdale, R., & Yuwono, E.I. (2024). Privacy-preserving AI- enabled video surveillance for social distancing: Responsible design and deployment for public spaces. Information Technology & People, 37(2), 998-1022. doi: 10.1108/ITP-07-2020-0534.

[38] Sujkowski, M., Kozuba, J., Uchroński, P., Banaś, A., Pulit, P., & Gryżewska, L. (2023). Artificial intelligence systems for supporting video surveillance operators at international airport. Transportation Research Procedia, 74, 1284-1291. doi: 10.1016/j.trpro.2023.11.273.

[39] Sung, C.S., & Park, J.Y. (2021). Design of an intelligent video surveillance system for crime prevention: applying deep learning technology. Multimedia Tools and Applications, 80(26), 34297-34309. doi: 10.1007/s11042-021-10809-z.

[40] Team DigitalDefynd. (2025). AI in public safety – 5 case studies [2025]. Retrieved from https://digitaldefynd.com/IQ/ai-in-public-safety/.

[41] Tóth, L. (2023). The evolution of public surveillance systems in Europe. Magyar Rendésset, 23(1), 191-204. doi: 10.32577/mr.2023.1.12.

[42] Ullah, W., Ullah, A., Hussain, T., Muhammad, K., Heidari, A.A., Del Ser, J., Baik, S.W., & De Albuquerque, V.H. (2022). Artificial Intelligence of Things-assisted two-stream neural network for anomaly detection in surveillance Big Video Data. Future Generation Computer Systems, 129, 286-297. doi: 10.1016/j.future.2021.10.033.

[43] Valentino, S. (2025). CHP uses AI surveillance to arrest Bay Area suspect on Oakland bus. Retrieved from https://is.gd/yfvzoO.