Архітектура ЕВАТ: пояснюваний блокчейн для юридичного аудиту ШІ
Олексій ШамовІнтеграція штучного інтелекту у сфери з високим рівнем відповідальності, як-от правосуддя, створює «проблему чорної скриньки», де непрозорість алгоритмів підриває фундаментальні правові принципи, а наявні рішення для аудиту на основі блокчейну не здатні подолати критичний розрив між технічною цілісністю запису та його цінністю як юридичного доказу, що піддається інтерпретації. Це дослідження мало на меті розробити та теоретично обґрунтувати нову архітектуру системи аудиту, яка синергетично поєднує криптографічну надійність блокчейну з інтерпретаційною потужністю пояснюваного штучного інтелекту (ШІ) для створення логів рішень, що є не лише незмінними, але й юридично значущими та зрозумілими для людини. Методологія включала системний аналіз та синтез, огляд публікацій з наукометричних баз даних, аналіз правових стандартів для цифрових доказів та методи концептуального архітектурного проектування інформаційних систем. У дослідженні запропонована нова гібридна архітектура «Explainable Blockchain Audit Trail», спеціально розроблену для розв’язання цієї проблеми. Її новизна полягає у трирівневій структурі, яка, по-перше, вимагає обов’язкової генерації зрозумілих для людини контрфактичних пояснень для кожного рішення ШІ. По-друге, повний та самодостатній пакет доказів, що містить вхідні дані, специфікації моделі та згенероване пояснення, надійно зберігається у децентралізованому off-chain сховищі для гарантування його цілісності та доступності. Третій рівень створює незмінний «якір довіри» для цього пакету у приватному блокчейні, криптографічно пов’язуючи всі компоненти та забезпечуючи постійний, захищений від втручання запис про подію. Ця комплексна модель забезпечує повну відтворюваність процесу прийняття рішень та створює надійну, об’єктивну основу для судового перегляду та апеляції. Запропонована архітектура надає ключову теоретичну основу для розробки практичних інструментів для суддів, адвокатів та регуляторів, кінцевою метою якої є підвищення прозорості та захист прав громадян в епоху алгоритмічного прийняття рішень шляхом надання конкретних механізмів для оскарження непрозорих висновків
Використані джерела
[1] Adadi, A., & Berrada, M. (2018). Peeking inside the black-box: A survey on explainable artificial intelligence (XAI). IEEE Access, 6, 52138-52160. doi: 10.1109/ACCESS.2018.2870052.
[2] Androulaki, E., et al. (2018). Hyperledger fabric: A distributed operating system for permissioned blockchains. In Proceedings of the thirteenth EuroSys conference (pp. 1-15). New York: ACM. doi: 10.1145/3190508.3190538.
[3] Ali, S., Abuhmed, T., El-Sappagh, S., Muhammad, K., Alonso-Moral, J., Confalonieri, R., Guidotti, R., Del Ser, J., Díaz-Rodríguez, N., & Herrera, F. (2023). Explainable Artificial Intelligence (XAI): What we know and what is left to attain Trustworthy Artificial Intelligence. Information Fusion, 99, article number 101805. doi: 10.1016/j. inffus.2023.101805.
[4] ACPO good practice guide for digital evidence (Version 5). (2023). Retrieved from https://www.digital-detective.net/ digital-forensics-documents/ACPO_Good_Practice_Guide_for_Digital_Evidence_v5.pdf.
[5] Benet, J. (2014). IPFS - content addressed, versioned, P2P file system. ArXiv. doi: 10.48550/arXiv.1407.3561.
[6] Bharati, R., Khodke, P., Khadilkar, C., & Bawiskar, S. (2024). Forensic bytes: Admissibility and challenges of digital evidence in legal proceedings. International Journal of Scientific Research in Science and Technology, 11(16), 24-35.doi: 10.2139/ssrn.4896874.
[7] Casey, E. (Ed.) (2011). Digital evidence and computer crime: Forensic science, computers, and the internet (3rd ed.). Amsterdam: Academic Press.
[8] Faruk, M., Shahriar, H., Saha, B., & Barek, A. (2023). Security in electronic health records system: Blockchain-based framework to protect data integrity. In Y. Maleh, M. Alazab & I. Romdhani (Eds.), Blockchain for cybersecurity in cyber-physical systems. Advances in information security (Vol. 102, pp. 125-137). Cham: Springer. doi: 10.1007/978-3031-25506-9_7.
[9] Guidotti, R., Monreale, A., Ruggieri, S., Turini, F., Giannotti, F., & Pedreschi, D. (2018). A survey of methods for explaining black box models. ACM Computing Surveys (CSUR), 51(5), 1-42. doi: 10.1145/3236009.
[10] Liu, Y., Wang, J., Yan, Z., Wan, Z., & Jäntti, R. (2023). A survey on blockchain-based trust management for Internet of Things. IEEE Internet of Things Journal, 10(7), 5898-5922. doi: 10.1109/JIOT.2023.3237893.
[11] Ramos, S., & Ellul, J. (2024). Blockchain for Artificial Intelligence (AI): Enhancing compliance with the EU AI Act through distributed ledger technology. A cybersecurity perspective. International Cybersecurity Law Review, 5, 1-20. doi: 10.1365/s43439-023-00107-9.
[12] Ribeiro, M., Singh, S., & Guestrin, C. (2016). “Why should i trust you?”: Explaining the predictions of any classifier. In Proceedings of the 22nd ACM SIGKDD international conference on knowledge discovery and data mining (pp. 1135-1144). New York: ACM. doi: 10.1145/2939672.2939778.
[13] Salah, K., Rehman, M., Nizamuddin, N., & Al-Fuqaha, A. (2019). Blockchain for AI: Review and open research challenges. IEEE Access, 7, 10127-10149. doi: 10.1109/ACCESS.2018.2890507.
[14] Sutton, A., & Samavi, R. (2018). Tamper-proof privacy auditing for artificial intelligence systems. In Proceedings of the twenty-seventh international joint conference on artificial intelligence (IJCAI-18) (pp. 5374-5378). Stockholm: IJCAI.doi: 10.24963/ijcai.2018/756.
[15] The U.S. Congress. (2024). Federal rules of evidence. Retrieved from https://www.uscourts.gov/file/78325/download.
[16] Verma, S. (2019). Weapons of math destruction: How big data increases inequality and threatens democracy. The Journal for Decision Makers, 44(2), 97-98. doi: 10.1177/0256090919853933.
[17] Vilone, G., & Longo, L. (2021). Notions of explainability and evaluation approaches for explainable artificial intelligence. Information Fusion, 76, 89-106. doi: 10.1016/j.inffus.2021.05.009.
[18] Wang, X., Wu, Y.C., & Ma, Z. (2024). Blockchain in the courtroom: Exploring its evidentiary significance and procedural implications in U.S. judicial processes. Frontiers in Blockchain, 7, article number 1306058. doi: 10.3389/ fbloc.2024.1306058.
[19] Wachter, S., Mittelstadt, B., & Russell, C. (2018). Counterfactual explanations without opening the black box: Automated decisions and the GDPR. ArXiv. doi: 10.48550/arXiv.1711.00399.
[20] Yuan, Y., & Wang, F. (2019). Blockchain and cryptocurrencies: Model, techniques, and applications. IEEE Transactions on Systems, Man, and Cybernetics: Systems, 48(9), 1421-1428. doi: 10.1109/TSMC.2018.2854904.
[21] Yu, F., Lu, Q., Meng, L., Peng, J., Xi, J., & Li, X. (2024). A blockchain-based auditing scheme for educational data supporting trusted detection. In Twelfth international conference on advanced cloud and big data (CBD) (pp. 184-189). Brisbane: IEEE. doi: 10.1109/CBD65573.2024.00042.
[22] Zhang, Y., Tang, Y., Zhang, Z., Li, M., Li, Z., Khan, S., Chen, H., & Cheng, G. (2023). Blockchain-based practical and privacy-preserving federated learning with verifiable fairness. Mathematics, 11(5), article number 1091. doi: 10.3390/ math11051091.