AI və cinayət hüququ: alqoritm qismən məsuliyyət daşıya bilərmi?

Hollandiya və Avropa qanunlarına görə, alqoritm cinayət məsuliyyətinə cəlb edilə bilməz. Cinayət məsuliyyəti qanunun şəxs kimi tanıdığı cinayətkarı tələb edir və 51-ci maddə bu statusu yalnız fiziki və hüquqi şəxslərə şamil edir. Süni intellekt sistemi şübhəli deyil, obyektdir. Buna görə də praktikada vacib olan sual alqoritmin qismən məsuliyyət daşıması deyil, hansı insanın və ya hansı şirkətin etdiyinə görə tam məsuliyyət daşımasıdır.

Bu sualın Hollandiya cinayət hüququnda artıq yaxşı işlənmiş bir cavabı var. Funksional törətmə (functioneel daderschap) və korporativ cinayət məsuliyyəti doktrinaları məhz bu vəziyyət üçün qurulmuşdur: zərər cavabdehin öz əli ilə deyil, bir alət, bir təşkilat və ya bir proses vasitəsilə dəymişdir. Bu məqalədə həmin doktrinaların süni intellektə necə tətbiq olunduğu, AB Süni intellekt Qanununun qayğı standartını necə dəyişdirdiyi, alqoritmik çıxışın dəlil kimi necə qəbul edildiyi və müdafiə və uyğunluq proqramının necə görünməli olduğu izah edilir. Məsuliyyətin tərtibatçılar, provayderlər və istifadəçilərdən ibarət təchizat zənciri arasında bölüşdürülməsi ilə bağlı daha geniş sual üçün, bir maşın cinayət törətdikdə kimin məsuliyyət daşıdığı barədə məqaləmizə baxın.

Niyə alqoritm şübhəli ola bilməz

Hollandiya qanunvericiliyinə əsasən cinayət əməli, qanunla müəyyən edilmiş tərifə uyğun olan, qanunsuz olan və günahkarı günahlandıra bilən insan hərəkəti və ya hərəkətsizliyini tələb edir. Bu elementlərin hər biri iradəsi olan bir aktyoru nəzərdə tutur. Alqoritm məlumatlar üzərində kodu icra etməklə nəticələr yaradır; onun formalaşdırmaq iradəsi, günahlandırılacaq heç bir şeyi və cinayət sanksiyasının çata biləcəyi heç bir şey yoxdur. Maddə 51 Sr, şirkət üçün fərdlə yanaşı yer ayırırdı, çünki şirkət insanlar vasitəsilə hərəkət edir; proqram təminatı üçün oxşar bir müddəa yoxdur və birinin yaradılması qanunverici orqanın yeni bir hüquqi şəxs kateqoriyası yaratmasını tələb edərdi.

Cinayət qanunvericiliyinin tanıdığı heç bir məqsədə xidmət etməz. Cəzalandırmaq, çəkindirmək və mümkün olduqda düzəltmək üçün bir hökm mövcuddur. Bu funksiyaların heç biri model üzərində yerinə yetirilə bilməz. Neyron şəbəkəsinin çəkilərini silmək şəbəkəni deyil, onun sahibini cəzalandırır. Cinayət qanunvericiliyinin süni intellekt sistemi zərər verdikdə əldə etmək istədiyi hər şeyə onun arxasında duran insanlar və təşkilatlar vasitəsilə nail olmaq lazımdır, buna görə də Hollandiya təcrübəsi bunu qanundakı boşluq kimi qəbul etmir.

Aşağıdakı cədvəldə cinayət tərkibinin elementləri ilə süni intellekt sisteminin əslində nə olduğu arasındakı uyğunsuzluq göstərilir.

Bunun əvəzinə kim məsuliyyət daşıyır: funksional törətmə və 51-ci maddə, Böyük

Hollandiya cinayət qanunvericiliyində fiziki olaraq etmədiyi hərəkətlərə görə kimisə məsuliyyətə cəlb etmək üçün iki mexanizm mövcuddur. Hər ikisi maşın öyrənməsi mövcud olmamışdan çox əvvəl hazırlanmış və hər ikisi süni intellekt hallarına dəyişiklik edilmədən uyğun gəlmişdir.

Funksional törətmə

Functioneel daderschap, şəxsin kimsə və ya başqa bir şey tərəfindən fiziki olaraq törədilmiş cinayətin törədicisi kimi qəbul edilməsinə imkan verir. Hoge Raad-ın IJzerdraad qərarında ifadə etdiyi meyarlar test olaraq qalır: təqsirləndirilən şəxs davranışın baş verib-vermədiyini müəyyən etmək səlahiyyətinə malik olmalı (beschikken) və onu qəbul etməli, yaxud bu cür davranışı adətən qəbul etməlidir (aanvaarden).

Süni intellekt sisteminə tətbiq edildikdə, birinci meyar adətən sadədir və ikincisi işi həll edir. Sıradan çıxarma gücü sistemi konfiqurasiya etmək, onun işləmə limitlərini təyin etmək, onu yeniləmək və ya yenidən öyrətmək və hər şeydən əvvəl onu söndürmək qabiliyyəti ilə göstərilir. Çox az operator bu gücün olmadığını etibarlı şəkildə deyə bilər. Qəbul etmək daha çətin sualdır və dəlillər məhz budur: operator sistemin nasazlıq rejimləri haqqında nə bilirdi, sınaq və ya əvvəlki hadisələrlə nə bildirildi, risk qiymətləndirməsi nə dedi və bu barədə nə edildi. Qəbul etmək nəticə üçün bir istək tələb etmir. Operatorun bilərəkdən əhəmiyyətli bir risk qəbul etməsi kifayətdir ki, bu da şərti niyyət üçün adi Holland standartıdır (voorwaardelijk opzet).

Korporativ məsuliyyət və faktiki liderlik

Operator şirkət olduqda, 51-ci maddənin Sr bəndi tətbiq olunur. Cinayət, hərəkətin öz sahəsində baş verdiyi hüquqi şəxsə aid edilə bilər ki, Hoge Raad bunu Drijfmest qərarında göstərilən amillərlə izah etmişdir: hərəkət şirkətdə işləyən biri tərəfindən həyata keçirilmiş, onun normal işinə uyğun gəlmiş, şirkət üçün faydalı olmuş və şirkət bu cür hərəkətin baş verib-vermədiyini və qəbul edib-etmədiyini, yaxud adətən qəbul edib-etmədiyini müəyyən edə bilmişdir. Şirkət tərəfindən öz işini görmək üçün istifadə edilən süni intellekt sistemi tərifinə görə bu siyahının əksəriyyətini təmin edir.

Maddə 51 Sr həmçinin cinayəti sifariş edənlərin və ona faktiki rəhbərliyi verənlərin (feitelijk leidinggeven) təqibinə icazə verir. Bu, direktorlara və yüksək vəzifəli menecerlərə şəxsən çatan müddəadır. Bu, təşkilati cədvəldə yer almaqdan daha çox şey tələb edir: şəxs qadağan olunmuş davranışdan xəbərdar olmalı, ən azı onun baş vermə ehtimalını qəbul etməli və səlahiyyətli və ağlabatan şəkildə görməyə borclu olduğu tədbirləri görməməlidir. Süni intellekt işində bu, modelin təsdiqlənməsi hesabatını kimin aldığı, yerləşdirməni kimin imzaladığı və məlum qərəzliliyin və ya səhv nisbətinin məqbul olduğuna kimin qərar verdiyi barədə birbaşa dəlillərə çevrilir.

Səhlənkarlıq cinayətləri işin çox hissəsini görür

Təcrübədə avtomatlaşdırılmış sistemlərlə bağlı cinayət təqiblərinin qəsd üzərində deyil, səhlənkarlıq üzərində qurulması ehtimalı daha yüksəkdir. Süni intellektlə idarə olunan nəqliyyat vasitəsi, maşın və ya tibbi cihaz ölümə səbəb olduqda, müvafiq cinayət 307-ci maddənin Sr-nə əsasən səhlənkarlıqdan ölümə səbəb olur; ağır xəsarətə səbəb olduqda isə, 308-ci maddənin Sr. Culpa hissəsi Hollandiya cinayət qanunvericiliyində əhəmiyyətli dərəcədə səhlənkarlıq deməkdir və bu, həmin vəzifədə olan ağlabatan operatorun etməli olduğu şeyə qarşı qiymətləndirilir. Süni intellekt işi məhz bu əsasda qaldırılacaq, çünki avtomatlaşdırılmış sistemin yerləşdirilməsi üçün qayğı standartı getdikcə daha çox qeyd olunur: Süni intellekt haqqında Qanunda, sektor tənzimləməsində, texniki standartlarda və operatorun öz prosedurlarında. Operatorun özünün qəbul etdiyi standartdan sənədləşdirilmiş sapma səhlənkarlığın ən güclü sübutudur.

Ayrı-seçkilik ikinci təkrarlanan kateqoriyadır. Biznes və ya peşə fəaliyyətində ayrı-seçkilik etmək Wetboek van Strafrecht-ə əsasən cinayət hesab olunur və həm qəsdən, həm də səhlənkarlıq variantları mövcuddur. Buna görə də, qorunan qrupu sistematik şəkildə əlverişsiz vəziyyətə salan model yalnız məlumatların qorunması və bərabər münasibət qanunvericiliyinə əsasən inzibati problem deyil; ciddi hallarda isə bu, cinayətdir. Hollandiyada cinayət proseduru üzrə bələdçimiz belə bir işin istintaqdan məhkəmə qərarına qədər necə davam edəcəyini izah edir.

Süni intellekt Qanunu sanksiyanı deyil, qayğı standartını müəyyən edir

AB Süni İntellekt Qanunu inzibati tənzimləmədir. O, cinayət əməlləri yaratmır və heç kimi şübhəli etmir. Onun cinayət məsuliyyətinə təsiri dolayı və əhəmiyyətlidir: o, süni intellekt sisteminin diqqətli təminatçısının və ya tətbiq edəninin nə etməsi gözlənildiyini məcburi şəkildə yazır. Qayğı standartı kodlaşdırıldıqdan sonra, ondan yayınma səhlənkarlığın, ona riayət etmə isə qayğının sübutudur.

Qanun sistemləri riskə görə sıralayır. Dövlət orqanları tərəfindən sosial qiymətləndirmə, tanıma məlumat bazaları yaratmaq üçün üz şəkillərinin hədəfsiz şəkildə çıxarılması, iş yerində və təhsildə emosiyaların tanınması və məhdud istisnalar nəzərə alınmaqla, hüquq-mühafizə orqanları üçün ictimai yerlərdə real vaxt rejimində uzaqdan biometrik identifikasiya daxil olmaqla az sayda təcrübə qəti qadağandır. Daha böyük bir qrup yüksək riskli kimi təsnif edilir və bu qrup tənzimlənən məhsulların təhlükəsizlik komponentlərini və Qanunun əlavəsində sadalanan istifadə sahələrini, o cümlədən işə qəbul, kredit qiymətləndirməsi və hüquq-mühafizə orqanlarında, miqrasiya və ədalət mühakiməsində tətbiqləri əhatə edir. İnsanlarla qarşılıqlı əlaqədə olan və ya sintetik məzmun yaradan sistemlər şəffaflıq vəzifələrini daşıyır. Qalanları isə əsasən tənzimlənməmişdir.

Təchizatçı və ya yerləşdirici: rollar vəzifələri müəyyən edir

Qanun öhdəlikləri rola görə bölüşdürür və rolu səhv başa düşmək ən çox yayılmış uyğunluq səhvlərindən biridir. Provayder bir sistem hazırlayır və ya onu öz adı altında hazırlayıb bazara çıxarır; yerləşdirici fəaliyyəti zamanı öz səlahiyyətləri daxilində bir sistemdən istifadə edir. Provayderlər ağır dizayn öhdəliklərini, yerləşdiricilər isə düzgün istifadə, insan nəzarəti və monitorinq öhdəliklərini daşıyırlar. Tələ ondadır ki, yerləşdirici sistemə öz adını qoyub, onu əhəmiyyətli dərəcədə dəyişdirib və ya nəzərdə tutulan məqsədini yüksək risk kateqoriyalarına daxil edəcək şəkildə dəyişdiribsə, bütün sonrakı vəzifələri ilə təchizatçıya çevrilir. Satın alınan modeli öz məlumatlarınızda dəqiqləşdirmək və sonra satıcının heç vaxt düşünmədiyi bir məqsəd üçün istifadə etmək, təşkilatı sakitcə bu xəttdən kənara çıxara bilər. Cinayət istintaqında eyni fərq sərəncam vermək səlahiyyətinin kimdə olduğu sualı ilə yenidən ortaya çıxır, buna görə də rollar yazılı şəkildə qeyd edilməli və müqavilədə əks olunmalıdır.

İndi nə tətbiq olunur

Cədvəl dəyişib və onun harada olduğunu dəqiq müəyyən etməyə dəyər. Qəbuledilməz riskli təcrübələrə qadağalar və süni intellekt savadlılığını təmin etmək öhdəliyi artıq tətbiq olunur. Ümumi təyinatlı süni intellekt modelləri üçün qaydalar artıq tətbiq olunur. Məzmunun süni şəkildə yaradıldığını və ya manipulyasiya edildiyini aydınlaşdırmaq vəzifəsi də daxil olmaqla, 50-ci maddənin şəffaflıq öhdəlikləri artıq tətbiq olunur. Rəqəmsal omnibus paketi tərəfindən təxirə salınan şey yüksək riskli rejimdir: Əlavə III-də sadalanan sistemlər üçün öhdəliklər artıq 2 dekabr 2027-ci ildə, Əlavə I-də əhatə olunan sistemlər üçün isə 2 avqust 2028-ci ildə başlayır. Ayrı-ayrılıqda, təklif olunan süni intellekt məsuliyyəti direktivi geri götürülüb, buna görə də süni intellekt zərərinə görə mülki məsuliyyət milli qanunvericilik məsələsi olaraq qalır ki, bu da Niderlandda adi qanun pozuntusu və məhsul məsuliyyəti qaydaları deməkdir.

Qanuna əsasən cəzalar inzibati xarakter daşıyır və qadağan olunmuş təcrübə ilə məşğul olmağa görə otuz beş milyon avroya və ya dünya üzrə ümumi illik dövriyyənin yeddi faizinə qədər, hansı daha yüksəkdirsə, müəyyən edilir, digər pozuntulara görə isə daha aşağı hədlər tətbiq olunur. Hollandiyada nəzarət mövcud tənzimləyicilər ətrafında təşkil olunur, əlaqələndirici rolda Autoriteit Persoonsgegevens və Rijksinspectie Digitale Infrastructuur iştirak edir. Süni İntellekt Qanununa əsasən qadağan olunmuş süni intellekt təcrübələri və yüksək riskli süni intellekt sistemləri haqqında məqalələrimiz öhdəlikləri ətraflı şəkildə müəyyən edir və AB Süni İntellekt Qanununa dair ümumi baxışımız çərçivəni bütövlükdə əhatə edir.

Prokuror bundan necə istifadə edəcək

Təlim məlumatlarını qərəzlilik üçün yoxlamadan, Qanunun tələb etdiyi insan nəzarəti tənzimləməsindən və tələb etdiyi sənədlərdən istifadə etmədən yoxlama alətini istifadəyə verən bir yerləşdirmə şirkətini təsəvvür edin. Əgər həmin alət cinayət nəticəsinə səbəb olarsa, prokuror ilkin prinsiplərə əsasən hansı qayğının göstərilməli olduğu barədə mübahisə etmək məcburiyyətində deyil. Öhdəliklər açıqdır, pozuntu sənədləşdirilir və funksional törətmənin qəbul elementi hər halda yerləşdirmə qərarından irəli gəlir. Əksi də doğrudur və şuralar tərəfindən ən çox nəzərdən qaçırılan məqam budur: risk qiymətləndirməsini, təsdiqləmə nəticələrini, nəzarət protokolunu və hadisə qeydlərini təqdim edə bilən bir şirkət, hər hansı bir problem baş verməzdən əvvəl öz müdafiəsinin əsasını qurmuşdur.

Alqoritmik çıxış sübut kimi

Süni intellekt cinayət məhkəməsinə ikinci yolla daxil olur və zərərin səbəbi kimi deyil, sübut mənbəyi kimi çıxış edir. Üz tanıma uyğunluqları, avtomatik nömrə nişanı tanıma, rabitə məlumatlarının şəbəkə təhlili, fırıldaqçılıq riski modelləri, səs müqayisəsi və müsadirə edilmiş məlumatların getdikcə avtomatlaşdırılmış çeşidlənməsi hamısı prokurorluğun etibar etmək istədiyi materialları yaradır. Hollandiyanın cinayət prosesi sübut kateqoriyalarının qapalı sistemi ilə işləyir və alqoritmik çıxış öz kateqoriyasını təşkil etmir. O, məhkəməyə rəsmi hesabatın bir hissəsi kimi və ya ekspert rəyi vasitəsilə çatır və digər sübutlarla eyni yoxlamaya məruz qalır.

Müdafiə işinin əsas diqqət mərkəzində məhz bu yoxlama dayanır. Materialın daşıya biləcəyi ağırlığı üç sual müəyyən edir. Metod təsdiqlənibmi və kim tərəfindən təsdiqlənibmi? Hansı şərtlər altında uğursuz olur və bu şərtlər mövcud idimi? Müdafiə tərəfi onu sınaqdan keçirə bilərmi, yəni sistem, onun təlim məlumatları, səhv nisbətləri və konfiqurasiyası haqqında mənalı bir problem yaratmaq üçün kifayət qədər məlumata çıxış əldə edə bilərmi? Səhv nisbəti və yoxlama imkanı olmayan fakt kimi təqdim edilən uyğunluq məhkəmənin məhkum etməli olduğu dəlil deyil və bunu demək qanuni və çox vaxt təsirli bir müdafiədir.

Ekspert sübutlarının öz çərçivəsi var. Məhkəmə ekspert təyin edə bilər, müdafiə tərəfi ekspert tələb edə bilər və məhkəmə ekspertlərinin reyestri əhatə etdiyi sahələr üçün keyfiyyət həddini təmin etmək üçün mövcuddur. Süni intellekt metodu hər hansı tanınmış sahədən kənara çıxdıqda, bu özü nəticənin etibarlılığı ilə bağlı bir arqumentdir. Həmçinin qeyd etmək lazımdır ki, 24 fevral 2026-cı ildə Eerste Kamer tərəfindən qəbul edilmiş və 2026-cı ilin mart ayında Staatsblad-da dərc edilmiş yeni Wetboek van Strafvordering kral fərmanı ilə kitab-kitab qüvvəyə minəcək; bu baş verənə qədər mövcud müddəalar və onların maddə nömrələri tətbiq olunmağa davam edəcək.

Məlumatların qorunması bucağı

Bir şəxsə təsir edən qərar yalnız avtomatlaşdırılmış vasitələrlə qəbul edildikdə, GDPR həmin şəxsə bu qərara məruz qalmamaq hüququ, eləcə də məntiq haqqında mənalı məlumat almaq hüququ verir. Cinayət icraatında polis məlumatları direktivini tətbiq edən qanunun paralel qaydaları tətbiq olunur. Bu, iki istiqamətdə əhəmiyyətlidir. Şübhəli üçün bu, səlahiyyətli orqanların izah etməməyi üstün tuta biləcəyi bir sistem haqqında məlumata aparan bir yoldur. Bir şirkət üçün qanuni əsas olmadan və təminatlar olmadan avtomatlaşdırılmış qərar qəbuletməni tətbiq etmək hər hansı bir cinayət iddiası ilə yanaşı oxunacaq tənzimləyici pozuntudur.

Süni intellektlə bağlı bir işi müdafiə etmək

Sistemin qara qutu olduğunu və heç kimin nə edəcəyini bilmədiyini iddia edən instinktiv müdafiə göründüyündən daha zəifdir. Bu, səhv suala cavab verir. Hollandiyanın cinayət hüququ təqsirləndirilən şəxsin dəqiq nəticəni qabaqcadan görüb-görmədiyini soruşmur; təqsirləndirilən şəxsin davranışın baş verib-vermədiyini müəyyən etmək və baş verə biləcək riski qəbul etmək səlahiyyətinə malik olub-olmadığını soruşur. Qeyri-şəffaflıq təqsirləndirilən şəxsin əleyhinə ola bilər: davranışı izah edilə bilməyən bir sistemin ciddi zərər verə biləcəyi bir mühitdə yerləşdirilməsi özü məhkəmənin riski qəbul etdiyi qərardır.

İşləyən müdafiə vasitələri daha dar və sübutludur. Birincisi, nəzarətin həqiqi olmamasıdır: sistem hazır məhsul kimi satın alınıb, provayder tərəfindən konfiqurasiya edilib və saxlanılıb və cavabdehin müdaxilə etmək üçün nə məlumatı, nə də texniki imkanı var idi. Bu arqument diqqəti bütün zəncir üzrə provayderə yönəldir və bu, müqaviləyə və yerləşdiriciyə əslində bildirilənlərə bağlıdır. İkincisi, operatorun diqqətli operatorun etdiyi işi etməsidir: sənədləşdirilmiş risk qiymətləndirməsi, yerləşdirilmədən əvvəl validasiya, ləğv etmək səlahiyyəti və səriştəsi olan bir şəxslə müəyyən edilmiş insan nəzarəti, yerləşdirilmədən sonra monitorinq və hadisələrə dair təcili tədbirlər. Üçüncüsü, tez-tez az istifadə edilən səbəbiyyətdir. Təlim məlumatlarından model vasitəsilə insan qərarına və nəticəyə qədər uzanan bir zəncirdə ittiham tərəfi bu cavabdehin davranışının nəticəyə səbəb olduğunu və mürəkkəb zəncirlərin qırıldığını göstərməlidir.

İki praktik məqam bundan sonra gəlir. Hər şeyi əvvəlcədən saxlayın: qeydlər, model versiyaları, konfiqurasiya, hadisə hesabatları və yerləşdirmə qərarları ilə bağlı yazışmalar hər iki tərəfin sübutudur və onlar müntəzəm olaraq yenidən yazılır. Və unutmayın ki, cinayət prosesinin adi təminatları şübhəlinin heç nə deməmək hüququ da daxil olmaqla, texniki cəhətdən mürəkkəb işlərə tam şəkildə tətbiq olunur; cinayət işlərində susmaq hüququ haqqında məqaləmizdə bunun Hollandiya istintaqında necə işlədiyi izah olunur. İddia avtomatlaşdırılmış alətlərlə törədilən fırıldaqçılıqdırsa, Hollandiyada fırıldaqçılıq və maliyyə cinayətləri üzrə bələdçimiz müvafiq cinayətləri əhatə edir.

Uşaq baxımı müavinətləri məsələsi əslində nəyi göstərir

Hollandiyada uşaq baxımı müavinətləri məsələsi olan toeslagenaffaire, Hollandiyada alqoritmik hesabatlılıqla bağlı hər müzakirənin qayıdışı olan bir məsələdir və adətən səhv səbəbdən istinad edilir. Bunun dərsi alqoritmin cinayətkar bir şey etməsi deyil. Məqsəd, avtomatlaşdırılmış risk seçimi sisteminin, institusionalın onun nəticələrini sorğulamaq istəməməsi ilə birləşməsi və heç kimin cinayət məsuliyyətinə cəlb edilmədən on minlərlə ailəyə illərlə ciddi zərər verməsidir.

Vergi Administrasiyası araşdırma üçün müavinət iddialarını seçmək üçün risk təsnifatından istifadə etdi. Vətəndaşlıq da daxil olmaqla, heç vaxt istifadə edilməməli olan göstəricilər seçimə yol tapdı və kiçik bir inzibati pozuntu tam müavinəti ödəmək öhdəliyi ilə qəsdən fırıldaqçılıq aşkarlanmasına səbəb ola bilərdi. Ailələr niyə seçildiklərini başa düşə bilmədilər, vəzifəli şəxslər təsnifatı siqnal deyil, nəticə kimi qəbul etdilər və heç kimin izah edə bilməyəcəyi ittihamı təkzib etmək yükü təqsirləndirilən şəxsin üzərinə düşdü. Hollandiyanın məlumatların qorunması orqanı vətəndaşlıq məlumatlarının emalını qanunsuz hesab etdi və cərimə tətbiq etdi və hökumət 2021-ci ilin yanvar ayında istefa verdi.

Baş verməyən şey ibrətamizdir. Heç bir şəxs cinayət məsuliyyətinə cəlb edilmədi. Məsuliyyət bir təşkilat, bir siyasət, bir proqram təminatı və müavinətlərin geri alınmasını inzibati məsələ kimi qəbul edən hüquqi çərçivə arasında bölüşdürüldü. Bu yayılma, funksional törətmə və 51-ci maddənin əks-hücumunun yaratdığı riskdir və bu, Süni İntellekt Qanununun müəyyən edilə bilən insan nəzarəti və sənədləşmə üzərində israr etməsinin səbəbini izah edir. Hesabatlılıq, bunu dayandıra bilən bir şəxs və bildikləri barədə qeyd tələb edir.

Üç uğursuzluğun adını çəkmək lazımdır, çünki onlar istənilən təşkilat üçün birbaşa hüquqi təsirə çevrilir. Qərarlar izah edilə bilməzdi, ona görə də onlara etiraz etmək mümkün deyildi. İnsan nəzarəti kağız üzərində mövcud idi, lakin praktikada yox idi, çünki iştirak edən insanların sistemi ləğv etmək üçün nə səlahiyyəti, nə də məlumatı var idi. Və bayrağın təsiri, qanunda olmasa da, faktiki sübut yükünü geri çevirmək idi. Bu üç xüsusiyyəti əks etdirən hər hansı bir süni intellekt tətbiqi, arxasındakı texnologiyadan asılı olmayaraq, yetkinləşməyi gözləyən hüquqi problemdir. Hökumətin cavabı, o cümlədən dizayna görə ayrı-seçkiliyin qarşısının alınması və dövlət qurumları üçün alqoritm reyestrləri ilə bağlı rəhbərlik, məhz bu üç məqama yönəlib.

Müdafiə kimi də işləyən uyğunluq proqramı

Bir şirkətin Süni İntellekt Qanununa riayət etmək üçün etdiyi hər şey, bir şeyin səhv getməsi halında lazım olacaq dəlilləri də ortaya qoyur. Bu ikili məqsəd, bunu minimal deyil, düzgün etmək arqumentidir və aşağıdakı addımları səy göstərməyə dəyər edir.

İnventarlaşdırma ilə başlayın. Sadalamadığınız şeyləri təsnif edə bilməzsiniz və əksər təşkilatlar süni intellektin layihə vasitəsilə deyil, satınalma yolu ilə daxil olduğunu aşkar edirlər: işə qəbul platformasında seçim xüsusiyyəti, kredit müraciətində qiymətləndirmə modulu, təhlükəsizlik proqram təminatında monitorinq funksiyası. Hər bir sistemi Qanuna əsasən təsnif edin, əsaslandırmanı qeyd edin və sistem əhəmiyyətli dərəcədə dəyişdirildikdə yenidən baxın, çünki məqsəd dəyişikliyi sistemi fərqli bir kateqoriyaya keçirə bilər.

Daha sonra məsuliyyəti şöbələrə deyil, adı çəkilən şəxslərə həvalə edin. Funksional məsuliyyət və faktiki rəhbərlik həm davranışın baş verib-vermədiyini kimin müəyyən edə biləcəyini müəyyən edir. Heç kimin məsul kimi müəyyən edilə bilmədiyi bir təşkilat məsuliyyətdən qaçmır; sadəcə cədvəlin başında kimin oturduğunu ifşa edir. Hər bir sistemə kimin sahib olduğunu, kimin yerləşdirməyə icazə verə biləcəyini, kimin nəzarəti həyata keçirə biləcəyini və kimin onu söndürə biləcəyini deyin və adı çəkilən şəxsin bunu etmək səlahiyyətinə və texniki səriştəsinə malik olduğundan əmin olun.

İnsan nəzarətini real hala gətirin. Tələb, çıxışı başa düşə bilən, onu rədd etmək səlahiyyətinə malik və rəddi qeyri-mümkün edəcək şəkildə məhsuldarlıqla ölçülməyən bir şəxsdir. Qeydlər ləğv edilir, çünki nəzarət funksiyasının həqiqətən istifadə olunduğunu göstərən bir qeyd istənilən siyasət sənədindən daha dəyərlidir.

Texniki vəziyyəti sənədləşdirin: təlim məlumatlarının haradan gəldiyini və necə yoxlanıldığını, hansı sınaqların aparıldığını və nəyi göstərdiyini, məlum səhv nisbətlərinin və nasazlıq şərtlərinin nə olduğunu və onlarla bağlı nə qərar verildiyini. Məlumatların qorunmasına və ya fundamental hüquqlara təsirin qiymətləndirilməsi tələb olunduğu hallarda, yerləşdirmədən əvvəl onu həyata keçirin və yeniləyin. Yerləşdirilmədən sonra monitorinq aparın, hadisələri qeyd edin və qeydlərdə görünən şəkildə onlara qarşı tədbirlər görün.

Nəhayət, müqavilələri düzgün tərtib edin. Sistemin qurulması əvəzinə satın alındığı hallarda, provayder və yerləşdirici arasında məsuliyyət bölgüsü riskin kimin daşıdığını müəyyən edir. Qanunun tələb etdiyi texniki sənədləri, istifadə təlimatlarını, məlum məhdudiyyətlər haqqında məlumatı və hadisələr və əhəmiyyətli dəyişikliklər barədə məlumatlandırılmaq hüququnu istəyin. İT hüquq komandamız bu tənzimləmələrlə məşğul olur.

Süni intellekt biznesin uğursuzluğundan daha çox cinayətkarın aləti olduqda

İndiyə qədər bu məqalədə şirkətin qanuni məqsəd üçün istifadə etdiyi süni intellekt sisteminin vurduğu zərərdən bəhs edilib. Məsələnin digər yarısı qəsdən cinayət törətmək üçün istifadə edilən süni intellektdir və burada cavab daha sadədir: cinayət cinayətdir və texnologiya hüquqi problem deyil, ağırlaşdırıcı bir detaldır. Hollandiyanın cinayət hüququ alətlər baxımından deyil, nəticələr və davranış baxımından hazırlanır, buna görə də çox az yeni müddəaya ehtiyac duyulub.

Klonlaşdırılmış səs və ya direktorun ödəniş tapşırığını verdiyi sintetik video ilə törədilən fırıldaqçılıq, saxta məktubla olduğu kimi, 326-cı maddəyə əsasən də aldatma hesab olunur. Yalan iddianı dəstəkləmək üçün model tərəfindən yaradılan sənəd, 225-ci maddəyə əsasən saxtakarlıq hesab olunur. Şəxsi məlumatları ötürmək üçün kiminsə istifadəsindən istifadə etmək, 231b-ci maddəyə əsasən ayrıca bir cinayətdir. Bir şəxsin razılığı olmadan cinsi əlaqədə olan şəkillərini yaymaq cəzalandırılır və 1 iyul 2024-cü ildən qüvvədə olan Wet seksualele misdrijven Cinayət Məcəlləsinin həmin hissəsini modernləşdirdi; sintetik şəkil qeydə alınmadığı üçün yaradıldığı üçün onun xaricinə düşmür. Avtomatlaşdırılmış hesablar vasitəsilə davamlı təqib, yalnız zərərçəkmişin şikayəti əsasında cinayət məsuliyyətinə cəlb edilən 285b-ci maddəyə əsasən ifşa etməyə bərabər ola bilər.

Süni intellekt miqyası, etibarlılığı və sübutun çətinliyini dəyişdirir. İnandırıcı sintetik səs ödəniş fırıldaqçılığından qorunmaq üçün istifadə edilən sürtünməni aradan qaldırır və səs yazısının orijinal olduğuna dair sübutlar artıq qəbul edilə bilməz. Bunun iki praktik nəticəsi var. Qurbanlar və şirkətlər üçün səsi və ya üzün tanınmasından asılı olmayan yoxlama prosedurları artıq təkmilləşdirmədən daha çox əsas nəzarətdir. Cinayət prosesi üçün audio və video materiallarının orijinallığı ehtimal etməkdənsə, sübut edilməli olan bir məsələyə çevrilib və müdafiə tərəfi bunu sınaqdan keçirmək hüququna malikdir.

Tənzimləmə kömək etməyə başlayır. Artıq tətbiq olunan Süni İntellekt Qanununun 50-ci maddəsinin şəffaflıq öhdəlikləri, provayderlərdən sintetik məzmunu maşın oxuna bilən şəkildə işarələmələrini və yerləşdirənlərdən real insanları və ya hadisələri təsvir edən bir görüntünün, audio və ya videonun süni şəkildə yaradıldığını və ya manipulyasiya edildiyini açıqlamalarını tələb edir. Uyğunluq qətiyyətli bir cinayətkarı dayandırmır, lakin hər kəsin mövqeyini gücləndirir: açıqlanmayan sintetik məzmunu özü-özlüyündə tənzimləyici pozuntu halına gətirir və müstəntiqlərə və məhkəmələrə axtarmaq üçün bir siqnal verir. Hollandiyada rəqəmsal aldatmanın sübut edilməsi ilə bağlı məqaləmiz bu işlərin sübut tərəfini araşdırır.

Süni intellekt və cinayət məsuliyyəti ilə bağlı tez-tez verilən suallar

Necə Law and More kömək edə bilər

Law and More Şirkətlərə, direktorlara və fərdlərə avtomatlaşdırılmış sistemlərdən irəli gələn cinayət məsuliyyəti ilə bağlı məsləhətlər verir. Biz 51-ci maddəyə və funksional törətmə doktrinasına əsasən məruz qalma hallarını qiymətləndiririk, diqqətliliyin sübutu kimi çıxış edəcək süni intellekt idarəetməsini qururuq və nəzərdən keçiririk, cinayət prosesində alqoritmik sübutlara etiraz edirik və Dövlət Prokurorluğu və tənzimləyicilər tərəfindən aparılan araşdırmalarda şirkətləri və onların vəzifəli şəxslərini müdafiə edirik. Təşkilatınız süni intellektdən səhvlərin nəticələri olduğu bir mühitdə istifadə edirsə, hadisə sual doğurmazdan əvvəl ofisimizlə əlaqə saxlayın.