Նիդեռլանդներում արհեստական ինտելեկտի համակարգերի պատասխանատվությունը միշտ ընկնում է անձի կամ ընկերության վրա, երբեք՝ ծրագրային ապահովման վրա: Գործնականում կարևոր են երկու դիրքորոշումներ՝ օգտագործողը, այսինքն՝ համակարգը տեղակայող և դրա հետ կապված որոշումներ կայացնող անհատը կամ կազմակերպությունը, և արտադրողը, այսինքն՝ համակարգը մշակող, շուկա հանող կամ մատակարարող կողմը: Երկուսից որն է կրում վնասը, կախված է նրանից, թե որտեղ է տեղի ունեցել խափանումը, ինչ գիտեին նրանցից յուրաքանչյուրը և ինչ է ասվում նրանց միջև կնքված պայմանագրի մեջ: Այս հոդվածը հաշվի է առնում երկու դիրքորոշումներն էլ. քրեական իրավունքի շրջանակը՝ սկսած ֆունկցիոնալ կատարումից մինչև Քրեական օրենսգրքի 51-րդ հոդվածի համաձայն կորպորատիվ պատասխանատվությունը, ներկայացված է մեր ուղեկցող հոդվածում՝ այն մասին, թե արդյոք ալգորիթմը կարող է մասամբ պատասխանատու լինել :
Ինչու համակարգը երբեք պատասխանող կողմը չէ
Նիդեռլանդների օրենսդրությունը ճանաչում է անձանց երկու տեսակ՝ ֆիզիկական և իրավաբանական անձինք: Արհեստական բանականության համակարգը երկուսն էլ չէ: Այն չի կարող իրավունքներ ունենալ, չի կարող կանչվել, չի կարող տուգանվել և չի կարող պարտավորեցվել վճարել վնասը, քանի որ այն ոչինչ չունի և չունի իրավական գոյություն այն ընկերությունից առանձին, որը ղեկավարում է այն: Երրորդ կատեգորիա ստեղծելու առաջարկները, որոնք երբեմն կոչվում են էլեկտրոնային անձնավորություն, քննարկվել են եվրոպական մակարդակով և ոչ մի արդյունք չեն տվել այն պատճառով, որն ավելի շատ գործնական է, քան փիլիսոփայական. պատասխանատվության միջոցը, որը չունի ակտիվներ և չունի իր վարքագիծը փոխելու հնարավորություն, կտեղափոխի ռիսկը այն կողմերից, ովքեր իրականում կարող են կանխել վնասը:
Այսպիսով, հարցը երբեք այն չէ, թե արդյոք մեքենան է պատասխանատու։ Հարցը վերաբերում է շղթայի որ մարդկային կամ կորպորատիվ գործող անձին, որը ձախողվել է իր պարտականությունների կատարման մեջ, և այդ շղթան ունի կանխատեսելի ձև՝ մոդելը կառուցած կողմը, այն արտադրանքի վերածած կողմը, այն մատակարարող կամ ինտեգրած կողմը, այն տեղակայող կազմակերպությունը և կոճակը սեղմած անհատը։ Արհեստական բանականության համակարգերի պատասխանատվությունը այդ շղթայում ձախողումը գտնելու և այն իրավական հիմքին համապատասխանեցնելու գործընթացն է։
Այդ իրավական հիմքերից երկուսը գերիշխող են։ Օգտագործողի համար՝ ընդհանուր իրավախախտումների մասին օրենքը և ուրիշի ուղղությամբ հզոր գործիք օգտագործելու հետ կապված հոգատարության պարտականությունը։ Արտադրողի համար՝ ապրանքի պատասխանատվությունը, որը բացարձակապես չի պահանջում մեղքի առկայություն։ Մնացած ամեն ինչ, այդ թվում՝ քրեական պատասխանատվությունը, դրվում է այս ամենի վրա։
Օգտատիրոջ դիրքը
Օգտատերերը թերագնահատում են իրենց ազդեցությունը, քանի որ համակարգը համարում են ինչ-որ մեկի կողմից ստեղծված սև արկղ։ Իրավունքի համաձայն, այն անձը, ով որոշում է տեղակայել գործիքը, կարգավորում է այն, տրամադրում տվյալներ և գործում է դրա արդյունքների հիման վրա, ինչ-որ բան է անում, և այդ գործողությունը գնահատվում է ըստ իր արժանիքների։
Երբ համակարգը պարզապես հանցագործության գործիք է
Ամենահեշտ դեպքերը այն դեպքերն են, երբ արհեստական բանականության համակարգը միտումնավոր օգտագործվում է: Ընկերությանը խաբելու համար համոզիչ հաշիվ-ապրանքագիր ստեղծելը խարդախություն է Քրեական օրենսգրքի 326-րդ հոդվածի համաձայն՝ անկախ նրանից, թե նամակը կազմվել է անձի, թե մոդելի կողմից, իսկ փաստաթուղթ կեղծելը մնում է կեղծիք 225-րդ հոդվածի համաձայն՝ անկախ գործիքից: Համակարգ ներխուժող կոդ գրելու համար մոդելի օգտագործումը դեռևս համակարգչային ներխուժում է 138աբ հոդվածի համաձայն: Իրական անձի մանիպուլյացված պատկերների ստեղծումը և տարածումը կարող է համարվել զրպարտություն, և երբ նյութը սեռական բնույթի է, այն ընկնում է 2024 թվականի հուլիսի 1-ից կիրառվող «Սեռական հանցագործությունների մասին» օրենքի հանցագործությունների շարքում: Անհատի նկատմամբ արհեստական բանականության միջոցով շարունակական ոտնձգությունը կարող է համարվել հետապնդում 285բ հոդվածի համաձայն, որը հետապնդվում է միայն տուժողի բողոքի հիման վրա:
Սրանցից ոչ մեկը նոր օրենք չէ։ Տեխնոլոգիան փոխում է խաբեության մասշտաբը և հավանականությունը, այլ ոչ թե հանցագործության տարրերը։ Այն փոխում է ապացույցները. հուշումները, հաշվի գրանցամատյանները, մոդելի արդյունքները և ֆայլի ստեղծման ժամանակը այն նյութն են, որը կապում է հանցագործությունը անձի հետ, և օգտատերերը, ովքեր ենթադրում են, որ արհեստական բանականության կողմից ստեղծված բովանդակությունը հնարավոր չէ հետևել, սովորաբար սխալվում են։
Անզգույշ օգտագործում՝ ավելի տարածված ռիսկ
Շատ ավելի շատ կազմակերպություններ խնդիրների մեջ են ընկնում անփութության, քան մտադրության պատճառով։ Այս օրինաչափությունը ծանոթ է։ Համակարգը գնվում է մեկ նպատակի համար և օգտագործվում մեկ այլ նպատակի համար։ Դրա արդյունքը դիտվում է որպես որոշում, այլ ոչ թե որպես ազդանշան։ Ոչ ոք չի ստուգում այն դեպքերը, երբ այն սխալ է, քանի որ այն շահագործող մարդկանց երբեք չեն ասել, թե ինչպիսին է դրա սխալի մակարդակը կամ որտեղ է այն ձախողվում։ Երբ վնասը իրականանում է, կազմակերպությունը հայտնաբերում է, որ չունի որևէ գրառում այն մասին, թե ինչպես է կայացվել որոշումը։
Քաղաքացիական առումով սա ուղղակի իրավախախտում է. Քաղաքացիական օրենսգրքի 6:162-րդ հոդվածը անձին պատասխանատվության է ենթարկում իրեն վերագրվող անօրինական արարքի համար, որը վնաս է պատճառում: Հասարակության մեջ հոգատարության պարտականության խախտումը անօրինականության կատեգորիաներից մեկն է, և այդ պարտականության բովանդակությունը որոշվում է նրանով, թե ինչ կաներ այդ պաշտոնում գտնվող ուշադիր օպերատորը: Բացի այդ, գործատուն պատասխանատու է իր աշխատակիցների մեղքերի համար՝ համաձայն 6:170-րդ հոդվածի, և կողմը, որն օգտագործում է օժանդակ անձի՝ պայմանագրային պարտավորությունը կատարելու համար, պատասխանատու է այդ օժանդակ անձի համար՝ համաձայն 6:76-րդ հոդվածի, որը դրույթ է, որը բռնում է կազմակերպությանը մատակարարի մոդելն օգտագործելիս՝ սեփական ծառայությունը մատուցելու համար:
Խնամքի պարտականությունն այլևս ամբողջությամբ դատարաններին չի թողնվում հորինելու համար: ԵՄ արհեստական բանականության մասին օրենքը բարձր ռիսկի համակարգերի տեղակայողներին տալիս է կոնկրետ պարտավորություններ՝ օգտագործել համակարգը հրահանգների համաձայն, մարդկային վերահսկողությունը հանձնարարել այն իրականացնելու իրավասություն և լիազորություն ունեցող անձանց, ապահովել, որ իրենց վերահսկողության տակ գտնվող մուտքային տվյալները համապատասխան լինեն, վերահսկել աշխատանքը և կասեցնել օգտագործումը, երբ ռիսկ է առաջանում, պահպանել գրանցամատյանները և տեղեկացնել աշխատողներին և նրանց ներկայացուցիչներին՝ նախքան նման համակարգը աշխատանքի վայրում տեղակայելը: Այդ պարտավորությունները կարգավորող են, բայց անփութությունը գնահատող դատարանը դրանք կընկալի որպես զգույշ վարքագծի նկարագրություն: Կազմակերպությունը, որը անտեսել է օգտագործման հրահանգները, ոչ միայն չի համապատասխանում կանոններին, այլև հայցվորին է հանձնել իր գործը:
Ավտոմատացման կողմնակալությունը արժանի է առանձին հիշատակման, քանի որ հենց այստեղ է, որ վերահսկողությունը աննկատելիորեն ձախողվում է: Վերանայողը, որը հաստատում է համակարգի առաջարկած գրեթե ամեն ինչ, վերահսկողություն չի իրականացնում, իսկ կազմակերպությունը, որը չափում է իր անձնակազմը արտադրողականության հիման վրա, արդյունավետորեն մշակել է այդ արդյունքը: Իրավական հարցն այն է, թե արդյոք մարդկային որոշումն իսկապես կայացվել է, և ռետինե կնիքը չի համապատասխանում պահանջներին:
Երբ օգտագործողը չի կարող փոխանցել ռիսկը
Երեք կետ պարբերաբար զարմացնում են այն կազմակերպություններին, որոնք ենթադրում էին, որ մատակարարն է կրում ռիսկը։
Նախ, վնաս կրած երրորդ կողմի նկատմամբ տեսանելի կողմը օգտատերն է։ Հաճախորդը, որին վարկը մերժվել է, աշխատակիցը, որին սկրինինգային գործիքը մերժել է, հիվանդը, որին սխալ տեսակավորում է տրվել. նրանք պայմանագիր են կնքել կամ գործ ունեն տեղաբաշխողի հետ, և նրանք դատի են տալու տեղաբաշխողին։ Արդյո՞ք տեղաբաշխողը կարող է փոխհատուցում ստանալ իր մատակարարից, առանձին հարց է, որը կախված է պայմանագրից և չի հետաձգում դրա դեմ հայցի քննարկումը։
Երկրորդ, տվյալների պաշտպանության ընդհանուր կանոնները կիրառվում են անկախ ամեն ինչից: Եթե համակարգը մշակում է անձնական տվյալներ, տեղակայողը սովորաբար վերահսկիչն է, որը պատասխանատու է իրավական հիմքի, թափանցիկության, ազդեցության գնահատման և անվտանգության համար: Միայն ավտոմատացված միջոցներով կայացված որոշումը, որը ստեղծում է իրավական հետևանքներ կամ նմանատիպորեն էականորեն ազդում է անձի վրա, առանձին կարգավորվում է և այդ անձին տալիս է մարդկային միջամտության և արդյունքը վիճարկելու իրավունք: Տվյալների պաշտպանության ընդհանուր կանոնակարգի մեր ակնարկը սահմանում է այդ ռեժիմը:
Երրորդ, փոփոխությունը փոխում է ձեր դերը: Համակարգի վրա իր անունը դնող, դրա նպատակը փոխող կամ էապես փոփոխող տեղակայողը դառնում է մատակարար՝ համաձայն Արհեստական բանականության մասին օրենքի և ժառանգում մատակարարի պարտավորությունները: Ընդհանուր նշանակության մոդելը կարգավորվող որոշման համար զտման գործիքի վերածելը հենց այն քայլն է, որը հատում է այդ սահմանը: Ուրիշի մոդելի վրա հիմնված կազմակերպությունները պետք է որոշեն, թե դրա որ կողմում են գտնվում նախքան դրա մեկնարկը, այլ ոչ թե միջադեպից հետո:
Արտադրողի դիրքորոշումը
Արտադրողի պատասխանատվությունը ընթանում է այլ ուղղությամբ և ավելի խիստ է: Քաղաքացիական օրենսգրքի 6:185 և հաջորդ հոդվածների համաձայն՝ ապրանքի պատասխանատվությունը արտադրողին պատասխանատվություն է դնում իր ապրանքի թերության պատճառով պատճառված վնասի համար՝ առանց տուժող կողմի մեղքը ապացուցելու անհրաժեշտության: Ապրանքը թերի է, երբ այն չի ապահովում այն անվտանգությունը, որը անձը իրավունք ունի ակնկալել՝ հաշվի առնելով դրա ներկայացումը, դրանից ողջամտորեն ակնկալվող օգտագործումը և շրջանառության մեջ դնելու ժամանակը: Հայցվորը պետք է ապացուցի վնասը, թերությունը և դրանց միջև պատճառահետևանքային կապը, ինչը Արհեստական բանականության դեպքում իրական պայքարի առարկան է:
Ռեժիմն ունի ֆիքսված սահմաններ: Հայցերը պետք է ներկայացվեն վնասի, թերության և արտադրողի ինքնության մասին տուժող կողմի իմացած կամ տեղյակ լինելու օրվանից հետո երեք տարվա ընթացքում, և իրավունքը մարում է տվյալ ապրանքի շրջանառության մեջ դրվելուց տասը տարի անց: Այս ռեժիմի շրջանակներում պատասխանատվությունը չի կարող բացառվել կամ սահմանափակվել պայմանագրով, և այն ներառում է մահը, անձնական վնասվածքը և մասնավոր օգտագործման համար նախատեսված այլ գույքի վնասը՝ ավելի ցածր շեմով: Արտադրողն ունի սահմանափակ պաշտպանության միջոցներ, այդ թվում՝ զարգացման ռիսկի պաշտպանությունը, որը կիրառվում է այն դեպքերում, երբ շրջանառության պահին գիտական և տեխնիկական գիտելիքների վիճակը չէր կարող բացահայտել թերությունը:
Բարեփոխում, որը փոխում է ծրագրային ապահովման դիրքը
Նիդեռլանդների գործող ռեժիմի համաձայն՝ ապրանքը շարժական իր է, և անկախ ծրագրային ապահովման որակավորման հարցը տարիներ շարունակ վիճարկվել է։ Այդ փաստարկն այժմ ավարտվում է։ Վերանայված «Արտադրանքի պատասխանատվության մասին» դիրեկտիվը՝ (ԵՄ) 2024/2853 դիրեկտիվը, ուժի մեջ է մտել 2024 թվականի դեկտեմբերի 8-ին և պետք է ազգային օրենսդրություն փոխակերպվի մինչև 2026 թվականի դեկտեմբերի 9-ը։ Այն վերաբերում է այդ ամսաթվից հետո շուկայում տեղադրված կամ շահագործման մեջ դրված ապրանքներին, ուստի Քաղաքացիական օրենսգրքի գործող դրույթները շարունակում են կարգավորվել դրանից առաջ շրջանառվող ապրանքների վրա։ Արհեստական բանականության համակարգերի պատասխանատվության համար կարևոր են չորս փոփոխություններ։
Ծրագրային ապահովումը, ներառյալ արհեստական ինտելեկտի համակարգերը և թվային արտադրական ֆայլերը, հստակորեն համարվում է արտադրանք: Պատասխանատու կողմերի շրջանակը ընդլայնվում է արտադրողից այն կողմ՝ ներառելով այն կողմը, որը էականորեն փոփոխում է արտադրանքը արտադրողի վերահսկողությունից դուրս, լիազորված ներկայացուցիչը, ներմուծողը և, որոշակի հանգամանքներում, կատարման ծառայություն մատուցողը և առցանց հարթակը: Վերականգնվող վնասը տարածվում է նաև այն տվյալների ոչնչացման կամ վնասման վրա, որոնք մասնագիտորեն չեն օգտագործվում, ինչը ծրագրային ապահովման խափանումների դեպքում կորստի իրական կատեգորիա է: Եվ արտադրանքը կարող է թերի լինել այն պատճառով, թե ինչ է տեղի ունենում շուկայում հայտնվելուց հետո. պահանջվող ծրագրային ապահովման թարմացման թերություն, անվտանգության թարմացումների չմատակարարում կամ շարունակական ուսուցման հետևանքներ, երբ արտադրողը պահպանել է դրա նկատմամբ վերահսկողությունը:
Բարեփոխումը նաև ուղղակիորեն անդրադառնում է ապացույցների խնդրին: Դատարանը կարող է պահանջել պատասխանողից բացահայտել համապատասխան ապացույցները՝ հայցվորի պահանջով, և եթե պատասխանողը չի կատարում դրանք, ենթադրվում է թերի լինելը: Թերության և պատճառահետևանքային կապի վերաբերյալ հերքելի ենթադրությունները կիրառվում են այն դեպքում, երբ հայցվորը չափազանց դժվարությունների է հանդիպում դրանք ապացուցելու հարցում՝ տեխնիկական կամ գիտական բարդության պատճառով, եթե հայցվորը հավանականությունը ներկայացնում է հավանականության տեսանկյունից: Հայցվորի համար, որը բախվում է մոդելի, որը ոչ ոք չի կարող լիովին բացատրել, սա է վիճելի և անհնարին գործի միջև տարբերությունը:
Պայմանագիրը, համապատասխանությունը և բացառման կետերի սահմանները
Բիզնեսների միջև առաջին մարտադաշտը սովորաբար պայմանագիրն է, այլ ոչ թե օրենքը: Արհեստական բանականության համակարգի մատակարարը պարտավոր է վճարել այն, ինչ համաձայնել է. մատակարարված համակարգը պետք է համապատասխանի պայմանագրին և ունենա այն որակները, որոնք գնորդը իրավունք ուներ ակնկալելու: Եթե մատակարարը խոստացել է ճշգրտության մակարդակ, մատչելիության մակարդակ կամ համապատասխանություն Արհեստական բանականության մասին օրենքին, դրա չմատակարարումը համարվում է պայմանագրի խախտում, և կատարման, վնասների և լուծարման սովորական միջոցները հետևում են չկատարման մասին պատշաճ ծանուցումից հետո:
Մատակարարները պատասխանում են սահմանափակման և բացառման կետերով, և այդ կետերը սովորաբար ուժի մեջ են առևտրային կողմերի միջև: Դրանք անսահմանափակ չեն: Կետը կարող է չեղյալ հայտարարվել, երբ դրան հենվելը անընդունելի կլինի ողջամտության և արդարության չափանիշներին համապատասխան, ինչը դատարանների կողմից ընտրված ուղին է մատակարարի կողմից դիտավորյալ անփութության կամ լուրջ մեղքի դեպքերում, և երբ կետը ընդհանուր առմամբ այդպիսին է, այն կարող է չեղյալ հայտարարվել, եթե մյուս կողմին երբեք իրական հնարավորություն չի տրվել դրանք հաշվի առնելու: Արտադրանքի պատասխանատվության ռեժիմով պատասխանատվությունը չի կարող ընդհանրապես հանվել տուժող կողմի դեմ: Գործնականում բանակցությունները վերաբերում են սահմանաչափերին, տվյալների խախտումների և մտավոր սեփականության խախտման համար բացառություններին, կարգավորող տուգանքների փոխհատուցմանը և մատակարարի պարտավորությանը՝ տրամադրել հաճախորդին իրեն պաշտպանելու համար անհրաժեշտ փաստաթղթերն ու գրանցամատյանները: Վնասի փոխհատուցման պահանջների վերաբերյալ մեր էջը ներկայացնում է, թե ինչպես են կառուցվում այդ պահանջները:
Ինչ է անում և ինչ չի անում արհեստական բանականության մասին օրենքը
Արհեստական բանականության մասին օրենքը կարգավորող գործիք է: Այն մատակարարներին և տեղակայողներին ասում է, թե ինչ անել և վերահսկողներին տալիս է այն կիրառելու լիազորություններ. այն չի ստեղծում փոխհատուցման իրավունք արհեստական բանականության համակարգից վնաս կրած անձի համար: Արհեստական բանականության պատասխանատվության մասին առաջարկվող հրահանգը, որը կհամակարգեր քաղաքացիական հայցերը և կներդներ բացահայտման և ենթադրությունների սկզբունքներ ամբողջ ոլորտում, հետ է կանչվել: Մնում է վերը նկարագրված համադրությունը՝ ազգային իրավախախտումների և պայմանագրային իրավունք, գումարած ապրանքի պատասխանատվության բարեփոխված ռեժիմը:
Սա չի նշանակում, որ արհեստական բանականության մասին օրենքը պատասխանատվության տեսանկյունից անտեղի է։ Այն կարևոր է երեք առումով։ Այն սահմանում է խնամքի չափանիշը, որպեսզի անհամապատասխանությունը լինի անփութության ապացույց։ Այն ստեղծում է փաստաթղթեր, քանի որ տեխնիկական փաստաթղթերը, օգտագործման հրահանգները, գրանցամատյանները և շուկայականից հետո մոնիթորինգի ֆայլը բոլորը գոյություն ունեն օրենքով և կարող են պահանջվել դատավարության ընթացքում։ Եվ այն բաշխում է դերերը, որպեսզի այն հարցը, թե ով է մատակարարը և ով է տեղակայողը, որը նախկինում վեճի առարկա էր, այժմ ունի իրավական պատասխան։ Մեր ՏՏ իրավաբանական պրակտիկան զբաղվում է այդ դասակարգման հարցերով, նախքան դրանք վեճի վերածվեն։
Որտեղ հանդիպում են օգտագործողը և արտադրողը
Իրական միջադեպերի մեծ մասը պայմանավորված չէ շղթայի մեկ ծայրում գտնվող մեկ խափանումով։ Դրանք պայմանավորված են տվյալների վրա պատրաստված մոդելով, որը չի ներկայացնում այն բնակչությունը, որի համար այն կիրառվել է, ինտեգրված է մատակարարի կողմից, որը չի փորձարկել այն այդ համատեքստում, կիրառվել է կազմակերպության կողմից, որն օգտագործել է այն այնպիսի նպատակով, որը հրահանգները չեն ներառել, և գործարկվել է աշխատակիցների կողմից, որոնց երբեք չեն ասվել դրա սահմանափակումները։ Հոլանդական օրենսդրությունը որևէ դժվարություն չունի այս հարցում. նույն վնասի համար կարող են պատասխանատու լինել մի քանի կողմեր, որոնցից յուրաքանչյուրը պատասխանատու է դրա ամբողջության համար տուժած կողմի նկատմամբ, և նրանք հետագայում կարգավորում են ներքին բաշխումը՝ համաձայն իրենց համապատասխան ներդրումների։
Ստորև բերված աղյուսակը ցույց է տալիս, թե սովորաբար որտեղ է գտնվում պատասխանատվությունը և ինչ հիմքով։
| Կուսակցություն | Պատասխանատվության բնորոշ հիմքը | Ինչն է որոշում արդյունքը |
|---|---|---|
| Մատակարար կամ արտադրող | Ապրանքի պատասխանատվություն առանց մեղքի, պայմանագրային պատասխանատվություն հաճախորդի նկատմամբ։ | Արդյո՞ք համակարգը ապահովում էր ակնկալվող անվտանգությունը, և ի՞նչ էր իրականում գրված փաստաթղթերում և հրահանգներում։ |
| Կողմ, որը էականորեն փոփոխում է | Ընդգրկում է արտադրողի դիրքը փոփոխված արտադրանքի համար։ | Արդյո՞ք փոփոխությունը գերազանցել է նախատեսված նպատակը, թե՞ կատարվել է սկզբնական արտադրողի վերահսկողությունից դուրս։ |
| Տեղակայող կազմակերպություն | Դժբախտաբար, սեփական հոգատարության պարտականության խախտում, աշխատակիցների և օժանդակ անձանց պատասխանատվություն։ | Օգտագործեք հրահանգների շրջանակներում, մարդկային վերահսկողության որակը, մուտքային տվյալները, գրանցումը և մոնիթորինգը։ |
| Անհատական օպերատոր | Անձնական պատասխանատվությունը հազվադեպ է, իսկ քրեական բացահայտումը տեղի է ունենում այն դեպքերում, երբ համակարգը միտումնավոր է օգտագործվում։ | Մտադրություն, թե՞ լուրջ մեղք, և արդյոք գործատուն է պատասխանատու դրա փոխարեն։ |
Նիդեռլանդներում մանկական խնամքի նպաստների գործը այն հենակետն է, որին վերադառնում են բոլոր հոլանդական քննարկումները, և այն ցույց է տալիս օրենքի գերակայության փոխարեն օրինաչափությունը՝ անթափանցիկ ռիսկերի դասակարգման համակարգ, դրա արդյունքների հիման վրա կայացված որոշումներ՝ առանց իրական անհատական գնահատման, և հետևանքներ, որոնք ամբողջությամբ ընկել են ստացողների վրա: Դրա իրավական հետևանքները վարչական և քաղաքական էին, այլ ոչ թե քրեական, և մենք քննարկում ենք, թե ինչ է այն ցույց տալիս և ինչ չի տալիս քրեական պատասխանատվության մասին մեր հոդվածում՝ արհեստական բանականության և քրեական իրավունքի վերաբերյալ :
Ապացույցների խնդիրը և դրա փոփոխության ընթացքը
Պահանջ ներկայացնողը պետք է ապացուցի այն, իսկ արհեստական ինտելեկտի դեպքում ապացույցն է ամենադժվար մասը։ Պահանջողը պետք է ցույց տա, թե ինչ է արել համակարգը, ինչու է դա սխալ եղել և որ սխալն է վնասի պատճառ դարձել։ Դա անելու համար անհրաժեշտ տեղեկատվությունը գտնվում է պատասխանողի մոտ, և բարդ մոդելում այն կարող է իսկապես դժվար լինել վերականգնել նույնիսկ ներքին ուժով։
Երեք զարգացումներ են փոխում այդ հավասարակշռությունը: Գրանցման գրանցումը այժմ բարձր ռիսկի համակարգերի համար իրավական պահանջ է, ուստի նախկինում կամավոր գրառումը պետք է գոյություն ունենա: Արտադրանքի պատասխանատվության հայցերի ապացույցների բացահայտումը հասանելի է դառնում բարեփոխված ռեժիմի շրջանակներում՝ հիմնավորված թերի լինելու ենթադրությամբ, երբ պատասխանողը չի համապատասխանում պահանջներին: Եվ Նիդեռլանդների քաղաքացիական դատավարությունն արդեն թույլ է տալիս կողմին պահանջել ներկայացնել որոշակի նույնականացված փաստաթղթեր, որոնց նկատմամբ նա ունի օրինական շահագրգռվածություն, որոնք պարբերաբար օգտագործվում են փորձարկման զեկույցներ, միջադեպերի գրանցամատյաններ և ներքին ռիսկերի գնահատումներ ստանալու համար:
Մեղադրյալի համար գործնական եզրակացությունը անհարմար է, բայց հստակ. ձեր պահած փաստաթղթերը կկարդացվեն ձեր դեմ, և ձեր կողմից չպահպանված փաստաթղթերը նույնպես կպահվեն ձեր դեմ: Փորձարկումների, հայտնի սահմանափակումների, միջադեպերի և դրանց վարման վերաբերյալ ամբողջական, թվագրված, ազնիվ գրառումները առկա ամենաուժեղ պաշտպանությունն են, քանի որ դրանք ցույց են տալիս, որ կազմակերպությունը դատողություն է գործադրել, այլ ոչ թե լավագույնի հույս է ունեցել: Եթե միջադեպն ունի նաև քրեական կողմ, օրինակ՝ համակարգերին չարտոնված մուտք կամ տվյալների մանիպուլյացիա, Նիդեռլանդներում համակարգչային և կիբեռհանցագործության քրեական շրջանակը կիրառվում է քաղաքացիական հայցի հետ մեկտեղ, և քրեական հետաքննությունը կառգրավի ճիշտ նույն նյութը:
Ինքնավար համակարգեր ֆիզիկական աշխարհում
Երբ արհեստական բանականության համակարգը կառավարում է տրանսպորտային միջոց, վարում անօդաչու թռչող սարք կամ շարժում է ռոբոտի ձեռք, կիրառվում է պատասխանատվության լրացուցիչ շերտ, որը, ընդհանուր առմամբ, ավելի խիստ է, քան մինչ այժմ քննարկված ցանկացած բան։ Ֆիզիկական վնասը ենթադրում է ռիսկի պատասխանատվություն, որը չի հարցնում, թե արդյոք որևէ մեկը անփույթ է եղել։
Ինչ վերաբերում է ավտոմեքենաներին, 1994 թվականի «Ճանապարհային երթևեկության մասին» օրենքի 185-րդ հոդվածը պատասխանատվություն է սահմանում ավտոմեքենայի սեփականատիրոջը կամ պահապանին հետիոտներին և հեծանվորդներին պատճառված վնասի համար, եթե դա անհաղթահարելի ուժի դեպք չէ, ինչը շատ դժվար է պահպանել: Այդ կանոնը չի կախված նրանից, թե արդյոք ղեկը վարել է մարդը, թե վարորդին օժանդակող համակարգը. պահապանն է նախ պատասխանում, իսկ ծրագրային ապահովման արտադրողի դեմ ցանկացած հայց ներկայացվում է դրանից հետո: Հանրային ճանապարհներին իսկապես ինքնավար մեքենաների փորձարկումը պահանջում է թույլտվություն՝ համաձայն Նիդեռլանդների փորձարարական օրենսդրության, և այդ թույլտվությանը կից պայմանները, ներառյալ վերահսկողի առկայությունն ու դերը, դառնում են խնամքի չափանիշի մաս:
Անօդաչու թռչող սարքերը կարգավորվում են եվրոպական անօդաչու թռչող սարքերի կանոնակարգերով, որոնց օպերատորի գրանցման և կատեգորիայից կախված պահանջների կառավարումը Նիդեռլանդներում իրականացվում է Rijksinspectie Digitale Infrastructuur-ի կողմից: Իր կատեգորիայից դուրս կամ պահանջվող իրավասությունից զուրկ թռչող օպերատորը ոչ միայն խախտում է ավիացիայի կանոնները, այլև դուրս է եկել այն վարքագծից, որը դատարանը կհամարեր զգույշ, ինչը լուծում է անփութության հարցը՝ նախքան ավտոպիլոտի վերաբերյալ տեխնիկական բանավեճի սկսվելը:
Այս ռեժիմների կողքին գործում է նաև թերի առարկաների վերաբերյալ ընդհանուր կանոնը: Շարժական իրի տերը, որը չի համապատասխանում դրա համար սահմանված չափանիշներին և դրանով իսկ ստեղծում է որոշակի վտանգ, պատասխանատու է վտանգի պատճառած վնասի համար: Այդ կանոնը հասնում է ֆիզիկական մեքենային նույնիսկ այն դեպքում, երբ հիմքում ընկած թերությունը դրա ծրագրային ապահովման մեջ է, ինչը պատճառներից մեկն է, թե ինչու արդյունաբերական ռոբոտի կամ ավտոմատացված պահեստային համակարգի տերը չի կարող պարզապես մատնացույց անել վաճառողին: Երբ կիրառվում է ապրանքի պատասխանատվության ռեժիմը, երկու համակարգերը փոխազդում են, և տուժող կողմը սովորաբար կընտրի ապացուցելու ամենահեշտ ուղին:
Ինքնավար գործառույթներով մեքենաներ շահագործող կազմակերպությունների համար գործնական հետևանքն այն է, որ ապահովագրությունը և պայմանագիրը պետք է կազմակերպվեն խիստ պատասխանատվության, այլ ոչ թե մեղքի վրա հիմնված վերլուծության շուրջ: Մատակարարի դեմ հայց ներկայացնելը արժե, բայց դա չի կանխում, որ հայցը նախ հասնի ձեր դռանը:
Երկու կողմերից էլ ազդեցության նվազեցում
Արհեստական ինտելեկտի համակարգերի պատասխանատվությունը նվազեցնող միջոցառումները նույնն են, որոնք ապահովում են համակարգերի պատշաճ աշխատանքը, այդ իսկ պատճառով դրանք արժե ձեռնարկել՝ անկախ կարգավորիչ օրացույցից։
Տեղակայող կազմակերպության համար սկսեք գույքագրից՝ որ համակարգերն են օգտագործվում, ովքեր են դրանք մատակարարել, ինչի՞ վրա են որոշում կամ ազդում, և ով է դրանք շահագործում: Սահմանեք ձեր դերը յուրաքանչյուրի համար, քանի որ մատակարարի և տեղակայողի պարտականությունները տարբեր են: Այնուհետև գրեք նախատեսված նպատակը և մնացեք դրա մեջ. խուսափելի պատասխանատվության ամենատարածված պատճառը գործիքի օգտագործումն է այնպիսի բանի համար, որի համար այն չի վավերացվել: Տվեք համակարգը շահագործող մարդկանց իրական լիազորություններ այն չեղյալ համարելու համար և չափեք դրանք դատողությամբ, այլ ոչ թե ծավալով: Պահպանեք գրանցամատյանները և պահեք դրանք բավականաչափ երկար, որպեսզի օգտակար լինեն վեճի դեպքում: Գրանցեք միջադեպերը, ներառյալ գրեթե անհաջող դեպքերը, և գրանցեք, թե ինչ է արվել դրանց հետ կապված:
Արտադրողի կամ մատակարարի համար համարժեք ցանկը ներառում է ողջ կյանքի ցիկլը՝ փաստաթղթավորված ռիսկերի կառավարում, տվյալների կառավարում, որը կարող է բացատրվել կարգավորող մարմնին, փորձարկում այն բնակչության հետ, որի վրա համակարգը իրականում կօգտագործվի, օգտագործման հրահանգներ, որոնք անկեղծ են սահմանափակումների և սխալների մակարդակի վերաբերյալ, այլ ոչ թե հանգստացնող, հաճախորդների համար խնդիրների մասին հաղորդելու ուղի և թարմացման քաղաքականություն, որը նշում է, թե ով է պատասխանատու անվտանգության թարմացումների համար և որքան ժամանակով: Ապրանքի պատասխանատվության բարեփոխված ռեժիմը վերջին կետն ավելի սուր է դարձնում, քան նախկինում էր. ձեր կողմից տրամադրված թարմացումների չմատակարարումը կարող է ինքնին ապրանքը դարձնել թերի:
Երկու կողմերն էլ պետք է պայմանագիրը դիտարկեն որպես ռիսկերի բաշխման վարժություն, այլ ոչ թե ձևականություն: Կարևոր կետերն են՝ նախատեսված նպատակի նկարագրությունը, համապատասխանության և կատարողականի երաշխիքները, փաստաթղթերը և գրանցամատյանները հանձնելու պարտավորությունը, միջադեպերի մասին երկու ուղղություններով տեղեկացման պարտականությունները, պատասխանատվության սահմանաչափը և դրա բացառությունները, երրորդ կողմի պահանջների և կարգավորող մարմինների կողմից սահմանված տուգանքների փոխհատուցումը, ինչպես նաև ելքի պայմանավորվածությունները, որոնք որոշում են, թե ինչ կպատահի մոդելին և տվյալներին, եթե հարաբերությունները ավարտվեն: Վերացականորեն բանակցվող սահմանաչափը՝ առանց համակարգի կողմից իրականում որոշվողի, ոչ մեկին չի պաշտպանում:
Վերջապես, հաշվի առեք քրեական բացահայտումը, նույնիսկ այն դեպքում, երբ անմիջական ռիսկը քաղաքացիական է: Արհեստական բանականության խափանման համար ընկերության նկատմամբ քրեական հետապնդումը դեռևս անսովոր է, բայց տարրերը սովորական են՝ պարտականություն, խախտում, կանխատեսելի վնաս և կազմակերպություն, որը կարող է ապացուցվել, որ ընդունել է ռիսկը: Երբ համակարգը օգտագործվում է ակնհայտորեն անօրինական բանի համար, կամ երբ ընկերությունը շարունակում է շահագործել համակարգ, որը, ինչպես գիտի, վնաս է պատճառում, քրեական ուղին բաց է, և վերլուծությունն ամբողջությամբ ներկայացված է մեր հոլանդական քրեական իրավունքի մասին հոդվածում և ալգորիթմների և քրեական պատասխանատվության մասին ուղեկցող հոդվածում:
Հաճախակի տրվող հարցեր
Կարո՞ղ է արդյոք արհեստական բանականությունը դատարանում որպես վկա հանդես գալ։
Կարճ պատասխանն է՝ ոչ, գոնե ոչ ներկայիս իրավական դաշտում։ Վկայի հասկացությունը հիմնարար մարդկային է։ Վկա լինելու համար անձը պետք է կարողանա երդվել՝ խոստանալով ճշմարտությունն ասել։ Նա նաև պետք է անձնական գիտելիքներ ունենա վիճելի իրադարձությունների վերաբերյալ և կարողանա դիմակայել խաչաձև հարցաքննությանը, որտեղ մանրակրկիտ ստուգվում են նրա հիշողությունը, ընկալումը և հավաստիությունը։
Արհեստական բանականությունը պարզապես չի համապատասխանում այս չափանիշներին: Այն չունի գիտակցություն, չի կարող երդվել և չունի անձնական հիշողություններ մարդկային իմաստով: Լավագույն դեպքում այն կարող է ներկայացնել իր կողմից մշակված տվյալները: Սա այն դարձնում է շատ ավելի նման ապացույցի, օրինակ՝ տեսախցիկների ձայնագրության, քան իրական վկայի: Արհեստական բանականության արդյունքը, անշուշտ, կարող է ներկայացվել դատարանում, բայց իրականում վկա կլինի մարդ-փորձագետը, որը բացատրում է այդ տվյալները:
Ո՞րն է արհեստական բանականության համար քաղաքացիական և քրեական պատասխանատվության տարբերությունը։
Այս տարբերակումը կարևոր է, երբ արհեստական բանականությունը վնաս է պատճառում։ Թեև քաղաքացիական և քրեական գործերը ենթադրում են իրավական պատասխանատվություն, դրանց նպատակը, ապացուցման բեռը և պատժամիջոցները բոլորովին այլ աշխարհներ են։
Ահա դրա մասին մտածելու մի պարզ ձև.
- Քաղաքացիական պատասխանատվություն. Սա վերաբերում է զոհի վերամիավորմանը։ Ուշադրության կենտրոնում են վնասի փոխհատուցումը, ինչպիսիք են՝ ալգորիթմի անսարքությունից ֆինանսական կորուստները կամ ինքնավար տրանսպորտային միջոցի վնասվածքները։ Ապացույցի չափանիշն ավելի ցածր է՝ հաճախ «հավանականությունների հավասարակշռություն»։
- Քրեական պատասխանատվություն. Սա վերաբերում է հասարակության դեմ ուղղված անօրինական գործողության համար պատժին։ Այն պահանջում է մեղքի ապացուցում «հիմնավոր կասկածից վեր»՝ շատ ավելի բարձր խոչընդոտ, և կարող է հանգեցնել խիստ պատիժների, ինչպիսիք են ազատազրկումը կամ խոշոր տուգանքները։
Երբ խոսքը արհեստական բանականության մասին է, ընկերությունը կարող է քաղաքացիական հայց ներկայացնել՝ իր արտադրանքի պատճառած վնասը փոխհատուցելու համար: Սակայն, որպեսզի քրեական մեղադրանքները ուժի մեջ մնան, դատախազը պետք է ապացուցի, որ մարդ-գործողը «մեղավոր մտադրություն» է ունեցել ( mens rea ): Հենց սա է պատճառը, որ պատասխանատվությունը կապված է անձի հետ, այլ ոչ թե մեքենայի հետ:
Ինչպե՞ս կարող է իմ կազմակերպությունը պատրաստվել ԵՄ արհեստական բանականության մասին օրենքին։
Քանի որ ԵՄ արհեստական բանականության մասին օրենքն արդեն ուժի մեջ է և կիրառվում է փուլ առ փուլ, վերջին պարտավորությունների ուժի մեջ մտնելուն սպասելը ռիսկային ռազմավարություն է: Նախաձեռնողական համապատասխանությունը ձեր իրավական ռիսկերը արդյունավետորեն մեղմելու միակ միջոցն է:
Ահա մի քանի հիմնական քայլեր՝ սկսելու համար.
- Դասակարգեք ձեր արհեստական բանականության համակարգերը. Նախ, դուք պետք է որոշեք, թե ձեր արհեստական բանականության կիրառությունները որ ռիսկի կատեգորիային են պատկանում՝ անընդունելի, բարձր, սահմանափակ կամ նվազագույն: Այս դասակարգումը կորոշի ձեր կոնկրետ համապատասխանության պարտավորությունները:
- Իրականացնել ռիսկերի գնահատում. Բարձր ռիսկի ցանկացած համակարգի համար դուք պետք է մանրակրկիտ գնահատումներ կատարեք՝ հիմնարար իրավունքներին հասցվող հնարավոր վնասները բացահայտելու և դրանց հասցեագրելու համար: Սա պարզապես վանդակներ լրացնելու վարժություն չէ, սա ձեր համակարգի ազդեցության խորը վերլուծություն է:
- Ապահովել թափանցիկությունը և փաստաթղթավորումը. Պահպանեք ձեր արհեստական ինտելեկտի դիզայնի, ուսուցման համար օգտագործվող տվյալների հավաքածուների և որոշումների կայացման գործընթացների մանրակրկիտ գրառումները: Այս փաստաթղթավորումը կարևոր է միջադեպի դեպքում համապատասխանությունը և հաշվետվողականությունը ցույց տալու համար:
Law & More խորհրդատվություն է տրամադրում արհեստական բանականության համակարգեր կառուցող և դրանք օգտագործող կազմակերպություններին, պայմանագրերում ռիսկերի բաշխման, արհեստական բանականության մասին օրենքի համաձայն դասակարգման և պարտականությունների, ինչպես նաև վնաս պատճառած համակարգի կողմից հայցեր ներկայացնելու կամ պաշտպանելու վերաբերյալ։ Եթե ձեր կազմակերպության արհեստական բանականության համակարգը որոշում է կայացրել, որը վիճարկվում է, կապվեք մեզ հետ, որպեսզի մենք կարողանանք արագ գնահատել իրավիճակը։
