Ալգորիթմական կողմնակալության պատասխանատվությունը՝ համաձայն Նիդեռլանդների և ԵՄ օրենսդրության

Ալգորիթմական կողմնակալության պատասխանատվությունը կազմակերպության կրած իրավական պատասխանատվությունն է, երբ ավտոմատացված համակարգը խտրական արդյունքներ է առաջացնում: Նիդեռլանդներում այդ պատասխանատվությունը հիմնված է երեք հիմքերի վրա, որոնք արդեն իսկ կիրառվում են այսօր՝ Նիդեռլանդների քաղաքացիական օրենսգրքի 6:162-րդ հոդվածի ընդհանուր իրավախախտման դրույթը, Նիդեռլանդների մարդու իրավունքների ինստիտուտի կողմից վերահսկվող հավասար վերաբերմունքի մասին օրենսդրությունը և GDPR-ի կանոնները արդարության և ավտոմատացված որոշումների կայացման վերաբերյալ: ԵՄ արհեստական ​​բանականության մասին օրենքը ավելացնում է ևս մեկ շերտ, որի մի մասն արդեն ուժի մեջ է, իսկ մի մասը՝ ուժի մեջ է մտնում այս տասնամյակի վերջում:

Գործնական հետևանքը պարզ է։ Ընկերությունը, որը կիրառում է հավաքագրման ֆիլտր, վարկային մոդել կամ խարդախության հայտնաբերման միավոր, պատասխանատու է այդ համակարգի գործողությունների համար, անկախ նրանից, թե ինքն է մոդելը ստեղծել, թե ոչ, և արդյոք որևէ մեկը նպատակադրել է արդյունքը։ Հոլանդական խտրականության մասին օրենքում կարևոր է որոշման հետևանքը, այլ ոչ թե դրա դրդապատճառը։

Ի՞նչ է իրականում ներառում ալգորիթմական կողմնակալության պատասխանատվությունը

Ալգորիթմական կողմնակալությունն առաջանում է, երբ ավտոմատացված համակարգը համեմատելի մարդկանց հետ տարբեր կերպ է վարվում՝ օրենքով պաշտպանված կամ նրանց փոխարինող հիմքերով։ Այն հազվադեպ է հայտարարում իր մասին։ Ընկերության սեփական որոշումների տասնամյակի վրա հիմնված մոդելը կվերարտադրի այդ որոշումներում պարունակվող ցանկացած օրինաչափություն, և դա կանի հետևողականորեն, արագությամբ, յուրաքանչյուր ֆայլում, որը կանդրադառնա։ Այդ հետևողականությունն է, որը տեխնիկական թերությունը վերածում է իրավական բացահայտման. մեկ կողմնակալ մարդկային որոշումը միջադեպ է, մինչդեռ կողմնակալ մոդելը՝ քաղաքականություն։

Պատասխանատվությունը բխում է երեք առանձին աղբյուրներից, և դրանք կարող են առաջանալ միաժամանակ նույն որոշմամբ: Քաղաքացիական պատասխանատվությունը փոխհատուցում է վնաս կրած անձին: Հավասար վերաբերմունքի մասին օրենքը այդ անձին հնարավորություն է տալիս դիմելու Նիդեռլանդների մարդու իրավունքների ինստիտուտ (College voor de Rechten van de Mens) կամ քաղաքացիական դատարան, որտեղ ապացուցման բեռը տեղափոխվում է կազմակերպության վրա, երբ խտրականության ենթադրություն է արվում: Տվյալների պաշտպանության մասին օրենքը Նիդեռլանդների տվյալների պաշտպանության մարմնին (Autoriteit Persoonsgegevens) տալիս է իրավասություն, որը կախված չէ որևէ անհատի կողմից հայց ներկայացնելուց:

Սրանցից ոչ մեկը չի պահանջում արհեստական ​​բանականության վերաբերյալ հատուկ օրենք։ Այս դեպքերը լուծող կանոնները գրվել են տեխնոլոգիայի գոյությունից առաջ և կիրառվում են դրա նկատմամբ առանց փոփոխությունների։

Որտեղ կողմնակալությունը մտնում է ավտոմատացված համակարգ

Կողմնակալությունը մեկ անգամ փորձարկվող ձախողում չէ։ Այն ի հայտ է գալիս կյանքի ցիկլի որոշակի պահերին, և յուրաքանչյուր պահ կապված է անփութության տարբեր մեղադրանքի հետ։

• Մարզման տվյալները։ Պատմական որոշումները կրում են պատմական օրինաչափություններ։ Դրանց վրա մարզված մոդելը սովորում է այդ օրինաչափությունները որպես չափանիշ, այլ ոչ թե որպես շտկման ենթակա խնդիր։
• Փոփոխականների ընտրությունը։ Չեզոք տեսք ունեցող հատկանիշը կարող է սերտորեն կապված լինել պաշտպանված հատկանիշի հետ: Էթնիկ պատկանելության փոխարեն փոստային ինդեքսը դասագրքային օրինակ է, և այն անուղղակի խտրականություն է առաջացնում նույնիսկ այն դեպքում, երբ պաշտպանված հատկանիշն ինքնին երբեք չի գրանցվել:
• Արդյունքի օգտագործման եղանակը։ Խմբերի միջև անհավասարաչափ արդյունավետություն ցուցաբերող մոդելը կարող է պաշտպանելի լինել որպես հետազոտական ​​գործիք և անպաշտպանելի՝ որպես դիմումը մերժելու միակ հիմք։ Նույն գնահատականը, տարբեր կերպ օգտագործելով, հանգեցնում է տարբեր իրավական արդյունքի։
• Մոնիթորինգի բացակայությունը։ Մեկնարկի ժամանակ հավասարակշռված համակարգը տատանվում է իր շուրջը գտնվող տվյալների փոփոխությանը զուգընթաց։ Շատ պնդումներում ուշադրություն չդարձնելն ինքնին անփութության դրսևորում է։

Իրավական առումով կարևոր տարբերակումը ուղիղ խտրականության միջև է, երբ պաշտպանված հիմքը բացահայտորեն օգտագործվում է, և անուղղակի խտրականության, երբ չեզոք չափանիշը անբարենպաստ է դարձնում պաշտպանված խմբի համար։ Անուղղակի խտրականությունը կարող է արդարացվել, եթե նպատակը օրինական է, իսկ միջոցները՝ համապատասխան և անհրաժեշտ, սակայն այդ արդարացումը պետք է ապացուցվի, և այն կազմակերպությունը, որը չի կարող բացատրել, թե ինչու է իր մոդելն օգտագործում տվյալ փոփոխականը, չի հասնի դրան։

Հոլանդական հիմնադրամ. քաղաքացիական իրավունքի և հավասար վերաբերմունքի իրավունք

Նիդեռլանդական օրենսդրության երկու մարմիններ կատարում են կողմնակալության հայցի հիմնական աշխատանքը և պատասխանում են տարբեր հարցերի: Իրավական խախտումների իրավունքը հարցնում է, թե արդյոք կազմակերպությունը գործել է անփույթ և որքան է վնասի չափը: Հավասար վերաբերմունքի իրավունքը հարցնում է, թե արդյոք արդյունքը խտրական է եղել, և դա անում է ապացուցման բեռը միտումնավոր կերպով հայցվորի համար բարենպաստ դարձնելով:

Անփույթ տեղակայումը որպես անօրինական գործողություն

Նիդեռլանդների քաղաքացիական օրենսգրքի 6:162-րդ հոդվածը անձին պատասխանատվություն է սահմանում իրեն վերագրվող անօրինական արարքի (onrechtmatige daad) համար, որը կարող է վնաս պատճառել: Կազմակերպության կողմից չփորձարկված, չհաստատված կամ չմոնիթորինգավորված ավտոմատացված համակարգի կիրառումը կարող է ինքնին անօրինական վարքագիծ համարվել՝ անկախ խտրական արդյունքից: Հայցվորը պետք է ցույց տա արարքը, վերագրումը, վնասը և դրանց միջև պատճառահետևանքային կապը. կիրառվող չափանիշը այն է, ինչ պետք է աներ նույն դիրքում գտնվող ուշադիր կազմակերպությունը:

Եթե ​​համակարգը մատակարարից է ստացվել, տեղակայող կազմակերպությունը չի ազատվում այդ պարտականությունից: Այն կարող է պայմանագրային պահանջ ներկայացնել մատակարարի դեմ՝ Քաղաքացիական օրենսգրքի 6:74-րդ հոդվածի համաձայն՝ թերի կատարման համար, սակայն դա առանձին գործողություն է երկու առևտրային կողմերի միջև: Այն չի պատասխանում մերժված դիմորդի պահանջին:

Հավասար վերաբերմունքի մասին օրենքը և ապացուցման բեռի տեղաշարժը

Տարիքային խտրականության մասին ընդհանուր օրենքը (Algemene wet gelijke behandeling) և դրան կից ոլորտային օրենքները, ներառյալ տարիքային խտրականության մասին օրենքը (WGBL) և հաշմանդամության և քրոնիկ հիվանդությունների մասին օրենքը (WGBH/CZ), արգելում են պաշտպանված հիմքերով ուղղակի և անուղղակի տարբերակումը: Աշխատանքի ոլորտում Քաղաքացիական օրենսգրքի 7:646 հոդվածը ավելացնում է գենդերային հիմքով դրույթներ:

Դատավարական կանոնն է որոշում գործերի մեծ մասը։ Երբ հայցվորը ներկայացնում է փաստեր, որոնք հիմք են տալիս խտրականության ենթադրության, բեռը տեղափոխվում է. կազմակերպությունը պետք է ապացուցի, որ չի խախտել արգելքը։ Կազմակերպությունը, որը չի կարող ցույց տալ, թե ինչ է կշռվել իր մոդելի վրա, ինչ տվյալների վրա և ինչ փորձարկումների միջոցով, չունի այդ բեռը թեթևացնելու որևէ միջոց։ Սա այն կետն է, երբ վատ փաստաթղթավորումը դադարում է լինել ներքին տնային տնտեսության խնդիր և դառնում է հայցի կորստի պատճառ։

Բողոքներ կարող են ներկայացվել նաև Նիդեռլանդների մարդու իրավունքների ինստիտուտ, որի կարծիքները պարտադիր չեն, բայց լայնորեն ընդունվում են և հաճախ օգտագործվում են որպես ապացույց հետագա քաղաքացիական դատավարություններում։

Ինչ է պահանջում GDPR-ը ավտոմատացված որոշումներից

GDPR-ը կարգավորում է նույն համակարգերը տվյալների պաշտպանության տեսանկյունից: Հոդված 22-ը անձին իրավունք է տալիս չենթարկվել միայն ավտոմատացված մշակման, այդ թվում՝ պրոֆիլավորման վրա հիմնված որոշման, եթե այդ որոշումը իրավական հետևանքներ է առաջացնում կամ նմանատիպորեն էականորեն ազդում է նրա վրա: Աշխատանքի ընդունման, վարկերի և նպաստների վերաբերյալ որոշումները սովորաբար ընկնում են այդ նկարագրության մեջ:

Բառ, որը կրում է միայն կշիռը, դա է : Մարդկային ներգրավվածությունը 22-րդ հոդվածից դուրս որոշում է կայացնում միայն այն դեպքում, եթե այն իմաստալից է. անձ, որն ունի լիազորություններ և տեղեկատվություն՝ այլ եզրակացության հասնելու համար, այլ ոչ թե օպերատոր, որը հաստատում է էկրանին ցուցադրվածը: Դրոշմումը դիտվում է որպես ավտոմատացված որոշումների կայացում:

Անկախ 22-րդ հոդվածից, կիրառվում են ևս երկու պարտավորություններ: 5(1)(ա) հոդվածում նշված արդարության սկզբունքը ինքնուրույն պահանջ է, որը խտրական մոդելը խախտում է ըստ սահմանման, իսկ 35-րդ հոդվածը պահանջում է տվյալների պաշտպանության ազդեցության գնահատում՝ մշակումից առաջ, որը, հավանաբար, կհանգեցնի անհատների համար բարձր ռիսկի, ինչը, ընդհանուր առմամբ, դիմորդների կամ հաճախորդների համակարգված պրոֆիլավորումն է: Այս դրույթների խախտման համար առավելագույն տուգանքը սահմանվում է GDPR-ի 83(5) հոդվածով՝ քսան միլիոն եվրոյից կամ համաշխարհային տարեկան շրջանառության չորս տոկոսից բարձր:

Մեր տվյալների գաղտնիության, GDPR-ի, արհեստական ​​բանականության և մեծ տվյալների վերաբերյալ ակնարկում ավելի մանրամասն ներկայացված է, թե ինչպես են այս պարտականությունները փոխազդում մեծածավալ տվյալների օգտագործման հետ։

Ինչ է արդեն պահանջվում արհեստական ​​բանականության մասին օրենքով և ինչ է սկսվում ավելի ուշ

Արհեստական ​​բանականության մասին օրենքը՝ (ԵՄ) 2024/1689 կանոնակարգը, այլևս առաջարկ չէ: Այն ուժի մեջ է մտել 2024 թվականի օգոստոսի 1-ին և կիրառվում է փուլ առ փուլ: 2025 թվականի փետրվարի 2-ից կիրառվում են 5-րդ հոդվածում նշված արգելքները, ինչպես նաև 4-րդ հոդվածում նշված պարտականության կատարումը՝ ապահովելու համար, որ արհեստական ​​բանականության համակարգերի հետ աշխատող անձնակազմը ունենա արհեստական ​​բանականության վերաբերյալ գրագիտության բավարար մակարդակ: Ընդհանուր նշանակության արհեստական ​​բանականության մոդելների պարտավորությունները կիրառվում են 2025 թվականի օգոստոսի 2-ից, ինչպես նաև կառավարման և պատժամիջոցների դրույթները:

Բարձր ռիսկի ռեժիմը այն մասն է, որն ամենաուղղակիորեն վերաբերում է կողմնակալությանը, և այն նաև այն մասն է, որը հետաձգվել է: III հավելվածում թվարկված արհեստական ​​բանականության համակարգերը, որոնք ներառում են հավաքագրման և ընտրության, առաջխաղացման և ազատման որոշումների, վարկունակության գնահատման և ապահովագրության ոլորտում ռիսկերի գնահատման համար օգտագործվող համակարգերը, այժմ ենթակա են բարձր ռիսկի պարտավորությունների 2027 թվականի դեկտեմբերի 2-ից: I հավելվածի համաձայն կարգավորվող ապրանքների անվտանգության բաղադրիչներ հանդիսացող բարձր ռիսկի համակարգերը հաջորդում են 2028 թվականի օգոստոսի 2-ին:

Երբ այդ պարտավորությունները ուժի մեջ են մտնում, դրանք կոդավորում են այն ամենի մեծ մասը, ինչն արդեն իսկ ներառում է զգույշ գործելակերպը՝ տվյալների կառավարում, որը նպատակաուղղված է ներկայացուցչական և սխալներից պաշտպանված տվյալների հավաքածուներին, տեխնիկական փաստաթղթավորում, ավտոմատ գրանցում, ազդակիր անձանց նկատմամբ թափանցիկություն, համակարգում ներկառուցված մարդկային վերահսկողություն, այլ ոչ թե ամրացված, և համապատասխանության գնահատում՝ նախքան համակարգը շուկայում տեղադրվելը կամ շահագործման հանձնելը: Տեղակայողները, ոչ միայն մատակարարները, ունեն իրենց սեփական պարտականությունները, ներառյալ գրանցամատյանների պահպանումը և վերահսկողությունը կոմպետենտ անձանց հանձնարարելը:

Երկու կետ պարբերաբար սխալ են ձևակերպվում: Տուգանքների առաստաղները աստիճանական են, այլ ոչ թե միատեսակ. 5-րդ հոդվածում արգելված գործելակերպի խախտման համար կիրառվում է մինչև երեսունհինգ միլիոն եվրո կամ համաշխարհային շրջանառության յոթ տոկոսը, մինչդեռ բարձր ռիսկի պարտավորությունների չկատարման դեպքում սահմանվում է տասնհինգ միլիոն եվրո կամ երեք տոկոս ավելի ցածր առաստաղ: Եվ արհեստական ​​բանականության պատասխանատվության վերաբերյալ առաջարկվող հրահանգը, որը կթեթևացներ ապացուցման բեռը ԵՄ-ում արհեստական ​​բանականության համակարգերից վնաս կրած անձանց համար, հետ է կանչվել: Արհեստական ​​բանականության վնասի համար եվրոպական համաձայնեցված պատասխանատվության ռեժիմ չկա. Նիդեռլանդներում հայցը համարվում է հոլանդական օրենսդրության համաձայն հայց:

Ազգային կիրարկումը դեռևս մշակման փուլում է: Նիդեռլանդները դեռևս չի ավարտել կիրարկող ակտը, որը Կանոնակարգի համաձայն նշանակում է իր շուկայի վերահսկողության մարմինները, չնայած Նիդեռլանդների տվյալների պաշտպանության մարմինը և Նիդեռլանդների թվային ենթակառուցվածքների մարմինը համակարգող դեր են ստանձնել նախապատրաստական ​​աշխատանքներում: Մենք շրջանակն ավելի մանրամասն քննարկում ենք մեր ուղեցույցում՝ նվիրված արհեստական ​​բանականության իրավական կողմին և ԵՄ արհեստական ​​բանականության մասին օրենքին :

Ինչպես են երեք շրջանակները համեմատվում

Շրջանակները համընկնում են, այլ ոչ թե մրցակցում: Մեկ մերժված դիմումը կարող է հանգեցնել քաղաքացիական հայցի, Ինստիտուտին ուղղված բողոքի, կարգավորող մարմնի հետաքննության և, իր ժամանակին, արհեստական ​​բանականության մասին օրենքի համապատասխանության խախտման՝ նույն փաստերի հիման վրա:

Ինչ են հաստատել հոլանդական դեպքերը

Երկու դրվագներ են ձևավորում, թե ինչպես են հոլանդական դատարաններն ու կարգավորող մարմինները մոտենում ավտոմատացված որոշումներին, և երկուսն էլ նույն ձախողման մասին են՝ անթափանց համակարգ, որը կիրառվում է այն մարդկանց նկատմամբ, ովքեր չէին կարող տեսնել, թե ինչպես է այն գործում։

2020 թվականի փետրվարին Հաագայի շրջանային դատարանը դադարեցրեց SyRI-ի՝ ռիսկի նշման համակարգի գործունեությունը, որի միջոցով պետական ​​մարմինները համատեղում էին տարբեր աղբյուրներից ստացված տվյալները՝ նպաստների և հարկային խարդախությունները հայտնաբերելու համար: Դատարանը որոշեց, որ համակարգը հիմք հանդիսացող օրենսդրությունը չի համապատասխանում Մարդու իրավունքների եվրոպական կոնվենցիայի 8-րդ հոդվածի համաձայն արդար հավասարակշռության չափանիշին: Ճակատագրականը ոչ թե տվյալների վերլուծության օգտագործումն էր որպես այդպիսին, այլ թափանցիկության և ստուգելիության բացակայությունը. ո՛չ ռիսկի մոդելը, ո՛չ էլ ցուցանիշները չէին բացահայտվել, ուստի ո՛չ տուժած քաղաքացին, ո՛չ էլ դատարանը չէին կարող ստուգել խտրական ազդեցությունը: Մասնավոր կազմակերպությունների համար դասն այն է, որ համակարգը, որը ոչ ոք չի կարող բացատրել, չի կարող պաշտպանվել, քանի որ այն ղեկավարող կողմն է կրում այն ​​արդարացնելու բեռը:

Մանկական խնամքի նպաստների սկանդալը (toeslagenaffaire) նույն կետն էր շեշտում իր հետևանքներով։ Հարկային վարչությունը օգտագործեց ավտոմատացված ռիսկի ընտրություն, որը կրկնակի քաղաքացիության նման ցուցանիշները համարեց խարդախության ազդանշան, և տասնյակ հազարավոր ծնողներ սխալմամբ պիտակավորվեցին և հետապնդվեցին վճարման համար։ Նիդեռլանդների տվյալների պաշտպանության մարմինը հիմքում ընկած մշակումը համարեց անօրինական և խտրական և կիրառեց հարկադիր միջոցներ։ Այն նաև հաստատեց այստեղ ամենակարևոր սկզբունքը. համակարգի կողմից ստեղծված պաշտպանությունը որևէ կշիռ չունի, քանի որ համակարգը գործարկելու ընտրությունն ինքնին դատվող գործողություն է։

Երբ պատասխանատվություն է առաջանում սովորական գործարար օգտագործման ժամանակ

Մեծ մասամբ, բացահայտումները երբեք վճռորոշ որոշում չեն կայացնում։ Դրանք առաջանում են ծանոթ գործառնական որոշումներից։

Կազմակերպության սեփական վարձման պատմության վրա հիմնված հավաքագրման ֆիլտրը կսովորի այդ պատմության մեջ պարունակվող ցանկացած նախընտրություն և կկիրառի այն յուրաքանչյուր հաջորդ դիմորդի նկատմամբ: Քանի որ հավաքագրման գործիքները գտնվում են արհեստական ​​բանականության մասին օրենքի III հավելվածում և միաժամանակ շոշափում են GDPR-ի 22-րդ հոդվածը, դրանք միաժամանակ ներգրավում են բոլոր երեք շրջանակները: Վարկային կամ ապահովագրական մոդելը, որն օգտագործում է փոստային ինդեքս, աշխատանքային պատմության բաց կամ նմանատիպ բնույթի փոխարինող, կարող է անուղղակի խտրականություն առաջացնել, նույնիսկ այն դեպքում, երբ տվյալների հավաքածուն ընդհանրապես չի պարունակում որևէ պաշտպանված բնութագիր: Աշխատուժի կառավարման համակարգը, որը բաշխում է հերթափոխները, վերահսկում է աշխատանքը կամ ներգրավվում է աշխատանքից ազատման որոշումների մեջ, ընկնում է նույն կատեգորիայի մեջ՝ լրացուցիչ բարդությամբ, որ աշխատանքային խորհուրդը կարող է համաձայնության իրավունք ունենալ Աշխատանքային խորհուրդների մասին օրենքի համաձայն՝ նման համակարգի ներդրումից առաջ:

Յուրաքանչյուր դեպքում հոլանդական դատարանի տված հարցը նույնն է։ Ի՞նչ գիտեր կազմակերպությունը համակարգի գործունեության մասին, ի՞նչ արեց դա պարզելու համար և ի՞նչ արեց, երբ օրինաչափությունը տեսանելի դարձավ։

Վաճառող և տեղակայող. ո՞վ ինչի համար է պատասխանատու

Համակարգ գնելը չի ​​ենթադրում ռիսկի փոխանցում։ Արհեստական ​​բանականության մասին օրենքի համաձայն՝ մատակարարը և տեղակայողը ունեն առանձին պարտականություններ, իսկ Նիդեռլանդների քաղաքացիական օրենսդրության համաձայն՝ տուժող անձը դատի է տալիս իրեն վերաբերող որոշումը կայացնող անձին, որը գրեթե միշտ տեղակայող կազմակերպությունն է։

Պայմանագրերը կարող են բաշխել ֆինանսական հետևանքները և ապահովել պահանջը պաշտպանելու համար անհրաժեշտ տեղեկատվությունը: Գնումների մասին պայմանագիրը, որը արժե ունենալ, սահմանում է կատարողականի և արդարության չափանիշները, որոնք համակարգը պետք է բավարարի, երաշխավորում է փաստաթղթերի, փորձարկման արդյունքների և գրանցամատյանների հասանելիությունը, տալիս է աուդիտի իրավունք, պահանջում է մատակարարից տեղեկացնել մոդելի էական փոփոխությունների մասին և սահմանում է, թե ինչպես են բաշխվում պատասխանատվության և պաշտպանության ծախսերը, եթե պահանջ առաջանա: Պայմանագրերը չեն կարող անել, դա կարգավորող տուգանքի կամ օրենսդրական պարտավորության վերացումն է: Արհեստական ​​ինտելեկտի կողմից թույլ տրված սխալների համար պատասխանատու լինելու մասին մեր հոդվածն ավելի մանրամասնորեն է քննարկվում բաշխման մեջ:

Ռիսկի վերահսկում մինչև պահանջի ստացումը

Կողմնակալության վերաբերյալ հայցի պաշտպանական դիրքորոշումը ձևավորվում է հայցի ներկայացումից շատ առաջ և գրեթե ամբողջությամբ բաղկացած է գրառումներից: Քանի որ ապացուցման բեռը փոխվում է խտրականության ենթադրության հաստատումից հետո, այն կազմակերպությունը, որը կարող է ցույց տալ, թե ինչ է ստուգել, ​​երբ և ինչ է արել արդյունքի հետ, գտնվում է հիմնարարապես այլ դիրքում, քան այն կազմակերպությունը, որը չի կարող ցույց տալ:

Գործունակ ծրագիրն ունի չորս տարր։ Փորձարկում տեղակայումից առաջ՝ համեմատելով արդյունքների մակարդակները օրենքով պաշտպանված խմբերի միջև և ուսումնասիրելով ուսուցման տվյալները և ընտրված փոփոխականները՝ պրոքսիների համար։ Շարունակեք փորձարկումները տեղակայումից հետո, քանի որ մեկնարկի ժամանակ հավասարակշռված մոդելը այդպես չի մնա։ Տվեք մեկ անվանական անձի կամ հանձնաժողովի լիազորություններ՝ վերանայելու արդյունքները և կասեցնելու համակարգը, որպեսզի դրա աշխատանքը շարունակելու որոշումը լինի ինչ-որ մեկի կողմից կայացված որոշում, այլ ոչ թե որևէ մեկի կողմից տրված լռելյայն որոշում։ Եվ գրանցեք այդ ամենը, ներառյալ տվյալների աղբյուրները, վավերացումը, աուդիտի արդյունքները և ուղղիչ քայլերը, այնպիսի ձևով, որը կարող է տրամադրվել կարգավորող մարմնին կամ ներկայացվել ընթացակարգերի ընթացքում։

Դրան զուգահեռ, 22-րդ հոդվածի կիրառման դեպքում մարդկային որոշումը պահեք իսկապես մարդկային, տվյալների պաշտպանության ազդեցության գնահատումն ավարտեք համակարգի գործարկումից առաջ, այլ ոչ թե դրանից հետո, ստուգեք, թե արդյոք աշխատանքային խորհուրդն ունի դեր, և կարողացեք ազդակիր անձին պարզ լեզվով ասել, թե ինչու է որոշումն այդպես ընդունվել: Այս քայլերից ոչ մեկը էկզոտիկ չէ, և արհեստական ​​բանականության մասին օրենքի բարձր ռիսկի ռեժիմը դրանց մեծ մասը պարտադիր կդարձնի 2027 թվականի դեկտեմբերից սկսած հավաքագրման, վարկային և ապահովագրական համակարգերի համար: Կազմակերպությունները, որոնք դրանք հիմա կառուցում են, պարզապես շուտ են հասնում:

Ի՞նչ անել, եթե որոշումը վիճարկվում է

Երբ դիմորդը, հաճախորդը կամ աշխատակիցը կասկածի տակ է դնում ավտոմատացված որոշումը, առաջին խնդիրը փաստացի է. պարզել, թե իրականում ինչ է արել համակարգը այդ դեպքում, ինչ մուտքային տվյալներ է օգտագործել, արդյոք անձը իրական դատողություն է ցուցաբերել, և արդյոք արդյունքը համապատասխանում է ավելի լայն օրինաչափության: Դա արեք նախքան պատասխանելը, քանի որ սխալ առաջին պատասխանը դժվար է հետագայում շտկել և կմեկնաբանվի կազմակերպության դեմ:

Պահպանեք գրանցամատյանները և ներառված մոդելի տարբերակը: Գնահատեք պահանջը բոլոր երեք շրջանակների հետ համեմատած, այլ ոչ թե այն մեկի հետ, որը պատահաբար ներկայացրել է բողոքաբերը, քանի որ տվյալների պաշտպանության և խտրականության պահանջը կարող են բխել նույն ֆայլից: Եթե օրինաչափությունը իրական է, դրա ուղղումը և ազդակիր որոշումների վերացումը շատ ավելի արդյունավետորեն սահմանափակում են վնասը, քան դրա պաշտպանությունը:

Law & More խորհրդատվություն է տրամադրում ընկերություններին ավտոմատացված որոշումների կայացման իրավական կողմի վերաբերյալ՝ գնահատելով Նիդեռլանդների քաղաքացիական իրավախախտումների և հավասար վերաբերմունքի մասին օրենքի շրջանակներում առկա ռիսկերը, վերանայելով GDPR-ի համապատասխանությունը պրոֆիլավորման և ավտոմատացված որոշումների համար, նախապատրաստվելով արհեստական ​​բանականության մասին օրենքի պարտավորություններին, որոնք վերաբերում են հավաքագրման, վարկային և ապահովագրական համակարգերին, բանակցելով մատակարարների հետ պայմանագրերի շուրջ, ինչպես նաև պաշտպանելով հայցերն ու կարգավորող հետաքննությունները: Մեր ՏՏ իրավաբաններ ուրախ կլինենք քննարկել, թե ինչպես են կանոնները կիրառվում ձեր կողմից օգտագործվող համակարգերի նկատմամբ։

Հաճախակի տրվող հարցեր ալգորիթմական կողմնակալության պատասխանատվության վերաբերյալ

Քանի որ բիզնեսները խորանում են արհեստական ​​բանականության մեջ, շատ ղեկավարներ սկսում են շատ կոնկրետ հարցեր տալ պատասխանատվության վերաբերյալ: Ստորև մենք անդրադառնում ենք ամենատարածված և մարտահրավեր նետող հարցերից մի քանիսին՝ առաջարկելով հստակ պատասխաններ, որոնք կօգնեն ձեզ կողմնորոշվել այս բարդ իրավական ոլորտում: