Բարձր ռիսկի արհեստական ​​ինտելեկտի համակարգեր. ինչ է պահանջում արհեստական ​​ինտելեկտի մասին օրենքը ձեր կազմակերպությունից

Բարձր ռիսկի արհեստական ​​բանականության համակարգերը Եվրոպական արհեստական ​​բանականության կանոնակարգի ( ԵՄ 2024/1689 կանոնակարգ ) կենտրոնական կետն են , որը սովորաբար անվանում են արհեստական ​​բանականության մասին օրենք և ներկայացնում է ռիսկերի վրա հիմնված շրջանակ արհեստական ​​բանականության (ԱԲ) համակարգերի մշակման, մատակարարման և օգտագործման համար: Որքան բարձր է առողջության, անվտանգության և հիմնարար իրավունքների համար ռիսկը, այնքան ավելի ծանր են պարտավորությունները:

Հետևաբար, կազմակերպությունների համար համապատասխանությունը սկսվում է ոչ թե տեխնիկական փաստաթղթերի մշակմամբ, այլ ճիշտ դասակարգմամբ։ Նախ պարզեք, թե կազմակերպության ներսում որ արհեստական ​​բանականության համակարգերն են մշակվում, գնվում կամ օգտագործվում։ Այնուհետև գնահատեք, թե արդյոք համակարգը արգելված է , բարձր ռիսկային է, ենթակա է թափանցիկության պարտավորությունների, թե դուրս է որևէ հատուկ պարտավորությունից։

Այս հոդվածը սահմանում է, թե երբ կարող է արհեստական ​​բանականության համակարգը որակվել որպես բարձր ռիսկային, ինչ պարտավորություններ են կիրառվում մատակարարների և տեղակայողների նկատմամբ, և ինչ քայլեր կարող են ձեռնարկել կազմակերպությունները հիմա: Այն նաև սահմանում է ժամանակացույցը, ինչպես այն այժմ է՝ թվային համալիրի շրջանակներում բարձր ռիսկի պարտավորությունների հետաձգումից հետո:

Ե՞րբ է արհեստական ​​բանականության համակարգը բարձր ռիսկային։

Բարձր ռիսկի արհեստական ​​ինտելեկտի համակարգերի գնահատումը հիմնականում կատարվում է արհեստական ​​ինտելեկտի մասին օրենքի 6-րդ հոդվածի և I և III հավելվածների համաձայն։ Կան երկու ուղի։

Առաջին ուղին վերաբերում է արհեստական ​​բանականության համակարգերին, որոնք մաս են կազմում I հավելվածում թվարկված եվրոպական արտադրանքի օրենսդրությամբ կարգավորվող ապրանքների և որոնք պահանջում են երրորդ կողմի համապատասխանության գնահատում: Մտածեք որոշակի բժշկական սարքերի, մեքենաների, վերելակների և խաղալիքների մասին: Այս համակարգերի համար արհեստական ​​բանականության մասին օրենքը հիմնված է գործող համապատասխանության գնահատման ընթացակարգի վրա:

Երկրորդ ուղին վերաբերում է III հավելվածում թվարկված ոլորտներում օգտագործվող արհեստական ​​բանականության համակարգերին. կենսաչափական տվյալներ, կարևորագույն ենթակառուցվածքներ, կրթություն և մասնագիտական ​​​​ուսուցում, զբաղվածություն և աշխատուժի կառավարում, անհրաժեշտ մասնավոր և պետական ​​​​ծառայությունների հասանելիություն, իրավապահ մարմիններ, միգրացիա, ապաստան և սահմանային վերահսկողություն, ինչպես նաև արդարադատության և ժողովրդավարական գործընթացների իրականացում: Նման ոլորտում յուրաքանչյուր օգտագործում ավտոմատ կերպով չի հանգեցնում բարձր ռիսկի արհեստական ​​​​բանականության համակարգերի շարքին դասակարգմանը. պետք է գնահատվեն նաև համակարգի կոնկրետ գործառույթը և 6-րդ հոդվածի պայմանները:

Հոդված 6(3)-ում նշված բացառությունը

III հավելվածի տիրույթում գտնվող համակարգը ավտոմատ կերպով չի դասվում բարձր ռիսկի արհեստական ​​ինտելեկտի համակարգերի շարքին. այդ դասակարգումը բացառվում է, եթե այն էական ռիսկ չի ներկայացնում անձանց առողջության, անվտանգության կամ հիմնարար իրավունքների համար և էականորեն չի ազդում որոշումների կայացման արդյունքի վրա: Դա կարող է տեղի ունենալ, երբ համակարգը կատարում է միայն նեղ ընթացակարգային առաջադրանք, պարզապես բարելավում է մարդու կողմից արդեն իսկ կատարված գործունեությունը, միայն նշում է շեղումները նախկինում մարդկային որոշումների կայացումից՝ առանց այդ գնահատումը փոխարինելու, կամ կատարում է միայն նախապատրաստական ​​առաջադրանք:

Այս բացառությանը հիմնվելը պետք է ուշադիր պատճառաբանվի և փաստաթղթավորվի։ Կազմակերպությունը գրանցում է ոչ միայն եզրակացությունը, այլև այն փաստերը և գնահատականը, որոնց վրա հիմնված է այդ եզրակացությունը։ Մատակարարը, որը համարում է, որ III հավելվածի համակարգը չի պատկանում բարձր ռիսկի արհեստական ​​բանականության համակարգերի շարքին, պետք է փաստաթղթավորի այդ գնահատականը նախքան համակարգի շուկայավարումը կամ շահագործման հանձնումը, և լրացուցիչ ենթակա է 49(2) հոդվածով նախատեսված գրանցման պարտավորությանը։

Մի կետում կանոնակարգը բացարձակ է։ Հոդված 6(3)-ը սահմանում է, որ III հավելվածում նշված արհեստական ​​բանականության համակարգը միշտ դասվում է բարձր ռիսկի արհեստական ​​բանականության համակարգերի շարքին, եթե այն իրականացնում է ֆիզիկական անձանց պրոֆիլավորում։ Այդ դեպքում բացառությունը չի կարող կիրառվել։

Ի՞նչ դեր ունի ձեր կազմակերպությունը։

Արհեստական ​​բանականության մասին օրենքը շղթայում տարբերակում է մի քանի դերեր։ Դրանցից երկուսը կարևոր են կազմակերպությունների մեծ մասի համար։ Կողմը, որը մշակում է արհեստական ​​բանականության համակարգ կամ այն ​​շուկա է դնում իր սեփական անվամբ կամ ապրանքանիշով, որակվում է որպես մատակարար։ Կողմը, որն օգտագործում է արհեստական ​​բանականության համակարգ իր սեփական գործունեության ընթացքում՝ առանց այն մշակելու, սովորաբար որակվում է որպես տեղակայող։

Դերերի այդ բաշխումը ստատիկ չէ: Կազմակերպությունը, որը էապես փոփոխում է գնված համակարգը, մատակարարում այն ​​իր սեփական անվամբ կամ ապրանքանիշով կամ փոխում է դրա նպատակը, կարող է դեռևս համարվել մատակարար և այդպիսով ենթարկվել ավելի ծանր պարտավորությունների: Յուրաքանչյուր համակարգի համար սահմանեք, թե որ դերն եք կատարում, և գրանցեք այդ գնահատումը:

Հիմնական պարտավորությունները

Բարձր ռիսկի արհեստական ​​ինտելեկտի համակարգերի մատակարարները ենթակա են պարտավորությունների, այդ թվում՝ 8-17, 43 և 47-49 հոդվածներում նշվածների.

• ռիսկերի կառավարման համակարգ, որը ներառում է ողջ կյանքի ցիկլը
• տվյալների կառավարում, ներառյալ օգտագործված տվյալների մեջ կողմնակալության հայտնաբերումը և ուղղումը, ներառյալ վերապատրաստման, վավերացման և փորձարկման տվյալները
• տեխնիկական փաստաթղթեր՝ համաձայն IV հավելվածի, և իրադարձությունների գրանցում
• կիրառողների համար օգտագործման հստակ հրահանգներ
• դիզայն, որը հնարավորություն է տալիս արդյունավետ մարդկային վերահսկողություն իրականացնել
• ճշգրտության, կայունության և կիբերանվտանգության պահանջները
• որակի կառավարման համակարգ, համապատասխանության գնահատում, համապատասխանության ԵՄ հայտարարագիր, CE նշում և գրանցում ԵՄ տվյալների բազայում։

III հավելվածի 1(ա) կետում նշված հեռակա կենսաչափական նույնականացման համար օգտագործվող բարձր ռիսկի արհեստական ​​բանականության համակարգերի համար 14(5) հոդվածը սահմանում է մարդկային վերահսկողության լրացուցիչ պահանջ. նույնականացման հիման վրա որևէ գործողություն կամ որոշում չի կարող կայացվել, եթե այն առանձին չի ստուգվել և հաստատվել անհրաժեշտ իրավասություն, վերապատրաստում և լիազորություններ ունեցող առնվազն երկու ֆիզիկական անձանց կողմից: Սա հայտնի է որպես չորս աչքի սկզբունք:

Տեղակայողները ենթակա են 26-րդ և 27-րդ հոդվածների ավելի թեթև, բայց ոչ պակաս կարևոր պարտավորություններին՝ օգտագործել օգտագործման հրահանգներին համապատասխան, իրավասու մարդկային վերահսկողություն, համակարգի գործունեության մոնիթորինգ, ռիսկերի և լուրջ միջադեպերի մասին հաղորդում և գրանցամատյանների պահպանում առնվազն վեց ամիս։ Համակարգի հետ աշխատող աշխատակիցները և այն անձինք, որոնց վրա այն կիրառվում է, պետք է նախապես տեղեկացված լինեն։

Որոշակի տեղակայողներ պետք է նաև անցկացնեն հիմնարար իրավունքների ազդեցության գնահատում՝ 27-րդ հոդվածի համաձայն՝ Հիմնարար իրավունքների ազդեցության գնահատումը: Սա ցանկացած դեպքում վերաբերում է հանրային իրավունքով կարգավորվող մարմիններին, հանրային ծառայությունների մասնավոր մատակարարներին և կյանքի ու առողջության ապահովագրության մեջ վարկային գնահատման կամ ապահովագրական ռիսկերի գնահատման համակարգեր օգտագործող տեղակայողներին:

Ժամանակացույց և ներկայիս կարգավիճակ

Արհեստական ​​բանականության մասին օրենքն ուժի մեջ է մտել 2024 թվականի օգոստոսի 1-ին և կիրառվում է փուլերով։ Գործնականում կարևոր է տարբերակել արդեն իսկ գործող պարտավորությունները, ապագա կիրառման ամսաթվով պարտավորությունները և հայտարարված փոփոխությունները, որոնց պաշտոնական ուժի մեջ մտնելը դեռևս չի ավարտվել։

Արգելված գործելակերպեր (հոդված 5). Կիրառելի է 2025 թվականի փետրվարի 2-ից

Արհեստական ​​​​բանականության գրագիտություն (հոդված 4). Կիրառելի է 2025 թվականի փետրվարի 2-ից

Ընդհանուր նշանակության արհեստական ​​ինտելեկտի մոդելներ. կիրառելի է 2025 թվականի օգոստոսի 2-ից

Թափանցիկության պարտավորություններ (հոդված 50). կիրառելի է 2026 թվականի օգոստոսի 2-ից. չի հետաձգվել

Բարձր ռիսկ՝ համաձայն III հավելվածի. կիրառելի է 2027 թվականի դեկտեմբերի 2-ից՝ հետաձգումից հետո։

Բարձր ռիսկ՝ I հավելվածի միջոցով. կիրառելի է 2028 թվականի օգոստոսի 2-ից՝ նույն հետաձգումից հետո։

Այդ հետաձգումը հաստատված օրենք է։ Եվրոպական հանձնաժողովը 2025 թվականի նոյեմբերի 19-ին ներկայացրել է «Թվային համալիր» փաթեթը՝ բարձր ռիսկի արհեստական ​​բանականության համակարգերի պարտավորությունները հետաձգելու առաջարկով։ Փոփոխող կանոնակարգը՝ (ԵՄ) 2026/1744 կանոնակարգը, հրապարակվել է Պաշտոնական տեղեկագրում 2026 թվականի հուլիսի 24-ին և ուժի մեջ է մտել 2026 թվականի հուլիսի 27-ին։

Միայն բարձր ռիսկի ռեժիմը փոխվեց։ III հավելվածով դասակարգված համակարգերի համար III գլխով սահմանված պարտավորությունները այժմ ուժի մեջ են մտնում 2027 թվականի դեկտեմբերի 2-ից, իսկ I հավելվածով դասակարգված համակարգերի համար՝ 2028 թվականի օգոստոսի 2-ից։ Մնացած ամեն ինչ պահպանեց իր սկզբնական ամսաթիվը, ուստի հետաձգումը չստեղծեց ընդհանուր դադար արհեստական ​​բանականության մասին օրենքում։

Հետաձգումը անվերապահ չէ այնպես, ինչպես կլիներ ամսաթվի պարզ փոփոխությունը։ Բարձր ռիսկային պարտավորությունների կիրառումը կապված է ներդաշնակեցված ստանդարտների և դրանց համապատասխանելու համար անհրաժեշտ օժանդակ գործիքների առկայության հետ, և նոր ամսաթվերը գործում են որպես այդ պայմանավորվածության արտաքին սահման, այլ ոչ թե որպես նպատակ, որը կարող է ավելի շատ տատանվել։ Հետևաբար, մեկ այլ երկարաձգման ենթադրությամբ պլանավորելը անխոհեմ է։

Երկու կետ արժանի են առանձին ուշադրության: Նախ, 50-րդ հոդվածի թափանցիկության պարտավորությունները և 4-րդ հոդվածի արհեստական ​​բանականության գրագիտության պարտավորությունը չեն հետաձգվել. 50-րդ հոդվածը կիրառվում է 2026 թվականի օգոստոսի 2-ից, իսկ 4-րդ հոդվածը՝ 2025 թվականի փետրվարի 2-ից: Երկրորդ, փաթեթը 5-րդ հոդվածին ավելացնում է նոր արգելք, որն ուղղված է արհեստական ​​բանականության կիրառություններին, որոնք ստեղծում են ոչ համաձայնեցված ինտիմ պատկերներ, և արհեստական ​​բանականության կողմից ստեղծված երեխաների սեռական բռնության նյութերին:

Կազմակերպությունների համար սա նշանակում է, որ 2027 թվականի դեկտեմբերը բարձր ռիսկային փաստաթղթերի պլանավորման ամսաթիվն է, մինչդեռ թափանցիկության, գրագիտության և ընդհանուր նշանակության պարտավորությունները ներկայիս համապատասխանության, այլ ոչ թե նախապատրաստման հարցեր են։

Հսկողություն և պատժամիջոցներ

Նիդեռլանդներում արհեստական ​​բանականության մասին օրենքի կիրարկող ակտը դեռևս ուժի մեջ չէ: Նախագիծը հանրային քննարկման է դրվել 2026 թվականի ապրիլի 20-ին: Այն Նիդեռլանդների տվյալների պաշտպանության մարմնին (Autoriteit Persoonsgegevens) տալիս է վերահսկիչի դեր այն ոլորտների համար, որոնցում ոլորտային վերահսկիչ չի նշանակվել՝ արհեստական ​​բանականության գծով նվիրված ստորաբաժանումով, և Նիդեռլանդների թվային ենթակառուցվածքների մարմնին (RDI) տալիս է համակարգողի դեր, մինչդեռ ոլորտային վերահսկիչները պահպանում են իրենց սեփական տիրույթները: Մինչև այդ օրենքի ընդունումը և ուժի մեջ մտնելը, լիազորությունների ճշգրիտ բաշխումը և ազգային պատժամիջոցների ռեժիմը դեռևս կարգավորված չեն:

Արհեստական ​​բանականության մասին օրենքի 99-րդ հոդվածը նախատեսում է մի քանի առավելագույն պատժի կատեգորիաներ: Չափաբաժինը կախված է խախտման բնույթից և, անհրաժեշտության դեպքում, ձեռնարկության համաշխարհային տարեկան շրջանառությունից: Ամենաբարձր առավելագույն պատիժը վերաբերում է 5-րդ հոդվածում արգելված գործելակերպի խախտմանը. ավելի ցածր առավելագույն պատիժը վերաբերում է այլ պարտավորությունների խախտմանը, այդ թվում՝ բարձր ռիսկային արհեստական ​​բանականության համակարգերի մատակարարների և տեղակայողների պարտավորություններին, իսկ ամենացածրը՝ իշխանություններին սխալ, թերի կամ մոլորեցնող տեղեկատվություն տրամադրելուն: Ավելի բարենպաստ ռեժիմ է կիրառվում փոքր և միջին ձեռնարկությունների (ՓՄՁ), այդ թվում՝ նորաստեղծ ձեռնարկությունների համար: Իրական պատիժը որոշվում է՝ հաշվի առնելով պատժամիջոցների վերաբերյալ կիրառելի կանոնները և գործի հանգամանքները:

Գործնական ճանապարհային քարտեզ

• Գույքագրեք ձեր կազմակերպության կողմից մշակվող, գնվող կամ օգտագործվող բոլոր արհեստական ​​բանականության համակարգերը։
• Յուրաքանչյուր համակարգի համար սահմանեք, թե ինչ դեր եք կատարում՝ մատակարար, թե՞ տեղակայող։
• Որոշեք յուրաքանչյուր համակարգի ռիսկի կատեգորիան և փաստաթղթավորեք այդ գնահատումը, ներառյալ 6(3) հոդվածի բացառության վրա հիմնվելը։
• Կարգավորել արհեստական ​​բանականության կառավարումը և նշանակել պատասխանատու պաշտոնյա։
• Ապահովել այս համակարգերի հետ աշխատող անձնակազմի արհեստական ​​բանականության գրագիտությունը. այդ պարտավորությունն արդեն իսկ ուժի մեջ է։
• Կիրառել 50-րդ հոդվածի համաձայն թափանցիկության միջոցառումները։ Դրանք կիրառվում են 2026 թվականի օգոստոսի 2-ից։
• Ժամանակին սկսել տեխնիկական փաստաթղթերի կազմումը և, անհրաժեշտության դեպքում, հիմնարար իրավունքների վրա ազդեցության գնահատումը։
• Վերանայեք մատակարարների հետ կնքված պայմանագրերը՝ դերերի բաշխման, տեղեկատվության տրամադրման և աուդիտի իրավունքների վերաբերյալ։
• Բարձր ռիսկի փաստաթղթավորումը պլանավորել 2027 թվականի դեկտեմբերի 2-ի համար՝ Հավելված III համակարգերի և 2028 թվականի օգոստոսի 2-ի համար՝ Հավելված I համակարգերի համար։

Ինչ է պահանջում ձեր կազմակերպությունից «Արհեստական ​​բանականության մասին» օրենքը

Արհեստական ​​բանականության մասին օրենքը հիմնարար ազդեցություն ունի այն բանի վրա, թե ինչպես են կազմակերպությունները մշակում, գնում և օգտագործում արհեստական ​​բանականությունը: Բարձր ռիսկի պարտավորությունների հետաձգումը ժամանակ է գնում ռեժիմի ամենածանր մասի համար, բայց մնացած ամեն ինչ թողնում է տեղում. 5-րդ հոդվածի արգելքները, արհեստական ​​բանականության գրագիտության պարտավորությունը, ընդհանուր նշանակության արհեստական ​​բանականության մոդելների կանոնները և 50-րդ հոդվածի թափանցիկության պարտավորությունները՝ բոլորը գործում են այսօր: Շահած ժամանակը լավագույնս է ծախսվում դասակարգման և փաստաթղթավորման վրա, քանի որ դրանք այն քայլերն են, որոնք հետագայում չեն կարող սեղմվել: Կանոնակարգի ավելի լայն ակնարկի համար տե՛ս մեր «ԵՄ արհեստական ​​բանականության մասին» օրենքի ամբողջական ուղեցույցը , որը լրացնում է այս հոդվածի ուշադրության կենտրոնում բարձր ռիսկի արհեստական ​​բանականության համակարգերը:

Law & More օգնում է կազմակերպություններին գույքագրել և դասակարգել իրենց արհեստական ​​բանականության համակարգերը, որոշել նրանց դերը որպես մատակարար կամ տեղակայող, վերանայել և կազմել պայմանագրեր արհեստական ​​բանականության մատակարարների հետ, ինչպես նաև ստեղծել արհեստական ​​բանականության կառավարում: Եթե ցանկանում եք իմանալ, թե որ պարտավորություններն են ներկայումս վերաբերում ձեր կազմակերպությանը և որ քայլերը պետք է առաջնահերթ լինեն, խնդրում ենք կապվել մեզ հետ:

Հաճախակի տրվող հարցեր

Ստորև կպատասխանենք այս թեմայի վերաբերյալ մեզ ամենից հաճախ տրվող հարցերին։