స్వయంచాలిత వ్యవస్థను ఉపయోగించే సంస్థ, ఆ నమూనాని తానే నిర్మించినా, నిర్మించకపోయినా, మరియు ఆ ఫలితాన్ని ఎవరైనా ఉద్దేశించినా, ఉద్దేశించకపోయినా, అది సృష్టించే వివక్షాపూరిత ఫలితాలకు బాధ్యత వహించాల్సి ఉంటుంది. నెదర్లాండ్స్లో ఆ బాధ్యత టార్ట్ చట్టం (డచ్ సివిల్ కోడ్, BW లోని ఆర్టికల్ 6:162), సమాన వ్యవహార చట్టం మరియు GDPR పై ఆధారపడి ఉంటుంది; నియామకం, క్రెడిట్ మరియు బీమా వ్యవస్థల కోసం EU AI చట్టంలోని అధిక-ప్రమాద నియమాలు 2 డిసెంబర్ 2027 నుండి మాత్రమే వర్తిస్తాయి.
డచ్ వివక్ష చట్టంలో, ఒక నిర్ణయం యొక్క ప్రభావానికే ప్రాధాన్యత ఉంటుంది, దాని వెనుక ఉన్న ఉద్దేశానికి కాదు. అందువల్ల, ఒక రక్షిత సమూహానికి నష్టం కలిగించే నియామక ఫిల్టర్, క్రెడిట్ మోడల్ లేదా ఫ్రాడ్ స్కోర్ వంటివి అవే వాస్తవాల ఆధారంగా సివిల్ దావాకు, నెదర్లాండ్స్ మానవ హక్కుల సంస్థకు ఫిర్యాదుకు మరియు డచ్ డేటా ప్రొటెక్షన్ అథారిటీ ద్వారా విచారణకు దారితీయవచ్చు.
విషయ సూచిక
అల్గారిథమిక్ బయాస్ అంటే ఏమిటి మరియు అది ఎక్కడి నుండి వస్తుంది?
ఒక వ్యవస్థ పోల్చదగిన వ్యక్తులను ఒక రక్షిత ప్రాతిపదికన లేదా దానికి ప్రత్యామ్నాయంగా పనిచేసే ప్రమాణం ఆధారంగా విభిన్నంగా చూసినప్పుడు అల్గారిథమిక్ పక్షపాతం తలెత్తుతుంది. ఒక మోడల్ ప్రతి ఫైల్కు ఒకే నమూనాను వర్తింపజేస్తుంది కాబట్టి, పక్షపాత మోడల్ ఒక సంఘటనలా కాకుండా ఒక విధానంలా పనిచేస్తుంది.
- శిక్షణా డేటా: గత నిర్ణయాలపై శిక్షణ పొందిన ఒక మోడల్ వాటిలోని నమూనాలను పునరుత్పత్తి చేస్తుంది.
- చరరాశులు: పోస్ట్కోడ్ వంటి తటస్థంగా కనిపించే అంశం జాతికి ప్రతీకగా నిలిచి పరోక్ష వివక్షకు కారణం కావచ్చు.
- అవుట్పుట్ వినియోగం: సలహాగా ఆమోదయోగ్యమైన స్కోరును, ఒక దరఖాస్తును తిరస్కరించడానికి ఏకైక కారణంగా ఉపయోగించడం చట్టవిరుద్ధం కావచ్చు.
- పర్యవేక్షణ లోపం: ప్రారంభంలో సమతుల్యంగా ఉన్న మోడల్, డేటా మారిన కొద్దీ దారి మారుతుంది.
ప్రత్యక్ష వివక్ష అనేది రక్షిత ప్రాతిపదికను బహిరంగంగా ఉపయోగించుకుంటుంది. పరోక్ష వివక్షలో, ఒక తటస్థ ప్రమాణం రక్షిత సమూహానికి నష్టం కలిగిస్తుంది, దీనిని లక్ష్యం చట్టబద్ధమైనదై, సాధనాలు సముచితమైనవి మరియు అవసరమైనవి అయితేనే సమర్థించవచ్చు, మరియు ఆ సంస్థ దానిని నిరూపించగలగాలి.
డచ్ చట్టం ప్రకారం ఒక సంస్థ ఎప్పుడు బాధ్యత వహిస్తుంది?
డచ్ చట్టంలోని రెండు విభాగాలు చాలా వరకు పని చేస్తాయి. టార్ట్ చట్టం, సంస్థ అజాగ్రత్తగా వ్యవహరించి నష్టాన్ని కలిగించిందా అని ప్రశ్నిస్తుంది; సమాన చికిత్స చట్టం, ఆ ఫలితం నిషేధించబడిన వివక్షత అవునా కాదా అని ప్రశ్నిస్తుంది.
టార్ట్: నిర్లక్ష్యంగా మోహరించడం
ఆర్టికల్ 6:162 BW ప్రకారం, నష్టాన్ని కలిగించే, తనకు ఆపాదించబడిన చట్టవిరుద్ధమైన చర్యకు (onrechtmatige daad) ఒక పక్షం బాధ్యత వహిస్తుంది. పరీక్షించబడని, ధృవీకరించబడని లేదా పర్యవేక్షించబడని వ్యవస్థను ఉపయోగించడం కూడా ఒక నిర్లక్ష్యపూరిత ప్రవర్తన కావచ్చు. దావాదారుడు చట్టవిరుద్ధమైన చర్య, ఆపాదన, నష్టం మరియు కారణ సంబంధాన్ని నిరూపించాలి.
సరఫరాదారు నుండి సిస్టమ్ను కొనుగోలు చేయడం వలన, దానిని అమలు చేసే సంస్థకు ఈ బాధ్యత నుండి విముక్తి లభించదు. పనితీరు లోపం విషయంలో సరఫరాదారుపై దానికి ప్రత్యేక దావా వేసే హక్కు ఉండవచ్చు (ఆర్టికల్ 6:74 BW), కానీ అది తిరస్కరించబడిన దరఖాస్తుదారు యొక్క దావాను ప్రభావితం చేయదు.
సమాన చికిత్స చట్టం మరియు రుజువు భారం
సాధారణ సమాన చికిత్స చట్టం (Algemene wet gelijke behandeling, AWGB), వయో వివక్ష చట్టం (WGBL) మరియు వైకల్యం మరియు దీర్ఘకాలిక అనారోగ్యంపై చట్టం (WGBH/CZ) రక్షిత ప్రాతిపదికన ప్రత్యక్ష మరియు పరోక్ష వివక్షను నిషేధిస్తాయి; ఉపాధిలో, ఆర్టికల్ 7:646 BW లింగంపై నియమాలను జతచేస్తుంది. ఫిర్యాదుదారు వివక్షను సూచించే వాస్తవాలను ముందుకు తెచ్చిన తర్వాత, సంస్థ తాను వివక్ష చూపలేదని నిరూపించాలి.
తమ నమూనా బరువును, ఏ డేటాపై మరియు ఏ పరీక్షలతో లెక్కించారో చూపించలేని సంస్థ ఆ బాధ్యతను నెరవేర్చలేదు. నెదర్లాండ్స్ మానవ హక్కుల సంస్థకు (కాలేజ్ వూర్ డి రెచ్టెన్ వాన్ డి మెన్స్) కూడా ఫిర్యాదు చేయవచ్చు, వారి అభిప్రాయాలు కట్టుబడి ఉండాల్సినవి కానప్పటికీ, తరచుగా తదుపరి కోర్టు కేసులలో సాక్ష్యంగా ఉపయోగించబడతాయి.
స్వయంచాలక నిర్ణయాల నుండి GDPR ఏమి ఆశిస్తుంది?
GDPRలోని ఆర్టికల్ 22, చట్టపరమైన లేదా అదే విధమైన ముఖ్యమైన ప్రభావాలను కలిగి ఉన్న, కేవలం ఆటోమేటెడ్ ప్రాసెసింగ్ ఆధారంగా తీసుకున్న నిర్ణయానికి లోబడి ఉండకూడదనే హక్కును ఒక వ్యక్తికి కల్పిస్తుంది. సాధారణంగా నియామకాలు, రుణాలు మరియు ప్రయోజనాలకు సంబంధించిన నిర్ణయాలు ఈ వర్గంలోకి వస్తాయి.
ఆర్టికల్ 22 పరిధి నుండి ఒక నిర్ణయాన్ని బయటకు తీసుకెళ్లే మానవ ప్రమేయం కేవలం అర్థవంతంగా ఉన్నప్పుడు మాత్రమే ఉంటుంది: అంటే, భిన్నంగా నిర్ణయించే అధికారం మరియు సమాచారం ఉన్న వ్యక్తి జోక్యం చేసుకోవాలి, అంతేగానీ తెరపై కనిపించేదాన్ని ధృవీకరించే వ్యక్తి కాదు. ఆర్టికల్ 5(1)(a)లోని న్యాయ సూత్రం ఏ సందర్భంలోనైనా వర్తిస్తుంది, మరియు క్రమబద్ధమైన ప్రొఫైలింగ్ వంటి అధిక-ప్రమాదకర ప్రాసెసింగ్కు ముందు డేటా రక్షణ ప్రభావ అంచనా అవసరమని ఆర్టికల్ 35 నిర్దేశిస్తుంది. GDPRలోని ఆర్టికల్ 83(5) ప్రకారం, జరిమానాలు €20 మిలియన్లు లేదా ప్రపంచవ్యాప్త వార్షిక టర్నోవర్లో 4% వరకు ఉండవచ్చు, ఈ రెండింటిలో ఏది ఎక్కువైతే అది వర్తిస్తుంది. డేటా గోప్యత, GDPR, AI మరియు బిగ్ డేటాపై మా అవలోకనాన్ని చూడండి.
AI చట్టం ఇప్పుడు ఏమి నిర్దేశిస్తుంది మరియు తరువాత ఏమి ప్రారంభమవుతుంది?
AI చట్టం, రెగ్యులేషన్ (EU) 2024/1689, 1 ఆగస్టు 2024న అమల్లోకి వచ్చింది మరియు దశలవారీగా వర్తిస్తుంది. ఆర్టికల్ 5లోని నిషేధిత పద్ధతులు 2 ఫిబ్రవరి 2025 నుండి వర్తిస్తాయి; నియామకం, క్రెడిట్ మరియు బీమా వ్యవస్థలకు సంబంధించిన అధిక-ప్రమాద బాధ్యతలు 2 డిసెంబర్ 2027 నుండి వర్తిస్తాయి.
సాధారణ ప్రయోజన AI నమూనాల బాధ్యతలు మరియు జరిమానా నిబంధనలు 2 ఆగస్టు 2025 నుండి వర్తిస్తాయి. 27 జూలై 2026 నుండి అమల్లో ఉన్న AI పై డిజిటల్ ఓమ్నిబస్, రెగ్యులేషన్ (EU) 2026/1744, అధిక-ప్రమాద పాలనను వాయిదా వేసింది: నియామకం, పదోన్నతి మరియు తొలగింపు, రుణ అర్హత మరియు బీమా ప్రమాద అంచనా వంటి వాటి కోసం ఉపయోగించే అనెక్స్ IIIలో జాబితా చేయబడిన వ్యవస్థలు 2 డిసెంబర్ 2027న, మరియు నియంత్రిత ఉత్పత్తులలోని (అనెక్స్ I) అధిక-ప్రమాద వ్యవస్థలు 2 ఆగస్టు 2028న అమలులోకి వస్తాయి. ఈ ఓమ్నిబస్ ఆర్టికల్ 4లోని AI అక్షరాస్యత విధిని, సిబ్బందిలో AI అక్షరాస్యతకు మద్దతు ఇచ్చే విధిగా సవరించింది.
ఒకసారి అధిక-ప్రమాద నియమావళి వర్తించిన తర్వాత, దానికి ప్రాతినిధ్య మరియు సరిచూసిన శిక్షణా డేటా, సాంకేతిక డాక్యుమెంటేషన్, లాగింగ్, పారదర్శకత, మానవ పర్యవేక్షణ మరియు అనుగుణ్యత మదింపు అవసరం. అమలుచేసేవారికి వారి స్వంత విధులు ఉంటాయి, ఉదాహరణకు లాగ్లను ఉంచడం మరియు సమర్థులైన సిబ్బందికి పర్యవేక్షణను అప్పగించడం వంటివి. నిషేధిత పద్ధతులకు జరిమానాలు €35 మిలియన్లు లేదా ప్రపంచవ్యాప్త టర్నోవర్లో 7% వరకు, మరియు అధిక-ప్రమాద బాధ్యతలను ఉల్లంఘించినందుకు €15 మిలియన్లు లేదా 3% వరకు ఉంటాయి. ప్రతిపాదిత AI లయబిలిటీ డైరెక్టివ్ ఉపసంహరించబడింది, కాబట్టి నెదర్లాండ్స్లో నష్టపరిహారం కోసం చేసే దావా డచ్ చట్టం కింద దావాగానే మిగిలి ఉంటుంది. ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ యొక్క చట్టపరమైన అంశాలు మరియు EU AI చట్టంపై మా గైడ్లో దీని గురించి మరింత సమాచారం ఉంది.
డచ్ న్యాయస్థానాలు మరియు నియంత్రణ సంస్థలు ఏమి నిర్ణయించాయి?
5 ఫిబ్రవరి 2020న, హేగ్ జిల్లా కోర్టు, ప్రభుత్వ మోసపూరిత ప్రమాద వ్యవస్థ అయిన SyRI వెనుక ఉన్న చట్టం తగినంత పారదర్శకంగా మరియు ధృవీకరించదగినదిగా లేనందున, అది యూరోపియన్ మానవ హక్కుల ఒడంబడికలోని ఆర్టికల్ 8ని ఉల్లంఘించిందని తీర్పు ఇచ్చింది (ECLI:NL:RBDHA:2020:865). ప్రమాద నమూనా గానీ, సూచికలు గానీ బహిర్గతం చేయబడలేదు, కాబట్టి వివక్షాపూరిత ప్రభావాలను ఎవరూ తనిఖీ చేయలేకపోయారు.
పిల్లల సంరక్షణ ప్రయోజనాల కుంభకోణంలో (toeslagenaffaire), పన్నుల పరిపాలన విభాగం రిస్క్ సెలక్షన్ను ఉపయోగించింది, దీనిలో ద్వంద్వ జాతీయతను మోసానికి సూచికగా పరిగణించారు. డచ్ డేటా ప్రొటెక్షన్ అథారిటీ ఈ ప్రాసెసింగ్ను చట్టవిరుద్ధమైనదిగా మరియు వివక్షాపూరితమైనదిగా గుర్తించి, పన్నుల పరిపాలన విభాగానికి జరిమానా విధించింది. ప్రైవేట్ సంస్థలకు దీని నుండి నేర్చుకోవాల్సిన పాఠం: ఎవరూ వివరించలేని వ్యవస్థను సమర్థించలేము, మరియు దానిని అమలు చేయాలని ఎంచుకోవడమే విమర్శించబడే చర్య.
బాధ్యత ఎవరిది: సరఫరాదారుడిదా లేక వినియోగదారుడిదా?
నష్టపోయిన వ్యక్తి నిర్ణయం తీసుకున్న సంస్థపై దావా వేస్తాడు, ఆ సంస్థ దాదాపు ఎల్లప్పుడూ అమలుచేసే సంస్థే అయి ఉంటుంది. AI చట్టం ప్రకారం, ప్రొవైడర్ మరియు అమలుచేసే సంస్థ రెండింటికీ వాటి వాటి విధులు ఉంటాయి.
సరఫరాదారుతో చేసుకున్న ఒప్పందం ఆర్థిక పరిణామాలను కేటాయించగలదు మరియు దావాను సమర్థించుకోవడానికి మీకు అవసరమైన సమాచారాన్ని భద్రపరచగలదు, కానీ అది నియంత్రణ జరిమానాను లేదా చట్టబద్ధమైన విధిని తొలగించదు. కృత్రిమ మేధస్సు చేసిన తప్పులకు ఎవరు బాధ్యులు అనే మా వ్యాసం ఆ కేటాయింపు గురించి చర్చిస్తుంది.
AIని ఉపయోగించే సంస్థగా మీరు ఏమి తనిఖీ చేయాలి?
- మీరు అమలు చేయడానికి ముందు రక్షిత సమూహాలలో ఫలితాల రేట్లను పరీక్షించి, ప్రాక్సీల కోసం వేరియబుల్స్ను తనిఖీ చేశారా?
- గో-లైవ్ తర్వాత కూడా మీరు టెస్టింగ్ కొనసాగిస్తారా, మరియు సిస్టమ్ను నిలిపివేసే అధికారం ఒక నిర్దిష్ట వ్యక్తికి ఉందా?
- GDPRలోని ఆర్టికల్ 22 వర్తించే చోట మానవ సమీక్ష అర్థవంతంగా ఉంటుందా, మరియు గో-లైవ్కు ముందు ప్రభావ అంచనా జరిగిందా?
- వర్క్స్ కౌన్సిల్స్ చట్టం (WOR)లోని ఆర్టికల్ 27 ప్రకారం, ఉదాహరణకు సిబ్బందిని పర్యవేక్షించే వ్యవస్థల కోసం వర్క్స్ కౌన్సిల్కు సమ్మతి ఇచ్చే హక్కు ఉందా?
- సరఫరాదారు ఒప్పందం మీకు డాక్యుమెంటేషన్, పరీక్ష ఫలితాలు మరియు లాగ్లు, ఇంకా ఆడిట్ను పొందే హక్కును ఇస్తుందా?
- ప్రతి నిర్ణయాన్ని బాధిత వ్యక్తికి సులభమైన భాషలో వివరించగలరా?
ఒక నిర్ణయం వల్ల ప్రభావితమైన దరఖాస్తుదారుగా లేదా ఉద్యోగిగా మీరు ఏమి తనిఖీ చేయాలి?
- అర్థవంతమైన మానవ ప్రమేయం లేకుండా నిర్ణయం తీసుకున్నారా? అయితే మీరు GDPRలోని ఆర్టికల్ 22ని అమలు చేయవచ్చు.
- మీరు మీ డేటాకు యాక్సెస్ కోసం మరియు దానిలో ఇమిడి ఉన్న తర్కం యొక్క వివరణ కోసం అడిగారా (ఆర్టికల్ 15 GDPR)?
- రక్షిత ప్రాంతం లేదా మధ్యవర్తి పాత్ర పోషించిందని సూచించే వాస్తవాలు ఉన్నాయా? అప్పుడు రుజువు చేయవలసిన బాధ్యత మారుతుంది.
- నెదర్లాండ్స్ మానవ హక్కుల సంస్థ నుండి అభిప్రాయం (oordeel) సరిపోతుందా, లేదా కోర్టులో నష్టపరిహారం కోసం దావా వేయాలా?
అల్గారిథమిక్ పక్షపాత బాధ్యత విషయంలో మేము మీకు ఎలా సహాయపడగలం?
మా ఐటీ న్యాయవాదులు ఆటోమేటెడ్ నిర్ణయ-నిర్మాణానికి సంబంధించిన చట్టపరమైన అంశాలపై కంపెనీలకు సలహా ఇస్తారు.
- మేము ఒక నిర్దిష్ట సిస్టమ్ కోసం డచ్ టార్ట్ చట్టం, సమాన చికిత్స చట్టం మరియు GDPR కింద మీ ఎక్స్పోజర్ను అంచనా వేస్తాము.
- మేము GDPRలోని ఆర్టికల్ 22 ప్రకారం మీ ప్రభావ అంచనా మరియు మానవ-పర్యవేక్షణ ప్రక్రియను సమీక్షిస్తాము.
- మేము అధిక-ప్రమాద నియామకాలు, క్రెడిట్ మరియు బీమా వ్యవస్థల కోసం మీ AI చట్ట సమ్మతిని సిద్ధం చేస్తాము.
- మేము సరఫరాదారు ఒప్పందాలను డాక్యుమెంటేషన్, ఆడిట్ హక్కులు మరియు బాధ్యత అంశాలపై చర్చలు జరుపుతాము.
- మేము ఫిర్యాదులు, సంస్థాగత విధానాలు, క్లెయిమ్లు మరియు నియంత్రణ విచారణలను నిర్వహిస్తాము.
సారాంశం
- అంగీకరించిన వ్యవస్థ ఉన్నప్పటికీ, వివక్షాపూరిత ఫలితాలకు అమలుచేసే సంస్థ బాధ్యత వహిస్తుంది.
- వాస్తవాలు వివక్షను సూచించినప్పుడు, ఆ సంస్థ తాను వివక్ష చూపలేదని నిరూపించుకోవాలి.
- GDPRలోని ఆర్టికల్ 22 కేవలం ఆటోమేటెడ్ నిర్ణయాలను మాత్రమే పరిమితం చేస్తుంది; మానవ సమీక్ష వాస్తవమైనదిగా ఉండాలి.
- నియామకం, క్రెడిట్ మరియు బీమాకు సంబంధించిన AI చట్టంలోని అధిక-ప్రమాదకర విధులు 2 డిసెంబర్ 2027 నుండి వర్తిస్తాయి.
- పరీక్ష మరియు పర్యవేక్షణకు సంబంధించిన డాక్యుమెంటేషన్ ఏ రక్షణకైనా మూలస్తంభం.
తరచుగా అడుగు ప్రశ్నలు
మా థర్డ్-పార్టీ AI పక్షపాతంతో ఉంటే, బాధ్యత ఎవరిది: విక్రేతదా లేక మేమా?
బాధితుడైన వ్యక్తి పట్ల, సాధారణంగా మోహరింపుదారుగా మీ పట్ల. విక్రేతపై మీకు ఒప్పందపరమైన దావా ఉండవచ్చు (ఆర్టికల్ 6:74 BW), కానీ అది మిమ్మల్ని సివిల్ దావా లేదా నియంత్రణ జరిమానా నుండి రక్షించదు.
మన అల్గోరిథం వివక్షాపూరితం కాదని ఎలా నిరూపించాలి?
వినియోగానికి ముందు మరియు వినియోగ సమయంలో రికార్డులతో సహా: డేటా మూలాలు, సమూహాల అంతటా ధ్రువీకరణ పరీక్షలు, క్రమబద్ధమైన ఆడిట్లు, దిద్దుబాటు చర్యలు మరియు నిర్ణయ తర్కం యొక్క వివరణ. AI చట్టం ప్రకారం అధిక-ప్రమాదకర వ్యవస్థలకు, 2 డిసెంబర్ 2027 నుండి ఇటువంటి డాక్యుమెంటేషన్ తప్పనిసరి అవుతుంది.
వివరించదగిన AI మన బాధ్యతను తొలగిస్తుందా?
లేదు. వివరణాత్మకత GDPR పారదర్శకత విధులను నెరవేర్చడంలో సహాయపడుతుంది, కానీ ఒక రక్షిత ప్రాతిపదిక లేదా ప్రాక్సీ ఫలితాన్ని నిర్ణయించిందని ఆ వివరణ చూపిస్తే, ఆ నిర్ణయం ఇప్పటికీ వివక్షాపూరితమైనదే.
ఈ నియమాలు చిన్న, మధ్య తరహా సంస్థలకు వర్తిస్తాయా?
అవును. సంస్థ పరిమాణంతో సంబంధం లేకుండా టార్ట్ చట్టం, సమాన వ్యవహార చట్టం మరియు GDPR వర్తిస్తాయి. AI చట్టం చిన్న మరియు మధ్య తరహా సంస్థలకు (SMEs) కొన్ని భారాలను తగ్గిస్తుంది, కానీ నియామక లేదా క్రెడిట్ వ్యవస్థలకు సంబంధించిన అధిక-ప్రమాదకర విధులు ఇప్పటికీ వర్తిస్తాయి.