ఒక AI వ్యవస్థ హాని కలిగించినప్పుడు ఎవరు బాధ్యత వహిస్తారు?

నెదర్లాండ్స్‌లో AI వ్యవస్థలకు సంబంధించిన బాధ్యత ఎల్లప్పుడూ ఒక వ్యక్తి లేదా కంపెనీపైనే ఉంటుంది, సాఫ్ట్‌వేర్‌పై ఎప్పుడూ ఉండదు. ఆచరణలో రెండు స్థానాలు ముఖ్యమైనవి: ఒకటి వినియోగదారు, అంటే వ్యవస్థను అమలు చేసి, దానితో నిర్ణయాలు తీసుకునే వ్యక్తి లేదా సంస్థ; రెండవది ఉత్పత్తిదారు, అంటే వ్యవస్థను అభివృద్ధి చేసి, మార్కెట్‌లోకి విడుదల చేసిన లేదా సరఫరా చేసిన పక్షం. ఈ ఇద్దరిలో నష్టాన్ని ఎవరు భరించాలనేది, వైఫల్యం ఎక్కడ జరిగింది, వారిలో ప్రతి ఒక్కరికీ ఏమి తెలుసు, మరియు వారి మధ్య ఉన్న ఒప్పందం ఏమి చెబుతుంది అనే అంశాలపై ఆధారపడి ఉంటుంది. ఈ వ్యాసం ఈ రెండు స్థానాలను విశ్లేషిస్తుంది; క్రిమినల్ కోడ్‌లోని ఆర్టికల్ 51 ప్రకారం క్రియాత్మక బాధ్యత నుండి కార్పొరేట్ బాధ్యత వరకు ఉన్న క్రిమినల్ చట్ట చట్రం గురించి, 'ఒక అల్గోరిథం పాక్షికంగా బాధ్యత వహించగలదా?' అనే అంశంపై మా అనుబంధ వ్యాసంలో వివరించబడింది.

వ్యవస్థ ఎందుకు ఎప్పుడూ నిందితురాలు కాదు

డచ్ చట్టం రెండు రకాల వ్యక్తులను గుర్తిస్తుంది: సహజ వ్యక్తులు మరియు చట్టపరమైన వ్యక్తులు. ఒక AI వ్యవస్థ ఈ రెండింటిలో ఏదీ కాదు. దానికి హక్కులు ఉండవు, దానిని పిలవలేరు, జరిమానా విధించలేరు మరియు నష్టపరిహారం చెల్లించమని ఆదేశించలేరు, ఎందుకంటే దానికి సొంతంగా ఏమీ లేదు మరియు దానిని నడిపే కంపెనీ నుండి వేరుగా దానికి చట్టపరమైన ఉనికి లేదు. కొన్నిసార్లు 'ఎలక్ట్రానిక్ పర్సన్‌హుడ్' అని పిలవబడే మూడవ వర్గాన్ని సృష్టించే ప్రతిపాదనలు యూరోపియన్ స్థాయిలో చర్చించబడ్డాయి, కానీ తాత్వికమైన దానికంటే ఆచరణాత్మకమైన కారణం వల్ల అవి ఎక్కడికీ వెళ్ళలేదు: ఆస్తులు లేని మరియు తన ప్రవర్తనను మార్చుకునే సామర్థ్యం లేని ఒక బాధ్యత వాహనం, వాస్తవానికి హానిని నివారించగల పక్షాల నుండి ప్రమాదాన్ని దూరం చేస్తుంది.

కాబట్టి, యంత్రానికి బాధ్యత ఉందా లేదా అనేది ఎప్పుడూ ప్రశ్న కాదు. ఆ గొలుసులోని ఏ మానవ లేదా కార్పొరేట్ భాగస్వామి తమ విధిని నిర్వర్తించడంలో విఫలమయ్యారు అనేదే అసలు ప్రశ్న. మరియు ఆ గొలుసుకు ఒక ఊహించదగిన ఆకారం ఉంటుంది: మోడల్‌ను నిర్మించిన పక్షం, దానిని ఒక ఉత్పత్తిగా మార్చిన పక్షం, దానిని సరఫరా చేసిన లేదా అనుసంధానించిన పక్షం, దానిని అమలు చేసిన సంస్థ, మరియు బటన్ నొక్కిన వ్యక్తి. AI వ్యవస్థల బాధ్యతను నిర్ధారించడమంటే, ఆ గొలుసులోని వైఫల్యాన్ని గుర్తించి, దానికి ఒక చట్టపరమైన ఆధారాన్ని సరిపోల్చడమే.

ఆ చట్టపరమైన ఆధారాలలో రెండు ప్రధానమైనవి. వినియోగదారునికి, సాధారణ టార్ట్ చట్టం మరియు ఒక శక్తివంతమైన సాధనాన్ని ఇతరుల కోసం ఉపయోగించడంతో పాటు వచ్చే జాగ్రత్త వహించాల్సిన బాధ్యత. ఉత్పత్తిదారునికి, ఉత్పత్తి బాధ్యత, దీనికి అసలు తప్పు ఉండాల్సిన అవసరం లేదు. క్రిమినల్ ఎక్స్‌పోజర్‌తో సహా మిగతావన్నీ వీటికి అదనంగా జోడించబడి ఉంటాయి.

వినియోగదారుడి స్థానం

వినియోగదారులు ఈ వ్యవస్థను వేరొకరు నిర్మించిన ఒక బ్లాక్ బాక్స్‌గా భావించడం వల్ల, తమపై పడే భారాన్ని తక్కువగా అంచనా వేసుకుంటారు. న్యాయశాస్త్రంలో, ఒక సాధనాన్ని వినియోగించాలని ఎంచుకుని, దానిని కాన్ఫిగర్ చేసి, దానికి డేటాను అందించి, దాని అవుట్‌పుట్‌పై చర్య తీసుకునే వ్యక్తి ఏదో ఒక పని చేస్తున్నట్లే, మరియు ఆ పని దాని యోగ్యతను బట్టి అంచనా వేయబడుతుంది.

వ్యవస్థ కేవలం నేరానికి సాధనంగా మారినప్పుడు

ఉద్దేశపూర్వకంగా AI వ్యవస్థను ఉపయోగించిన కేసులు చాలా సులభమైనవి. ఒక కంపెనీని మోసం చేయడానికి నమ్మశక్యమైన ఇన్వాయిస్‌ను సృష్టించడం అనేది, ఆ లేఖను ఒక వ్యక్తి రూపొందించినా లేదా ఒక మోడల్ రూపొందించినా, క్రిమినల్ కోడ్ యొక్క ఆర్టికల్ 326 ప్రకారం మోసంగా పరిగణించబడుతుంది. అలాగే, ఉపయోగించిన సాధనంతో సంబంధం లేకుండా, ఆర్టికల్ 225 ప్రకారం ఒక పత్రాన్ని ఫోర్జరీ చేయడం ఫోర్జరీగానే మిగిలిపోతుంది. ఒక సిస్టమ్‌లోకి చొరబడే కోడ్‌ను వ్రాయడానికి ఒక మోడల్‌ను ఉపయోగించడం అనేది ఆర్టికల్ 138ab ప్రకారం ఇప్పటికీ కంప్యూటర్ చొరబాటుగానే పరిగణించబడుతుంది. ఒక నిజమైన వ్యక్తి యొక్క మార్ఫింగ్ చేసిన చిత్రాలను సృష్టించి, పంపిణీ చేయడం పరువు నష్టం కిందకు వస్తుంది. మరియు ఆ విషయం లైంగిక స్వభావం కలిగి ఉంటే, అది 1 జూలై 2024 నుండి అమల్లోకి వచ్చిన లైంగిక నేరాల చట్టంలోని నేరాల పరిధిలోకి వస్తుంది. ఒక వ్యక్తిని AI సహాయంతో నిరంతరం వేధించడం అనేది ఆర్టికల్ 285b ప్రకారం స్టాకింగ్‌గా పరిగణించబడుతుంది, దీనిపై బాధితుడు ఫిర్యాదు చేస్తేనే విచారణ జరుగుతుంది.

ఇందులో ఏదీ కొత్త చట్టం కాదు. ఈ సాంకేతికత మోసం యొక్క పరిధిని, విశ్వసనీయతను మారుస్తుంది కానీ, నేరంలోని అంశాలను కాదు. ఇది మార్చేది సాక్ష్యాధారాలను: ప్రాంప్ట్‌లు, అకౌంట్ లాగ్‌లు, మోడల్ అవుట్‌పుట్‌లు మరియు ఫైల్ సృష్టించిన సమయం వంటివి నేరాన్ని ఒక వ్యక్తికి ముడిపెట్టే ఆధారాలు, మరియు AI- రూపొందించిన కంటెంట్‌ను గుర్తించలేమని భావించే వినియోగదారులు సాధారణంగా పొరబడతారు.

అజాగ్రత్తగా వాడటం: సర్వసాధారణమైన ప్రమాదం

ఉద్దేశపూర్వకంగా కంటే అజాగ్రత్త వల్లనే చాలా ఎక్కువ సంస్థలు ఇబ్బందుల్లో పడతాయి. ఈ తీరు మనకు సుపరిచితమే. ఒక వ్యవస్థను ఒక ప్రయోజనం కోసం కొనుగోలు చేసి, మరో ప్రయోజనం కోసం ఉపయోగిస్తారు. దాని ఫలితాన్ని ఒక సంకేతంగా కాకుండా, ఒక నిర్ణయంగా పరిగణిస్తారు. అది తప్పుగా ఉన్న సందర్భాలను ఎవరూ తనిఖీ చేయరు, ఎందుకంటే దానిని నడిపే వారికి దాని దోషాల రేటు ఎలా ఉంటుందో లేదా అది ఎక్కడ విఫలమవుతుందో ఎప్పుడూ చెప్పలేదు. నష్టం వాస్తవరూపం దాల్చినప్పుడు, ఆ నిర్ణయం ఎలా తీసుకోబడిందో తెలిపే ఎలాంటి రికార్డు తమ వద్ద లేదని ఆ సంస్థ కనుగొంటుంది.

సివిల్ పరంగా ఇది స్పష్టమైన అపరాధం: సివిల్ కోడ్ యొక్క ఆర్టికల్ 6:162, నష్టాన్ని కలిగించే చట్టవిరుద్ధమైన చర్యకు ఒక వ్యక్తిని బాధ్యుడిని చేస్తుంది. సమాజంలో జాగ్రత్త వహించాల్సిన విధిని ఉల్లంఘించడం అనేది చట్టవిరుద్ధత యొక్క వర్గాలలో ఒకటి, మరియు ఆ స్థానంలో ఉన్న ఒక జాగ్రత్తగల నిర్వాహకుడు ఏమి చేసి ఉండేవాడో దాని ద్వారా ఆ విధి యొక్క పరిధి నిర్ణయించబడుతుంది. ఆర్టికల్ 6:170 ప్రకారం ఒక యజమాని తన ఉద్యోగుల తప్పులకు అదనంగా బాధ్యత వహిస్తాడు, మరియు ఒక ఒప్పంద బాధ్యతను నిర్వర్తించడానికి సహాయకుడిని ఉపయోగించే పక్షం, ఆర్టికల్ 6:76 ప్రకారం ఆ సహాయకుడికి జవాబుదారీగా ఉంటుంది, ఈ నిబంధన ఒక సంస్థ తన సొంత సేవను అందించడానికి సరఫరాదారు నమూనాను ఉపయోగించినప్పుడు దానిని పట్టుకుంటుంది.

జాగ్రత్త వహించాల్సిన విధిని ఇకపై పూర్తిగా న్యాయస్థానాలు మాత్రమే కల్పించవు. EU AI చట్టం, అధిక-ప్రమాదకర వ్యవస్థలను అమలు చేసేవారికి నిర్దిష్ట బాధ్యతలను నిర్దేశిస్తుంది: సూచనలకు అనుగుణంగా వ్యవస్థను ఉపయోగించడం, మానవ పర్యవేక్షణను నిర్వహించడానికి సామర్థ్యం మరియు అధికారం ఉన్న వ్యక్తులను నియమించడం, వారి నియంత్రణలో ఉన్న ఇన్‌పుట్ డేటా సంబంధితమైనదని నిర్ధారించుకోవడం, దాని పనితీరును పర్యవేక్షించడం మరియు ప్రమాదం తలెత్తినప్పుడు దాని వినియోగాన్ని నిలిపివేయడం, లాగ్‌లను భద్రపరచడం, మరియు పని ప్రదేశంలో అటువంటి వ్యవస్థను అమలు చేయడానికి ముందు కార్మికులకు మరియు వారి ప్రతినిధులకు తెలియజేయడం. ఆ బాధ్యతలు నియంత్రణాత్మకమైనవే అయినా, నిర్లక్ష్యాన్ని అంచనా వేసే న్యాయస్థానం వాటిని జాగ్రత్తతో కూడిన ప్రవర్తన ఎలా ఉంటుందో తెలిపే వివరణగా పరిగణిస్తుంది. వినియోగ సూచనలను విస్మరించిన సంస్థ కేవలం నిబంధనలను పాటించనట్లే కాదు; అది వాదికి కేసును అప్పగించినట్లే.

ఆటోమేషన్ పక్షపాతం గురించి ప్రత్యేకంగా ప్రస్తావించాలి, ఎందుకంటే ఇక్కడే పర్యవేక్షణ నిశ్శబ్దంగా విఫలమవుతుంది. సిస్టమ్ ప్రతిపాదించే దాదాపు ప్రతిదాన్నీ ఆమోదించే సమీక్షకుడు పర్యవేక్షణ చేయడం లేదు, మరియు తన సిబ్బంది పనితీరును బట్టి వారిని అంచనా వేసే సంస్థ, వాస్తవానికి ఆ ఫలితాన్నే రూపొందించినట్లు అవుతుంది. నిజంగా మానవ నిర్ణయం తీసుకున్నారా లేదా అన్నదే చట్టపరమైన ప్రశ్న, మరియు కేవలం ఆమోదముద్ర దానికి అర్హత పొందదు.

వినియోగదారుడు ప్రమాదాన్ని బదిలీ చేయలేని చోట

సరఫరాదారుడే నష్టభయం భరిస్తాడని భావించిన సంస్థలను మూడు అంశాలు తరచుగా ఆశ్చర్యపరుస్తుంటాయి.

మొదటగా, నష్టపోయిన మూడవ పక్షం విషయంలో వినియోగదారుడే కనిపించే పక్షం. క్రెడిట్ నిరాకరించబడిన కస్టమర్, స్క్రీనింగ్ సాధనం ద్వారా తిరస్కరించబడిన ఉద్యోగి, తప్పుడు ట్రైయేజ్ పొందిన రోగి: వీరంతా సరఫరా చేసేవారితో ఒప్పందం చేసుకుంటారు, లేదా వారితో వ్యవహరిస్తారు, మరియు వారు సరఫరా చేసేవారిపైనే దావా వేస్తారు. సరఫరా చేసేవారు తమ సరఫరాదారు నుండి నష్టపరిహారం రాబట్టుకోగలరా లేదా అనేది ఒక ప్రత్యేకమైన ప్రశ్న, అది ఒప్పందంపై ఆధారపడి ఉంటుంది మరియు దానిపై దావా వేయడాన్ని ఆలస్యం చేయదు.

రెండవది, సాధారణ డేటా రక్షణ నియమాలు మిగతా అన్నింటితో సంబంధం లేకుండా వర్తిస్తాయి. ఒకవేళ సిస్టమ్ వ్యక్తిగత డేటాను ప్రాసెస్ చేస్తే, సాధారణంగా దానిని అమలుచేసేవారే కంట్రోలర్‌గా ఉంటారు, వారే చట్టపరమైన ఆధారం, పారదర్శకత, ప్రభావ అంచనా మరియు భద్రతకు బాధ్యత వహిస్తారు. కేవలం ఆటోమేటెడ్ పద్ధతుల ద్వారా తీసుకున్న ఒక నిర్ణయం చట్టపరమైన ప్రభావాలను కలిగించినా లేదా అదే విధంగా ఒక వ్యక్తిని గణనీయంగా ప్రభావితం చేసినా, అది విడిగా నియంత్రించబడుతుంది మరియు ఆ వ్యక్తికి మానవ జోక్యానికి మరియు ఫలితాన్ని సవాలు చేసే హక్కును ఇస్తుంది. జనరల్ డేటా ప్రొటెక్షన్ రెగ్యులేషన్‌పై మా అవలోకనం ఆ విధానాన్ని వివరిస్తుంది.

మూడవది, మార్పు మీ పాత్రను మారుస్తుంది. ఒక సిస్టమ్‌పై తన సొంత పేరును పెట్టే, దాని ఉద్దేశించిన ప్రయోజనాన్ని మార్చే, లేదా దానిని గణనీయంగా సవరించే డిప్లాయర్, AI చట్టం ప్రకారం ప్రొవైడర్‌గా మారి, ప్రొవైడర్ యొక్క బాధ్యతలను పొందుతుంది. ఒక సాధారణ-ప్రయోజన మోడల్‌ను నియంత్రిత నిర్ణయం కోసం స్క్రీనింగ్ సాధనంగా మార్చడం అనేది సరిగ్గా ఆ హద్దును దాటే చర్య. ఇతరుల మోడల్‌పై ఆధారపడి నిర్మించే సంస్థలు, ఏదైనా సంఘటన జరిగిన తర్వాత కాకుండా, ప్రారంభించే ముందే తాము ఆ హద్దులో ఏ వైపు ఉన్నారో స్పష్టం చేసుకోవాలి.

నిర్మాత స్థానం

ఉత్పత్తిదారుడి బాధ్యత భిన్నమైన మార్గంలో ఉంటుంది మరియు అది మరింత కఠినంగా ఉంటుంది. సివిల్ కోడ్ యొక్క ఆర్టికల్స్ 6:185 మరియు తదుపరి వాటి ప్రకారం ఉత్పత్తి బాధ్యత, నష్టపోయిన పక్షం తప్పును నిరూపించాల్సిన అవసరం లేకుండానే, తన ఉత్పత్తిలోని లోపం వల్ల కలిగే నష్టానికి ఉత్పత్తిదారుడిని బాధ్యుడిని చేస్తుంది. ఒక ఉత్పత్తి యొక్క ప్రదర్శన, దాని నుండి సహేతుకంగా ఆశించదగిన ఉపయోగం మరియు అది చలామణిలోకి వచ్చిన సమయాన్ని పరిగణనలోకి తీసుకున్నప్పుడు, ఒక వ్యక్తి ఆశించే భద్రతను అది అందించనప్పుడు ఆ ఉత్పత్తి లోపభూయిష్టమైనదిగా పరిగణించబడుతుంది. దావాదారుడు నష్టాన్ని, లోపాన్ని మరియు వాటి మధ్య ఉన్న కారణ సంబంధాన్ని నిరూపించాలి, AI కేసులో అసలైన పోరాటం ఇక్కడే ఉంటుంది.

ఈ నియమావళికి నిర్దిష్ట పరిమితులు ఉన్నాయి. నష్టపోయిన పక్షం వారు నష్టం, లోపం మరియు ఉత్పత్తిదారుని గుర్తింపు గురించి తెలుసుకున్న లేదా తెలుసుకోవలసిన రోజు నుండి మూడు సంవత్సరాలలోపు దావాలు దాఖలు చేయాలి, మరియు నిర్దిష్ట ఉత్పత్తి మార్కెట్లోకి వచ్చిన పది సంవత్సరాల తర్వాత ఈ హక్కు ముగిసిపోతుంది. ఈ నియమావళి కింద బాధ్యతను ఒప్పందం ద్వారా మినహాయించడం లేదా పరిమితం చేయడం కుదరదు, మరియు ఇది తక్కువ పరిమితికి లోబడి, మరణం, వ్యక్తిగత గాయం మరియు ప్రైవేట్‌గా ఉపయోగించే ఇతర ఆస్తికి జరిగిన నష్టాన్ని కూడా కవర్ చేస్తుంది. ఉత్పత్తిదారునికి పరిమితమైన రక్షణలు ఉంటాయి, వాటిలో అభివృద్ధి ప్రమాద రక్షణ కూడా ఒకటి. మార్కెట్లోకి వచ్చిన సమయంలో ఉన్న శాస్త్రీయ మరియు సాంకేతిక పరిజ్ఞానం లోపాన్ని వెల్లడించలేకపోయినప్పుడు ఈ రక్షణ వర్తిస్తుంది.

సాఫ్ట్‌వేర్ స్థానాన్ని మార్చే సంస్కరణ

ప్రస్తుత డచ్ పాలన ప్రకారం ఉత్పత్తి అనేది ఒక కదిలే వస్తువు, మరియు స్టాండ్-అలోన్ సాఫ్ట్‌వేర్ ఆ కోవలోకి వస్తుందా లేదా అనేది సంవత్సరాలుగా వివాదాస్పదంగా ఉంది. ఆ వాదన ఇప్పుడు ముగింపు దశకు చేరుకుంది. సవరించిన ఉత్పత్తి బాధ్యత ఆదేశం, ఆదేశం (EU) 2024/2853, 8 డిసెంబర్ 2024న అమల్లోకి వచ్చింది మరియు 9 డిసెంబర్ 2026 నాటికి జాతీయ చట్టంలోకి మార్చబడాలి; ఇది ఆ తేదీ తర్వాత మార్కెట్లో ఉంచబడిన లేదా సేవలోకి ప్రవేశపెట్టబడిన ఉత్పత్తులకు వర్తిస్తుంది, కాబట్టి దానికి ముందు చలామణిలో ఉన్న ఉత్పత్తులను సివిల్ కోడ్ యొక్క ప్రస్తుత నిబంధనలు నియంత్రిస్తూనే ఉంటాయి. AI వ్యవస్థల బాధ్యతకు సంబంధించి నాలుగు మార్పులు ముఖ్యమైనవి.

AI వ్యవస్థలు మరియు డిజిటల్ తయారీ ఫైళ్లతో సహా సాఫ్ట్‌వేర్, స్పష్టంగా ఒక ఉత్పత్తి. బాధ్యత వహించాల్సిన పక్షాల పరిధి తయారీదారుకు మించి విస్తరిస్తుంది. ఇందులో తయారీదారు నియంత్రణకు వెలుపల ఉత్పత్తిని గణనీయంగా సవరించే పక్షం, అధీకృత ప్రతినిధి, దిగుమతిదారు మరియు, నిర్దిష్ట పరిస్థితులలో, ఫుల్‌ఫిల్‌మెంట్ సేవా ప్రదాత మరియు ఆన్‌లైన్ ప్లాట్‌ఫారమ్ కూడా ఉంటారు. వృత్తిపరంగా ఉపయోగించని డేటా నాశనం లేదా అవినీతికి కూడా తిరిగి పొందగల నష్టం వర్తిస్తుంది, ఇది సాఫ్ట్‌వేర్ వైఫల్యాలలో ఒక వాస్తవ నష్ట వర్గం. మరియు ఒక ఉత్పత్తిని మార్కెట్‌లోకి విడుదల చేసిన తర్వాత జరిగే పరిణామాల వల్ల అది లోపభూయిష్టంగా మారవచ్చు: అవసరమైన సాఫ్ట్‌వేర్ అప్‌డేట్‌లో లోపం, భద్రతా అప్‌డేట్‌లను అందించడంలో వైఫల్యం, లేదా ఉత్పత్తిదారు నియంత్రణను కలిగి ఉన్న నిరంతర అభ్యాసం యొక్క ప్రభావాలు వంటివి.

ఈ సంస్కరణ సాక్ష్యాధారాల సమస్యను కూడా నేరుగా పరిష్కరిస్తుంది. వాది అభ్యర్థన మేరకు సంబంధిత సాక్ష్యాలను వెల్లడించమని న్యాయస్థానం ప్రతివాదిని ఆదేశించవచ్చు, మరియు ప్రతివాది దానికి కట్టుబడి ఉండకపోతే, లోపం ఉన్నట్లుగా భావించబడుతుంది. సాంకేతిక లేదా శాస్త్రీయ సంక్లిష్టత కారణంగా వాది వాటిని నిరూపించడంలో తీవ్రమైన ఇబ్బందిని ఎదుర్కొన్నప్పుడు, వాది ఆ సంభావ్యతను నమ్మశక్యంగా చేసిన పక్షంలో, లోపం మరియు కారణత్వానికి సంబంధించిన ఖండించదగిన ఊహలు వర్తిస్తాయి. ఎవరూ పూర్తిగా వివరించలేని ఒక నమూనాను ఎదుర్కొంటున్న వాదికి, వాదించదగిన కేసుకి మరియు అసాధ్యమైన కేసుకి మధ్య ఉన్న తేడా ఇదే.

ఒప్పందం, అనుగుణ్యత మరియు మినహాయింపు నిబంధనల పరిమితులు

వ్యాపారాల మధ్య, చట్టం కంటే ఒప్పందమే సాధారణంగా మొదటి వివాదాంశం అవుతుంది. ఒక AI సిస్టమ్ సరఫరాదారు తాను అంగీకరించిన దానిని నెరవేర్చాలి: డెలివరీ చేయబడిన సిస్టమ్ ఒప్పందానికి అనుగుణంగా ఉండాలి మరియు కొనుగోలుదారు ఆశించే నాణ్యతలను కలిగి ఉండాలి. ఒకవేళ సరఫరాదారు ఒక ఖచ్చితత్వ స్థాయిని, లభ్యత స్థాయిని లేదా AI చట్టానికి అనుగుణ్యతను వాగ్దానం చేసినప్పుడు, దానిని అందించడంలో విఫలమైతే అది ఒప్పంద ఉల్లంఘన అవుతుంది. అప్పుడు, డిఫాల్ట్ గురించి సరైన నోటీసు ఇచ్చిన తర్వాత, పనితీరు, నష్టపరిహారం మరియు ఒప్పంద రద్దు వంటి సాధారణ నివారణ చర్యలు అనుసరించబడతాయి.

సరఫరాదారులు పరిమితి మరియు మినహాయింపు నిబంధనలతో స్పందిస్తారు, మరియు ఆ నిబంధనలు సాధారణంగా వాణిజ్య పక్షాల మధ్య ప్రభావవంతంగా ఉంటాయి. అవి అపరిమితమైనవి కావు. సహేతుకత మరియు న్యాయబద్ధత ప్రమాణాల ప్రకారం దానిపై ఆధారపడటం ఆమోదయోగ్యం కానప్పుడు ఒక నిబంధనను పక్కన పెట్టవచ్చు, సరఫరాదారు వైపు ఉద్దేశపూర్వక నిర్లక్ష్యం లేదా తీవ్రమైన తప్పు జరిగిన సందర్భాలలో న్యాయస్థానాలు ఈ మార్గాన్నే అనుసరిస్తాయి, మరియు ఆ నిబంధన సాధారణ పదాలలో ఉన్నప్పుడు, వాటిని గమనించడానికి ఇతర పక్షానికి నిజమైన అవకాశం ఎప్పుడూ ఇవ్వకపోతే అది విఫలం కావచ్చు. ఉత్పత్తి బాధ్యత నియమావళి కింద బాధ్యతను, నష్టపోయిన పక్షానికి వ్యతిరేకంగా ఒప్పందం ద్వారా ఏమాత్రం వదులుకోలేరు. ఆచరణలో చర్చలు అనేవి గరిష్ట పరిమితులు, డేటా ఉల్లంఘనలు మరియు మేధో సంపత్తి ఉల్లంఘనలకు మినహాయింపులు, నియంత్రణ జరిమానాలకు నష్టపరిహారాలు, మరియు కస్టమర్ తనను తాను రక్షించుకోవడానికి అవసరమైన డాక్యుమెంటేషన్ మరియు లాగ్‌లను అందించాల్సిన సరఫరాదారు బాధ్యతకు సంబంధించినవి. నష్టపరిహారం కోసం దావాలపై మా పేజీ ఆ దావాలను ఎలా నిర్మిస్తారో వివరిస్తుంది.

AI చట్టం ఏమి చేస్తుంది మరియు ఏమి చేయదు

ఏఐ చట్టం ఒక నియంత్రణ సాధనం. ఇది ప్రొవైడర్లు మరియు డిప్లాయర్లకు ఏమి చేయాలో చెబుతుంది మరియు దానిని అమలు చేయడానికి పర్యవేక్షకులకు అధికారాలను ఇస్తుంది; ఇది ఏఐ వ్యవస్థ వల్ల నష్టపోయిన వ్యక్తికి నష్టపరిహారం పొందే హక్కును కల్పించదు. సివిల్ క్లెయిమ్‌లను సమన్వయం చేసి, అన్ని రంగాలలో వెల్లడింపు మరియు అంచనాలను ప్రవేశపెట్టే ప్రతిపాదిత ఏఐ లయబిలిటీ డైరెక్టివ్‌ను ఉపసంహరించుకున్నారు. పైన వివరించిన కలయిక మాత్రమే మిగిలి ఉంది: జాతీయ టార్ట్ మరియు కాంట్రాక్ట్ చట్టం, దానికి తోడు సంస్కరించబడిన ఉత్పత్తి బాధ్యత నియమావళి.

అంతమాత్రాన AI చట్టం బాధ్యతకు అసంబద్ధం కాదు. ఇది మూడు విధాలుగా ముఖ్యమైనది. ఇది జాగ్రత్త ప్రమాణాన్ని నిర్ధారిస్తుంది, తద్వారా దాన్ని పాటించకపోవడం నిర్లక్ష్యానికి సాక్ష్యంగా నిలుస్తుంది. ఇది పత్రాలను సృష్టిస్తుంది, ఎందుకంటే సాంకేతిక డాక్యుమెంటేషన్, వినియోగ సూచనలు, లాగ్‌లు మరియు మార్కెట్ అనంతర పర్యవేక్షణ ఫైల్ అన్నీ చట్టబద్ధంగా ఉనికిలో ఉంటాయి మరియు విచారణలలో వాటిని కోరవచ్చు. మరియు ఇది పాత్రలను కేటాయిస్తుంది, తద్వారా గతంలో వాదనకు దారితీసిన 'ప్రొవైడర్ ఎవరు మరియు డిప్లాయర్ ఎవరు' అనే ప్రశ్నకు ఇప్పుడు చట్టపరమైన సమాధానం లభిస్తుంది. మా ఐటీ చట్ట విభాగం ఆ వర్గీకరణ ప్రశ్నలు వివాదాలుగా మారకముందే వాటిని పరిష్కరిస్తుంది.

వినియోగదారుడు మరియు ఉత్పత్తిదారుడు కలుసుకునే చోట

చాలా వాస్తవ సంఘటనలు గొలుసులోని ఒక చివరన జరిగే ఒకే ఒక్క వైఫల్యం వల్ల సంభవించవు. అవి, ఏ జనాభాకు అయితే దీనిని వర్తింపజేశారో ఆ జనాభాకు ప్రాతినిధ్యం వహించని డేటాపై శిక్షణ పొందిన ఒక మోడల్ వల్ల, దానిని ఆ సందర్భంలో పరీక్షించని ఒక సరఫరాదారు ద్వారా ఏకీకృతం చేయబడటం వల్ల, సూచనలలో పొందుపరచని ప్రయోజనం కోసం దానిని ఉపయోగించిన ఒక సంస్థ ద్వారా అమలు చేయబడటం వల్ల, మరియు దాని పరిమితులు ఏమిటో ఎన్నడూ చెప్పని సిబ్బంది ద్వారా నిర్వహించబడటం వల్ల సంభవిస్తాయి. డచ్ చట్టానికి దీనితో ఎలాంటి ఇబ్బంది లేదు: ఒకే నష్టానికి బహుళ పక్షాలు బాధ్యత వహించవచ్చు, ప్రతి ఒక్కరూ నష్టపోయిన పక్షం పట్ల దాని పూర్తి బాధ్యత వహిస్తారు, మరియు వారు తమ తమ వాటాల ప్రకారం ఆ తర్వాత తమలో తాము అంతర్గత పంపిణీని పరిష్కరించుకుంటారు.

కింది పట్టిక సాధారణంగా బాధ్యత ఎవరిపై మరియు ఏ ప్రాతిపదికన ఉంటుందో వివరిస్తుంది.

డచ్ శిశు సంరక్షణ ప్రయోజనాల వ్యవహారం అనేది ప్రతి డచ్ చర్చలోనూ ప్రస్తావనకు వచ్చే ఒక ముఖ్యమైన అంశం. ఇది చట్టబద్ధమైన పాలనను కాకుండా, ఒక పద్ధతిని వివరిస్తుంది: అస్పష్టమైన ప్రమాద వర్గీకరణ వ్యవస్థ, నిజమైన వ్యక్తిగత అంచనా లేకుండా దాని ఫలితాల ఆధారంగా తీసుకున్న నిర్ణయాలు, మరియు దాని పర్యవసానాలు పూర్తిగా బాధితులపైనే పడటం. దీని చట్టపరమైన పరిణామాలు నేరపూరితమైనవి కాకుండా పరిపాలనాపరమైనవి మరియు రాజకీయమైనవి. నేర బాధ్యత గురించి ఇది ఏమి చూపిస్తుంది, ఏమి చూపించదు అనే విషయాలను మేము AI మరియు క్రిమినల్ చట్టంపై మా వ్యాసంలో చర్చిస్తాము.

సాక్ష్య సమస్య, మరియు అది ఎలా మారుతోంది

దావా వేసిన వారు దానిని నిరూపించాలి, మరియు AI కేసులలో నిరూపించడమే కష్టమైన భాగం. దావాదారుడు సిస్టమ్ ఏమి చేసిందో, అది ఎందుకు తప్పో, మరియు ఆ తప్పే నష్టానికి కారణమైందని చూపించాలి. అలా చేయడానికి అవసరమైన సమాచారం ప్రతివాది వద్ద ఉంటుంది, మరియు ఒక సంక్లిష్టమైన మోడల్‌లో దానిని అంతర్గతంగా కూడా పునర్నిర్మించడం నిజంగా కష్టంగా ఉండవచ్చు.

మూడు పరిణామాలు ఆ సమతుల్యతను మారుస్తున్నాయి. అధిక-ప్రమాదకర వ్యవస్థలకు ఇప్పుడు లాగింగ్ ఒక చట్టపరమైన అవసరం, కాబట్టి ఇంతకుముందు ఐచ్ఛికంగా ఉన్న రికార్డు ఇప్పుడు తప్పనిసరి. సంస్కరించబడిన పాలన కింద, ఉత్పత్తి బాధ్యత దావాలలో సాక్ష్యాలను వెల్లడించడం అందుబాటులోకి వస్తుంది; ప్రతివాది దీనికి కట్టుబడి ఉండని పక్షంలో, అది లోపభూయిష్టమైనదనే ఊహ దీనికి మద్దతుగా ఉంటుంది. మరియు డచ్ సివిల్ ప్రొసీజర్ ఇప్పటికే ఒక పక్షానికి, తనకు చట్టబద్ధమైన ఆసక్తి ఉన్న నిర్దిష్టంగా గుర్తించబడిన పత్రాలను సమర్పించమని డిమాండ్ చేయడానికి అనుమతిస్తుంది. దీనిని పరీక్షా నివేదికలు, సంఘటనల లాగ్‌లు మరియు అంతర్గత ప్రమాద అంచనాలను పొందడానికి క్రమం తప్పకుండా ఉపయోగిస్తారు.

ప్రతివాదికి ఆచరణాత్మక ముగింపు అసౌకర్యంగా ఉన్నప్పటికీ స్పష్టంగా ఉంటుంది: మీరు ఉంచే పత్రాలే మీకు వ్యతిరేకంగా ఉపయోగించబడతాయి, మరియు మీరు ఉంచడంలో విఫలమైన పత్రాలు కూడా మీకు వ్యతిరేకంగా పరిగణించబడతాయి. పరీక్షలు, తెలిసిన పరిమితులు, సంఘటనలు మరియు వాటి నిర్వహణకు సంబంధించిన పూర్తి, తేదీలతో కూడిన, నిజాయితీ గల రికార్డులే అందుబాటులో ఉన్న అత్యంత బలమైన రక్షణ, ఎందుకంటే అవి సంస్థ అంతా మంచే జరుగుతుందని ఆశించకుండా, విచక్షణతో వ్యవహరించిందని చూపిస్తాయి. ఒకవేళ ఆ సంఘటనకు నేరపూరిత కోణం కూడా ఉంటే, ఉదాహరణకు సిస్టమ్‌లలోకి అనధికారిక ప్రవేశం లేదా డేటాను తారుమారు చేయడం వంటివి, అప్పుడు నెదర్లాండ్స్‌లో కంప్యూటర్ నేరాలు మరియు సైబర్ నేరాలకు సంబంధించిన నేర చట్టం సివిల్ దావాతో పాటు వర్తిస్తుంది, మరియు నేర విచారణలో కూడా కచ్చితంగా అవే సామాగ్రిని స్వాధీనం చేసుకుంటారు.

భౌతిక ప్రపంచంలో స్వయంప్రతిపత్తి గల వ్యవస్థలు

ఒక AI వ్యవస్థ వాహనాన్ని నడిపినప్పుడు, డ్రోన్‌ను ఎగురవేసినప్పుడు లేదా రోబోట్ చేతిని కదిలించినప్పుడు, అదనపు స్థాయి బాధ్యత వర్తిస్తుంది మరియు ఇది సాధారణంగా ఇప్పటివరకు చర్చించిన దేనికంటే కఠినంగా ఉంటుంది. శారీరక హాని రిస్క్ లయబిలిటీని ఆకర్షిస్తుంది, ఇది ఎవరైనా అజాగ్రత్తగా ఉన్నారా అని అడగదు.

మోటారు వాహనాల విషయానికొస్తే, 1994 నాటి రోడ్డు ట్రాఫిక్ చట్టంలోని ఆర్టికల్ 185 ప్రకారం, అనివార్య కారణాలు (ఫోర్స్ మేజర్) ఉంటే తప్ప, పాదచారులకు మరియు సైకిల్ తొక్కేవారికి కలిగే నష్టానికి మోటారు వాహనం యొక్క యజమాని లేదా సంరక్షకుడు బాధ్యత వహించాల్సి ఉంటుంది. ఇది నెరవేర్చడానికి చాలా కష్టమైన ప్రమాణం. వాహనాన్ని నడుపుతున్నది మనిషి అయినా లేదా డ్రైవర్ సహాయక వ్యవస్థ అయినా, ఆ నిబంధనకు సంబంధం లేదు: మొదట సంరక్షకుడే సమాధానం చెప్పాలి, ఆ తర్వాతే సాఫ్ట్‌వేర్ తయారీదారుపై ఏదైనా చర్య తీసుకోవచ్చు. ప్రజా రహదారులపై నిజమైన స్వయంచాలక వాహనాలను పరీక్షించడానికి, ప్రత్యేకమైన డచ్ ప్రయోగాత్మక చట్టం కింద అనుమతి అవసరం. ఆ అనుమతికి జతచేయబడిన షరతులు, పర్యవేక్షకుడి ఉనికి మరియు పాత్రతో సహా, సంరక్షణ ప్రమాణంలో భాగంగా మారతాయి.

మానవరహిత విమానాలు యూరోపియన్ డ్రోన్ నిబంధనలచే నియంత్రించబడతాయి, వీటిలో ఆపరేటర్ రిజిస్ట్రేషన్ మరియు కేటగిరీ-ఆధారిత అవసరాలను నెదర్లాండ్స్‌లో రైక్స్ఇన్‌స్పెక్టీ డిజిటల్ ఇన్‌ఫ్రాస్ట్రక్టూర్ నిర్వహిస్తుంది. ఒక ఆపరేటర్ తన కేటగిరీకి వెలుపల లేదా అవసరమైన సామర్థ్యం లేకుండా విమానాన్ని నడిపితే, అది విమానయాన నిబంధనలను ఉల్లంఘించడమే కాకుండా, న్యాయస్థానం జాగ్రత్త అని పిలిచే ప్రవర్తన పరిధిని కూడా దాటినట్లే. ఇది ఆటోపైలట్ గురించిన సాంకేతిక చర్చ ప్రారంభం కాకముందే నిర్లక్ష్యానికి సంబంధించిన ప్రశ్నను పరిష్కరిస్తుంది.

ఈ నిబంధనలతో పాటు, లోపభూయిష్ట వస్తువులకు సంబంధించిన సాధారణ నియమం కూడా ఉంది. ఒక చర వస్తువు దాని కోసం నిర్దేశించబడిన ప్రమాణాలకు అనుగుణంగా లేకపోవడం, తద్వారా ఒక నిర్దిష్ట ప్రమాదాన్ని సృష్టించడం వలన, ఆ ప్రమాదం వల్ల కలిగే నష్టానికి దాని యజమాని బాధ్యత వహించాల్సి ఉంటుంది. అంతర్లీన లోపం దాని సాఫ్ట్‌వేర్‌లో ఉన్నప్పటికీ, ఆ నియమం భౌతిక యంత్రానికి కూడా వర్తిస్తుంది. పారిశ్రామిక రోబోట్ లేదా ఆటోమేటెడ్ గిడ్డంగి వ్యవస్థ యజమాని కేవలం విక్రేతను నిందించలేకపోవడానికి ఇది ఒక కారణం. ఉత్పత్తి బాధ్యత నిబంధన వర్తించే చోట, ఈ రెండు వ్యవస్థలు పరస్పరం సంకర్షణ చెందుతాయి, మరియు నష్టపోయిన పక్షం సాధారణంగా నిరూపించడానికి సులభమైన మార్గాన్ని అనుసరిస్తుంది.

స్వయంప్రతిపత్తి గల యంత్రాలను నడిపే సంస్థలకు ఆచరణాత్మక పర్యవసానం ఏమిటంటే, భీమా మరియు ఒప్పందాన్ని లోప-ఆధారిత విశ్లేషణ చుట్టూ కాకుండా, కఠినమైన బాధ్యత చుట్టూ ఏర్పాటు చేసుకోవాలి. సరఫరాదారుపై చర్య తీసుకునే అవకాశం ఉండటం ప్రయోజనకరమే, కానీ దావా మొదట మీ వద్దకు రాకుండా అది ఆపదు.

రెండు వైపులా బహిర్గతం తగ్గించడం

AI వ్యవస్థల బాధ్యతను తగ్గించే చర్యలే ఆ వ్యవస్థలు సరిగ్గా పనిచేసేలా చేస్తాయి, అందుకే నియంత్రణ క్యాలెండర్‌తో సంబంధం లేకుండా వాటిని చేపట్టడం విలువైనది.

వ్యవస్థను అమలు చేసే సంస్థగా, ముందుగా జాబితాతో ప్రారంభించండి: ఏ వ్యవస్థలు వాడుకలో ఉన్నాయి, వాటిని ఎవరు సరఫరా చేశారు, అవి ఏమి నిర్ణయిస్తాయి లేదా ప్రభావితం చేస్తాయి, మరియు వాటిని ఎవరు నిర్వహిస్తారు. ప్రతి దానిలో మీ పాత్రను నిర్ధారించుకోండి, ఎందుకంటే సరఫరా చేసేవారి మరియు అమలు చేసేవారి విధులు భిన్నంగా ఉంటాయి. ఆ తర్వాత, ఉద్దేశించిన ప్రయోజనాన్ని వ్రాసి, దాని పరిధిలోనే ఉండండి; నివారించదగిన బాధ్యతకు అత్యంత సాధారణ కారణం, ఒక సాధనాన్ని దేనికోసం అయితే ధృవీకరించబడలేదో దానికోసం ఉపయోగించడమే. వ్యవస్థను నిర్వహించే వ్యక్తులకు దానిని అధిగమించడానికి నిజమైన అధికారాన్ని ఇవ్వండి, మరియు వారి పనితీరును పని పరిమాణం ఆధారంగా కాకుండా, విచక్షణ ఆధారంగా అంచనా వేయండి. లాగ్‌లను భద్రపరచండి, మరియు ఏదైనా వివాదంలో ఉపయోగపడేంత కాలం వాటిని ఉంచండి. తృటిలో తప్పిన ప్రమాదాలతో సహా జరిగిన సంఘటనలను నమోదు చేయండి, మరియు వాటి గురించి ఏమి చేశారో కూడా నమోదు చేయండి.

ఒక ఉత్పత్తిదారుడు లేదా సరఫరాదారుడికి, ఈ క్రింది అంశాలు ఉత్పత్తి జీవితచక్రం అంతటా వర్తిస్తాయి: పత్రబద్ధమైన ప్రమాద నిర్వహణ, నియంత్రణ సంస్థకు వివరించగల డేటా పాలన, వ్యవస్థను వాస్తవంగా ఉపయోగించే జనాభాపై పరీక్షించడం, కేవలం భరోసా ఇచ్చేలా కాకుండా పరిమితులు మరియు దోషాల రేట్ల గురించి నిజాయితీగా తెలియజేసే వినియోగ సూచనలు, వినియోగదారులు సమస్యలను నివేదించడానికి ఒక మార్గం, మరియు భద్రతా ప్యాచ్‌లకు ఎవరు, ఎంతకాలం బాధ్యత వహిస్తారో తెలిపే ఒక నవీకరణ విధానం. సంస్కరించబడిన ఉత్పత్తి బాధ్యత నియమావళి ఆ చివరి అంశాన్ని గతంలో కంటే మరింత స్పష్టం చేస్తుంది: మీరు సరఫరా చేస్తామని హామీ ఇచ్చిన నవీకరణలను అందించడంలో విఫలమైతే, అది స్వయంగా ఉత్పత్తిని లోపభూయిష్టంగా మార్చగలదు.

ఇరుపక్షాలు ఒప్పందాన్ని ఒక లాంఛనప్రాయంగా కాకుండా, నష్టాల కేటాయింపు ప్రక్రియగా పరిగణించాలి. ముఖ్యమైన నిబంధనలు ఏవంటే: ఉద్దేశించిన ప్రయోజనం యొక్క వివరణ, అనుగుణ్యత మరియు పనితీరుకు సంబంధించిన హామీలు, డాక్యుమెంటేషన్ మరియు లాగ్‌లను అప్పగించాల్సిన బాధ్యత, ఇరువైపులా సంఘటనల నోటిఫికేషన్ విధులు, బాధ్యత పరిమితి మరియు దాని నుండి మినహాయింపులు, మూడవ పక్షం క్లెయిమ్‌లు మరియు నియంత్రణ జరిమానాలకు నష్టపరిహారాలు, మరియు సంబంధం ముగిసినప్పుడు మోడల్ మరియు డేటాకు ఏమి జరుగుతుందో నిర్ధారించే నిష్క్రమణ ఏర్పాట్లు. సిస్టమ్ వాస్తవంగా ఏమి నిర్ణయిస్తుందో పరిగణనలోకి తీసుకోకుండా, కేవలం సిద్ధాంతపరంగా చర్చించి నిర్ణయించిన పరిమితి ఎవరినీ రక్షించదు.

చివరగా, తక్షణ ప్రమాదం సివిల్ అయినప్పటికీ, క్రిమినల్ చిక్కులను దృష్టిలో ఉంచుకోవాలి. AI వైఫల్యంపై ఒక కంపెనీపై ప్రాసిక్యూషన్ చేయడం ఇప్పటికీ అసాధారణమే, కానీ దానిలోని అంశాలు సాధారణమైనవే: ఒక బాధ్యత, ఉల్లంఘన, ఊహించదగిన హాని మరియు ప్రమాదాన్ని అంగీకరించినట్లు నిరూపించగల ఒక సంస్థ. ఒక వ్యవస్థను స్పష్టంగా చట్టవిరుద్ధమైన పనికి ఉపయోగించినప్పుడు, లేదా హాని కలిగిస్తుందని తెలిసినా ఒక కంపెనీ ఆ వ్యవస్థను నడపడం కొనసాగించినప్పుడు, క్రిమినల్ మార్గం తెరుచుకుంటుంది. ఈ విశ్లేషణ డచ్ క్రిమినల్ చట్టంపై మా వ్యాసంలో మరియు అల్గారిథమ్‌లు మరియు క్రిమినల్ బాధ్యతపై దాని అనుబంధ వ్యాసంలో పూర్తిగా వివరించబడింది.

తరచుగా అడుగు ప్రశ్నలు

Law & More AI వ్యవస్థలను నిర్మించే సంస్థలకు మరియు వాటిని ఉపయోగించే సంస్థలకు, ఒప్పందాలలో నష్టభయాన్ని కేటాయించడం, AI చట్టం ప్రకారం వర్గీకరణ మరియు విధులు, మరియు ఒక వ్యవస్థ నష్టాన్ని కలిగించినప్పుడు రక్షణ కల్పించడం లేదా దావాలు వేయడం వంటి విషయాలపై మేము సలహాలు ఇస్తాము. మీ సంస్థలోని ఒక AI వ్యవస్థ తీసుకున్న నిర్ణయం ఇప్పుడు సవాలు చేయబడుతున్నట్లయితే, పరిస్థితిని త్వరగా అంచనా వేయడానికి మమ్మల్ని సంప్రదించండి.