కృత్రిమ మేధకు కళ్లెం పడేనా?

కింజరాపు అమరావతి :

కృత్రిమ మేధ(Artificial Intelligence) వేగంగా విస్తరిస్తున్న కొద్దీ దాని గురించి మనం వేసుకోవాల్సిన ప్రశ్నలు కూడా మారుతున్నా యి. ఒకప్పుడు ‘ఇది ఏం చేయగలదు?’ అన్నదే ప్రధాన ఆసక్తి. ఇప్పుడు ‘ఇది ఏం చేయకూడదు?’ అన్న ప్రశ్న మరింత కీలకంగా మారింది. ఉద్యోగ నియామకం(Job Appointment) నుంచి రుణ మంజూరు(Loan Sanction) వరకు, వైద్య నిర్ణయాల(Medical decisions) నుంచి విద్యార్థుల మూల్యాంకనం(Student Evaluation) వరకు, మనకు అందే సమాచారం నుంచి ప్రభుత్వ సేవల(government services) వరకు కృత్రిమ మేధ(Artificial Intelligence) జోక్యం పెరుగుతోంది.

ఒక యంత్రం ఇచ్చిన సమాధానం తప్పుగా ఉండటం ఒక సమ స్య. ఆ సమాధానాన్ని ఆధారంగా చేసుకుని మనిషి జీవితంపై నిర్ణయం తీసుకునే పరిస్థితి ఏర్పడటం మరింత పెద్ద సమస్య. అందుకే కృత్రిమ మేధ నియంత్రణ గురిం చి జరుగుతున్న చర్చ చివరకు ఒక ప్రాథమిక ప్రశ్న దగ్గరికి చేరుతోంది. మన జీవి తాలను ప్రభావితం చేసే ఈ సాంకేతిక శక్తి కి హద్దులు ఎవరు నిర్ణయించాలి? ప్రజాస్వామ్య వ్యవస్థలో మొదటి బాధ్యత ప్రభు త్వాలదే. వ్యక్తిగత గోప్యత, వివక్ష నుంచి రక్షణ, వినియోగదారుల హక్కులు, సమాచార భద్రత, నష్టానికి బాధ్యత వంటి అం శాలకు చట్టపరమైన రక్షణ కల్పించాల్సింది ప్రభుత్వాలే.

ఒక కృత్రిమ మేధ వ్యవస్థ ఒక వ్యక్తికి ఉద్యోగం రాకుండా చేస్తే, రుణాన్ని తిరస్కరిస్తే లేదా ఒక నిర్ణయంలో అన్యా యం చేస్తే, ‘యంత్రం అలా నిర్ణయించిం ది’ అనేది సమాధానం కాకూడదు. ఆ నిర్ణయానికి వెనుక ఉన్న సంస్థ, వ్యవస్థ, వ్యక్తి- ఎవరు బాధ్యత వహించాలో చట్టం స్పష్టం చేయాలి. యూరోపియన్ యూనియన్ కృత్రిమ మేధ వినియోగాలను వాటి ప్ర మాద స్థాయిని బట్టి నియంత్రించే చట్టపరమైన వ్యవస్థను అమల్లోకి తీసుకువచ్చిం ది. ఇది సాంకేతికతను కేవలం ప్రోత్సహించడం లేదా అడ్డుకోవడం కాకుండా, దాని వినియోగానికి బాధ్యతను నిర్దేశించే ప్రయత్నంగా చూడవచ్చు.

అయితే చట్టం చేయగలగడం, సాంకేతికతను పూర్తిగా అర్థం చేసుకోవడం రెండూ ఒకటే కావు. కృత్రిమ మేధలో మార్పులు.. చట్టాలు రూపొందే వేగం కంటే వేగంగా జరుగుతున్నాయి. కొత్త నమూనాలు, కొత్త సామర్థ్యాలు, కొత్త ప్రమాదాలు కొద్ది కాలానికే వెలుగులోకి వస్తున్నాయి. అందువల్ల ప్రభుత్వాలు సాంకేతిక నిపుణుల పరి జ్ఞానాన్ని విస్తృతంగా ఉపయోగించుకోవాల్సి ఉంటుంది. ఈ విషయంలో పరిశ్ర మను పక్కన పెట్టడం సాధ్యం కాదు. కృత్రి మ మేధను నిర్మిస్తున్న సంస్థలకే దాని సామర్థ్యాలు, పరిమితులు, భద్రతా లోపా లు, దుర్వినియోగ అవకాశాలపై ప్రత్యక్ష అనుభవం ఉంది.

       కానీ పరిజ్ఞానం ఉన్నవారికే నియంత్రణాధికారం ఇవ్వడం మరో సమస్యను సృష్టిస్తుంది. కృత్రిమ మేధ సంస్థలు ప్రజా ప్రయోజనంతో పాటు వ్యాపార ప్ర యోజనాలనూ దృష్టిలో పెట్టుకోవాల్సి ఉంటుంది. మార్కెట్లో పోటీ, పెట్టుబడులు, ఉత్పత్తుల వేగవంతమైన విడుదల వంటి అంశాలు వాటి నిర్ణయాలను ప్రభావితం చేస్తాయి. అందువల్ల పరిశ్రమను నియంత్రణ వ్యవస్థ నుంచి బయట పెట్టడం ఎం త అవాస్తవమో, నియంత్రణ వ్యవస్థను పూర్తిగా దాని చేతుల్లో పెట్టడం కూడా అం తే ప్రమాదకరం. తమపై వర్తించే నియమాలను తామే నిర్ణయించుకునే పరిస్థితి ఏ రంగంలోనూ ఆరోగ్యకరమైన నియంత్రణకు దారి తీయదు. పరిశ్రమకు తన పరి జ్ఞానంతో భాగస్వామ్యం చేసే స్థానం ఉం డాలి.. తుది ప్రజా బాధ్యత మాత్రం దాని చేతిలో ఉండకూడదు.

ఇక్కడ శాస్త్రవేత్తల పాత్ర కీలకమవుతుం ది. కృత్రిమ మేధపై నియంత్రణ భావోద్వేగాలతో లేదా భయాలతో రూపొందితే అది ప్రయోజనం ఇవ్వదు. ఒక నమూనా ఎంత విశ్వసనీయంగా పనిచేస్తోంది, దాని తప్పిదాలు ఎక్కడ వస్తున్నాయి, ఏ వర్గాలపై ఎక్కువ ప్రభావం పడుతోంది, దాని భద్రత ఎంత వరకు నిర్ధారించబడింది వం టి ప్రశ్నలకు పరిశోధన ఆధారిత సమాధానాలు అవసరం. ఐక్యరాజ్యసమితి కృత్రి మ మేధపై స్వతంత్ర అంతర్జాతీయ శాస్త్రీ య ప్యానెల్‌ను ఏర్పాటు చేయడం ఈ అవసరానికి గుర్తింపు.

దాని ఉద్దేశం కృత్రి మ మేధ అవకాశాలు, ప్రమాదాలు, సా మాజిక ప్రభావాలపై ఆధారపూర్వకమైన అంచనాలను అందించడం. అయితే శాస్త్రం తన పరిధిని కూడా గుర్తించాలి. ఒక సాంకేతికత ఏం చేయగలదో అది చెప్పగలదు. దాన్ని సమాజం ఏ మేరకు అనుమ తించాలి అన్నది మాత్రం శాస్త్రీయ ప్రయోగంతో తేలదు. అక్కడ విలువలు, హక్కు లు, ప్రజా ప్రయోజనం నిర్ణయాత్మకంగా మారుతాయి. అందుకే కృత్రిమ మేధను నియంత్రించే వ్యవస్థలో దాని ప్రభావాన్ని ఎదుర్కొనే ప్రజల అనుభవానికి కూడా స్థానం ఉండాలి. విద్యలో దాని ప్రభావం ఎలా ఉంటుందో ఉపాధ్యాయుడికి తెలుస్తుంది.

ఆటోమేషన్ వల్ల తన పని మారే పరిస్థితి ఎలా ఉంటుందో కార్మికుడికి తెలుస్తుంది. వైద్య వ్యవస్థలో ఒక యంత్ర నిర్ణయాన్ని ఎదుర్కొనే రోగికి తనదైన ఆందోళనలు ఉంటాయి. రచయితలు, కళాకారులు తమ సృజనను కృత్రిమ మేధ శిక్షణలో ఉపయోగించే విధానాన్ని వేరే కోణంలో చూస్తారు. ఈ అనుభవాలను పక్కన పెట్టి కేవలం ప్రభుత్వాలు, సాంకేతిక సంస్థలు, నిపుణుల మధ్యే నియమాలు రూపొందితే, ప్రజల జీవితాలను ప్రభావితం చేసే వ్యవస్థలో ప్రజలే కనిపించకుండా పోయే ప్రమాదం ఉంది.

ఇదే సమస్య దేశాల మధ్య మరింత సంక్లిష్టమవుతుంది. కృత్రిమ మేధకు సరిహద్దులు లేవు. ఒక దేశంలో అభివృద్ధి చేసి న నమూనా మరో దేశంలో ఉపయోగించవచ్చు. దాని సేవలను ప్రపంచంలోని అనేక ప్రాంతాల ప్రజలు ఒకేసారి పొందవచ్చు. ప్రతి దేశం పూర్తిగా భిన్నమైన నియ మాలు రూపొందిస్తే సంస్థలకు మాత్రమే కాదు, వినియోగదారులకు కూడా అనిశ్చితి పెరుగుతుంది.

అదే సమయంలో ప్ర పంచమంతటికీ ఒకే చట్టాన్ని అమలు చేసే ఒకే వ్యవస్థను నిర్మించడం కూడా వాస్తవికంగా కష్టం. అందువల్ల అవసరమయ్యేది ప్రతి దేశపు చట్టాలను ఒకేలా చేయడం కాదు; మానవ హక్కులు, గోప్యత, భద్రత, పారదర్శకత, జవాబుదారీతనం వంటి కొన్ని ప్రాథమిక ప్రమాణాలపై అంతర్జాతీయ సమన్వయం. ఐక్యరాజ్యసమితి కృ త్రిమ మేధ పాలనపై అంతర్జాతీయ సం భాషణను ప్రారంభించడం ఈ దిశలోని ప్రయత్నాల్లో ఒకటి.

అయితే ప్రపంచ ఏఐ పాలనలో మరో ప్రశ్నను తప్పించలేం-.. ఈ నియమాలను రూపొందించే సమయంలో ఎవరి గొంతు ఎక్కువగా వినిపిస్తోంది? సాంకేతికంగా ముందున్న దేశాలే నియమాలను నిర్ణయి స్తే, మిగిలిన దేశాలు వాటిని అనుసరించాల్సిన పరిస్థితి రావచ్చు. ఇది కేవలం ప్రతినిధిత్వ సమస్య కాదు.. ఆ నియమాల ప్రభావం కూడా భిన్నంగా ఉంటుంది.

భారతదేశం వంటి దేశాల్లో భాషా వైవిధ్యం, ఉపాధి నిర్మాణం, విద్య, వ్యవసాయం, ప్రజారోగ్యం, ప్రభుత్వ సేవలు వంటి రంగా ల్లో కృత్రిమ మేధ అవసరాలు పాశ్చాత్య దేశాలతో పూర్తిగా ఒకేలా ఉండవు. అందువల్ల అభివృద్ధి చెందుతున్న దేశాలు కృత్రి మ మేధ వినియోగదారులుగా మాత్రమే కాకుండా, దాని భవిష్యత్తుకు సంబంధించిన నియమాలను రూపొందించే ప్రక్రియ లో భాగస్వాములుగా ఉండాలి. ఐక్యరాజ్యసమితి గ్లోబల్ డిజిటల్ కాంపాక్ట్లోనూ అభి వృద్ధి చెందుతున్న దేశాల సామర్థ్య నిర్మాణం, భాగస్వామ్యానికి ప్రాధాన్యం ఇచ్చింది.

ఇక్కడికి వచ్చేసరికి అసలు సమస్య స్పష్టమవుతుంది. కృత్రిమ మేధకు నియమాలు రాయడం అనేది ఒక సాంకేతిక నియంత్రణ ప్రక్రియ మాత్రమే కాదు; అది భవిష్యత్తులో అధికారం ఎలా పంచబడుతుందో నిర్ణయించే ప్రక్రియ. ప్రభుత్వం చట్టం చేయగలదు. పరిశ్రమ సాంకేతిక పరిజ్ఞానాన్ని కలిగి ఉంది. శాస్త్రవేత్తలు ఆధారాలను అందించగలరు. పౌర సమాజం ప్రభావాలను ప్రశ్నించగలదు. అంతర్జాతీయ సంస్థలు దేశాల మధ్య సమన్వయం చేయగలవు. వీటిలో ఏ ఒక్కదానికీ మొత్తం అధికారం అప్పగించడం వల్ల సమతుల్యత దెబ్బతింటుంది. ఒకదాని శక్తిని మరొకటి పరిశీలించేలా, నిర్ణయాలకు బయట నుంచి ప్రశ్నలు ఎదురయ్యేలా వ్యవస్థ ఉండాలి.

ఇది ముఖ్యంగా అవసరమయ్యేది కృ త్రిమ మేధ కేవలం ఒక ఉత్పత్తి కాకుండా, భవిష్యత్తులో నిర్ణయాధికారాన్ని ప్రభావితం చేసే మౌలిక శక్తిగా మారుతున్నం దువల్ల. ఎవరికీ రుణం ఇవ్వాలి, ఎవరి దరఖాస్తును ముందుగా పరిశీలించాలి, ఏ సమాచారం మన ముందుకు రావాలి, ఏ పని యంత్రానికి అప్పగించాలి వంటి నిర్ణయాల్లో కృత్రిమ మేధ పాత్ర పెరిగే కొద్దీ, దాని వెనుక ఉన్న నియమాలను రూపొందించే వ్యక్తులు, సంస్థలు కూడా ఒక రక మైన అధికారాన్ని పొందుతారు. అందుకే ఏఐని నియంత్రించే వ్యవస్థకు కూడా పారదర్శకత, పర్యవేక్షణ, జవాబుదారీతనం అవసరం.

కాబట్టి కృత్రిమ మేధకు నియమాలు ఎవరు రాయాలి? అన్న ప్రశ్నకు ఒకే సమాధానం ఉండదు. ప్రభుత్వాలు చట్టపరమైన హద్దులు నిర్ణయించాలి. శాస్త్రవేత్తలు ఆధారాలను అందించాలి. సాంకేతిక సంస్థలు తమ పరిజ్ఞానాన్ని పంచుకోవాలి. ప్రభావిత వర్గాలు తమ అనుభవాలను విని పించాలి. స్వతంత్ర సంస్థలు పర్యవేక్షించాలి. ప్రపంచ దేశాలు కనీస ప్రమాణా లపై కలిసి పనిచేయాలి. అయితే వీటన్నింటినీ కలిపే కేంద్ర సూత్రం ఒక్కటే-కృత్రిమ మేధపై నిర్ణయాధికారం ప్రజలకు జవాబుదారీగా ఉండాలి.

ఎందుకంటే భవిష్యత్తులో కీలకమైన ప్రశ్న కృత్రిమ మేధ మనిషి కంటే ఎంత శక్తివంతమవుతుందన్నది మాత్రమే కాదు. ఆ శక్తిని ఏ హద్దుల్లో ఉపయోగించాలి, ఆ హద్దులను ఎవరు నిర్ణయించాలి, ఆ నిర్ణయానికి ఎవరు జవాబు చెప్పాలి అన్నదే అసలు ప్రశ్న. కృత్రిమ మేధకు నియమా లు రాసే ముందు, ఆ నియమాలు రాసేవారికి కూడా జవాబుదారీతనం ఉండే వ్యవస్థను నిర్మించాల్సిందే.

----- మెంబర్, ప్లస్ ఎన్జీఓ