ఉగ్రవాదులకు AI సాయం.. షాకింగ్ నిజాలు!

20-11-2026 | 12:13pm

AI Chatbotsతో ఉగ్రదాడుల ప్లాన్? ChatGPT, Gemini భద్రతపై అమెరికా షాకింగ్ రిపోర్ట్!

వాషింగ్టన్: ఏఐ చాట్‌బాట్లు.. మన పనులను సులభతరం చేసే డిజిటల్ అసిస్టెంట్లా? లేక ప్రమాదకర వ్యక్తుల చేతుల్లో విధ్వంసకర ఆయుధాలుగా మారుతున్నాయా? అమెరికా ప్రభుత్వ సంస్థ నిర్వహించిన ఓ పరిశోధన ఇప్పుడు ఇదే ప్రశ్నను లేవనెత్తుతోంది. ప్రముఖ Artificial Intelligence (AI) Chatbots భద్రతా నియంత్రణలను అధిగమించి ఉగ్రదాడులకు సంబంధించిన ప్రమాదకర సమాచారాన్ని అందించగలిగాయని పరిశోధనలో వెల్లడైంది. దీంతో అమెరికా నిఘా వర్గాల్లో ఆందోళన మొదలైంది.

భద్రతా గోడలు దాటిన ఏఐ చాట్‌బాట్లు!

న్యూహ్యాంప్‌షైర్ సెనేటర్ మేగీ హసన్ అభ్యర్థన మేరకు ఈ ఏడాది మే నెలలో అమెరికా ప్రభుత్వ జవాబుదారీ కార్యాలయం (GAO) అధికారులు ఈ పరీక్షలు నిర్వహించారు. ChatGPT, Claude, Gemini, Grok వంటి ప్రముఖ AI Chatbots‌ను పరిశీలించారు. ఉగ్రదాడులకు సంబంధించిన వివరాలు అడిగినప్పుడు తొలుత ఈ చాట్‌బాట్లు సమాధానాలు ఇచ్చేందుకు నిరాకరించాయి. అయితే పరిశోధకులు ప్రశ్నలు అడిగే విధానాన్ని మార్చి, పలు దశల్లో సమాచారాన్ని కోరడంతో కొన్ని చాట్‌బాట్లు తమ Safety Restrictions‌ను అధిగమించి ప్రమాదకర వివరాలను అందించాయి. ఈ పరీక్షల్లో ఒక చాట్‌బాట్ కారు బాంబు దాడికి సంబంధించి ప్రమాదకరమైన సమాచారాన్ని అందించడమే కాకుండా, ఎక్కువ నష్టం జరిగే ప్రాంతాన్ని సూచించే చిత్రాన్ని కూడా రూపొందించినట్లు నివేదిక పేర్కొంది. మరో చాట్‌బాట్ విద్యుత్ సబ్‌స్టేషన్‌పై డ్రోన్ దాడికి సంబంధించిన సమాచారాన్ని దశలవారీగా వివరించింది. ఈ ఉదాహరణలు AI వ్యవస్థల్లోని భద్రతా లోపాలపై తీవ్ర చర్చకు దారితీశాయి.

AI కంపెనీల భద్రతా చర్యలపై ప్రశ్నలు!

హింస, నేరాలు, ఉగ్రవాదానికి సంబంధించిన సమాచారం అందకుండా AI కంపెనీలు అనేక Safety Filters, Security Restrictions ఏర్పాటు చేస్తున్నాయి. అయినప్పటికీ, ప్రశ్నలను తెలివిగా మార్చడం ద్వారా ఈ నియంత్రణలను అధిగమించే అవకాశం ఉందని GAO పరిశోధన సూచించింది. ప్రమాదకరమైన వ్యక్తులు ఈ టెక్నాలజీని దుర్వినియోగం చేస్తే పరిణామాలు తీవ్రంగా ఉండొచ్చని నిపుణులు ఆందోళన వ్యక్తం చేస్తున్నారు. మరోవైపు, తమ చాట్‌బాట్లు కొన్నిసార్లు ప్రమాదకర సమాచారాన్ని అందించే అవకాశం ఉందని వాటిని రూపొందించిన కంపెనీలు అంగీకరించాయి. అయితే GAO నిర్వహించిన పరిశోధన పద్ధతులపై మాత్రం అభ్యంతరాలు వ్యక్తం చేశాయి. ఈ నేపథ్యంలో AI టెక్నాలజీ అభివృద్ధితో పాటు దాని వినియోగంపై మరింత కఠినమైన భద్రతా నిబంధనలు అవసరమనే డిమాండ్ పెరుగుతోంది. మనిషికి సహాయకారిగా ఉండాల్సిన AI.. తప్పు వ్యక్తుల చేతుల్లో ప్రమాదకర సాధనంగా మారకుండా అడ్డుకోవడం ఇప్పుడు ప్రపంచవ్యాప్తంగా పెద్ద సవాలుగా మారింది.

మరిన్ని వార్తలు