ఏఐకి మాటల మాయ.. కంపెనీల డేటాకు ప్రాంప్ట్ గండం!

ఏఐ వినియోగం రోజు రోజుకి పెరుగుతున్న నేపథ్యంలో కంపెనీలకు సరికొత్త ముప్పు పొంచి ఉన్నదని హైదరాబాద్ పోలీస్ కమిషనర్  సజ్జనార్ హెచ్చరించారు. ఈ మేరకు తన సామాజిక మాధ్యమ వేదిక ఎక్స్ ఖాతాలో చేసిన పోస్టులో ఇటీవలి కాలంలో  ఏఐ ఎవినియోగం చాలా ఎక్కువైంది. ప్రతి చిన్న  విషయానికి దానిని ఉపయోగిస్తున్నారు. అయితే.. ఏఐ విస్తృతి పెరిగాక.. చిన్న స్టార్టప్‌ల నుంచి బడా మల్టీ నేషనల్ కంపెనీల వరకు అంతా ఇప్పుడు  ఏఐ చాట్‌బోట్ ల జపం చేస్తున్నాయి. కస్టమర్ల సందేహాలకు క్షణాల్లో సమాధానాలివ్వడం, పని వేగం పెంచడం, ఖర్చు తగ్గించడం వంటి ప్రయోజనాలు ఉండటంతో సంస్థలు వీటిపై ఎక్కువగా ఆధారపడుతున్నాయి. అయితే, ఈ సాంకేతికత వెనుక ఓ సరికొత్త ముప్పు పొంచి ఉందని ఆయన పేర్కొన్నారు.  ఆ ముప్పు పేరే  ప్రాంప్ట్ ఇంజెక్షన్‌  అని  సజ్జనార్ తెలిపారు.

అసలింతకీ ఈ ప్రాంప్ట్ ఇంజెక్షన్ ఏమిటి?.. అంటే.. ఏఐ పని చేయడానికి   ఇచ్చే ఆదేశాలను ప్రాంప్ట్ అంటారు. సైబర్ నేరగాళ్లు ఈ ప్రాంప్ట్ నే తమ ఆయుధంగా మలచుకుంటున్నారని సజ్జనార్ పేర్కొన్నారు.  ఏఐ మోడల్‌ను తప్పుదోవ పట్టించేలా, ట్రిక్ చేసేలా మిలీషియస్ ప్రాంప్ట్స్ ఇస్తున్నారని తెలిపారు.  క్లుప్తంగా చెప్పాలంటే..  ఏఐని మాటలతో మాయ చేస్తున్నారు. ఇలా ఏఐని కన్ఫ్యూజ్ చేసి, సాధారణంగా బయటపెట్టకూడని సంస్థల అంతర్గత పత్రాలు, కస్టమర్ల రికార్డులు, సిస్టమ్ వివరాలను రాబట్టడమే ఈ  'ప్రాంప్ట్ ఇంజెక్షన్ అటాక్ అని వివరించారు. ఇది డేటా భద్రతకు పెనుముప్పు అని హెచ్చరించారు. 

ప్రస్తుతం చాలా సంస్థలు తమ ఏఐ మోడల్స్, చాట్‌బోట్‌లను సంస్థలోని కీలకమైన డేటా సిస్టమ్‌లకు  అనుసంధానిస్తున్నాయి. ఎండ్ యూజర్‌కు ఈ సమాచారం పొరపాటున కూడా కనిపించకూడదు. కానీ, హ్యాకర్లు వేసే ఒకే ఒక్క 'ట్రిక్కీ ప్రాంప్ట్' వల్ల ఈ గోప్య సమాచారమంతా బయటపడే ప్రమాదం ఉంది.  ఈ ముప్పును పసిగట్టి, నివారించడానికి సంస్థలు తక్షణమే 'ప్రాంప్ట్ గార్డ్‌రెయిల్స్' (రక్షణ కవచాలు) ఏర్పాటు చేసుకో వాల్సిన అవసరం ఉంది. కేవలం ఒక అంచె భద్రత సరిపోదు, మల్టీ-లేయర్ డిఫెన్స్ విధానాన్ని పాటించాలని సజ్జనార్ సూచించారు. 

ఏఐకి సేఫ్టీ ట్రైనింగ్ ఇవ్వడం, కఠినమైన నిబంధనలు  విధించడం ద్వారా అనవసర సమాచారాన్ని ఇవ్వకుండా నియంత్రించాలి. అలాగే.. హానికరమైన  ప్రాంప్ట్‌లను గుర్తించే వ్యవస్థను ఏర్పాటు చేసుకోవాలి. ఇంకా,  ఏఐకి యాక్సెస్ ఇచ్చే డేటా, ఏపీఐ లపై కఠిన నియంత్రణలు ఉండాలి. ఇక   ఎప్పటికప్పుడు సెక్యూరిటీ ఆడిట్స్ నిర్వహిస్తూ,  డేటా యాక్సెస్‌ను పరిమితం చేయాలి. ఇలా సరైన భద్రతా చర్యలు తీసుకోకపోతే సంస్థల కార్యకలాపాలు స్తంభించిపోవడంతో పాటు, విలువైన డేటా నేరగాళ్ల చేతికి చిక్కి కోలుకోలేని దెబ్బతినే ప్రమాదం ఉందని  సిపి సజ్జనర్ తన పోస్ట్ లో హెచ్చరించారు.