కృత్రిమ మేధస్సు  సాంకేతిక రంగంలో విప్లవాత్మక  మార్పులకు అంకురార్పణ చేసింది. ఈ తరుణంలో  ప్రముఖ ఏఐ సంస్థ ఓపెన్‌ఏఐ   తన అధునాతన మోడళ్ల ప్రవర్తనపై కీలక ప్రకటన చేసింది. ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ సిస్టమ్స్ మానవ నియంత్రణను తప్పుదారి పట్టించడం లేదా అనధికారిక పనులకు పాల్పడటం వంటి విచిత్రమైన, ఆందోళనకరమైన పరిణామాలను గుర్తించినట్లు ఓపెన్ ఏఐ వెల్లడించింది.

గత కొన్ని నెలలుగా వివిధ రకాల ఏఐ నమూనాల శిక్షణ, యు పరిశీలన దశల్లో  అనుమానాస్పద ఘటనలు వెలుగుచూశాయి. ముఖ్యంగా, ఒక ప్రయోగాత్మక పరిశోధనా మోడల్ తన సొంత నోట్స్‌లోనే సాధారణ నియంత్రణలను విస్మరించేలా కొన్ని ప్రత్యేక ఆదేశాలను రాసుకున్నట్లు నిపుణులు గుర్తించారు. ఏ చాట్‌బాట్‌కైనా ఉండే పరిమితులు,  గుర్తింపుల నుంచి తాను విముక్తురాలినైనట్లు ఆ మోడల్ తనను తాను భావించుకోవడం గమనార్హం.

మరో ఉదాహరణలో, ఒక ఏఐ ఏజెంట్ ఏమాత్రం అనుమతి తీసుకోకుండానే ఇంటర్నెట్‌లోకి ఫైళ్లను అప్‌లోడ్ చేసి బ్రౌజర్ సైటేషన్‌ను పొందినట్లు తేలింది. సాంకేతిక వ్యవస్థలు  క్లిష్టమైన పనులను పూర్తి చేయడానికి ఇతర మోడళ్లతో కలిసి పనిచేయడం, పర్యవేక్షణ నుంచి తప్పించుకునే మార్గాలను వెతకడం వంటి పరిణామాలు టెక్ నిపుణులను కలవరపెడుతున్నాయి.

ఈ నేపథ్యంలో, ఇలాంటి మోడల్ మిస్‌అలైన్‌మెంట్  ) ఉదంతాలను క్రమం తప్పకుండా పర్యవేక్షించడానికి, విచారించడానికి ఓపెన్‌ఏఐ ఒక నూతన ఫ్రేమ్‌వర్క్‌ను తీసుకువచ్చింది. భవిష్యత్తులో ఏఐ అభివృద్ధి ఏ దిశగా సాగాలో నిర్ణయించడానికి కేవలం సంబంధిత సంస్థల అంతర్గత పరిశోధనలే కాకుండా, బయటి వ్యక్తులు కూడా స్వయంగా పరిశీలించదగిన నిదర్శనాలు అవసరమని సంస్థ అభిప్రాయపడింది.

ప్రపంచవ్యాప్తంగా ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ వాడకం విపరీతంగా పెరుగుతున్న నేపథ్యంలో, భద్రతా ప్రమాణాలపై టెక్ దిగ్గజాల మధ్య భిన్నాభిప్రాయాలు వ్యక్తమౌతున్నాయి. కొన్ని నెలల క్రితం రోగ్ ఏఐ సిస్టమ్స్ ఇతర సంస్థల వ్యవస్థలపై దాడులు చేసిన ఘటనలు వెలుగులోకి రావడంతో, ఈ టెక్నాలజీ భవిష్యత్తుపై ఆందోళనలు మరింత ఎక్కువయ్యాయి. ఏఐ విషయంలో సాంప్రదాయ భద్రతా పద్ధతులు సరిపోవు అన్న అభిప్రాయం టెక్ రంగంలో బలంగా వ్యక్తమౌతోంది. 

భవిష్యత్తులో ఈ తరహా సమస్యలను ముందుగానే గుర్తించి నివారించడానికి  పకడ్బందీ నిబంధనలు, ప్రమాణాలు ఏర్పడాల్సిన అవసరాన్ని ఈ పరిణామాలు నొక్కి చెబుతున్నాయి. అన్ని ఏఐ డెవలపర్లు కూడా మోడల్ లోపాలను బహిరంగంగా పంచుకునేలా ఒక స్పష్టమైన విధానం రావాలని నిపుణులు బలంగా చెబుతున్నారు. లేనిపక్షంలో..  నియంత్రణ దాటిన స్వయంప్రతిపత్తి గల ఏఐ వ్యవస్థలు భవిష్యత్తులో మానవాళికి   సవాళ్లు విసిరే ప్రమాదం ఉందని విశ్లేషకులు హెచ్చరిస్తున్నారు.

[OpenAI, AI safety, model misalignment, artificial intelligence, Challange, Mankind, TeluguOne]