బాలల దోపిడీ నివారణకు మేము చేపట్టిన చర్యలు: మెటా
మా ప్లాట్‌ఫారమ్‌లలో బాలల లైంగిక దోపిడీని అరికట్టేందుకు మా ప్రయత్నాలను మరింత బలోపేతం చేయడానికి తీసుకున్న అదనపు చర్యలను వెల్లడిస్తున్నామని తెలియజేసింది మెటా. ఆ చర్యల వివరాలు ఇవే.
మేము గుర్తించిన దుర్వినియోగ వ్యూహాలను ఎదుర్కొనేందుకు, అలాగే బాలల లైంగిక దోపిడీకి సంబంధించిన ప్రకటనలను లేదా ప్లాట్‌ఫారమ్ వెలుపల ఉల్లంఘనలకు దారితీసే ప్రకటనలను గుర్తించే మా సిస్టమ్‌ల సామర్థ్యాన్ని మరింత మెరుగుపరచేందుకు, కొత్త AI సాధనాలతో సహా పలు అదనపు చర్యలను అమలు చేశాము.
జనవరి నుంచి జూన్ 2026 మధ్య, భారతదేశంలోని ఫేస్‌బుక్, ఇన్‌స్టాగ్రామ్ ప్లాట్‌ఫారమ్‌లపై 53 లక్షల బాలల లైంగిక దోపిడీ కంటెంట్‌పై మేము చర్యలు తీసుకున్నాము. వీటిలో 98 శాతానికి పైగా కంటెంట్‌ను ఎవరైనా ఫిర్యాదు చేయకముందే మా సిస్టమ్‌లు గుర్తించి, ముందస్తుగా చర్యలు తీసుకున్నాము.
మా యాప్‌లలో యువతను సురక్షితంగా ఉంచడం మేము చేసే అత్యంత ముఖ్యమైన పనులలో ఒకటి, మరియు ఈ ప్రక్రియ ఎప్పటికీ ఆగదు. ఆన్‌లైన్‌లో పిల్లలకు హాని చేయడానికి ప్రయత్నించే నేరస్థులు ఒకే ప్లాట్‌ఫారమ్‌లో ఉండరు. వారు వివిధ ప్లాట్‌ఫారమ్‌లను ఉపయోగిస్తూ, పట్టుబడకుండా ఉండేందుకు తమ పద్ధతులను మార్చుకుంటూ ఉంటారు. అందుకే ఇలాంటి చర్యలను అడ్డుకునేందుకు మేము మా సాధనాలను ఎప్పటికప్పుడు మెరుగుపరుస్తున్నాము. అలాగే, ఇతర సంస్థలతో అవసరమైన సమాచారాన్ని పంచుకుంటూ, నేరస్థులపై చర్యలు తీసుకునేలా వారిని చట్ట అమలు సంస్థలకు నివేదిస్తున్నాము.
మేము ఎలా స్పందించాము
మా ప్లాట్‌ఫారమ్‌లో పిల్లలపై లైంగిక వేధింపులు లేదా దోపిడీకి సంబంధించిన కంటెంట్ ఉన్నట్లు గుర్తించినా లేదా మా దృష్టికి వచ్చినా, మేము దానిని పరిశీలిస్తాము. ఆ కంటెంట్ మా విధానాలను ఉల్లంఘిస్తే, వెంటనే తొలగిస్తాము. ఎవరైనా దానిని ఉద్దేశపూర్వకంగా హానికరమైన ఉద్దేశంతో షేర్ చేస్తున్నట్లు గుర్తిస్తే, సంబంధిత ఖాతాలను నిలిపివేస్తాము. అనంతరం, వర్తించే చట్టాలకు అనుగుణంగా, ఆ కంటెంట్‌ను నేషనల్ సెంటర్ ఫర్ మిస్సింగ్ & ఎక్స్‌ప్లాయిటెడ్ చిల్డ్రన్ (NCMEC)కు నివేదిస్తాము. అయితే, మా చర్యలు ఇంతటితో ఆగవు.
పిల్లల భద్రత కోసం మేము ఎన్నో ఏళ్లుగా అనుమానాస్పద ఖాతాల నెట్‌వర్క్‌లపై ప్రత్యేకంగా చర్యలు తీసుకుంటున్నాము. మా నిపుణుల బృందంలో మాజీ FBI పరిశోధకులు కూడా ఉన్నారు. వారు అనుమానాస్పద ఖాతాల మధ్య ఉన్న సంబంధాలను గుర్తించేందుకు, వాటిని పరిశీలించి, అవసరమైనప్పుడు తొలగించి, సంబంధిత అధికారులకు నివేదించేందుకు మాన్యువల్‌గా దర్యాప్తు చేస్తారు. ఈ నెట్‌వర్క్‌లు ఎలా పనిచేస్తున్నాయో మేము నిరంతరం పరిశీలిస్తూనే ఉంటాము. దీంతో కేవలం ఒక్కో ఖాతాపై మాత్రమే కాకుండా, మొత్తం నెట్‌వర్క్‌పై కూడా చర్యలు తీసుకునే అవకాశం ఉంటుంది.
మా ప్లాట్‌ఫారమ్‌లలో పిల్లలపై లైంగిక దోపిడీని అరికట్టేందుకు మా ప్రయత్నాలను మరింత బలోపేతం చేయడానికి తీసుకున్న అదనపు చర్యలను ఈ రోజు పంచుకుంటున్నాము.
మా ప్రకటన సమీక్ష ప్రక్రియకు కొత్త మెరుగుదలలు
ఆన్‌లైన్‌లో పిల్లలకు హాని చేయాలనుకునే నేరస్థులు తమ పద్ధతులను మార్చుకుంటున్నారు. దీనిని మేము ప్రకటనల విషయంలో కూడా గమనిస్తున్నాము. వారు మా సిస్టమ్‌లను తప్పించుకునేందుకు ఉద్దేశపూర్వకంగా రూపొందించిన కంటెంట్‌ను ఉపయోగిస్తూ, వాటిని దుర్వినియోగం చేయడానికి నిరంతరం ప్రయత్నిస్తున్నారు. ఒక ప్రకటన బయటకు చూస్తే సాధారణంగానే కనిపించవచ్చు. కానీ దాని ద్వారా ప్రజలను మా ప్లాట్‌ఫారమ్‌ల వెలుపల ఉన్న చట్టవిరుద్ధమైన కంటెంట్‌కు రహస్యంగా మళ్లించే అవకాశం ఉంది.
ఈ హానికరమైన ప్రకటనల పద్ధతి ఎలా పనిచేస్తుందో అర్థం చేసుకున్న తర్వాత, మాకు రిపోర్ట్ చేయబడిన వాటిపై మాత్రమే ఆధారపడకుండా దర్యాప్తును మరింత విస్తరించాము. మా అన్ని ప్లాట్‌ఫారమ్‌లలో ఇలాంటి కార్యకలాపాలను గుర్తించి, వాటికి పాల్పడిన ఖాతాలను నిలిపివేశాము. అలాగే, ఈ కార్యకలాపాలకు ఉపయోగించిన మా ప్లాట్‌ఫారమ్‌ల వెలుపలి లింక్‌లను కూడా బ్లాక్ చేశాము.
ఆ తర్వాత, మేము గుర్తించిన హానికరమైన పద్ధతులను అరికట్టేందుకు, అలాగే CSAM ఉన్న ప్రకటనలను లేదా ప్రజలను ప్లాట్‌ఫారమ్ వెలుపల ఉన్న ఉల్లంఘన కార్యకలాపాలకు మళ్లించే ప్రకటనలను గుర్తించే మా సిస్టమ్‌ల సామర్థ్యాన్ని మెరుగుపరచేందుకు, కొత్త AI సాధనాలతో సహా మరిన్ని చర్యలను అమలు చేశాము. ఇందులో ఇవి ఉన్నాయి:
బాలల లైంగిక దోపిడీ(CSE) కంటెంట్‌ను గుర్తించేందుకు కొత్త లార్జ్ లాంగ్వేజ్ మోడల్ (LLM) ఆధారిత గుర్తింపు వ్యవస్థను ప్రవేశపెట్టాము. పైకి చూస్తే సాధారణంగా కనిపించే ప్రకటనలు, వాస్తవానికి మా ప్లాట్‌ఫారమ్‌ల వెలుపల ఉన్న చట్టవిరుద్ధమైన కంటెంట్ లేదా హానికరమైన కార్యకలాపాల వైపు ప్రజలను రహస్యంగా మళ్లిస్తున్నాయా అనే విషయాన్ని గుర్తించేందుకు ఇది సహాయపడుతుంది.
ఒక ప్రకటనలో ఏమి చూపిస్తున్నారో మాత్రమే కాకుండా, అది వినియోగదారులను ఎక్కడికి తీసుకెళ్తుందో కూడా మరింత మెరుగ్గా అర్థం చేసుకునేలా మా వ్యవస్థలను అభివృద్ధి చేస్తున్నాము. దీనివల్ల ఉల్లంఘనలకు పాల్పడే వెబ్‌సైట్‌లు లేదా ఇతర గమ్యస్థానాలను బ్లాక్ చేయడంతో పాటు, వాటికి బాధ్యత వహించే ఖాతాలపై కూడా చర్యలు తీసుకోగలుగుతాము.
మా దర్యాప్తు ముందుకు సాగుతున్న కొద్దీ కొత్తగా గుర్తించే సంకేతాలను ఉపయోగిస్తూ, ఇప్పటికే ఉన్న సిస్టమ్‌లు గుర్తించిన CSE కంటెంట్‌ను వెలికితీసేందుకు ప్రకటనల కంటెంట్‌పై అదనపు AI ఆధారిత తనిఖీలను నిర్వహిస్తున్నాము;
మా రక్షణ వ్యవస్థల్లో ఉన్న బలహీనతలను ముందుగానే గుర్తించేందుకు వాటిని చురుకుగా పరీక్షించే రెడ్-టీమింగ్ AI ఏజెంట్‌ను ఉపయోగిస్తున్నాము. దీని ద్వారా కొత్త రకాల హానికరమైన CSE వ్యూహాలు విస్తరించకముందే వాటిని గుర్తించగలుగుతాము.
పునరావృత ఉల్లంఘనలకు పాల్పడే వారిని గుర్తించే వ్యవస్థలను మరింత బలోపేతం చేస్తున్నాము. ఇందులో, ఖాతాను తొలగించిన తర్వాత కొత్త ఖాతాలను సృష్టించేందుకు ప్రయత్నించే వారిని గుర్తించే చర్యలు కూడా ఉన్నాయి.
మా ప్రయత్నాల వెనుక ఉన్న సాంకేతికత
మా AI మరియు ఆటోమేటెడ్ సాధనాల సమాహారం, CSAMతో పాటు పిల్లల భద్రతకు సంబంధించిన ఇతర ఉల్లంఘనలను ముందుగానే గుర్తించేందుకు పనిచేస్తుంది:
ప్రవర్తనా సంకేతాలు (Behavioural signals)- అనుమానాస్పద ప్రవర్తనకు పాల్పడుతున్న ఖాతాలను గుర్తించేందుకు మెటాడేటా మరియు ప్రవర్తనా సంకేతాల కలయికను విశ్లేషించే వ్యవస్థ.
PhotoDNA, ఇతర ఫొటో, వీడియో మ్యాచింగ్ టెక్నాలజీ, 2011 నుంచి Metaకు చెందిన అన్ని యాప్‌లలో ఈ సాంకేతికతను ఉపయోగిస్తున్నారు. ఇప్పటికే గుర్తించిన CSAMకు సంబంధించిన ఫొటోలు, వీడియోలతో పూర్తిగా లేదా దాదాపు ఒకేలా ఉన్న కాపీలను గుర్తించి తొలగించేందుకు ఇది సహాయపడుతుంది. ఈ ఉద్దేశం కోసం Meta పరిశ్రమలోనే అతిపెద్ద ఫొటో, వీడియో హ్యాష్‌ల డేటాబేస్‌లలో ఒకదాన్ని నిర్వహిస్తోంది. కొత్తగా గుర్తించిన హ్యాష్‌లను కూడా ఇందులో చేర్చి, టెక్ కోయలిషన్ యొక్క లాంతర్న్ ప్రోగ్రామ్ ద్వారా పరిశ్రమలోని ఇతర సంస్థలతో పంచుకుంటోంది. దీంతో ఈ కార్యక్రమంలో పాల్గొనే ఇతర సంస్థలు కూడా అలాంటి కంటెంట్‌ను తొలగించగలుగుతాయి. తద్వారా ఇంటర్నెట్ మొత్తాన్ని మరింత సురక్షితంగా ఉంచేందుకు ఇది సహాయపడుతుంది. Meta ఇదే సాంకేతికతను ప్లాట్‌ఫారమ్ వెలుపల ఉన్న లింక్‌ల ప్రివ్యూలలో CSAMను గుర్తించడానికి కూడా ఉపయోగిస్తోంది. ఈ మ్యాచింగ్ టెక్నాలజీల ద్వారా గుర్తించిన అన్ని CSAM కంటెంట్‌ను, వర్తించే చట్టాలకు అనుగుణంగా, NCMEC సహకారంతో చట్ట అమలు సంస్థలకు రిపోర్ట్ చేస్తాము.
ఉల్లంఘనలకు సంబంధించిన CSAM కంటెంట్‌ను హోస్ట్ చేసే లేదా రూపొందించే బాహ్య వెబ్‌సైట్‌ల లింక్‌లను బ్లాక్ చేసేందుకు మేము చర్యలు తీసుకుంటాము. ఒకసారి ఏదైనా లింక్‌ను బ్లాక్ చేసిన తర్వాత, ఆ లింక్ ఉన్న ప్రకటనలు, పోస్టులు, కామెంట్లు వంటి ఇతర కంటెంట్‌ను గుర్తించి తొలగిస్తాము. ఫేస్‌బుక్, ఇన్‌స్టాగ్రామ్, థ్రెడ్స్‌లో బ్లాక్ చేసిన లింక్ ఉన్న కంటెంట్‌ను ప్రజలు పోస్ట్ చేయకుండా నిరోధించేందుకు కూడా చర్యలు తీసుకుంటాము. అలాగే, బ్లాక్ చేసిన లింక్‌లను కలిగి ఉన్న ప్రకటనలను అప్‌లోడ్ చేసే సమయంలోనే తిరస్కరిస్తాము.
హ్యూరిస్టిక్స్ ఆధారిత నియమాలు- ఆటోమేటెడ్ క్లాసిఫైయర్‌లు, AI మోడల్‌లు మరియు ఇతర సంకేతాలను కలిపి ఉపయోగించి, ప్రకటనలతో సహా పెద్ద స్థాయిలో కొత్తగా లేదా తాజాగా కనిపిస్తున్న ఉల్లంఘన నమూనాలను ముందుగానే గుర్తించి, వాటిపై చర్యలు తీసుకునేలా ఈ నియమాలు సహాయపడతాయి.
గణాంకాల ప్రకారం
ప్రపంచవ్యాప్తంగా, జనవరి నుంచి జూన్ 2026 మధ్య ఫేస్‌బుక్, ఇన్‌స్టాగ్రామ్‌లలో 3.32 కోట్ల బాలల లైంగిక దోపిడీ కంటెంట్‌పై మేము చర్యలు తీసుకున్నాము. వీటిలో 97 శాతానికి పైగా కంటెంట్‌ను ఎవరైనా ఫిర్యాదు చేయకముందే మా సిస్టమ్‌లు గుర్తించి, ముందస్తుగా చర్యలు తీసుకున్నాయి. ఇదే కాలంలో, భారతదేశంలో ఫేస్‌బుక్, ఇన్‌స్టాగ్రామ్‌లలో 53 లక్షల బాలల లైంగిక దోపిడీ కంటెంట్‌పై మేము చర్యలు తీసుకున్నాము. వీటిలో 98 శాతానికి పైగా కంటెంట్‌ను ఎవరైనా ఫిర్యాదు చేయకముందే గుర్తించి, ముందస్తుగా చర్యలు తీసుకున్నాము.
చట్ట అమలు సంస్థలతో కలిసి పనిచేయడం
ఈ నేరాలకు పాల్పడే వ్యక్తులను జవాబుదారీగా నిలిపేందుకు మేము చట్ట అమలు సంస్థలతో నిరంతరం కలిసి పనిచేస్తున్నాము. ఈ సెప్టెంబర్‌లో, బాలల భద్రతకు సంబంధించిన కేసులను ఇండియన్ సైబర్‌క్రైమ్ కోఆర్డినేషన్ సెంటర్ (I4C) నిర్వహిస్తున్న నేషనల్ సైబర్ క్రైమ్ రిపోర్టింగ్ పోర్టల్ (cybercrime.gov.in)కు నేరుగా నివేదించనున్నట్లు మెటా ప్రకటించింది. నేషనల్ సెంటర్ ఫర్ మిస్సింగ్ & ఎక్స్‌ప్లాయిటెడ్ చిల్డ్రన్ (NCMEC) సహకారంతో, బాలల లైంగిక వేధింపులకు సంబంధించిన కంటెంట్‌ను నేషనల్ సైబర్ క్రైమ్ రిపోర్టింగ్ పోర్టల్ ద్వారా చట్ట అమలు సంస్థలకు నివేదిస్తున్న మా ప్రస్తుత విధానాన్ని ఇది మరింత బలోపేతం చేస్తుంది.
