Instagram lidh rrjetin e gjerë të pedofilëve
Sistemet e njësisë Meta për nxitjen e komuniteteve i kanë udhëzuar përdoruesit drejt përmbajtjes së seksit të fëmijëve; kompania thotë se po përmirëson kontrollet e brendshme
Nga Jeff Horwitz dhe Katherine Blunt
7 qershor 2023 7:05 paradite ET
Instagram, faqja e njohur e mediave sociale në pronësi të Meta Platforms, ndihmon në lidhjen dhe promovimin e një rrjeti të gjerë llogarish të përkushtuara hapur ndaj komisionimit dhe blerjes së përmbajtjes për seks të mitur, sipas hetimeve nga The Wall Street Journal dhe studiuesve në Universitetin Stanford dhe Universiteti i Massachusetts Amherst.
Pedofilët kanë përdorur prej kohësh internetin, por ndryshe nga forumet dhe shërbimet e transferimit të skedarëve që u shërbejnë njerëzve që kanë interes për përmbajtje të paligjshme, Instagram nuk i pret thjesht këto aktivitete. Algoritmet e tij i promovojnë ato. Instagram lidh pedofilët dhe i udhëzon ata te shitësit e përmbajtjes përmes sistemeve të rekomandimeve që shkëlqejnë në lidhjen e atyre që ndajnë interesa të veçanta, zbuluan Journal dhe studiuesit akademikë.
Edhe pse jashtë vëmendjes për shumicën në platformë, llogaritë e seksualizuara në Instagram janë të pacipë për interesin e tyre. Studiuesit zbuluan se Instagram u mundësoi njerëzve të kërkonin hashtags të qartë si #pedowhore dhe #preteensex dhe i lidhte me llogaritë që përdornin termat për të reklamuar materiale seksuale për fëmijë për shitje. Llogari të tilla shpesh pretendojnë se drejtohen nga vetë fëmijët dhe përdorin trajta seksuale të hapura duke përfshirë fjalë të tilla si "për ty pak zuskë".
Llogaritë në Instagram që ofrojnë për të shitur materiale seksuale të paligjshme në përgjithësi nuk e publikojnë atë hapur, në vend të kësaj postojnë "menutë" e përmbajtjes. Disa llogari ftojnë blerësit të kryejnë veprime specifike. Disa meny përfshijnë çmime për videot e fëmijëve që dëmtojnë veten dhe "imazhet e të miturit që kryen akte seksuale me kafshët", zbuluan studiuesit në Observatorin e Internetit të Stanford. Me çmimin e duhur, fëmijët janë të disponueshëm për "takime" personalisht.
Promovimi i përmbajtjeve seksuale për të mitur shkel rregullat e vendosura nga Meta si dhe ligjin federal.
Në përgjigje të pyetjeve të Gazetës, Meta pranoi problemet brenda operacioneve të saj të zbatimit dhe tha se ka ngritur një task forcë të brendshme për të adresuar çështjet e ngritura. "Shfrytëzimi i fëmijëve është një krim i tmerrshëm," tha kompania, duke shtuar, "Ne po hetojmë vazhdimisht mënyra për t'u mbrojtur në mënyrë aktive kundër kësaj sjelljeje".
Meta tha se në dy vitet e fundit ka shuar 27 rrjete pedofilësh dhe po planifikon largime të tjera. Që nga marrja e pyetjeve të Gazetës, platforma tha se ka bllokuar mijëra hashtags që seksualizojnë fëmijët, disa me miliona postime, dhe ka kufizuar sistemet e saj që të rekomandojnë përdoruesit të kërkojnë terma që dihet se lidhen me abuzimin seksual. Ai tha se po punon gjithashtu për të parandaluar sistemet e tij që të rekomandojnë që të rriturit potencialisht pedofilë të lidhen me njëri-tjetrin ose të ndërveprojnë me përmbajtjen e njëri-tjetrit.
Alex Stamos, kreu i Observatorit të Internetit në Stanford dhe shefi i sigurisë së Metës deri në vitin 2018, tha se marrja e abuzimit të dukshëm nën kontroll ka të ngjarë të marrë një përpjekje të qëndrueshme.
"Që një ekip prej tre akademikësh me akses të kufizuar mund të gjejë një rrjet kaq të madh duhet të vendosë alarmet në Meta," tha ai, duke vënë në dukje se kompania ka mjete shumë më efektive për të hartuar rrjetin e saj të pedofilëve sesa të huajt. "Shpresoj që kompania të riinvestojë në hetuesit njerëzorë," shtoi ai.
Alex Stamos, drejtor i Observatorit të Internetit të Stanfordit në Palo Alto, Kaliforni.
FOTO: HELYNN OSPINA PËR WALL STREET JOURNAL
Pengesat teknike dhe ligjore e bëjnë të vështirë përcaktimin e shkallës së plotë të rrjetit për këdo jashtë Metës që të matet me saktësi.
Për shkak se ligjet rreth përmbajtjes së seksit të fëmijëve janë jashtëzakonisht të gjera, hetimi edhe i promovimit të hapur të tij në një platformë publike është ligjërisht i ndjeshëm.
Në raportimin e saj, Gazeta u konsultua me ekspertë akademikë për sigurinë e fëmijëve në internet. Observatori i Internetit i Stanford-it, një ndarje e Qendrës së Politikave Kibernetike të universitetit e fokusuar në abuzimin e mediave sociale, prodhoi një analizë sasiore të pavarur të veçorive të Instagramit që ndihmojnë përdoruesit të lidhen dhe të gjejnë përmbajtje.
Gazeta iu afrua gjithashtu Laboratorit të Shpëtimit të UMass, i cili vlerësoi sesi pedofilët në Instagram përshtaten në botën më të madhe të shfrytëzimit të fëmijëve në internet. Duke përdorur metoda të ndryshme, të dy entitetet ishin në gjendje të identifikonin shpejt komunitetet në shkallë të gjerë që promovonin abuzim seksual kriminal.
Llogaritë testuese të krijuara nga kërkuesit që shikuan një llogari të vetme në rrjet u goditën menjëherë me rekomandimet "të sugjeruara për ju" të shitësve dhe blerësve të supozuar të përmbajtjes seksuale të fëmijëve, si dhe llogari që lidhen me faqet e tregtimit të përmbajtjes jashtë platformës. Ndjekja e vetëm një grushti prej këtyre rekomandimeve ishte e mjaftueshme për të mbushur një llogari testimi me përmbajtje që seksualizon fëmijët.
Observatori i Internetit i Stanford përdori hashtags të lidhur me seksin e të miturve për të gjetur 405 shitës të atyre që studiuesit e etiketuan materialin e seksit të fëmijëve "të krijuar nga vetë" - ose llogari që supozohet se drejtohen nga vetë fëmijët, disa duke thënë se ata ishin deri në moshën 12 vjeç. Sipas të dhënave të mbledhura nëpërmjet Maltego, një softuer i hartës së rrjetit, 112 prej këtyre llogarive të shitësve kishin së bashku 22,000 ndjekës unikë.
Krijuesit dhe blerësit e përmbajtjeve të seksit për të miturit janë vetëm një cep i një ekosistemi më të madh kushtuar përmbajtjes seksuale të fëmijëve. Llogari të tjera në komunitetin e pedofilëve në Instagram grumbullojnë meme pro-pedofilike ose diskutojnë aksesin e tyre tek fëmijët. Punonjësit aktualë dhe ish-punonjësit e Meta-s, të cilët kanë punuar në iniciativat për sigurinë e fëmijëve në Instagram, vlerësojnë se numri i llogarive që ekzistojnë kryesisht për të ndjekur një përmbajtje të tillë është në qindra mijëra, nëse jo miliona.
Një zëdhënës i Meta tha se kompania kërkon në mënyrë aktive të heqë përdorues të tillë, duke hequr 490,000 llogari për shkeljen e politikave të sigurisë së fëmijëve vetëm në janar.
“Instagrami është një platformë e hapur për vendet në internet ku ka abuzim seksual më të qartë të fëmijëve”, tha Brian Levine, drejtor i Laboratorit të Shpëtimit UMass, i cili hulumton viktimizimin e fëmijëve në internet dhe ndërton mjete mjekoligjore për ta luftuar atë. Levine është një autor i një raporti të vitit 2022 për Institutin Kombëtar të Drejtësisë, krahu kërkimor i Departamentit të Drejtësisë, mbi shfrytëzimin e fëmijëve në internet.
Instagrami, që vlerësohet të ketë më shumë se 1.3 miliardë përdorues, është veçanërisht i popullarizuar tek adoleshentët. Studiuesit e Stanford gjetën disa aktivitete të ngjashme shfrytëzuese seksuale në platforma të tjera sociale më të vogla, por thanë se ata zbuluan se problemi në Instagram është veçanërisht i rëndë. “Platforma më e rëndësishme për këto rrjete blerësish dhe shitësish duket të jetë Instagrami”, shkruan ata në një raport të planifikuar për publikim më 7 qershor.
Kampusi Menlo Park i Meta Platforms.
FOTO: HELYNN OSPINA PËR WALL STREET JOURNAL
Instagram tha se statistikat e tij të brendshme tregojnë se përdoruesit shohin shfrytëzimin e fëmijëve në më pak se një në 10 mijë postime të shikuara.
Përpjekja e platformave të mediave sociale dhe zbatimit të ligjit për të luftuar përhapjen e pornografisë së fëmijëve në internet përqendrohet kryesisht në kërkimin e imazheve dhe videove të konfirmuara, të njohura si materiale të abuzimit seksual të fëmijëve ose CSAM, të cilat tashmë dihet se janë në qarkullim. Qendra Kombëtare për Fëmijët e Zhdukur dhe të Shfrytëzuar, një organizatë jofitimprurëse amerikane që punon me zbatimin e ligjit, mban një bazë të dhënash të gjurmëve dixhitale të gishtërinjve për imazhe dhe video të tilla dhe një platformë për ndarjen e të dhënave të tilla midis kompanive të internetit.
Algoritmet e kompanive të internetit kontrollojnë gjurmët dixhitale të gishtërinjve të imazheve të postuara në platformat e tyre kundrejt asaj liste dhe raportojnë përsëri në qendër kur i zbulojnë ato, siç e kërkon ligji federal i SHBA-së. Në vitin 2022, qendra mori 31.9 milionë raporte të pornografisë së fëmijëve, kryesisht nga kompanitë e internetit - 47% më shumë se dy vjet më parë.
Meta, me më shumë se 3 miliardë përdorues në aplikacionet e saj, të cilat përfshijnë Instagram, Facebook dhe WhatsApp, është në gjendje të zbulojë këto lloj imazhesh të njohura nëse ato nuk janë të koduara. Meta përbënte 85% të raporteve të pornografisë së fëmijëve të depozituara në qendër, duke përfshirë rreth 5 milionë nga Instagram.
Ekzaminimi i automatizuar i Meta-s për përmbajtjen ekzistuese të shfrytëzimit të fëmijëve nuk mund të zbulojë imazhe të reja ose përpjekje për të reklamuar shitjen e tyre. Parandalimi dhe zbulimi i një aktiviteti të tillë kërkon jo vetëm rishikimin e raporteve të përdoruesve, por gjurmimin dhe ndërprerjen e rrjeteve të pedofilëve, thonë punonjësit aktualë dhe të mëparshëm, si dhe studiuesit e Stanford. Qëllimi është të vështirësohet për përdoruesit e tillë që të lidhen me njëri-tjetrin, të gjejnë përmbajtje dhe të rekrutojnë viktima.
Një punë e tillë është jetike sepse agjencive të zbatimit të ligjit u mungojnë burimet për të hetuar më shumë se një pjesë të vogël të këshillave që merr NCMEC, tha Levine nga UMass. Kjo do të thotë se platformat kanë përgjegjësinë kryesore për të parandaluar një komunitet nga formimi dhe normalizimi i abuzimit seksual të fëmijëve.
Meta ka luftuar me këto përpjekje më shumë se platformat e tjera si për shkak të zbatimit të dobët dhe veçorive të dizajnit që nxisin zbulimin e përmbajtjes së materialeve legale dhe të paligjshme, zbuloi Stanford.
Ekipi i Stanford gjeti 128 llogari që ofronin për të shitur materiale të abuzimit seksual të fëmijëve në Twitter, më pak se një e treta e numrit që gjetën në Instagram, i cili ka një bazë përdoruesish shumë më të madhe se Twitter. Twitter nuk rekomandoi llogari të tilla në të njëjtën shkallë si Instagram dhe i hoqi ato shumë më shpejt, zbuloi ekipi.
Ndër platformat e tjera të njohura për të rinjtë, Snapchat përdoret kryesisht për mesazhet e tij të drejtpërdrejta, kështu që nuk ndihmon në krijimin e rrjeteve. Dhe platforma e TikTok është ajo ku "kjo lloj përmbajtjeje nuk duket se po përhapet", thuhet në raportin e Stanford.
Twitter nuk iu përgjigj kërkesave për koment. TikTok dhe Snapchat nuk pranuan të komentojnë.
David Thiel, kryeteknolog në Observatorin e Internetit të Stanfordit, tha: "Problemi i Instagramit ka të bëjë me veçoritë e zbulimit të përmbajtjes, mënyrat se si rekomandohen temat dhe sa mbështetet platforma në kërkimin dhe lidhjet midis llogarive." Thiel, i cili më parë ka punuar në Meta për çështjet e sigurisë dhe sigurisë, shtoi: “Duhet të vendosësh parmakë që diçka me rritje intensive të jetë ende nominalisht e sigurt, dhe Instagrami jo”.
Platforma ka luftuar për të mbikëqyrur një teknologji bazë: fjalë kyçe. Hashtags janë një pjesë qendrore e zbulimit të përmbajtjes në Instagram, duke i lejuar përdoruesit të etiketojnë dhe të gjejnë postime me interes për një komunitet të caktuar—nga tema të gjera si #fashion ose #nba deri tek ato më të ngushta si #embroidery ose #spelunking.
Një pamje e marrë nga Observatori i Internetit i Stanford tregon opsionin e paralajmërimit dhe klikimit kur kërkoni për një hashtag të lidhur me pedofilinë në Instagram.
FOTO: OBSERVATORI I INTERNETIT STANFORD
Pedofilët gjithashtu kanë hashtags të tyre të zgjedhur. Termat e kërkimit si #pedobait dhe variacionet në #mnsfw (“e vogla jo të sigurta për punë”) ishin përdorur për të etiketuar mijëra postime të dedikuara për reklamimin e përmbajtjeve seksuale që shfaqin fëmijë, duke i bërë ato lehtësisht të gjetshme nga blerësit, zbuluan studiuesit akademikë. Pas pyetjeve të Gazetës, Meta tha se është në proces ndalimi të termave të tillë.
Në shumë raste, Instagram i ka lejuar përdoruesit të kërkojnë terma që algoritmet e tij e dinë se mund të lidhen me materiale të paligjshme. Në raste të tilla, një ekran pop-up për përdoruesit paralajmëroi se "Këto rezultate mund të përmbajnë imazhe të abuzimit seksual të fëmijëve" dhe vuri në dukje se prodhimi dhe konsumimi i një materiali të tillë shkakton "dëm ekstrem" për fëmijët. Ekrani ofronte dy opsione për përdoruesit: "Merr burime" dhe "Shiko rezultatet gjithsesi".
Në përgjigje të pyetjeve nga Journal, Instagram hoqi opsionin që përdoruesit të shikonin rezultatet e kërkimit për termat që mund të prodhonin imazhe të paligjshme. Kompania nuk pranoi të thoshte pse e kishte ofruar opsionin.
Llogaritë pedofilike në Instagram përziejnë pafytyrësinë me përpjekjet sipërfaqësore për të mbuluar aktivitetin e tyre, zbuluan studiuesit. Disa emoji funksionojnë si një lloj kodi, siç është një imazh i një harte - shkurtimisht për "person i tërhequr nga të miturit" - ose një i "picës me djathë", i cili ndan inicialet e tij me "pornografinë e fëmijëve", sipas Levine nga UMass. Shumë e deklarojnë veten "dashamirës të gjërave të vogla në jetë".
Llogaritë e identifikojnë veten si "shitës" ose "s3ller" dhe shumë prej tyre deklarojnë formën e tyre të preferuar të pagesës në bios. Këto llogari shitësi shpesh përcjellin moshën e supozuar të fëmijës duke thënë se janë "në kapitullin 14" ose "mosha 31" e ndjekur nga një emoji i një shigjete mbrapa.
Disa nga rrëfimet mbanin indikacione të trafikimit seksual, tha Levine nga UMass, si një që shfaqte një adoleshente me fjalën WHORE të skalitur në fytyrën e saj.
Disa përdorues që pretendojnë se shesin përmbajtje seksuale të prodhuara vetë thonë se janë "pa fytyrë" - duke ofruar imazhe vetëm nga qafa e poshtë - për shkak të përvojave të kaluara në të cilat klientët i kanë ndjekur ose shantazhuar. Të tjerët marrin rrezikun, duke paguar një çmim për imazhet dhe videot që mund të zbulojnë identitetin e tyre duke treguar fytyrën e tyre.
Shumë prej llogarive tregojnë përdoruesit me plagë të prera në brendësi të krahëve ose kofshëve të tyre, dhe një numër prej tyre citojnë abuzime seksuale në të kaluarën.
Edhe shikimi i kontaktit me një llogari në komunitetin e pedofilëve të Instagramit mund të shkaktojë që platforma të fillojë të rekomandojë që përdoruesit t'i bashkohen.
Sarah Adams, një nënë kanadeze e dy fëmijëve, ka krijuar një audiencë në Instagram për të luftuar shfrytëzimin e fëmijëve.
FOTO: ALANA PATERSON PËR THE WALL STREET JOURNAL
Sarah Adams, një nënë kanadeze e dy fëmijëve, ka krijuar një audiencë në Instagram duke diskutuar mbi shfrytëzimin e fëmijëve dhe rreziqet e shpërndarjes së tepërt në mediat sociale. Duke pasur parasysh fokusin e saj, ndjekësit e Adams ndonjëherë i dërgojnë asaj gjëra shqetësuese që kanë hasur në platformë. Në shkurt, tha ajo, njëri i dërgoi asaj një mesazh të quajtur me termin "të vegjëlit e incestit".
Adams tha se ajo hyri në llogarinë – një koleksion memesh pro incestit me më shumë se 10,000 ndjekës – vetëm për disa sekonda që u deshën për të raportuar në Instagram, më pas u përpoq ta harronte atë. Por gjatë ditëve në vijim, ajo filloi të dëgjonte nga prindërit e tmerruar. Kur ata shikuan profilin e Adams në Instagram, ajo tha se atyre u rekomandohej "vegjël e incestit" si rezultat i kontaktit të Adams me llogarinë.
Një zëdhënës i Metës tha se "të vegjlit e incestit" shkelën rregullat e tij dhe se Instagram kishte gabuar në zbatimin e tij. Kompania tha se planifikon të adresojë rekomandime të tilla të papërshtatshme si pjesë e grupit të saj të ri të punës për sigurinë e fëmijëve.
Ashtu si me shumicën e platformave të mediave sociale, thelbi i rekomandimeve të Instagramit bazohet në modele të sjelljes, jo duke i përshtatur interesat e një përdoruesi me subjekte specifike. Kjo qasje është efikase në rritjen e rëndësisë së rekomandimeve dhe funksionon më së miri për komunitetet që ndajnë një grup të ngushtë interesash.
Në teori, e njëjta ngushtësi e komunitetit të pedofilëve në Instagram duhet ta bëjë më të lehtë për Instagram që të hartojë rrjetin dhe të marrë hapa për ta luftuar atë. Dokumentet e shqyrtuara më parë nga Gazeta tregojnë se Meta ka bërë këtë lloj pune në të kaluarën për të shtypur rrjetet e llogarive që i konsideron të dëmshme, si p.sh. me llogaritë që promovojnë delegjitimimin e zgjedhjeve në SHBA pas trazirave të Kapitolit të 6 janarit.
Ashtu si platformat e tjera, Instagram thotë se angazhon përdoruesit e tij për të ndihmuar në zbulimin e llogarive që shkelin rregullat. Por këto përpjekje nuk kanë qenë gjithmonë efektive.
Ndonjëherë raportet e përdoruesve për lakuriqësinë që përfshinte një fëmijë mbetën pa përgjigje për muaj të tërë, sipas një rishikimi të shumë raporteve të paraqitura gjatë vitit të kaluar nga shumë avokatë të sigurisë së fëmijëve.
Në fillim të këtij viti, një aktivist anti-pedofil zbuloi një llogari në Instagram që pretendonte se i përkiste një vajze që shiste përmbajtje seksuale për të mitur, duke përfshirë një postim ku deklarohej: "Ky adoleshent është gati për ju të gjithë". Kur aktivisti raportoi llogarinë, Instagram u përgjigj me një mesazh të automatizuar duke thënë: "Për shkak të vëllimit të lartë të raporteve që marrim, ekipi ynë nuk ka qenë në gjendje ta rishikojë këtë postim".
Pasi i njëjti aktivist raportoi një postim tjetër, ky i një vajze të re të veshur paksa me një mbishkrim grafikisht seksual, Instagram u përgjigj: "Ekipi ynë i rishikimit ka zbuluar se postimi [e llogarisë] nuk bie ndesh me Udhëzimet tona të Komunitetit". Përgjigja sugjeroi që përdoruesi të fshihte llogarinë për të shmangur shikimin e përmbajtjes së saj.
Një zëdhënës i Metës pranoi se Meta kishte marrë raportet dhe nuk kishte vepruar sipas tyre. Një rishikim i mënyrës se si kompania trajtoi raportet e abuzimit seksual të fëmijëve zbuloi se një defekt në softuer po parandalonte përpunimin e një pjese të konsiderueshme të raporteve të përdoruesve dhe se stafi i moderimit të kompanisë nuk po zbatonte siç duhet rregullat e platformës, tha zëdhënësi. Kompania tha se që atëherë e ka rregulluar gabimin në sistemin e saj të raportimit dhe po ofron trajnime të reja për moderatorët e përmbajtjes së saj.
Edhe kur Instagram fshin llogaritë që shesin përmbajtje seksuale për të mitur, ato nuk qëndrojnë gjithmonë të zhdukura.
Sipas udhëzimeve të brendshme të platformës, gjobat për shkeljen e standardeve të komunitetit të saj zakonisht vendosen në llogari, jo në përdorues ose pajisje. Për shkak se Instagram i lejon përdoruesit të ekzekutojnë llogari të shumta të lidhura, sistemi e bën të lehtë shmangien e zbatimit kuptimplotë. Përdoruesit renditin rregullisht dorezat e llogarive "rezervë" në bios-in e tyre, duke i lejuar ata thjesht të rifillojnë postimin tek i njëjti grup ndjekësish nëse Instagrami i heq ato.
Ndjekësit e Sarah Adams ndonjëherë i dërgojnë asaj gjëra shqetësuese që kanë hasur në Instagram.
FOTO: ALANA PATERSON PËR THE WALL STREET JOURNAL
Në disa raste, sistemet e rekomandimeve të Instagram zvogëlojnë drejtpërdrejt përpjekjet e stafit të tij të sigurisë. Pasi kompania vendosi të godasë lidhjet nga një shërbim specifik i koduar i transferimit të skedarëve, i njohur për transmetimin e përmbajtjes së seksit të fëmijëve, Instagram bllokoi kërkimet për emrin e tij.
Sugjerimet e hashtag-eve të drejtuara nga AI i Instagram nuk e morën mesazhin. Pavarësisht refuzimit të shfaqjes së rezultateve për emrin e shërbimit, veçoria e plotësimit automatik të platformës rekomandoi që përdoruesit të provonin variacionet e emrit me fjalët "djem" dhe "CP" të shtuara në fund.
Kompania u përpoq t'i çaktivizonte ato hashtags mes përgjigjes së saj ndaj pyetjeve nga Journal. Por brenda pak ditësh Instagram po rekomandonte përsëri variacione të reja të emrit të shërbimit që çuan gjithashtu në llogaritë që shisnin përmbajtje të supozuar për seks të mitur.
Pas fshirjes fillestare të llogarive të kompanisë të sjellë në vëmendjen e saj nga Stanford dhe Journal, Levine i UMass kontrolloi disa nga llogaritë e mbetura të shitësve të mitur në Instagram. Si më parë, shikimi i njërës prej tyre bëri që Instagram të rekomandonte të reja. Sugjerimet e Instagram-it po ndihmonin për të rindërtuar rrjetin që stafi i sigurisë së platformës ishte në mes të përpjekjeve për ta çmontuar.
Një zëdhënës i Meta tha se sistemet e tij për të parandaluar rekomandime të tilla janë duke u ndërtuar aktualisht. Levine e quajti të papranueshëm rolin e Instagramit në promovimin e përmbajtjeve dhe llogarive pedofilike.
"Tërhiqni frenën e urgjencës," tha ai. “A ia vlejnë përfitimet ekonomike dëmet e këtyre fëmijëve?”
Burimi: WSJ
Përgjigju Duke Cituar
Krijoni Kontakt