ยอดวิววิดีโอกว่า 120,000 ครั้งแสดงให้เห็นเด็กชายคนหนึ่งถูกล่วงละเมิดทางเพศ เครื่องมือแนะนำที่แนะนำให้ผู้ใช้ติดตามเนื้อหาที่เกี่ยวข้องกับเด็กที่ถูกแสวงประโยชน์ ผู้ใช้โพสต์เนื้อหาที่ไม่เหมาะสมอย่างต่อเนื่อง ความล่าช้าในการลบเมื่อตรวจพบ และขัดแย้งกับองค์กรที่ควบคุมดูแลเนื้อหาดังกล่าว
ตั้งแต่ Elon Musk ประกาศว่า “การกำจัดการแสวงประโยชน์จากเด็กเป็นสิ่งสำคัญอันดับ 1” ในทวีตเมื่อปลายเดือนพฤศจิกายน
ภายใต้การเป็นเจ้าของของ Musk หัวหน้าฝ่ายความปลอดภัยของ Twitter Ella Irwin กล่าวว่าเธอเคลื่อนไหวอย่างรวดเร็วเพื่อต่อสู้กับเนื้อหาการล่วงละเมิดทางเพศเด็กซึ่งแพร่หลายในไซต์ – เช่นเดียวกับบนแพลตฟอร์มเทคโนโลยีส่วนใหญ่ – ภายใต้เจ้าของคนก่อน “Twitter 2.0” จะแตกต่างออกไป บริษัทสัญญา
แต่จากการตรวจสอบโดย The New York Times พบว่าภาพดังกล่าว ซึ่งรู้จักกันทั่วไปว่าเป็นภาพอนาจารเด็ก ยังคงมีอยู่บนแพลตฟอร์ม รวมถึงเนื้อหาที่เผยแพร่อย่างกว้างขวางซึ่งเจ้าหน้าที่พิจารณาว่าตรวจจับและกำจัดได้ง่ายที่สุด
หลังจากที่ Musk เข้ากุมบังเหียนเมื่อปลายเดือนตุลาคม Twitter ได้กำจัดหรือสูญเสียพนักงานส่วนใหญ่ที่ประสบปัญหานี้ และล้มเหลวในการป้องกันการแพร่กระจายของภาพที่ไม่เหมาะสมซึ่งเจ้าหน้าที่ระบุก่อนหน้านี้ Twitter ยังหยุดจ่ายเงินสำหรับซอฟต์แวร์ตรวจจับบางตัวที่ถือเป็นกุญแจสำคัญในความพยายาม
ผู้คนในฟอรัมเว็บมืดพูดคุยกันว่า Twitter ยังคงเป็นแพลตฟอร์มที่พวกเขาสามารถค้นหาเนื้อหาได้อย่างง่ายดายในขณะที่หลีกเลี่ยงการตรวจจับได้อย่างไร ตามบันทึกของฟอรัมเหล่านั้นจากกลุ่มต่อต้านการละเมิดที่ติดตามพวกเขา
“ถ้าคุณปล่อยให้หนูในท่อระบายน้ำเข้ามา” Julie Inman Grant กรรมาธิการความปลอดภัยออนไลน์ของออสเตรเลียกล่าว “คุณก็รู้ว่าโรคระบาดกำลังจะมาเยือน”
ในการแชทด้วยเสียงบน Twitter กับ Irwin เมื่อต้นเดือนธันวาคม นักวิจัยอิสระที่ทำงานกับ Twitter กล่าวว่าเนื้อหาที่ผิดกฎหมายนั้นเผยแพร่สู่สาธารณะบนแพลตฟอร์มมานานหลายปีและมีผู้ดูหลายล้านครั้ง แต่เออร์วินและคนอื่น ๆ ที่ Twitter กล่าวว่าความพยายามของพวกเขาภายใต้ Musk นั้นได้ผล ในช่วงเดือนแรกของการเป็นเจ้าของใหม่ บริษัทระงับบัญชีเกือบ 300,000 บัญชีเนื่องจากละเมิดนโยบาย “การแสวงประโยชน์ทางเพศจากเด็ก” ซึ่งมากกว่าปกติ 57% บริษัทกล่าว
ความพยายามเร่งตัวขึ้นในเดือนมกราคม Twitter กล่าวเมื่อระงับบัญชี 404,000 บัญชี “แนวทางล่าสุดของเรานั้นก้าวร้าวมากขึ้น” บริษัทประกาศในทวีตเมื่อวันพุธ โดยกล่าวว่าได้ปราบปรามผู้ที่ค้นหาเนื้อหาที่แสวงหาผลประโยชน์ และลดการค้นหาที่ประสบความสำเร็จลง 99% ตั้งแต่เดือนธันวาคม
ในการให้สัมภาษณ์ Irwin กล่าวว่าการระงับจำนวนมากเกี่ยวข้องกับบัญชีที่เกี่ยวข้องกับเนื้อหาหรืออ้างว่าขายหรือแจกจ่ายมากกว่าบัญชีที่โพสต์ เธอไม่ได้โต้แย้งว่าเนื้อหาการล่วงละเมิดทางเพศเด็กยังคงมีอยู่อย่างเปิดเผยบนแพลตฟอร์ม โดยกล่าวว่า “เราทราบดีว่าเรายังขาดบางสิ่งที่เราจำเป็นต้องตรวจสอบให้ดียิ่งขึ้น”
เธอเสริมว่า Twitter กำลังจ้างพนักงานและใช้ “กลไกใหม่” เพื่อต่อสู้กับปัญหา “เรากำลังทำงานอย่างไม่หยุดยั้งนี้” เธอกล่าว
Wired, NBC และอื่น ๆ ได้ให้รายละเอียดการต่อสู้อย่างต่อเนื่องของ Twitter กับภาพการล่วงละเมิดเด็กภายใต้ Musk เมื่อวันอังคาร ส.ว. Richard Durbin, D-Ill. ขอให้กระทรวงยุติธรรมตรวจสอบบันทึกของ Twitter ในการแก้ไขปัญหา
เพื่อประเมินความคืบหน้าของบริษัท Times ได้สร้างบัญชี Twitter ส่วนบุคคลและเขียนโปรแกรมคอมพิวเตอร์อัตโนมัติที่สามารถค้นหาเนื้อหาบนแพลตฟอร์มโดยไม่ต้องแสดงภาพจริง ซึ่งผิดกฎหมายในการดู วัตถุดิบหาไม่ยาก อันที่จริงแล้ว Twitter ช่วยโปรโมตผ่านอัลกอริทึมการแนะนำ ซึ่งเป็นฟีเจอร์ที่แนะนำบัญชีให้ติดตามตามกิจกรรมของผู้ใช้
หนึ่งในคำแนะนำคือบัญชีที่แสดงรูปโปรไฟล์ของเด็กชายที่ไม่สวมเสื้อ เด็กในรูปภาพเป็นเหยื่อของการล่วงละเมิดทางเพศ อ้างอิงจากศูนย์คุ้มครองเด็กแห่งแคนาดา ซึ่งช่วยระบุเนื้อหาที่แสวงประโยชน์บนแพลตฟอร์มของ Times โดยจับคู่กับฐานข้อมูลของภาพที่ระบุก่อนหน้านี้
ผู้ใช้คนเดียวกันนั้นติดตามบัญชีที่น่าสงสัยอื่นๆ รวมถึงบัญชีที่ “ชอบ” วิดีโอของเด็กชายที่ล่วงละเมิดทางเพศเด็กชายอีกคนหนึ่ง เมื่อวันที่ 19 มกราคม วิดีโอดังกล่าวอยู่บน Twitter นานกว่าหนึ่งเดือน มีผู้เข้าชมมากกว่า 122,000 ครั้ง รีทวีตเกือบ 300 ครั้ง และถูกใจมากกว่า 2,600 ครั้ง ภายหลัง Twitter ได้ลบวิดีโอดังกล่าวหลังจากที่ศูนย์แคนาดาแจ้งว่าเป็นของบริษัท
ในช่วงสองสามชั่วโมงแรกของการค้นหา โปรแกรมคอมพิวเตอร์พบรูปภาพจำนวนหนึ่งซึ่งก่อนหน้านี้ถูกระบุว่าเป็นการละเมิด — และบัญชีที่เสนอขายเพิ่มเติม Times ตั้งค่าสถานะโพสต์โดยไม่ดูภาพใด ๆ ส่งที่อยู่เว็บไปยังบริการที่ดำเนินการโดย Microsoft และศูนย์แคนาดา
ปลายเดือนธันวาคม บัญชีหนึ่งได้เสนอ “ชุดคริสต์มาส” สำหรับรูปภาพและวิดีโอลดราคา ผู้ใช้รายนั้นทวีตภาพบางส่วนของเด็กที่ถูกล่วงละเมิดตั้งแต่อายุประมาณ 8 ขวบจนถึงวัยรุ่น Twitter ลบโพสต์ดังกล่าวในอีก 5 วันต่อมา แต่หลังจากศูนย์แคนาดาส่งการแจ้งเตือนซ้ำให้บริษัท
โดยรวมแล้ว โปรแกรมคอมพิวเตอร์พบภาพของเหยื่อ 10 รายปรากฏมากกว่า 150 ครั้งในหลายบัญชี ล่าสุดเมื่อวันพฤหัสบดี ทวีตที่เกี่ยวข้องมักจะโฆษณาวิดีโอการข่มขืนเด็กและรวมลิงก์ไปยังแพลตฟอร์มที่เข้ารหัส
Alex Stamos ผู้อำนวยการ Stanford Internet Observatory และอดีตผู้บริหารระดับสูงด้านความปลอดภัยของ Facebook พบว่าผลลัพธ์ที่น่าตกใจ “เมื่อพิจารณาถึงการโฟกัสที่ Musk ให้ความสำคัญกับความปลอดภัยของเด็ก เป็นเรื่องน่าแปลกใจที่พวกเขาไม่ได้ทำขั้นพื้นฐาน” เขากล่าว
นอกจากนี้ เพื่อยืนยันการค้นพบของ Times ศูนย์แคนาดาได้ทำการทดสอบเพื่อตรวจสอบว่าชุดวิดีโอที่เกี่ยวข้องกับเหยื่อที่รู้จักปรากฏบน Twitter บ่อยเพียงใด นักวิเคราะห์พบวิดีโอ 31 รายการที่แบ่งปันโดยบัญชีมากกว่า 40 บัญชี ซึ่งบางรายการได้รับการรีทวีตและชอบหลายพันครั้ง วิดีโอแสดงภาพวัยรุ่นที่ถูกกรรโชกทางออนไลน์เพื่อทำกิจกรรมทางเพศกับเด็กวัยก่อนเจริญพันธุ์ในช่วงหลายเดือน
ศูนย์ยังทำการสแกนในวงกว้างกับวิดีโอที่โจ่งแจ้งที่สุดในฐานข้อมูลของพวกเขา มีการเข้าชมมากกว่า 260 ครั้ง มีผู้กดไลค์กว่า 174,000 ครั้ง และรีทวีต 63,000 ครั้ง
Lloyd Richardson ผู้อำนวยการฝ่ายเทคโนโลยีของศูนย์แคนาดากล่าวว่า “ปริมาณที่เราสามารถหาได้โดยใช้ความพยายามเพียงเล็กน้อยนั้นสำคัญมาก” “ไม่ควรเป็นหน้าที่ของคนภายนอกในการค้นหาเนื้อหาประเภทนี้ที่อยู่ในระบบของพวกเขา”
ในปี 2019 Times รายงานว่าบริษัทเทคโนโลยีหลายแห่งมีช่องว่างอย่างมากในการตรวจสอบการแสวงหาประโยชน์จากเด็กบนแพลตฟอร์มของตน เมื่อเดือนธันวาคมที่ผ่านมา Inman Grant เจ้าหน้าที่ความปลอดภัยออนไลน์ของออสเตรเลียได้ทำการตรวจสอบซึ่งพบปัญหาเดียวกันนี้จำนวนมากที่ยังคงอยู่ในกลุ่มตัวอย่างของบริษัทเทคโนโลยี
การตรวจสอบของออสเตรเลียไม่ได้รวม Twitter ไว้ด้วย แต่ปัญหาบางอย่างของแพลตฟอร์มนั้นคล้ายกับของบริษัทเทคโนโลยีอื่นๆ และคาดการณ์ล่วงหน้าถึงการมาถึงของ Musk ตามคำบอกเล่าของพนักงานปัจจุบันและอดีตพนักงานหลายคน
Twitter ซึ่งก่อตั้งขึ้นในปี 2549 เริ่มใช้เครื่องมือที่ครอบคลุมมากขึ้นในการสแกนหาวิดีโอเกี่ยวกับการล่วงละเมิดทางเพศเด็กเมื่อฤดูใบไม้ร่วงปีที่แล้ว และทีมวิศวกรที่ทุ่มเทเพื่อค้นหาภาพถ่ายและวิดีโอที่ผิดกฎหมายได้ก่อตั้งขึ้นเมื่อ 10 เดือนก่อนหน้า นอกจากนี้ ทีมงานไว้วางใจและความปลอดภัยของบริษัทยังขาดพนักงานอย่างต่อเนื่อง แม้ว่าบริษัทจะยังคงขยายงานต่อไปแม้ท่ามกลางการหยุดจ้างงานในวงกว้างซึ่งเริ่มเมื่อเดือนเมษายนปีที่แล้ว อดีตพนักงาน 4 คนกล่าว
ในช่วงหลายปีที่ผ่านมา บริษัทได้สร้างเครื่องมือภายในเพื่อค้นหาและลบภาพบางภาพ และศูนย์แห่งชาติมักจะยกย่องบริษัทสำหรับรายงานที่ละเอียดถี่ถ้วน
ในช่วงไม่กี่เดือนที่ผ่านมา แพลตฟอร์มดังกล่าวยังประสบปัญหาเกี่ยวกับระบบการรายงานการละเมิด ซึ่งช่วยให้ผู้ใช้สามารถแจ้งบริษัทได้เมื่อพบเนื้อหาการแสวงประโยชน์จากเด็ก (Twitter มีคำแนะนำในการรายงานเนื้อหาที่ไม่เหมาะสมบนแพลตฟอร์มของตน)
The Times ใช้บัญชีการวิจัยเพื่อรายงานโปรไฟล์หลายรายการที่อ้างว่าขายหรือแลกเปลี่ยนเนื้อหาในเดือนธันวาคมและมกราคม บัญชีหลายบัญชียังคงใช้งานอยู่และยังปรากฏเป็นคำแนะนำให้ปฏิบัติตามในบัญชีของ Times บริษัทกล่าวว่าต้องใช้เวลามากกว่านี้ในการคลี่คลายว่าเหตุใดคำแนะนำดังกล่าวจึงปรากฏขึ้น
ในการค้นหาเนื้อหา Twitter อาศัยซอฟต์แวร์ที่สร้างขึ้นโดยองค์กรต่อต้านการค้ามนุษย์ชื่อ Thorn Twitter ไม่ได้จ่ายเงินให้องค์กรตั้งแต่ Musk เข้าครอบครอง ตามที่คนที่คุ้นเคยกับความสัมพันธ์นี้น่าจะเป็นส่วนหนึ่งของความพยายามครั้งใหญ่ของเขาในการลดค่าใช้จ่าย Twitter ได้หยุดทำงานร่วมกับ Thorn เพื่อปรับปรุงเทคโนโลยี การทำงานร่วมกันมีประโยชน์ทั่วทั้งอุตสาหกรรมเนื่องจากบริษัทอื่นใช้ซอฟต์แวร์นี้
เออร์วินปฏิเสธที่จะแสดงความคิดเห็นเกี่ยวกับธุรกิจของ Twitter กับผู้ขายรายใดรายหนึ่ง
ความสัมพันธ์ของ Twitter กับ National Center for Missing and Exploited Children ก็ได้รับผลกระทบเช่นกัน จากข้อมูลของผู้ที่ทำงานที่นั่น
John Shehan ผู้บริหารของศูนย์กล่าวว่าเขากังวลเกี่ยวกับ “ผลประกอบการในระดับสูง” ที่ Twitter และที่ที่บริษัท “ยืนหยัดในความไว้วางใจและความปลอดภัย รวมถึงความมุ่งมั่นในการระบุและลบเนื้อหาการล่วงละเมิดทางเพศเด็กออกจากแพลตฟอร์มของพวกเขา”
หลังจากเปลี่ยนมาเป็นเจ้าของ Musk แล้ว Twitter ก็เริ่มตอบสนองต่อการแจ้งเตือนของเนื้อหาการล่วงละเมิดทางเพศของศูนย์ช้ากว่า ตามข้อมูลจากศูนย์ ความล่าช้ามีความสำคัญอย่างมากต่อผู้รอดชีวิตจากการถูกล่วงละเมิด ซึ่งถูกลงโทษด้วยการโพสต์ใหม่ทุกครั้ง Twitter เช่นเดียวกับเว็บไซต์โซเชียลมีเดียอื่น ๆ มีความสัมพันธ์แบบสองทางกับศูนย์ เว็บไซต์จะแจ้งศูนย์ (ซึ่งจากนั้นจะสามารถแจ้งหน่วยงานบังคับใช้กฎหมาย) เมื่อได้รับแจ้งถึงเนื้อหาที่ผิดกฎหมาย และเมื่อศูนย์ทราบเนื้อหาที่ผิดกฎหมายบน Twitter ก็จะแจ้งเตือนไซต์เพื่อให้ลบภาพและบัญชีได้
ในช่วงปลายปีที่แล้ว เวลาตอบสนองของบริษัทนั้นมากกว่าสองเท่าในช่วงเวลาเดียวกันของปีก่อนภายใต้การเป็นเจ้าของเดิม แม้ว่าศูนย์จะส่งการแจ้งเตือนน้อยลงก็ตาม ในเดือนธันวาคม 2021 Twitter ใช้เวลาเฉลี่ย 1.6 วันในการตอบกลับประกาศ 98 รายการ; เมื่อเดือนธันวาคมปีที่แล้ว หลังจากที่ Musk เข้าครอบครองบริษัท เขาใช้เวลา 3.5 วันในการตอบกลับ 55 รายการ และเมื่อถึงเดือนมกราคม บริษัทก็พัฒนาดีขึ้นอย่างมาก โดยใช้เวลา 1.3 วันในการตอบกลับ 82 รายการ
ศูนย์ของแคนาดาซึ่งทำหน้าที่เดียวกันในประเทศนั้นกล่าวว่าพบความล่าช้านานถึงหนึ่งสัปดาห์ ในกรณีหนึ่ง ศูนย์ของแคนาดาตรวจพบวิดีโอเมื่อวันที่ 6 มกราคม ที่แสดงภาพการล่วงละเมิดเด็กหญิงเปลือยกายอายุ 8 ถึง 10 ขวบ องค์กรดังกล่าวได้ส่งประกาศเตือนรายวันเป็นเวลาประมาณหนึ่งสัปดาห์ก่อนที่ Twitter จะลบวิดีโอออก
นอกจากนี้ Twitter และศูนย์แห่งชาติของสหรัฐอเมริกาดูเหมือนจะไม่เห็นด้วยเกี่ยวกับภาระหน้าที่ของ Twitter ในการรายงานบัญชีที่อ้างว่าขายเนื้อหาที่ผิดกฎหมายโดยไม่ต้องโพสต์โดยตรง
บริษัทไม่ได้รายงานไปยังศูนย์แห่งชาติเกี่ยวกับบัญชีหลายแสนบัญชีที่ถูกระงับเนื่องจากกฎกำหนดให้พวกเขา “มีความมั่นใจสูงว่าบุคคลนั้นส่งภาพที่ผิดกฎหมายโดยเจตนา” และบัญชีเหล่านั้นไม่เป็นไปตามเกณฑ์ดังกล่าว เออร์วินกล่าว
Shehan จาก National Center โต้แย้งการตีความกฎดังกล่าว โดยระบุว่าบริษัทเทคโนโลยีจำเป็นต้องรายงานผู้ใช้ตามกฎหมายด้วย แม้ว่าพวกเขาจะอ้างว่าขายหรือเรียกร้องเนื้อหาเท่านั้น จนถึงตอนนี้ ข้อมูลของศูนย์แห่งชาติระบุว่า Twitter จัดทำรายงานประมาณ 8,000 ฉบับต่อเดือน ซึ่งเป็นส่วนเล็กน้อยของบัญชีที่ถูกระงับ
Inman Grant หน่วยงานกำกับดูแลของออสเตรเลียกล่าวว่าเธอไม่สามารถสื่อสารกับตัวแทนท้องถิ่นของบริษัทได้ เนื่องจากผู้ติดต่อของเอเจนซี่ของเธอในออสเตรเลียเลิกทำงานหรือถูกไล่ออกตั้งแต่ Musk เข้ามารับตำแหน่ง เธอเกรงว่าการลดพนักงานอาจนำไปสู่การค้ามนุษย์ในภาพที่แสวงประโยชน์มากขึ้น
“ผู้ติดต่อในพื้นที่เหล่านี้มีบทบาทสำคัญในการจัดการเรื่องที่มีความสำคัญต่อเวลา” Inman Grant ซึ่งเคยเป็นผู้บริหารด้านความปลอดภัยของ Twitter และ Microsoft กล่าว
เออร์วินกล่าวว่าบริษัทยังคงติดต่อกับหน่วยงานของออสเตรเลีย และโดยทั่วไปเธอแสดงความมั่นใจว่า Twitter กำลัง “ดีขึ้นมาก” ในขณะที่ยอมรับความท้าทายที่รออยู่ข้างหน้า
“ไม่มีทางที่เราจะตบหลังตัวเองแล้วพูดว่า ‘ไอ้นี่ เราโดนจับได้แน่’” เออร์วินกล่าว
ผู้กระทำความผิดยังคงแลกเปลี่ยนคำแนะนำในฟอรัมเว็บมืดเกี่ยวกับวิธีค้นหาเนื้อหาบน Twitter ตามโพสต์ที่ศูนย์แคนาดาพบ
เมื่อวันที่ 12 มกราคม ผู้ใช้รายหนึ่งอธิบายว่าติดตามบัญชี Twitter ที่ “ถูกกฎหมาย” หลายร้อยบัญชีที่ขายวิดีโอของเด็กหนุ่มที่ถูกหลอกให้ส่งบันทึกที่โจ่งแจ้งเกี่ยวกับตนเอง ผู้ใช้รายอื่นระบุว่า Twitter เป็นสถานที่ที่ง่ายสำหรับการดูวิดีโอการล่วงละเมิดทางเพศทุกประเภท “ผู้คนแชร์กันมากมาย” ผู้ใช้เขียน