Facebook ai ผนึกกำลังเพื่อต่อต้านการก่อการร้าย บน instagram และ whatsapp

จากการที่ผู้ก่อการร้ายใช้เครือข่ายสังคมออนไลน์เพื่อเผยแพร่ระเบียบวาระการประชุมซึ่งเป็นหนึ่งในเครือข่ายโซเชียลมีเดียที่ใหญ่ที่สุด Facebook เปิดเผยว่าการใช้หน่วย AI ในขั้นตอนการควบคุมเนื้อหาของผู้ก่อการร้ายจากแพลตฟอร์มของตนอย่างไร

ด้วยการขยายตัวของอินเทอร์เน็ตไปยังมุมต่าง ๆ ของโลกมันได้รับความสนใจอย่างรวดเร็วจากกลุ่มที่มีชื่อเสียงที่มีเจตนาร้าย

เครือข่ายทางสังคมได้เสนอช่องทางใหม่สำหรับกลุ่มผู้ก่อการร้ายที่ไม่เพียง แต่รับสมัครผู้สมัครที่คาดหวังด้วยหัวรุนแรงที่คล้ายกัน แต่ยังรวมถึงวางแผนและประสานงานการโจมตีในโลกแห่งความจริง

ในขณะที่ Twitter และ Google พยายามอย่างเต็มที่ที่จะทำให้อินเทอร์เน็ตเป็นสถานที่ที่ปลอดภัยยิ่งขึ้น Facebook ได้ใช้ปัญญาประดิษฐ์เพื่อควบคุมเนื้อหาที่เกี่ยวข้องกับการก่อการร้าย

อ่านเพิ่มเติม: 4 เหตุผลที่คุณควรทิ้งแอพ Facebook Android

“ ไม่มีที่บน Facebook สำหรับการก่อการร้าย เราลบผู้ก่อการร้ายและเสาที่สนับสนุนการก่อการร้ายเมื่อใดก็ตามที่เราตระหนักถึง เมื่อเราได้รับรายงานการโพสต์การก่อการร้ายที่อาจเกิดขึ้นเราจะตรวจสอบรายงานเหล่านั้นอย่างเร่งด่วนและด้วยการตรวจสอบข้อเท็จจริง” Facebook กล่าว

Facebook เพิ่งปรับใช้ระบบปัญญาประดิษฐ์เพื่อต่อสู้กับเนื้อหาของผู้ก่อการร้ายบน Facebook

AI ของ Facebook - Lumos - ทำให้การเรียนรู้ด้วยเครื่องใช้ด้วยเทคโนโลยีต่อไปนี้:

• การจับคู่รูปภาพ: การใช้เทคโนโลยีนี้ AI จะระบุรูปภาพหรือวิดีโอที่คล้ายกับที่ถูกแบนในอดีตและตั้งค่าสถานะไว้ก่อนที่จะเข้าถึงผู้ชมบน Facebook
• ความเข้าใจภาษา: การพัฒนาล่าสุดที่ บริษัท ยังอยู่ระหว่างการทดสอบ เทคโนโลยีนี้พยายามระบุข้อความที่อาจเป็นการสนับสนุนการก่อการร้ายโดยใช้การเรียนรู้ของเครื่อง
• การกำหนดเป้าหมายบัญชีผู้ก่อการร้ายที่มีรูปแบบคล้ายคลึงกัน: ปิดใช้งานบัญชีกลุ่มหรือหน้าเว็บที่เกี่ยวข้องหรือคล้ายกับบัญชีผู้ก่อการร้ายที่ถูกห้ามในอดีต
• การกระทำผิดซ้ำ: การตรวจจับบัญชีปลอมที่สร้างโดยผู้กระทำผิดซ้ำและลบเร็วกว่าที่สร้างขึ้นอีกครั้ง
• การตรวจสอบข้ามแพลตฟอร์ม: การตรวจสอบ AI นี้ไม่เพียง แต่จะบอกเป็นนัยในเดสก์ท็อป Facebook และแอพมือถือ แต่ยังรวมถึงแพลตฟอร์มโซเชียลมีเดียอื่น ๆ ที่เป็นของ Facebook เช่น Instagram, Whatsapp และ Messenger

“ แม้ว่าการวิจัยเชิงวิชาการพบว่าการทำให้รุนแรงของสมาชิกในกลุ่มเช่น ISIS และอัลกออิดะห์ส่วนใหญ่เกิดขึ้นแบบออฟไลน์เรารู้ว่าอินเทอร์เน็ตมีบทบาท - และเราไม่ต้องการให้ Facebook ใช้สำหรับกิจกรรมการก่อการร้ายใด ๆ ” บริษัท ที่เพิ่ม

เนื่องจากสิ่งที่สนับสนุนและไม่สนับสนุนการก่อการร้ายเป็นเรื่องส่วนตัวเพราะภาพของผู้ก่อการร้ายหรือข้อความที่พูดถึงการก่อการร้ายก็สามารถเป็นส่วนหนึ่งของรายงานข่าวและเพื่อที่จะกลั่นกรองเนื้อหาผ่านทาง Facebook ก็จะเพิ่มผู้วิจารณ์ของมนุษย์ลงไป เพื่อ 'เข้าใจกรณีที่เหมาะสมยิ่งขึ้น'

คู่หูที่เป็นมนุษย์ของ AI จะต้องรับผิดชอบในการตรวจสอบเนื้อหาที่ได้รับรายงานโดยสมาชิกของชุมชน Facebook เพื่อระบุความน่าเชื่อถือและขนาดของภัยคุกคามจากการก่อการร้ายที่ AI พบและช่วยเหลือ AI ในทางอื่นเช่นกัน

“ ผู้ก่อการร้ายกำลังพัฒนาวิธีการของพวกเขาอย่างต่อเนื่องและเรากำลังหาวิธีใหม่ ๆ ที่นักแสดงผู้ก่อการร้ายพยายามหลีกเลี่ยงระบบของเรา - และเราอัพเดทกลยุทธ์ของเราตามนั้น” บริษัท กล่าว

อ่านเพิ่มเติม: วิธีใช้บัญชี Facebook หลายบัญชีจากหน้าต่าง Chrome เดียว

การก่อการร้ายเป็นภัยคุกคามที่เพิ่มมากขึ้นในช่วงไม่กี่สิบปีที่ผ่านมาและเมื่ออินเทอร์เน็ตเอื้อมมือออกไปยังอีกมุมหนึ่งของโลกมันเป็นหนทางให้ผู้คนสามารถเชื่อมต่อกันได้อย่างไร้ขอบเขต แต่ก็เป็นหนทางสำหรับผู้กระทำผิด คนที่มีใจและรับสมัครใจที่น่าประทับใจเช่นกัน

Facebook พยายามอย่างต่อเนื่องที่จะทำให้ชุมชนเป็นสถานที่ที่ดีกว่าสำหรับผู้คนในการโต้ตอบ - ไม่ว่าจะเป็นการต่อสู้กับสื่อลามกแก้แค้นความพยายามในการควบคุมข่าวปลอมฝึกอบรม AI เพื่อติดตามกิจกรรมบนแพลตฟอร์มและร่วมมือกับสื่อสังคมออนไลน์อื่น ๆ จัดการกับภัยคุกคามของการก่อการร้ายทางออนไลน์ - ไม่จำเป็นต้องพูดทั้งหมดนี้เป็นสิ่งจำเป็นอย่างยิ่ง

Facebook ดูเหมือนจะเห็นด้วยกับความคิดเห็นที่ว่า 'โซเชียลมีเดียไม่ควรเป็นสถานที่ที่ผู้ก่อการร้ายมีเสียง' ภัยคุกคามนั้นเกิดขึ้นจริงและยิ่งเราตอบโต้เร็วเท่าไรอินเทอร์เน็ตก็จะปลอดภัยยิ่งขึ้นในอนาคต