Deepfake ภัยร้ายในยุค GenAI ที่คนทั่วโลกต้องรู้ทันเพื่อรับมือ

เสียงที่ได้ยินทางโทรศัพท์ ภาพที่ได้เห็นผ่านสื่อดิจิทัล ในยุค GenAI อาจจะไม่ใช่เรื่องจริงเสมอไป เมื่อวันนี้มีมิจฉาชีพส่วนหนึ่งนำภาพและเสียงมาให้ AI เรียนรู้เพื่อปลอมแปลงตัวตน หรือเรียกว่าทำ Deepfake กันมากขึ้น

หลายคนอาจจะยังสงสัยว่าแล้ว Deepfake มันคืออะไร

Deepfake คือ Generative AI รูปแบบหนึ่ง ที่สามารถนำภาพนิ่ง ภาพเคลื่อนไหว เสียง หรือ ทั้งภาพและเสียงพร้อมกัน มาให้ AI เรียนรู้และประมวลผลออกมาเสมือนว่า คนๆ นั้นเป็นคนพูดหรือแสดงท่าทีจริงๆ ในสถานการณ์อื่นๆ ที่เจ้าตัวไม่ได้ทำจริง

ซึ่งในบทความนี้เราจะคุยกันถึงเรื่องการนำเสียงเป็นเทรนเป็นหลัก เพราะมันปลอมแปลงง่ายกว่าการนำหน้าตาไปด้วย และนำไปใช้หลอกลวงได้ง่ายกว่า

หลักการที่เข้าใจง่ายๆ คือ มิจฉาชีพเอาเสียงเราไปไม่ว่าจะจากช่องทางใดช่องทางหนึ่ง เช่น การแอบอัดเสียง การคุยโทรศัพท์ หรือโหลดไฟล์เสียงจากในคลิปโซเชียลมีเดียของเราไป จากนั้นก็นำเสียงเราไปให้ AI เรียนรู้ และทำการสร้างประโยคที่มิจฉาชีพต้องการแปลงเป็นเสียงเราขึ้นมา จากนั้นก็ทำการ Match เสียงของเราเข้าไปแทนบทพูดนั้น สุดท้ายก็จะออกมาเป็นเสียงของเราได้

หนึ่งใน Viral เมื่อปลายปีที่ผ่านมาคือ คลิป “สี จิ้นผิง” ผู้นำจีน กล่าวปราศรัยเป็นภาษาอังกฤษ ทำหลายคนอดสงสัยไม่ได้ เพราะปกติ “สี จิ้นผิง” จะพูดแต่ภาษาจีน แต่ไหงครั้งนี้ออกมาพูดอังกฤษชัดเชียว ซึ่งการทำคลิปนี้ก็เพียงเพื่อวัตถุประสงค์ให้ชาวต่างชาติที่ไม่รู้ภาษาจีนฟังและเข้าใจได้ง่าย ไม่ต้องพึ่งคนแปล

เช่นเดียวกัน Huawei เองก็ได้โชว์เทคโนโลยีนี้ โดยทำคลิปผู้บริหารชาวจีนพูดภาษาไทยชัดเจนออกมาให้แขกที่ไปร่วมงานได้ฟัง ซึ่งหลายคนที่ได้ฟังก็ทึ่งกับเทคโนโลยีนี้เช่นกัน ดูคลิป https://www.facebook.com/sabzapp/videos/869140568030158

แน่นอนว่า การใช้ AI เข้ามาเทรนเสียงและทำคลิปออกมาลักษณะนี้เป็นประโยชน์ เพราะทำให้ผู้ฟังเข้าใจการสื่อสารได้ง่าย ไม่ต้องพึ่งล่ามแปล ได้ฟังจากปากของเจ้าตัวจริงถึงแม้จะเป็นเทปก็ตาม

แน่นอนว่าทุกเทคโนโลยีที่มีประโยชน์ หากนำไปใช้ในทางที่ผิดก็ย่อมเกิดโทษเช่นกัน จากที่เกริ่นไว้ข้างต้นว่าปัจจุบันมีมิจฉาชีพจำนวนหนึ่ง พยายามจะนำเทคโนโลยีนี้ไปใช้ในทางที่ผิด เพื่อหลอกลวงเหยื่อในสถานการณ์ต่างๆ

นำ Deepfake ไปหลอกคน โอกาสสำเร็จมากจริง?

ปีที่ผ่านในประเทศไทยเองก็เคยมีข่าวว่าถูกนำเสียงไปหลอกยืมเงินบ้าง หลอกโอนเงินบ้าง สำหรับวิธีการ ก็มีตั้งแต่โทรมาแต่หลอกให้พูด แล้วนำเสียงไปเทรน AI จากนั้นก็โทรไปหลอกคนใกล้ตัวให้โอนเงิน หรือขอยืมเงิน

แต่เมื่อยังไม่มีคดีใดที่จับกุมคนร้ายได้จริง จึงยังทำให้ไม่รู้แน่ชัดว่าคนร้ายใช้กลโกงด้วยวิธีการใดอย่างแน่ชัด อีกส่วนหนึ่งที่น่าสงสัยคือ คนร้ายจะต้องรู้ทั้งเบอร์โทรของคนที่จะหลอก และคนที่จะปลอมเสียงเพื่อไปหลอก ซึ่งเป็นเรื่องที่ค่อนข้างซับซ้อนในระดับหนึ่ง

ไม่เพียงเท่านั้น ยังต้องมั่นใจว่าคนที่จะไปหลอกนั้นมีโอกาสโอนเงินให้ค่อนข้างแน่นอน

หากดูจากปัจจัยข้างต้น จะเห็นว่าการหลอกด้วยวิธีการนี้ มันต้องศึกษาข้อมูลพื้นฐานของคนที่ต้องการหลอกในระดับหนึ่งเลยนะ เพราะการเทรน AI แต่ละครั้งมันใช้เวลา และยังไม่รู้ว่าจะแม่นยำขนาดไปหลอกได้จริงหรือไม่ และเหยื่อจะหลงกลมั้ย

ซึ่ง YouTuber ชื่อดังอย่างนายอาร์มเองก็ยังมองว่ามันไม่ได้เป็นเรื่องที่ทำได้ง่ายในสมัยนี้ มันต้องใช้ Data ไปเทรนเยอะมากๆ ถึงจะมีความคล้าย ถ้าจะหลอกแบบสุ่ม หลอกให้คลิกลิงก์ยังทำง่ายกว่า มีโอกาสสำเร็จง่ายกว่ามานั่งปลอมเสียงไปหลอกอีก

แต่หากในอนาคตการเทรน AI ใช้เวลาสั้นลง ทำเรียลไทม์ได้ดีมากขึ้น ก็ต้องถือว่าเป็นอีกหนึ่งเทคโนโลยีที่น่ากลัวเลยทีเดียว

แล้วจะป้องกันอย่างไร

ไม่ว่า Deepfake จะน่ากลัว หรือ GenAI จะฉลาดเพียงใด หากเรามีสติ และรู้จัก “เอ๊ะ” กับอะไรที่มันผ่านเข้ามาทางการสื่อสารที่ไม่ได้เห็นหน้า (เพราะขนาดเห็นหน้ายังหลอกกันซึ่งๆ หน้าได้) ฉะนั้นไม่ว่าจะโทรมา ทักแชตมา ส่งอีเมลมา ถ้ามันแปลก เราจะต้อง “เอ๊ะ” และตรวจสอบให้ดีก่อน

อย่างในกรณีนี้เป็นการปลอมเสียง ก็จะต้องสงสัยว่าทำไมเบอร์แปลกๆ โทรมา แทนที่จะเป็นเบอร์ของคนรู้จักเราจริงๆ

หากถูกขอให้ Add LINE ใหม่แล้วโทรมา ก็อาจจะต้องลองโทรกลับไปเบอร์เพื่อน หรือที่ LINE เดิมของเพื่อน เพื่อยืนยันว่าทั้ง 2 ครั้งที่คุยกันเป็นคนเดียวกันจริงๆ

เพียงเท่านี้ก็จะป้องกันการถูกหลอกด้วยเสียงได้แล้ว

–รัฐมนตรี ประเสริฐ เผย AOC 1441 พบ หลอกลวงซื้อขายออนไลน์ จำนวนเหยื่อ สูงสุด

• Facebook
• X
• Line