“Deepfake” ความกังวลเกี่ยวกับการฉ้อโกงด้วย AI

“Deepfake” ความกังวลเกี่ยวกับการฉ้อโกงด้วย AI

เมื่อเดือนพฤษภาคมที่ผ่านมา ได้มีการเปิดเผยเรื่องราวเกี่ยวกับคดีการฉ้อโกงรายหนึ่งที่เกิดขึ้นทางตอนเหนือของประเทศจีน ชายคนหนึ่งได้สนทนาผ่านทางวีดีโอกับเพื่อนของเขา ก่อนที่เพื่อนคนดังกล่าวจะโน้มน้าวให้เขาโอนเงินไปให้ เพราะจำเป็นต้องใช้เงิน ด้วยความที่กังวลว่าเพื่อนจะลำบาก เขาจึงโอนเงินไปให้ตามคำขอ

ฟังดูแล้วเหมือนจะเป็นการช่วยเหลือด้วยมิตรภาพที่ดี แต่ไม่เลย! เพราะเขาได้ตกเป็นเหยื่อของมิจฉาชีพที่ใช้เทคโนโลยี AI (Artificial Intelligence) สร้างวิดีโอ Deepfake ปลอมเป็นเพื่อนของเขาและหลอกตุ๋นเงินจากเขาไปได้ 4.3 ล้านหยวน

ภายหลังเกิดเหตุการณ์ขึ้น เจ้าหน้าที่ตำรวจในเมืองเป่าโถว ในเขตปกครองตนเองมองโกเลียใน ระบุว่า ผู้กระทำความผิดใช้เทคโนโลยีการสลับใบหน้าที่ขับเคลื่อนด้วย AI เพื่อปลอมตัวเป็นเพื่อนของเหยื่อระหว่างการสนทนาทางวิดีโอ และรับเงินไป 4.3 ล้านหยวน หรือประมาณ 21 ล้านบาท โดยสาเหตุที่เขาโอนเงินไปให้นั้น ด้วยความเชื่อว่าเพื่อนของเขาจำเป็นต้องทำการฝากเงินในระหว่างขั้นตอนการประมูลโครงการในเมืองอื่น

“เขาคุยกับผมผ่านวิดีโอคอล และผมก็ยืนยันใบหน้าและเสียงของเขาในวิดีโอด้วย นั่นเป็นเหตุผลที่เราลดการป้องกันลง” เหยื่อกล่าวกับสื่อท้องถิ่นของรัฐ

โดยชายคนนี้เพิ่งรู้ตัวว่าเขาถูกหลอกหลังจากที่เขาโทรไปหาเพื่อนเพื่อยืนยันการรับโอนเงิน เมื่อเพื่อนตัวจริงของเขา ได้ออกมากล่าวแสดงความไม่รู้ไม่เห็นเกี่ยวกับสถานการณ์ที่เกิดขึ้น และไม่ได้เป็นคนขอให้เขาโอนเงินให้ในวันและเวลาที่เกิดเหตุ ดังนั้นเขาจึงเข้าแจ้งความกับตำรวจ

ตำรวจในเมืองเป่าโถว มณฑลมองโกเลียใน ซึ่งเป็นที่ตั้งของบัญชีธนาคารของผู้กระทำความผิด กล่าวว่า พวกเขาสามารถหยุดการโอนเงินจำนวน 3.37 ล้านหยวนได้แล้ว การดำเนินการเพื่อกู้คืนส่วนที่เหลืออีก 931,600 หยวน ยังดำเนินอยู่ ตำรวจกล่าวเสริม

การหลอกลวงแบบ Deepfake ทำให้เกิดการถกเถียงอย่างเผ็ดร้อนเกี่ยวกับภัยคุกคามต่อความเป็นส่วนตัวและความปลอดภัยทางออนไลน์บนเว็บไซต์ Weibo ไมโครบล็อกของจีน พร้อมติดแฮชแท็ก “#AI การหลอกลวงกำลังระบาดทั่วประเทศ” ซึ่งดึงดูดผู้ชมมากกว่า 120 ล้านครั้งในช่วงเวลาดังกล่าว

“สิ่งนี้แสดงให้เห็นว่ารูปภาพ เสียง และวิดีโอทั้งหมดสามารถใช้โดยนักต้มตุ๋นได้” ผู้ใช้รายหนึ่งเขียนพร้อมกับตั้งคำถามต่อไปว่า “กฎความปลอดภัยของข้อมูลจะตามทันเทคนิคของคนเหล่านี้ได้หรือไม่?”

กรณีนี้เกิดขึ้นในช่วงเวลาที่จีนเข้มงวดในการตรวจสอบเทคโนโลยีและแอพที่สามารถจัดการกับข้อมูลเสียงและใบหน้าได้ กฎใหม่ที่มีผลบังคับใช้ตั้งแต่เดือนมกราคม ห้ามการใช้เนื้อหาที่สร้างโดย AI เพื่อเผยแพร่ “ข่าวปลอม”

ซึ่งข้อบังคับจาก Cyberspace Administration of China (CAC) ยังกำหนดให้ผู้ให้บริการเทคโนโลยีดังกล่าวติดป้ายภาพถ่าย วิดีโอ และข้อความอย่างชัดเจนว่าสร้างขึ้นหรือดัดแปลงโดยสังเคราะห์ หากอาจถูกตีความผิดว่าเป็นของจริง ขณะเดียวกัน ตำรวจในเมืองเปาโถวเรียกร้องให้ประชาชนระมัดระวังในขณะที่แชร์ข้อมูล เช่น ภาพใบหน้าและลายนิ้วมือ นอกจากนี้ยังขอให้ผู้คนยืนยันตัวตนของผู้โทรดังกล่าวผ่านโหมดอื่น เช่น การโทร ก่อนที่จะทำการโอนเงินใดๆ

แม้จะไม่ใช่เรื่องใหม่แต่สิ่งที่น่ากลัวก็คือเทคโนโลยี “Deepfake” นับวันยิ่งแนบเนียนมากขึ้น อีกทั้งยังเป็นการจุดประกายความกังวลเกี่ยวกับศักยภาพของเทคโนโลยี AI เพื่อช่วยเหลืออาชญากรรมทางการเงินในการฉ้อโกงเหยื่อ

กับคำถามที่ว่า “กฎความปลอดภัยของข้อมูลจะตามทันเทคนิคของคนเหล่านี้ได้หรือไม่?” สำหรับเทคโนโลยี AI เป็นอะไรที่น่าคิดตามอย่างยิ่ง ด้วยว่าจะถูกควบคุมอย่างไร? มีหลักเกณฑ์แบบไหน? ประเด็นนี้กำลังถกเถียงกันโดยผู้กำหนดนโยบายทั่วโลก เพราะ “กฎระเบียบของ AI เป็นสิ่งจำเป็น” สำหรับโลกใบนี้

ที่มา: สำนักข่าวรอยเตอร์  
www.asiafinancial.com 

หมายเหตุ :  Deepfake ประกอบขึ้นจากศัพท์ deep learning “การเรียนรู้เชิงลึก” และ fake “ปลอม” สรุปก็คือการสร้าง “สื่อสังเคราะห์” ที่ซึ่งบุคคลในรูปภาพหรือวิดีโอใดๆ ถูกแทนที่ด้วยลักษณะหรืออากัปกิริยาของบุคคลอื่น แม้ว่าการปลอมแปลงเนื้อหาจะไม่ใช่เรื่องใหม่ แต่ Deepfake ก็ใช้เทคนิคอันทรงพลังจาก Machine Learning - ML และปัญญาประดิษฐ์ AI ในการบิดเบือนหรือสร้างเนื้อหาภาพและเสียงที่มีศักยภาพสูงในการหลอกลวง