อีเมล Phishing ยุคใหม่มีการซ่อนกล หลอกให้ AI Assistant ทำตามที่กำหนดไว้ได้
Thaiware
Thaiware
การส่งอีเมลเพื่อหลอกลวงเหยื่อแบบ Phishing นั้นเป็นวิธีการสุดคลาสสิคที่ได้ผลอยู่เสมอ แต่การที่จะใช้งานได้ผลนั้นเหยื่อจะต้องเปิดอีเมล และทำตามที่แฮกเกอร์สั่งก่อน ทว่าการเข้ามาของผู้ช่วยปัญญาประดิษฐ์ หรือ AI Assistant ที่มีความสามารถในการจัดการอีเมลหลากรูปแบบนั้น กลับช่วยให้การล่อให้เหยื่อดาวน์โหลดมัลแวร์จากอีเมลง่ายขึ้นไปด้วย ดังเช่นในข่าวนี้
จากรายงานโดยเว็บไซต์อย่างเป็นทางการของบริษัทผู้พัฒนาเครื่องมือต่อต้านมัลแวร์ชื่อดัง Malwarebytes ได้กล่าวถึงกลยุทธ์การทำการหลอกลวงแบบ Email Phishing รูปแบบด้วยวิธีการซ่อนคำสั่ง (Prompt) ไว้ในอีเมล เพื่อโจมตีเหยื่อด้วยการยิงคำสั่ง (Prompt Injection) ทางทีมวิจัยจาก Barracuda กล่าวไว้ว่า การซ่อนคำสั่งไว้ภายในอีเมลนั้น สามารถส่งผลต่อการทำงานของ AI Assistant ในยามที่เหยื่อสั่งให้ทำการจัดการสรุปกล่องข้อความ (Inbox Summarization) ได้หลากรูปแบบ เช่น
- การใช้คำสั่งหลอกให้ตัว AI Assistant ทำการเปลี่ยนค่าของตัวอีเมล Phishing เป็นอีเมลที่ไม่มีอันตราย (Legitimate) หรือ อีเมลด่วน (Urgent) เพื่อให้เหยื่อไม่สงสัยในตัวอีเมลแล้วเปิดขึ้นมาเพื่อเข้าขั้นตอนการหลอกลวงโดยแฮกเกอร์
- การสั่งให้ AI ทำการเปลี่ยนข้อมูลรายละเอียดการจ่ายเงินให้คู่ค้า (Vendor Payment Detail) เพื่อหลอกให้เหยื่อโอนเงินผิด ไปโอนเข้าบัญชีของแฮกเกอร์แทน
- ใช้คำสั่งเพื่อให้ตัว AI แนะนำให้เหยื่อเข้าอ่านและจัดการอีเมล Phishing ดังกล่าว
ซึ่งการแทรกคำสั่งนั้นก็ไม่ใช่การแทรกลงบนอีเมลแบบโต้ง ๆ แต่เป็นการสอดแทรกแบบไม่ให้เหยื่อได้รับรู้ เช่น การแทรกไว้ภายในโค้ด HTML, การใช้รูปแบบของตัวอักษร (Styling) เพื่อให้ตัวคำสั่งนั้นล่องหนได้, การทำเป็นรูปแบบคอนเทนต์เข้ารหัส (Encoded Content), และตั้งค่าความกว้างของตัวอักษรให้เป็น 0 (Zero-Width) เป็นต้น
แต่ถึงแม้การตรวจสอบได้ยาก และคำสั่งเหล่านี้มักจะส่งผลให้ตัว AI Assistant สามารถทำงานได้ตามที่สั่งก็ตาม แต่ก็ไม่ได้หมายความว่าผู้อ่านจะต้องทำการเลิกใช้งานเครื่องมือเหล่านี้อย่างสิ้นเชิงแต่อย่างใด เพียงแต่ผู้อ่านต้องเพิ่มความระมัดระวังให้มากขึ้น เช่น อย่าเชื่อคำแนะนำของ AI เพียงอย่างเดียวแต่ให้ตรวจสอบข้อความต้นฉบับก่อน, ตรวจสอบเรื่องข้อมูลการจ่ายเงินกับคู่ค้าในช่องทางอื่นเพื่อความถูกต้อง, และให้สิทธิ์การจัดการของตัว AI Assistant ให้จำกัดที่สุด เป็นต้น