การมองเห็นและตีความภาพของมนุษย์กับปัญญาประดิษฐ์นั้นแตกต่างกัน ภาพ 2 ภาพที่ดูคล้ายกันมากในสายตามนุษย์อาจะถูกตีความเป็นสิ่งที่แตกต่างกันสิ้นเชิงโดยปัญญาประดิษฐ์ นักวิจัยสามารถหลอกการตีความป้ายจราจรของปัญญาประดิษฐ์ได้โดยการดัดแปลงป้ายเล็กน้อย
การใช้ machine learning เพื่อเรียนรู้รูปภาพต่าง ๆ จะใช้ภาพตัวอย่างจำนวนมากเพื่อให้ AI หารูปแบบที่คล้ายกันในภาพเหล่านั้น ซึ่งอาจจะไม่ใช่ในรูปแบบที่มนุษย์เข้าใจ เช่น ป้ายหยุด มนุษย์จะแยกแยะได้จากการที่ป้ายเป็นรูปแปดเหลี่ยม พื้นหลังสีแดง ตัวหนังสือสีขาว เขียนว่า STOP แต่ AI จะดูคุณลักษณะของภาพ เช่น การตัดกันของสี การเรียงตัวกันของสีที่ใกล้เคียงกัน เป็นต้น ซึ่งภาพตัวอย่างที่ต่างกัน กระบวนการเรียนรู้ที่ต่างกัน ก็ได้กฎเกณฑ์การตัดสินใจว่ารูปนั้นเป็นรูปอะไรแตกต่างกัน
การเปลี่ยนแปลงในภาพเพียงเล็กน้อย เช่น การเติมจุดสี แถบสี คู่สีที่ตัดกันลงไปในภาพ ก็สามารถหลอกกระบวนการการตีความภาพของ AI ได้ เช่น การผสมจุดสีลงไปในภาพหมีแพนด้า ก็ทำให้ AI เข้าใจว่าเป็นภาพลิงได้
การผสมแสงเงาลงไปในป้าย สามารถทำให้ป้ายหยุดถูกตีความเป็นป้ายจำกัดความเร็ว และป้ายเลี้ยวขวาถูกตีความเป็นป้ายหยุดได้
การติดแถบสีลงไปในป้ายทำให้ป้ายหยุดถูกตีความเป็นป้ายจำกัดความเร็ว หรือป้ายให้ทางได้
แต่ทั้งนี้ไม่ใช่ว่าใคร ๆ ก็สามารถไปป่วนป้ายจราจรได้ เพราะ การดัดแปลงบางแบบต้องดัดแปลทั้งภาพ การดัดแปลงบางอย่างอาจมีผลแค่บางมุมมองหรือบางระยะ และการดัดแปลงเหล่านี้ก็อาจไม่ได้มีผลต่อ AI ทุกตัว ขึ้นอยู่กับว่า AI ไหนได้รับการเรียนรู้มาอย่างไร นี่เป็นสาเหตุให้หุ่นยนต์หรือรถไร้คนขับต้องใช้เซนเซอร์หลายอย่างร่วมกันในการตรวจจับวัตถุต่าง ๆ เช่น RADAR, LIDAR, GPS เป็นต้น
นิทานเรื่องนี้สอนให้รู้ว่า เซนเซอร์และการประมวลผลของหุ่นยนต์และ AI ต่างจากมนุษย์ งานอย่างเดียวกันคนและ AI อาจมีวิธีคิดต่างกัน จึงอาจเกิดความผิดพลาดในรูปแบบที่แตกต่างกัน ในการพัฒนาหุ่นยนต์หรือ AI จึงควรใช้ข้อมูลจากหลายรูปแบบเพื่อป้องกันความผิดพลาดที่อาจเกิดขึ้น
ใครสนใจสามารถอ่านงานวิจัยฉบับเต็มได้ที่นี่ Robust Physical-World Attacks on Machine Learning Models
ภาพและที่มา IEEE Spectrum
