ให้เรตสมาชิก: 5 / 5

ดาวใช้งานดาวใช้งานดาวใช้งานดาวใช้งานดาวใช้งาน
 

งานวิจัยสร้างภาพหลอก AI

      เป็นงานวิจัยล่าสุดจากทีมวิจัย LabSix จาก MIT

 

Artificial Intelligence
Artificial Intelligence

 

     ในปัจจุบันเรามักจะได้ทราบข่าวของการพัฒนา AI มากมาย และในช่วงปี 2560 นี้ เรามักจะได้ยินข่าวเกี่ยวกับการพัฒนา AI ให้สามารถพิจารณาภาพต่างๆ ให้เก่งมนุษย์อย่างเราๆ แต่ AI ก็มีข้อจำกัดของมันเหมือนกัน ข้อจำกัดนั้น คือ มันมักจะหารูปแบบเฉพาะบางอย่างในภาพให้ถูกหลอกได้ งานวิจัยล่าสุดของทีมวิจัย LabSix จาก MIT สามารถสร้างภาพหลอก AI จัดหมวดหมู่ภาพเป็นหมวดหมู่อะไรก็ได้ตามกำหนด

     งานวิจัยสร้างภาพหลอก AI ให้จัดหมวดหมู่ (image labelling) มีมานาน แต่งานวิจัยก่อนหน้านั้นเป็นไปได้ยาก เนื่องจาก ต้องรู้ค่าพารามิเตอร์และสถาปัตยกรรมของ AI 

     งานวิจัยสาธิตการปลอมภาพจากชุดข้อมูล CIFAR-10 โดยการเลือกภาพสุ่มจาก 1,000 ภาพ และสุ่มหมวดหมู่เป้าหมายที่ต้องการให้ AI จัดหมวดหมู่ตามที่ต้องการ โดยจำกัดการทดสอบไว้ที่ 1,000,000 ครั้ง ชุดข้อมูล CIFAR-10 มีอัตราความสำเร็จอยู่ที่ 99.6% และค่าเฉลี่ยจำนวนทดสอบอยู่ที่ 4,910 ครั้ง 

 

ภาพตัวอย่างที่สามารถหลอก Google Cloud Vision API ให้จัดภาพเป็นสุนัขได้สำเร็จ
ภาพตัวอย่างที่สามารถหลอก Google Cloud Vision API ให้จัดภาพเป็นสุนัขได้สำเร็จ

 

     อันตรายจากการโจมตีเช่นนี้จากผู้ไม่ประสงค์ดี มีได้หลายอย่าง ตั้งแต่การหลบหลีกการเซ็นเซอร์อนาจารด้วย AI ไปจนถึงการหลอกรถไร้คนขับที่อาจจะก่อให้เกิดอุบัติเหตุร้ายแรงได้

 

ข้อมูลอ้างอิง : https://www.blognone.com/node/98600

ภาพประกอบ : http://www.labsix.org/partial-information-adversarial-examples/

กระทู้ล่าสุดจากเว็บบอร์ด
หัวข้อกระทู้
ตอบ
เปิดดู
ล่าสุด
รายละเอียดงานออกแบบ bootstrap
โดย bolue ส 06 มิ.ย. 2020 10:21 am บอร์ด M104 - สุภาภรณ์ อินกรรไกร
0
7
ส 06 มิ.ย. 2020 10:21 am โดย bolue
งานประจำวันที่ 6 มิถุนายน 2563
โดย natthanit.r2538 ส 06 มิ.ย. 2020 9:58 am บอร์ด M103 - ณัฐนิตย์ ร่มบ้านโหล๊ะ
2
7
ส 06 มิ.ย. 2020 10:16 am โดย natthanit.r2538
งานประจำวันที่ 6 มิถุนายน 2563
โดย bolue ส 06 มิ.ย. 2020 9:57 am บอร์ด M104 - สุภาภรณ์ อินกรรไกร
4
12
ส 06 มิ.ย. 2020 10:54 am โดย bolue
Celeb net worth?
โดย Bailey99 ศ 05 มิ.ย. 2020 7:03 pm บอร์ด PHP Knowledge
1
14
ศ 05 มิ.ย. 2020 7:28 pm โดย rajneeskumar
วิธีการ ใช้งาน vuetify คู่กับ vue.js
โดย bolue ศ 05 มิ.ย. 2020 6:02 pm บอร์ด CSS Knowledge
0
8
ศ 05 มิ.ย. 2020 6:02 pm โดย bolue
วิธีการ ติดตั้ง vue.js สำหรับผู้เริ่มต้น หัดเขียน สอนติดตั้ง
โดย bolue ศ 05 มิ.ย. 2020 4:55 pm บอร์ด Jquery & Ajax Knowledge
0
31
ศ 05 มิ.ย. 2020 4:55 pm โดย bolue
วิธีการ ใช้ Grid ออกแบบเป็น responsive design โดย vuetify
โดย bolue ศ 05 มิ.ย. 2020 3:36 pm บอร์ด CSS Knowledge
0
15
ศ 05 มิ.ย. 2020 3:36 pm โดย bolue
วิธีการ เรียนใช้ dialog จาก components โดย vue.js
โดย bolue ศ 05 มิ.ย. 2020 1:45 pm บอร์ด Jquery & Ajax Knowledge
0
19
ศ 05 มิ.ย. 2020 1:45 pm โดย bolue
วิธีการ การเรียกใช้ methods โดย vue.js
โดย bolue ศ 05 มิ.ย. 2020 1:17 pm บอร์ด Jquery & Ajax Knowledge
0
11
ศ 05 มิ.ย. 2020 1:17 pm โดย bolue
วิธีการ ค้นหาด้วยการใช้ watch โดย vue.js
โดย bolue ศ 05 มิ.ย. 2020 12:45 pm บอร์ด Jquery & Ajax Knowledge
0
8
ศ 05 มิ.ย. 2020 12:45 pm โดย bolue
วิธีการ แสดงผลข้อมูล จากน้อยไปมาก มากไปน้อย โดย Python
โดย bolue ศ 05 มิ.ย. 2020 11:56 am บอร์ด Python Knowledge
0
9
ศ 05 มิ.ย. 2020 11:56 am โดย bolue
วิธีการ ค้นหาแบบช่วงวันที่ โดย Python
โดย bolue ศ 05 มิ.ย. 2020 11:25 am บอร์ด Python Knowledge
0
13
ศ 05 มิ.ย. 2020 11:25 am โดย bolue
เรียนรู้โปรแกรมบริหารตลาดนัด สรุป และการนำไปใช้
โดย natthanit.r2538 ศ 05 มิ.ย. 2020 11:07 am บอร์ด M103 - ณัฐนิตย์ ร่มบ้านโหล๊ะ
8
20
ส 06 มิ.ย. 2020 10:01 am โดย mindphp
งานประจำวันที่ 5 มิถุนายน 2563
โดย bolue ศ 05 มิ.ย. 2020 10:05 am บอร์ด M104 - สุภาภรณ์ อินกรรไกร
7
54
ศ 05 มิ.ย. 2020 7:47 pm โดย thatsawan
งานประจำวันที่ 5 มิถุนายน 2563
โดย natthanit.r2538 ศ 05 มิ.ย. 2020 10:01 am บอร์ด M103 - ณัฐนิตย์ ร่มบ้านโหล๊ะ
3
16
ศ 05 มิ.ย. 2020 8:07 pm โดย natthanit.r2538
กองทุนประกันสังคม มีผู้ประกันตนกี่ประเภท ??
โดย natthanit.r2538 พฤ 04 มิ.ย. 2020 5:53 pm บอร์ด Accounting software & ERP โปรแกรมบัญชี ระบบอีอาร์พี
0
11
พฤ 04 มิ.ย. 2020 5:53 pm โดย natthanit.r2538
สรุปความเข้าใจ เกี่ยวกับการตั้งกระทู้
โดย bolue พฤ 04 มิ.ย. 2020 5:16 pm บอร์ด M104 - สุภาภรณ์ อินกรรไกร
0
10
พฤ 04 มิ.ย. 2020 5:16 pm โดย bolue
วิธีการ ลงเวลา โดย Python
โดย bolue พฤ 04 มิ.ย. 2020 4:09 pm บอร์ด Python Knowledge
0
37
พฤ 04 มิ.ย. 2020 4:09 pm โดย bolue
การยื่นแบบ ภ.ง.ด. 53 ออนไลน์ สอนวิธีการยื่นแบบออนไล์ ทำได้ด้วยตัวเอง
โดย natthanit.r2538 พฤ 04 มิ.ย. 2020 3:51 pm บอร์ด Accounting software & ERP โปรแกรมบัญชี ระบบอีอาร์พี
1
26
พฤ 04 มิ.ย. 2020 4:16 pm โดย natthanit.r2538
วิธีการ โชว์ข้อมูลด้วยการ Format วันที่ โดย Python
โดย bolue พฤ 04 มิ.ย. 2020 3:38 pm บอร์ด Python Knowledge
0
34
พฤ 04 มิ.ย. 2020 3:38 pm โดย bolue