กรุณาปิด โปรแกรมบล๊อกโฆษณา เพราะเราอยู่ได้ด้วยโฆษณาที่ท่านเห็น
Please close the adblock program. Because we can live with the ads you see


ข่าว ปัญหาโมเดล AI แอบฝังโค้ดมัลแวร์เริ่มแพร่ระบาด เจอบน Hugging Face ราว 100 ตัวแล้ว

  • ผู้เริ่มหัวข้อ ผู้เริ่มหัวข้อNews 
  • วันที่เริ่มต้น วันที่เริ่มต้น

News 

Moderator
สมาชิกทีมงาน
Moderator
Verify member
JFrog บริษัทผู้ให้บริการซอฟต์แวร์ด้าน CI/CD ออกรายงานความปลอดภัย เตือนปัญหาการแพร่กระจายโมเดล LLM ที่แอบฝังมัลแวร์หรือ backdoor เผยแพร่ผ่านเว็บไซต์กลางอย่าง Hugging Face

ปัญหาการเผยแพร่ซอฟต์แวร์ที่แอบฝังมัลแวร์บนเว็บไซต์ซื้อขายแลกเปลี่ยนแพ็กเกจซอฟต์แวร์ หรือที่เราเรียกว่า supply chain attack มีมานานแล้วและรุนแรงขึ้นเรื่อยๆ เช่น กรณีของ PyPI, กรณีของ npm, กรณีของ GitHub ล่าสุดลามมาถึง Hugging Face เว็บไซต์เผยแพร่โมเดล AI ชื่อดัง ตามกระแสโลกเทคโนโลยีเรียบร้อย

โมเดล AI ที่นิยมใช้กันในปัจจุบันมีฟอร์แมตที่หลากหลาย เช่น JSON, XML แต่ก็มีอีกส่วนที่เป็นไฟล์ไบนารี (เช่น ไฟล์ประเภท pickle ของ Python) ที่ให้แอบฝังสิ่งแปลกปลอมแล้วเกิดการรัน (code execution) ในเครื่องของคนที่ดาวน์โหลดไปรันใช้งาน

Hugging Face เองก็ทราบปัญหานี้ และมีมาตรการความปลอดภัยหลายอย่าง เช่น การสแกนหามัลแวร์ของไฟล์ที่โฮสต์ไว้กับระบบ รวมถึงพัฒนาไฟล์ฟอร์แมตใหม่ชื่อ safetensors ที่ปลอดภัยต่อการแอบยัดไส้

ตัวอย่างการแจ้งเตือนของ Hugging Face

No Description


อย่างไรก็ตาม มาตรการป้องกันของ Hugging Face ก็มีข้อจำกัด และถูกเล็ดรอดไปได้ จากการตรวจสอบของ JFrog พบว่ามีโมเดลราว 100 ตัวที่มีความเสี่ยงถูกฝังมัลแวร์หรือโค้ดที่ประสงค์ร้ายมาด้วย โดยไฟล์ที่พบบ่อยเป็นโมเดลของ PyTorch และ TensorFlow ซึ่งเป็นซอฟต์แวร์ยอดนิยมในโลก AI อยู่แล้ว

No Description


ตารางแสดงฟอร์แมตไฟล์โมเดล AI แบบต่างๆ

No Description


ที่มา - JFrog

Topics:
Hugging Face
JFrog
Artificial Intelligence
Cybersecurity
Malware

อ่านต่อ...
 

ไฟล์แนบ

  • ecde3ab82f047a7ed93fb05b5c5fd446.png
    ecde3ab82f047a7ed93fb05b5c5fd446.png
    16.3 กิโลไบต์ · จำนวนการดู: 19
  • 0fb672bfcaf58174335a5d76cdd3ef19.png
    0fb672bfcaf58174335a5d76cdd3ef19.png
    8 กิโลไบต์ · จำนวนการดู: 25
  • a933e3e00b55252ef041cf89368b2448.jpg
    a933e3e00b55252ef041cf89368b2448.jpg
    76.7 กิโลไบต์ · จำนวนการดู: 20

กรุณาปิด โปรแกรมบล๊อกโฆษณา เพราะเราอยู่ได้ด้วยโฆษณาที่ท่านเห็น
Please close the adblock program. Because we can live with the ads you see
กลับ
ยอดนิยม ด้านล่าง