ข่าว OpenAI ออกรายงานการใช้ GPT ในทางที่ผิด พบแฮกเกอร์ใช้ช่วยเขียนโค้ด, ไล่ยิงสแปม, โน้มน้าวการเมือง

[News]

OpenAI รายงานถึงการแบนบัญชีกลุ่มแฮกเกอร์มากกว่า 20 กลุ่มตั้งแต่ต้นปีที่ผ่านมา โดยกลุ่มเหล่านี้ใช้งาน OpenAI ตั้งแต่การเชียนเว็บเพื่อหวังผลทางการเมืองไปจนถึงการใช้งานเพื่อช่วยเขียนมัลแวร์

กลุ่ม STORM-0817 ใช้โมเดลของ OpenAI ทำงานหลายอย่าง ทั้งการแปลข้อความในเว็บ, ดูดข้อมูลจาก Instagram, และพัฒนามัลแวร์ เมื่อติดตามการใช้งานพบว่ากลุ่มนี้พยายามพัฒนามัลแวร์ใหม่สำหรับแอนดรอยด์เพื่อติดตามเครื่องเป้าหมาย ทั้งการดูดข้อมูลจากโทรศัพท์และพัฒนาเซิร์ฟเวอร์เพื่อควบคุมเครื่องที่ติดมัลแวร์ไปแล้ว แม้จะไม่มีข้อมูลชัดเจนว่ากลุ่มนี้เป็นใคร แต่ก็พยายามแปลข้อมูลต่างๆ เป็นภาษาเปอร์เซีย, ทดสอบเป้าหมายมัลแวร์กับชาวอิหร่าน

เคสหนึ่งที่มีการรายงานคือการสร้างโปรไฟล์ปลอมไปใช้โน้มน้าวทางการเมือง เช่นเคสหนึ่งบัญชีปลอมใช้ API ของ OpenAI สร้างโปรไฟล์ปลอมคุยกับผู้คนในทวิตเตอร์ แม้จะความแตกเพราะเครดิตหมด

นโยบายของ OpenAI นั้นจะเก็บพรอมพ์ต่างๆ ที่ใส่เข้าไปไว้ในระบบ 30 วันเพื่อใช้ตรวจสอบการใช้งานในทางที่ผิด แต่ก็มีช่องทางขอให้ไม่เก็บข้อมูลเลยได้แต่ต้องเป็นลูกค้าที่ผ่านการอนุมัติเท่านั้น

ที่มา - OpenAI

Topics:
OpenAI
LLM

Continue reading...