ข่าว OpenAI ตั้งคณะกรรมการด้านความปลอดภัย ระบุเริ่มเทรนโมเดล AI ใหม่ที่ใกล้ AGI ไปอีกขั้นหนึ่งแล้ว

[News]

บอร์ด OpenAI ประกาศจัดตั้งคณะกรรมด้านความปลอดภัย (Safety and Security Committee) นำโดย Bret Taylor (ประธานบอร์ด OpenAI), Adam D’Angelo, Nicole Seligman และ Sam Altman (ซีอีโอ OpenAI) โดยคณะกรรมการนี้มีหน้าที่รับผิดชอบการให้คำแนะนำกับบอร์ดบริษัท ในเรื่องการตัดสินใจเกี่ยวกับความปลอดภัยของโครงการต่าง ๆ ใน OpenAI

OpenAI บอกว่าตอนนี้องค์กรได้เริ่มเทรนโมเดล AI ยุคถัดไป ซึ่งผลลัพธ์เบื้องต้นที่ได้ ทำให้เข้าใกล้การสร้างปัญญาประดิษฐ์ที่ใช้งานได้ทั่วไปหรือ Artificial General Intelligence (AGI) อีกหนึ่งขั้น จึงต้องประเมินด้านความปลอดภัยมากขึ้นไปอีกเช่นกัน

งานแรกของคณะกรรมการชุดนี้คือการประเมินและพัฒนากระบวนการใน OpenAI ด้านความปลอดภัยในเวลา 90 วันข้างหน้า จากนั้นจะนำเสนอคำแนะนำให้กับบอร์ด ซึ่ง OpenAI จะเผยแพร่รายละเอียดนี้กับสาธารณะต่อไป

OpenAI ยังแต่งตั้งฝ่ายเทคนิคและการกำกับดูแลให้ร่วมเป็นคณะกรรมการชุดนี้ด้วยได้แก่ Aleksander Madry (หัวหน้าฝ่ายการเตรียมความพร้อม), Lilian Weng (หัวหน้าฝ่ายระบบความปลอดภัย), John Schulman (หัวหน้าฝ่ายวิทยาศาสตร์ความคล้ายคลัง - Alignment), Matt Knight (หัวหน้าฝ่ายความปลอดภัย) และ Jakub Pachocki (หัวหน้าฝ่ายวิทยาศาสตร์) รวมทั้งทีมในฝ่ายความปลอดภัยไซเบอร์

ที่มา: OpenAI

Topics:
OpenAI
Artificial Intelligence

อ่านต่อ...