The Wall Street Journal มีรายงานพิเศษอ้างแหล่งข่าวภายใน OpenAI ว่าบริษัทมีโครงการพัฒนาเครื่องมือตรวจจับ ว่าบทความหรือเอกสารงานวิจัยนั้นใช้ ChatGPT เขียนให้หรือไม่
โครงการดังกล่าวเริ่มพัฒนาและหารือกันตั้งแต่เมื่อสองปีที่แล้ว ตัวเครื่องมือนั้นพร้อมใช้งานได้ตั้งแต่หนึ่งปีก่อน เหลือแค่ OpenAI อยากจะปล่อยออกมาเมื่อใดเท่านั้น
อ่านถึงตรงนี้อาจมีคำถามว่าแล้วทำไม OpenAI ไม่เผยแพร่เครื่องมือที่ดูเป็นประโยชน์นี้?
รายงานบอกว่ามีความเห็นที่หลากหลายภายใน OpenAI บ้างบอกว่าหากต้องการสร้างความโปร่งใสของปัญญาประดิษฐ์ เครื่องมือนี้ก็ควรเผยแพร่ออกมา แต่ก็มีบางคนอ้างผลสำรวจว่าถ้ามีสิ่งนี้ออกมา คนที่ใช้ ChatGPT ช่วยเขียนการบ้านหรือเขียนรายงานเป็นประจำถึง 1 ใน 3 จะเลิกใช้ ChatGPT ทันที กระทบต่อจำนวนผู้ใช้งานในระบบ
เทคโนโลยีที่ OpenAI ใช้ในการตรวจจับข้อความ เรียกว่าการใส่ลายน้ำในคำหรือ Text Watermark เป็นแนวทางแบบที่ใช้ตรวจจับรูปภาพที่สร้างจาก AI แต่กรณีนี้เป็นข้อความ ซึ่งเอกสารภายในบอกว่าประสิทธิภาพแม่นยำอยู่ที่ 99.9% หากข้อความนั้นถูกเขียนใหม่ด้วย ChatGPT เป็นจำนวนคำที่มากพอ กูเกิลเองก็พัฒนาเครื่องมือแบบนี้เช่นกันโดยใช้ Synth ID แบบที่ใช้ในรูปภาพ
ตัวแทนของ OpenAI ชี้แจงเพิ่มเติมว่าข้อกังวลของบริษัทคือเครื่องมือนี้ อาจส่งผลต่อผู้ใช้งานบางกลุ่ม เช่น คนที่ไม่ได้ใช้ภาษาอังกฤษเป็นภาษาหลัก บริษัทจึงพิจารณาวิจัยแนวทางใส่ลายน้ำตรวจสอบวิธีการอื่นอยู่ด้วย เพื่อให้ได้ผลลัพธ์อย่างที่ต้องการ แต่กระทบกับผู้ใช้งานน้อยที่สุด
ที่มา: The Wall Street Journal ภาพ Pixabay
Topics:
ChatGPT
OpenAI
LLM
Artificial Intelligence
Watermarking
Continue reading...
โครงการดังกล่าวเริ่มพัฒนาและหารือกันตั้งแต่เมื่อสองปีที่แล้ว ตัวเครื่องมือนั้นพร้อมใช้งานได้ตั้งแต่หนึ่งปีก่อน เหลือแค่ OpenAI อยากจะปล่อยออกมาเมื่อใดเท่านั้น
อ่านถึงตรงนี้อาจมีคำถามว่าแล้วทำไม OpenAI ไม่เผยแพร่เครื่องมือที่ดูเป็นประโยชน์นี้?
รายงานบอกว่ามีความเห็นที่หลากหลายภายใน OpenAI บ้างบอกว่าหากต้องการสร้างความโปร่งใสของปัญญาประดิษฐ์ เครื่องมือนี้ก็ควรเผยแพร่ออกมา แต่ก็มีบางคนอ้างผลสำรวจว่าถ้ามีสิ่งนี้ออกมา คนที่ใช้ ChatGPT ช่วยเขียนการบ้านหรือเขียนรายงานเป็นประจำถึง 1 ใน 3 จะเลิกใช้ ChatGPT ทันที กระทบต่อจำนวนผู้ใช้งานในระบบ
เทคโนโลยีที่ OpenAI ใช้ในการตรวจจับข้อความ เรียกว่าการใส่ลายน้ำในคำหรือ Text Watermark เป็นแนวทางแบบที่ใช้ตรวจจับรูปภาพที่สร้างจาก AI แต่กรณีนี้เป็นข้อความ ซึ่งเอกสารภายในบอกว่าประสิทธิภาพแม่นยำอยู่ที่ 99.9% หากข้อความนั้นถูกเขียนใหม่ด้วย ChatGPT เป็นจำนวนคำที่มากพอ กูเกิลเองก็พัฒนาเครื่องมือแบบนี้เช่นกันโดยใช้ Synth ID แบบที่ใช้ในรูปภาพ
ตัวแทนของ OpenAI ชี้แจงเพิ่มเติมว่าข้อกังวลของบริษัทคือเครื่องมือนี้ อาจส่งผลต่อผู้ใช้งานบางกลุ่ม เช่น คนที่ไม่ได้ใช้ภาษาอังกฤษเป็นภาษาหลัก บริษัทจึงพิจารณาวิจัยแนวทางใส่ลายน้ำตรวจสอบวิธีการอื่นอยู่ด้วย เพื่อให้ได้ผลลัพธ์อย่างที่ต้องการ แต่กระทบกับผู้ใช้งานน้อยที่สุด
ที่มา: The Wall Street Journal ภาพ Pixabay
Topics:
ChatGPT
OpenAI
LLM
Artificial Intelligence
Watermarking
Continue reading...