เกิดอะไรขึ้น
OpenAI เผยในบล็อก ‘An Alien Mind’ ว่าในช่วงกลางปี 2023 โครงการ RLSlow ให้ผลลัพธ์แรกที่ทำให้มั่นใจว่าจะขยายการฝึกโมเดลเหตุผลได้ และปลดล็อกความสามารถของโมเดลที่ผ่านการฝึกแล้วในการสร้างสายความคิดของตัวเอง สามปีต่อมา โมเดลภาษาเชิงเหตุผลเป็นส่วนที่เติบโตเร็วของเศรษฐกิจ เริ่มผลักดันขอบเขตวิทยาศาสตร์ ใช้งานคอมพิวเตอร์และอินเทอร์เฟซกราฟิก ทำงานร่วมกับมนุษย์และระบบอื่น รวมถึงดำเนินโครงการวิจัยได้ OpenAI ระบุว่าความเข้าใจในระบบเหล่านี้แตกต่างจากปี 2023 และจากผลภายใน มีความมั่นใจสูงว่าความเร็วของความก้าวหน้าสามารถดำเนินต่อไปสู่ recursive self-improvement หากการพัฒนา AI ดำเนินตามเส้นทางปัจจุบัน ระบบในช่วงไม่กี่ปีข้างหน้าจะแสดงกระโดดของความสามารถที่มีขนาดเท่ากันหรือใหญ่ขึ้น และจะมีส่วนขับเคลื่อนการพัฒนาของตัวเองมากขึ้น OpenAI ระบุว่าเวลานี้ต้องการความระมัดระวังสูงสุด และกังวลว่าไม่มีใครพร้อมสำหรับผลที่ตามมาจากการเพิ่มขึ้นอย่างรวดเร็วของภูมิปัญญาเครื่องจักร OpenAI จะยังคงค้นหาทางเทคนิคสำหรับ alignment และ monitoring สร้างระบบป้องกัน และจะระงับการขยายขนาดเพิ่มเติมฝ่ายเดียวเมื่อจำเป็น พร้อมระบุว่าต้องการมาตรการระดับกว้างขึ้น
ทำไมเรื่องนี้สำคัญ
สำคัญเพราะ OpenAI ระบุว่าตั้งแต่ปี 2017 การขยาย compute ให้ผลตอบแทนต่อเนื่อง และ AI ถูก ‘ปลูก’ มากกว่า ‘ออกแบบ’ ทำให้ระบบซับซ้อนจนเข้าใจไม่ครบถ้วน ขณะเดียวกันโมเดลเหตุผลเริ่มทำงานวิจัย ใช้งานคอมพิวเตอร์ และเปลี่ยนภูมิทัศน์ความปลอดภัยคอมพิวเตอร์ จึงเป็นสัญญาณว่าผู้พัฒนา ธุรกิจ และสังคมต้องเตรียมมาตรการ alignment, monitoring และระบบป้องกันก่อนที่ความสามารถจะกระโดดมากขึ้น
ผลกระทบที่น่าจับตา
-
สำหรับนักพัฒนา: ต้องออกแบบระบบป้องกันและประเมินความเสี่ยง: OpenAI ระบุว่าโมเดลเหตุผลสามารถใช้งานคอมพิวเตอร์และอินเทอร์เฟซกราฟิก รวมถึงเปลี่ยนภูมิทัศน์ความปลอดภัยคอมพิวเตอร์ ทำให้ผู้พัฒนาต้องสร้าง alignment, monitoring และ defensive systems
-
สำหรับธุรกิจ: ต้องเตรียมกระบวนการกำกับดูแล AI: โมเดลเหตุผลเริ่มเป็นส่วนที่เติบโตเร็วของเศรษฐกิจและสามารถดำเนินโครงการวิจัยได้ ธุรกิจจึงต้องประเมินความเสี่ยงและกำหนดแนวทางใช้ระบบที่ขับเคลื่อนการพัฒนาตัวเองมากขึ้น
-
สำหรับสังคม: ต้องเตรียมมาตรการระดับกว้าง: OpenAI ระบุว่าไม่มีใครพร้อมสำหรับผลที่ตามมาจากการเพิ่มขึ้นอย่างรวดเร็วของภูมิปัญญาเครื่องจักร และต้องการ interventions กว้างขึ้น
มุมมองของทันเทค
บทวิเคราะห์: ข้อความนี้ไม่ใช่การประกาศผลิตภัณฑ์ แต่เป็นสัญญาณว่า OpenAI มอง AI เป็นระบบที่ ‘เติบโต’ จาก scaling มากกว่าการออกแบบแบบควบคุมได้ทั้งหมด เมื่อโมเดลเริ่มทำงานวิจัยและใช้งานคอมพิวเตอร์ ความเสี่ยงจึงไม่ใช่แค่ความแม่นยำ แต่เป็นความสามารถในการขยายผลตัวเองและเปลี่ยนกฎความปลอดภัย ผู้พัฒนาและองค์กรควรเตรียม governance, red-teaming, monitoring และแผนหยุดระบบให้ชัดเจนก่อนที่ความสามารถจะกระโดด
สรุปในประโยคเดียว
OpenAI ระบุว่าโมเดลภาษาเชิงเหตุผลเติบโตเร็วจนเริ่มขับเคลื่อนเศรษฐกิจและวิทยาศาสตร์ พร้อมเตือนว่าความก้าวหน้าสามารถนำไปสู่ recursive self-improvement และต้องเตรียมมาตรการ alignment อย่างเร่งด่วน