ฟังเสียงสะท้อน "เจ้าพ่อ AI" พัฒนาเร็วเกินไป เสี่ยงคุมเทคโนโลยีไม่อยู่

ในยุคที่เทคโนโลยีปัญญาประดิษฐ์ (AI) ก้าวหน้าอย่างรวดเร็ว Yoshua Bengio หนึ่งในผู้บุกเบิกด้าน AI และผู้ได้รับการยกย่องว่าเป็น "เจ้าพ่อ AI" ได้ออกมาเตือนถึงอันตรายที่อาจเกิดขึ้นจากการพัฒนา AI แบบเร่งรีบ โดยเฉพาะเมื่อการแข่งขันในอุตสาหกรรมนี้ทวีความรุนแรงขึ้นเรื่อยๆ

Bengio ผู้มีส่วนสำคัญในการวางรากฐานของโครงข่ายประสาทเทียม (neural networks) ซึ่งเป็นหัวใจของเทคโนโลยี AI ในปัจจุบัน กล่าวในการสัมภาษณ์กับ Sky News ว่า ความเร็วในการพัฒนา AI อาจนำไปสู่ความเสี่ยงที่ไม่อาจคาดการณ์ได้ แม้ว่าความก้าวหน้าทางเทคโนโลยีจะสร้างประโยชน์มหาศาล แต่การเร่งพัฒนาโดยขาดการกำกับดูแลที่เหมาะสมอาจส่งผลให้เกิดหายนะได้

"ผมเห็นนักพัฒนาหลายคนเร่งรีบในการแข่งขัน บางครั้งทำงานแบบขอไปที หรือหาทางลัดที่อาจก่อให้เกิดความเสี่ยง" Bengio กล่าว "แม้ความรวดเร็วจะเป็นสิ่งสำคัญในการสร้างนวัตกรรมหรือเอาชนะคู่แข่ง แต่ความเสี่ยงที่สังคมต้องแบกรับอาจไม่คุ้มค่า"

สมรภูมิ AI ยังระอุ

แรงกดดันในวงการ AI ทวีความรุนแรงขึ้นเมื่อบริษัทต่างๆ พยายามสร้าง AI ที่มีประสิทธิภาพสูงสุด โดยเฉพาะหลังจากที่ DeepSeek บริษัท AI จากจีน ก้าวเข้ามามีบทบาทสำคัญในตลาดโลก ด้วยศักยภาพของแชทบอทที่ดึงดูดความสนใจจากทั้งภาคธุรกิจและรัฐบาลในโลกตะวันตก

แทนที่บริษัทเทคโนโลยียักษ์ใหญ่จะชะลอความเร็วเพื่อพิจารณาความเสี่ยงอย่างรอบคอบ หลายแห่งกลับเร่งพัฒนา AI แบบเต็มกำลัง Bengio มองว่าสถานการณ์นี้อาจนำไปสู่การใช้ AI อย่างเร่งรีบ โดยขาดมาตรการความปลอดภัยที่รัดกุม และอาจสร้างระบบ AI ที่ซับซ้อนเกินกว่ามนุษย์จะเข้าใจได้อย่างถ่องแท้

อันตรายจาก "autonomous AI"

หนึ่งในประเด็นที่น่ากังวลที่สุดคือการพัฒนา "autonomous AI" หรือ AI ที่สามารถตัดสินใจได้ด้วยตัวเอง โดยไม่ต้องพึ่งพาการแทรกแซงของมนุษย์ Bengio อธิบายว่า AI ประเภทนี้ไม่เพียงแต่ประมวลผลข้อมูล แต่ยังสามารถวางแผนและดำเนินการได้อย่างอิสระ ซึ่งอาจนำไปสู่สถานการณ์ที่ควบคุมได้ยาก

"หาก AI มีความสามารถในการวางกลยุทธ์ ปรับตัว และดำเนินการได้เอง ด้วยพลังการประมวลผลที่มหาศาล การควบคุม AI เหล่านั้นอาจกลายเป็นเรื่องยากเกินมนุษย์จะควบคุม" - Bengio 

ความกังวลของ Bengio ไม่ได้เป็นเพียงทฤษฎี ปัจจุบัน AI ถูกนำไปใช้งานจริงในหลายภาคส่วน เช่น การซื้อขายในตลาดการเงิน การจัดการระบบขนส่งและโลจิสติกส์ รวมถึงการพัฒนาและติดตั้งซอฟต์แวร์ โดยมีการควบคุมดูแลจากมนุษย์เพียงเล็กน้อยเท่านั้น  Bengio เตือนว่า เรากำลังเข้าใกล้ยุคที่ AI มีพฤติกรรมซับซ้อนและยากจะคาดเดามากขึ้นเรื่อยๆ หากขาดมาตรการป้องกันที่รัดกุม ผลกระทบอาจรุนแรงตั้งแต่ความไม่สะดวกในชีวิตประจำวัน ไปจนถึงวิกฤตความมั่นคงหรือเศรษฐกิจ

จริยธรรมและความปลอดภัยต้องมาก่อน

แม้จะตระหนักถึงความเสี่ยง แต่ Bengio ไม่ได้เสนอให้หยุดการพัฒนา AI ไปเสียทั้งหมด เขายังเชื่อมั่นในศักยภาพของ AI ว่าจะสร้างประโยชน์ได้อย่างมหาศาล หากนำไปใช้อย่างมีความรับผิดชอบ เช่น ในการวิจัยทางการแพทย์หรือการแก้ปัญหาสิ่งแวดล้อม แต่เขาย้ำถึงความจำเป็นเร่งด่วนที่จะต้องปรับเปลี่ยนแนวทางการพัฒนา โดยให้ความสำคัญกับจริยธรรมและความปลอดภัยมากกว่าการแข่งขันทางธุรกิจ

"จริยธรรมและความปลอดภัยต้องมาก่อนการแข่งขัน" Bengio กล่าว "นี่คือเหตุผลที่ผมเข้าร่วมการหารือเชิงนโยบายในเวทีต่างๆ เช่น การประชุมสุดยอด AI Safety Summit"

แม้ความร่วมมือระดับโลกในการกำกับดูแล AI อาจยังไม่เกิดขึ้นในเร็ววันนี้ แต่คำเตือนจาก Bengio และผู้เชี่ยวชาญคนอื่นๆ ก็ดังขึ้นเรื่อยๆ ในขณะที่การแข่งขันพัฒนา AI ยังคงดำเนินต่อไป คำถามสำคัญคือ โลกจะพร้อมรับฟังคำเตือนนี้ก่อนที่จะสายเกินไปหรือไม่

ในยุคที่ AI ก้าวเข้ามามีบทบาทในแทบทุกด้านของชีวิต การพัฒนาอย่างรอบคอบและระมัดระวังอาจเป็นหนทางเดียวที่จะป้องกันไม่ให้เทคโนโลยีนี้กลายจากเพื่อนร่วมทาง เป็นศัตรูที่คุกคามมนุษยชาติในที่สุด