เมื่อ AI หลอน ทำทนายที่ว่าความในศาลหลอนตาม

เหตุการณ์นี้เกิดขึ้นจากทนายความของสำนักงานกฎหมาย Morgan & Morgan ในสหรัฐฯ เมื่อทนายความสองคนของบริษัทได้อ้างอิงหมายเรียกในคดีเท็จมาใช้ว่าความในคดีฟ้องบริษัท Walmart ก่อนมารับทราบในภายหลังว่า ข้อมูลเหล่านั้นเป็นเท็จ จนเกือบถูกผู้พิพากษาในคดีดีงกล่าวลงโทษ

คาดว่าสถานการณ์นี้น่าจะมาจากการใช้งาน AI มาสร้างคำฟ้องทางกฎหมาย เมื่อบริษัทหลายแห่งรวมถึงสำนักงานกฎหมายเริ่มนำ AI มาใช้ในการทำงานมากขึ้นเรื่อยๆ ช่วยย่นระยะเวลาในการค้นคว้าและจัดทำร่างเอกสารสรุปทางกฎหมายเป็นอย่างมาก จากการสำรวจของ Reuters พบว่า มีนักกฎหมายที่ใช้ AI เป็นประจำอยู่ที่ 12%

สาเหตุของเรื่องมาจากบางครั้ง AI อาจเกิดอาการหลอน หรือที่เราเรียกกันว่า AI หลอน ป้อนหรือตอบข้อมูลเท็จให้แก่ผู้ใช้งานโดยไม่รู้ตัว ทำให้เมื่อใช้งาน AI โดยปราศจากการตรวจสอบข้อมูลทีได้รับอีกครั้ง มักนำไปสู่ข้อผิดพลาดในการใช้งาน และอาจถูกลงโทษตามกฎหมายได้เช่นกัน

ปัญหานี้ไม่ได้เพิ่งเกิดขึ้นที่ผ่านมามีการนำข้อมูลผิดจาก AI มาใช้งานหลายครั้ง เช่น ผู้พิพากษาจากรัฐบาลกลางสั่งปรับทนายความจากนิวยอร์กเป็นเงิน 5,000 ดอลลาร์ หรือการยกฟ้องคดีการฟ้องร้องอาการบาดเจ็บต่อสายการบิน ในเดือนมิถุนายน 2023 ที่ล้วนมีการสร้างข้อกฎหมายหรือตัวอย่างคดีปลอมขึ้นมาด้วย

เหตุการณ์เหล่านี้เกิดขึ้นต่อเนื่อง แม้การยื่นเอกสารหรืออ้างอิงบทกฎหมายพลาดจะไม่ใช่ของใหม่ แต่สิ่งเหล่านี้เกิดจากขาดความรู้ความเข้าใจในการใช้งาน AI อย่างถูกวิธี หรือขาดความรู้เพียงพอในการตรวจสอบความถูกต้องของเนื้อหาที่ได้รับจาก AI ซึ่งอาจส่งผลต่อประสิทธิภาพการทำงานในระยะยาว