เมื่ออยู่ในยุคที่ ปัญญาประดิษฐ์ (AI) สามารถทำงาน ทำหน้าที่แทนมนุษย์ได้ทุกอย่าง ฉะนั้นการสังเกตความแนบเนียน อาจต้องมากยิ่งขึ้น ขนาดที่ ทนายความคนหนึ่ง ได้ใช้เทคโนโลยีเพื่อปลอมแปลงเอกสารโชว์กลางชั้นศาล
(31 ต.ค. 68) สำนักข่าวซินหัว รายงานว่า เมื่อไม่นานนี้ เจิ้ง จี๋เจ๋อ (Zheng Jizhe) ผู้พิพากษาประจำศาลประชาชนเขตทงโจว ณ กรุงปักกิ่ง ประเทศจีน ได้พบเจอเคสทนายความฝ่ายโจทก์ อ้างอิงคำพิพากษาคดีความที่มีความแปลกและต้องสงสัย ระหว่างการพิจารณาข้อพิพาททางพาณิชย์ โดยตอนแรกการอ้างอิงคำพิพากษาดังกล่าวดูชอบธรรม และเกี่ยวข้องกับข้อพิพาทที่กำลังพิจารณาอยู่อย่างมาก
ทนายฝ่ายโจทก์อ้างอิงว่า คำพิพากษารายการที่ 1 มาจากคดีความของศาลประชาชนสูงสุด และคำพิพากษารายการที่ 2 มาจากคดีความของศาลประชาชนชั้นกลาง หมายเลข 1 ในนครเซี่ยงไฮ้ พร้อมระบุว่ามีข้อเท็จจริง คำโต้แย้งทางกฎหมาย และการให้เหตุผลตรงกับข้อพิพาท แต่ถึงอย่างนั้น เจิ้ง กลับรู้สึกผิดปกติบางอย่าง จึงตรวจสอบและพบว่าความจริงไม่ได้เป็นเช่นนั้น
ต่อมา หลังจากถูกจี้ถาม ทนายฝ่ายโจทก์ได้ยอมรับสารภาพว่า “คำพิพากษาอ้างอิงนี้” มาจากการใช้เครื่องมือปัญญาประดิษฐ์ (AI) โดยเขาป้อนข้อมูลสำคัญของข้อพิพาทปัจจุบัน เข้าสู่ฟังก์ชัน พร้อมคัดลอกคดีความตัวอย่างที่ปัญญาประดิษฐ์สร้างขึ้นมา และบรรจุเข้าในคำฟ้องฉบับลายลักษณ์อักษรโดยตรง ซึ่งไม่ได้ตรวจสอบความถูกต้อง
ทั้งนี้ ศาลประชาชนเขตทงโจว ได้กำหนดให้การอ้างอิงคำพิพากษาคดีความที่สร้างขึ้นโดยปัญญาประดิษฐ์ ถือเป็นโมฆะ พร้อมออกหนังสือตักเตือนพฤติกรรมของทนายคนดังกล่าว และเน้นย้ำว่าต้องไม่ปล่อยให้ข้อมูลเท็จที่สร้างขึ้นโดยปัญญาประดิษฐ์ มาทำลายระเบียบความถูกต้องทางตุลาการ
เฉิน หางผิง อาจารย์กฎหมายของมหาวิทยาลัยชิงหัว มองการอ้างอิงคำพิพากษาคดีความอันเป็นเท็จนี้ว่า เป็นตัวอย่าง “อาการหลอน” (hallucination) ของปัญญาประดิษฐ์ ซึ่งหมายถึงสถานการณ์ที่ปัญญาประดิษฐ์สร้างข้อมูลที่เป็นเท็จ หรือที่ทำให้เข้าใจผิด แต่มีรูปแบบและบริบทดูน่าเชื่อถือ นักกฎหมายจึงต้องรู้ขอบเขตความเหมาะสมของการใช้งานปัญญาประดิษฐ์
ขณะที่ โจว จวิ้นอู่ หุ้นส่วนอาวุโสของสำนักงานกฎหมายท้องถิ่นกรุงปักกิ่ง กล่าวว่า บางครั้งมีการค้นหาคำพิพากษาคดีความด้วยเครื่องมือปัญญาประดิษฐ์ (AI) แต่ต้องระวังอย่างมากและไม่สามารถไว้วางใจผลลัพธ์อย่างเต็มที่ได้ เช่น หมายเลขคดีความที่เรียงลำดับง่าย ๆ อย่าง 1234 หรือ 000 มีแนวโน้มสูงว่าเป็นข้อมูลเท็จ
ด้วยกรณีเหล่านี้ ได้ตอกย้ำกระแสวิตกกังวลที่เพิ่มขึ้นว่า เนื้อหาที่สร้างขึ้นโดยปัญญาประดิษฐ์ กำลังทะลักท่วมโลกอินเทอร์เน็ต โดยสื่อมวลชนสหรัฐฯ รายงานผลการศึกษาของแกรไฟต์ (Graphite) สตาร์ตอัปปัญญาประดิษฐ์ ซึ่งวิเคราะห์ยูอาร์แอล (URL) ราว 65,000 รายการในช่วงปี 2020-2025 และพบว่า บทความใหม่ที่เขียนโดยปัญญาประดิษฐ์ เพิ่มขึ้นอย่างมาก หลังจากมีการเปิดตัว ChatGPT ในปี 2023 และ ณ จุดหนึ่งมีจำนวนมากกว่าที่เขียนโดยมนุษย์
นอกจากนั้น เนื้อหาที่สร้างขึ้นโดยปัญญาประดิษฐ์ ยังแทรกซึมเข้าสู่วงการศาลยุติธรรม โดยเฉินกล่าวว่ากรณีทนายยื่นฟ้องร้องด้วยข้อมูลที่มาจากอาการหลอนของปัญญาประดิษฐ์นั้น เกิดขึ้นทั่วโลก ทำให้หลายประเทศ อาทิ สหรัฐฯ และสิงคโปร์ ออกกฎระเบียบใหม่มาตรวจสอบรับรองความถูกต้องของเอกสารที่ใช้ปัญญาประดิษฐ์ช่วยจัดทำก่อนยื่นต่อศาล