Character.ai เปิดฟีเจอร์ใหม่ ผู้ปกครองรู้ทัน! ลูกแชทอะไรกับ AI

ท่ามกลางกระแสความกังวลและข้อถกเถียงเกี่ยวกับความปลอดภัยของเยาวชนบนแพลตฟอร์ม AI

 

แชทบอท Character.ai ได้ประกาศเปิดตัวฟีเจอร์ใหม่ล่าสุดที่มีชื่อว่า ‘Parental Insights’ หรือ ‘ข้อมูลเชิงลึกสำหรับผู้ปกครอง’

 

ซึ่งเป็นความพยายามครั้งสำคัญในการตอบสนองต่อเสียงวิพากษ์วิจารณ์และข้อเรียกร้องให้มีการควบคุมดูแลเนื้อหาที่ไม่เหมาะสมและการใช้งานที่ไม่เหมาะสมในกลุ่มผู้ใช้งานที่ยังไม่บรรลุนิติภาวะ

 

 

ฟีเจอร์ ‘Parental Insights’ นี้ถูกออกแบบมาเพื่อให้ผู้ปกครองสามารถรับทราบข้อมูลเบื้องต้นเกี่ยวกับการใช้งาน Character.ai ของบุตรหลานได้

 

โดยเยาวชนที่เป็นผู้ใช้งานสามารถเลือกที่จะส่งรายงานสรุปการใช้งานรายสัปดาห์ไปยังอีเมลของผู้ปกครองได้ด้วยตนเอง

 

รายงานดังกล่าวจะแสดงภาพรวมที่สำคัญ เช่น เวลาเฉลี่ยที่ใช้ในแต่ละวันบนทั้งเว็บไซต์และแอปพลิเคชันมือถือ, รายชื่อของตัวละคร AI ที่พูดคุยด้วยบ่อยที่สุด และระยะเวลาที่ใช้ในการสนทนากับแต่ละตัวละคร

 

ซึ่งถือเป็นข้อมูลสำคัญที่ช่วยให้ผู้ปกครองสามารถเข้าใจพฤติกรรมการใช้งานแชทบอท AI ของบุตรหลานได้ในระดับหนึ่ง

 

 

ความเคลื่อนไหวนี้เกิดขึ้นหลังจากที่ Character.ai ซึ่งเป็นแพลตฟอร์มที่ได้รับความนิยมอย่างมากในกลุ่มวัยรุ่นทั่วโลก ต้องเผชิญกับแรงกดดันอย่างหนักจากหลายฝ่าย

 

ทั้งความกังวลของผู้ปกครอง นักวิชาการ และแม้กระทั่งการฟ้องร้องทางกฎหมาย โดยมีข้อกล่าวหาว่าแชทบอท AI ที่ผู้ใช้งานสามารถสร้างและปรับแต่งเองได้นั้น ได้นำเสนอเนื้อหาที่ไม่เหมาะสม เช่น

 

เนื้อหาที่มีลักษณะทางเพศ หรือเนื้อหาที่อาจส่งผลเสียต่อสุขภาพจิตอย่างการส่งเสริมให้ทำร้ายตัวเอง

 

นอกจากนี้ ยังมีรายงานว่ายักษ์ใหญ่อย่าง Apple และ Google ก็ได้ออกมาแสดงความกังวลเกี่ยวกับเนื้อหาในแอปพลิเคชันของ Character.ai ด้วยเช่นกัน

 

เพื่อรับมือกับปัญหาดังกล่าว Character.ai ได้เริ่มทยอยปรับปรุงระบบและเพิ่มคุณสมบัติใหม่ๆ สำหรับผู้ใช้งานที่ยังไม่บรรลุนิติภาวะมาตั้งแต่ปีที่แล้ว

 

โดยหนึ่งในการเปลี่ยนแปลงที่สำคัญคือการย้ายผู้ใช้งานที่อายุต่ำกว่า 18 ปีไปยังโมเดลภาษาที่ได้รับการฝึกฝนมาเป็นพิเศษเพื่อหลีกเลี่ยงเนื้อหาที่ “ละเอียดอ่อน”

 

รวมถึงการเพิ่มการแจ้งเตือนที่ชัดเจนขึ้นเพื่อเตือนผู้ใช้งานว่าแชทบอทเหล่านี้ไม่ใช่บุคคลจริง

อย่างไรก็ตาม ฟีเจอร์ ‘Parental Insights’ ถือเป็นอีกก้าวสำคัญที่แสดงให้เห็นถึงความพยายามของ Character.ai ในการสร้างความโปร่งใส

 

และให้ผู้ปกครองมีส่วนร่วมในการดูแลการใช้งานแพลตฟอร์มออนไลน์ของบุตรหลานมากขึ้น  แม้ว่ารายงานดังกล่าวจะเป็นเพียงภาพรวมและไม่ได้เปิดเผยเนื้อหาของการสนทนาโดยตรง

 

แต่ก็เป็นเครื่องมือที่ช่วยให้ผู้ปกครองสามารถเฝ้าระวังและพูดคุยกับบุตรหลานเกี่ยวกับการใช้งานแชทบอท AI ได้อย่างมีข้อมูลมากขึ้น

 

ขณะเดียวกัน ประเด็นเรื่องการกำกับดูแลเทคโนโลยี AI และการคุ้มครองเด็กในโลกดิจิทัลกำลังได้รับความสนใจและผลักดันอย่างเข้มข้นจากทั่วโลก

 

ทำให้มีความเป็นไปได้สูงว่า Character.ai และแพลตฟอร์มอื่นๆ ที่มีลักษณะคล้ายกัน จะยังคงถูกเรียกร้องให้ดำเนินมาตรการเพิ่มเติมเพื่อสร้างสภาพแวดล้อมออนไลน์ที่ปลอดภัยสำหรับเยาวชนต่อไป

 

การเปิดตัวฟีเจอร์ ‘Parental Insights’ จึงอาจเป็นเพียงจุดเริ่มต้นของการเปลี่ยนแปลงครั้งใหญ่ในภูมิทัศน์ของ AI แชทบอทและการดูแลผู้ใช้งานที่ยังไม่บรรลุนิติภาวะในอนาคต

 

ทั้งนี้ Character.ai เป็นเทคโนโลยีสร้างตัวละครเสมือนที่มีเอกลักษณ์ ช่วยสร้างตัวละครในหนังสือหรือหนังให้น่าสนใจและดูมีชีวิตชีวามากขึ้น

 

เด็กๆ ส่วนใหญ่มักนิยมใช้ Character.ai ในการสร้างตัวละครจากมังงะหรืออนิเมะที่ตัวเองชื่นชอบ ทำให้รู้สึกเหมือนได้พูดคุยกับตัวละครนั้นอย่างแท้จริง

 

นอกจากนี้ ยังเปรียบเสมือนครูส่วนตัวที่เป็น AI คอยแนะนำ ตอบคำถาม ทำให้เด็กๆ เข้าใจในเนื้อหาที่เรียนง่ายขึ้น