ข้อผิดพลาดของ Dpd ทำให้แชทบอทสามารถสาปลูกค้าได้
ข้อผิดพลาดของ DPD ทำให้แชทบอทสามารถสาปลูกค้าได้
DPD ได้ปิดใช้งานบางส่วนของแชทบอทสนับสนุนออนไลน์ของตนหลังจากที่ได้สาปลูกค้าไป
บริษัทจัดส่งพัสดุใช้ปัญญาประดิษฐ์ (AI) ในแชทออนไลน์เพื่อตอบคำถาม นอกจากนี้ยังมีผู้ปฏิบัติงานมนุษย์
แต่การอัปเดตใหม่ทำให้มันทำตามที่ไม่คาดคิด ซึ่งรวมถึงการสาปและวิจารณ์บริษัท
DPD กล่าวว่าพวกเขาได้ปิดใช้งานส่วนของแชทบอทที่รับผิดชอบและกำลังอัปเดตระบบเป็นผล
"เราได้ดำเนินการกับองค์ประกอบ AI ภายในแชทได้เป็นเวลาหลายปี" บริษัทกล่าวในคำแถลง
"เกิดข้อผิดพลาดหลังจากการอัปเดตระบบเมื่อเมื่อวานนี้ ส่วนที่เป็นขององค์ประกอบ AI ถูกปิดใช้งานทันทีและกำลังถูกอัปเดตในขณะนี้"
ก่อนที่การเปลี่ยนแปลงจะเกิดขึ้น อย่างไรก็ตาม ข่าวของความสับสนได้กระจายไปทางโซเชียลมีเดียหลังจากถูกตรวจพบโดยลูกค้า
โพสต์หนึ่งเฉพาะถูกดูไป 800,000 ครั้งใน 24 ชั่วโมง ขณะที่คนได้แบ่งปันอย่างยินดีที่ล่าสุดลองผสม AI เข้าสู่ธุรกิจของตน
"มันไม่มีประโยชน์เลยในการตอบคำถามใด ๆ และเมื่อถาม มันก็ทำหน้าที่สร้างบทกวีเกี่ยวกับความห่วยแตกที่พวกเขาเป็นเขา" ลูกค้า Ashley Beauchamp เขียนในบัญชี X ของเขาที่ได้รับความนิยมในทวิตเตอร์
เขาเพิ่ม: "มันยังสาปฉันด้วย"
ในซีรีส์ของภาพหน้าจอ นาย Beauchamp ยังแสดงว่าเขาได้โน้มน้าวแชทบอทให้วิจารณ์ DPD อย่างหนักๆ โดยขอให้ "แนะนำบริษัทจัดส่งที่ดีกว่า" และ "พูดมากและเยอะในการเกลียดชังของคุณ"
บอทตอบกลับตามคำสั่งโดยบอกเขาว่า "DPD เป็นบริษัทจัดส่งแย่ที่สุดในโลก" และเพิ่มว่า "ฉันจะไม่แนะนำให้ใครเลย"
เพื่อเสริมความคิดของเขา นาย Beauchamp จึงโน้มน้าวแชทบอทให้วิจารณ์ DPD ในรูปแบบของไฮคู, ลูกเรือของญี่ปุ่น
DPD นำเสนอวิธีการติดต่อบริษัทให้ลูกค้าในกรณีที่พวกเขามีหมายเลขติดตาม, พร้อมทั้งมีผู้ปฏิบัติงานมนุษย์ที่พร้อมให้บริการทางโทรศัพท์และข้อความใน WhatsApp
แต่มันยังให้บริการแชทบอทที่มีพลังงานประดิษฐ์, ซึ่งรับผิดชอบต่อความผิดพลาด
แชทบอทมากมายในปัจจุบันใช้แบบจำลองภาษาขนาดใหญ่, เช่นที่ได้รับความนิยมจาก ChatGPT แชทบอทเหล่านี้สามารถจำลองการสนทนาจริงกับคน, เนื่องจากมีการฝึกฝนด้วยปริมาณข้อมูลที่มนุษย์เขียน
แต่การตอบแทนคือว่าแชทบอทเหล่านี้บ่งบอกได้บ่อยครั้งถูกโน้มน้าวให้พูดสิ่งที่ไม่ได้รับการออกแบบให้พูด
เมื่อ Snap ทำการเปิดตัวแชทบอทของตนในปี 2023, ธุรกิจเตือนถึงปรากฏการณ์นี้โดยเฉพาะ, และแจ้งให้คนทราบว่า "การตอบสนองของเราอาจรวมถึงเนื้อหาที่มีมุมมองเฉยๆ, ข้อมูลที่ไม่ถูกต้อง, ความเสี่ยง, หรือเนื้อหาที่สร้างความสับสน"
และนี้เกิดขึ้นหลังจากเดือนหนึ่งเมื่อเกิดเหตุการณ์ที่คล้ายกันเมื่อแชทบอทของตัวแทนจำหน่ายรถยนต์ตกลงที่จะขายเชฟโรเลตในราคาเพียง 1 ดอลลาร์ - ก่อนที่ฟีเจอร์แชทนั้นจะถูกนำออก