Quá tốt để là sự thật hay câu chuyện hai tòa tháp

Hôm qua, giới công nghệ lại được phen phấn khích do thông tin về hiệu suất của AI, Generative AI của Open mang lại cho công việc kinh doanh, chăm sóc khách hàng.

Công ty Klarna cho biết trợ lý AI của họ thực hiện công việc của 700 người sau khi họ sa thải 700 người.

Klarna là một startup trong lĩnh vực Fintech của Thụy Điển, từng được định giá 46 tỷ USD. Công ty được thành lập vào năm 2005 và là đơn vị tiên phong trong mảng mua trước, trả sau.

Công ty Klarna ứng dụng thành công trợ lý AI (AI assistant) được hỗ trợ bởi OpenAI vào công việc chăm sóc khách hàng giúp họ:

- Xử lý 2,3 triệu cuộc trò chuyện dịch vụ khách hàng trong tháng đầu tiên (chiếm 2/3 tổng số cuộc trò chuyện).

- Giảm 25% các câu hỏi lặp lại do độ chính xác giải quyết cao hơn.

Giảm thời gian trung bình cho cuộc trò chuyện dịch vụ khách hàng từ 11 phút xuống 2 phút.

- Dự kiến ​​sẽ tạo ra khoản cải thiện lợi nhuận 40 triệu USD cho Klarna trong năm 2024.

Nhiều người trên X đã tỏ ý nghi ngờ về thông tin này dù đã được nhiều media outlets như Business Insider, Fortune, Fast Company đưa tin. Too good to be true.

Ở một diễn biến khác, Air Canada đã thua trong một vụ kiện tại tòa án nhỏ với một hành khách đang trong tình trạng tang sự, khi hãng hàng không này cố gắng nhưng không thành công trong việc phủ nhận thông tin do chatbot AI cung cấp. Hành khách đã bị lừa về quy định áp dụng giá vé giảm giá cho người thân qua đời của hãng, khi chatbot đưa ra thông tin không đúng với chính sách của hãng. Tòa án ở Canada đã tuyên bố hành khách thắng kiện và buộc Air Canada phải bồi thường 812.02 đô la Mỹ cho hành khách.

Trong trường hợp này, chatbot của Air Canada trên website đã gợi ý rằng hành khách có thể nộp đơn xin giá vé giảm giá do tang sự một cách hồi tố. Nghĩa là có thể hoàn tiền sau khi chuyến bay đã được thực hiện, miễn là nộp đơn trong vòng 90 ngày kể từ khi mua vé. Tuy nhiên, trang chính sách về vé giảm giá do tang sự trên website của Air Canada lại nêu rõ, chính sách của hãng không cho phép hoàn tiền cho những chuyến đi đã diễn ra.

Air Canada đã cố gắng bào chữa rằng hành khách có thể kiểm tra lại thông tin thông qua liên kết được cung cấp trong phản hồi của chatbot, nhưng tòa án đã không chấp nhận lời giải thích này, cho rằng Air Canada không thể miễn trừ trách nhiệm về thông tin được cung cấp trên website của mình, dù là thông qua chatbot.

Vụ việc này đã đặt ra câu hỏi về trách nhiệm pháp lý của doanh nghiệp khi sử dụng các hệ thống AI trong dịch vụ khách hàng của họ, cũng như về sự cần thiết của việc đảm bảo thông tin được cung cấp bởi AI là chính xác. Mặc dù vụ kiện không làm ảnh hưởng nhiều đến tài chính của Air Canada, nhưng nó đã gây tổn hại đến uy tín dịch vụ khách hàng của hãng.

Chatbot mang lại hiệu quả to lớn trong trường hợp của Klarna nhưng có thể tổn hại uy tín của doanh nghiệp trong trường hợp Air Canada.

Hầu hết các chatbot CSKH hiện nay, việc phòng thủ ở đầu vào (những lệnh do người dùng nhập vào hệ thống) và đầu ra (những trả lời từ Chatbot) là hết sức yếu kém. Vì vậy việc thiết lập hàng rào bảo vệ cho hệ thống (Guard Rails) là hết sức cần thiết để mang lại hiệu quả tránh những rủi ro cho doanh nghiệp.

share from Facebook Đào Trung Thành,