Bạn báo lỗi, chatbot xin lỗi rất lễ phép — rồi làm sai y như cũ. Vì sao vậy?
Vì sao chatbot 'xin lỗi' rồi vẫn sai?
Mô hình ngôn ngữ tạo câu nghe hợp lý dựa trên xác suất từ ngữ, chứ không thật sự "biết" đúng hay sai. Câu xin lỗi cũng chỉ là văn bản được sinh ra cho hợp ngữ cảnh — nó không đảm bảo lần sau sẽ đúng. Đôi khi mô hình còn rất tự tin khi nói sai (gọi là "ảo giác" — hallucination).
Làm gì để không bị dắt mũi
- Hỏi nguồn và tự đối chiếu những thông tin quan trọng.
- Chia yêu cầu thành bước nhỏ, kiểm từng bước.
- Đừng tin ngay số liệu, trích dẫn hay tên riêng nếu không kiểm chứng được.
- Với việc hệ trọng, coi câu trả lời của AI là bản nháp, không phải kết luận.
Câu hỏi thường gặp
- Chatbot xin lỗi nghĩa là nó đã hiểu ra? — Không hẳn. Đó là phản hồi lịch sự, không phải bằng chứng nó hiểu đúng.
- Vì sao nó bịa? — Nó dự đoán chữ tiếp theo, ưu tiên trôi chảy hơn là chính xác; khi thiếu dữ liệu, nó vẫn "đoán".
- Có cách nào giảm sai? — Cho ngữ cảnh rõ, yêu cầu dẫn nguồn, và luôn kiểm lại thông tin quan trọng.
Về bài viết này: truyện tranh giải trí của DETOON kèm lưu ý thực tế khi dùng chatbot AI.