Trợ lý AI bịa thông tin vì về bản chất nó dự đoán chữ tiếp theo nghe hợp lý nhất, chứ không tra một kho dữ kiện đã kiểm chứng. Khi gặp câu hỏi nó không có đủ dữ liệu, nó vẫn tạo ra câu trả lời trôi chảy: tên sách không tồn tại, điều luật sai số hiệu, số liệu thống kê vô căn cứ. Hiện tượng này thường được gọi là "ảo giác AI".
Cách phòng là coi mọi câu trả lời về dữ kiện (con số, ngày tháng, tên người, tên văn bản, trích dẫn) là bản nháp cần kiểm, còn câu trả lời về cách diễn đạt (viết lại, sắp xếp ý, gợi ý) thì dùng thoải mái hơn. Quy trình kiểm tra năm bước ở dưới mất vài phút nhưng tránh được những sai lầm tốn kém.
Ở Mỹ năm 2023 đã có luật sư bị toà phạt vì nộp bản lập luận trích dẫn các vụ án do ChatGPT bịa ra. Chuyện tương tự hoàn toàn có thể xảy ra với bài luận của học sinh, báo cáo gửi sếp hay bài đăng trên trang của doanh nghiệp.
Vì sao AI trả lời sai mà vẫn tự tin
Mô hình ngôn ngữ học từ một lượng văn bản khổng lồ cách các từ thường đi với nhau. Khi bạn hỏi, nó ghép từng chữ theo xác suất. Nếu chủ đề xuất hiện nhiều trong dữ liệu huấn luyện, như cách luộc trứng hay định nghĩa quang hợp, câu trả lời thường đúng. Nếu chủ đề hiếm, như quy định riêng của một tỉnh, tiểu sử một người ít tên tuổi, số liệu một năm cụ thể, mô hình vẫn ghép ra câu trông giống câu trả lời thật, vì nó được tối ưu để nói trôi chảy.
Giọng tự tin không phản ánh độ chắc chắn. Một câu sai và một câu đúng được viết với cùng văn phong, cùng định dạng gọn gàng. Đó là lý do người dùng dễ tin: con người quen đánh giá độ tin cậy qua cách nói, mà AI lúc nào cũng nói rất mạch lạc.
Thêm một nguyên nhân nữa là kiến thức có mốc thời gian. Mô hình được huấn luyện đến một thời điểm, sau đó thế giới vẫn thay đổi: luật mới có hiệu lực, địa giới hành chính sắp xếp lại, giá cả biến động. Không bật tìm kiếm, nó trả lời theo thông tin cũ mà không báo là cũ.
Loại câu hỏi dễ bị bịa nhất
Không phải câu hỏi nào cũng rủi ro như nhau. Bảng sau giúp bạn biết lúc nào cần cảnh giác cao.
| Loại câu hỏi | Mức rủi ro | Ví dụ sai hay gặp |
|---|---|---|
| Trích dẫn, nguồn tham khảo, đường dẫn | Rất cao | Tên bài báo khoa học, tác giả, năm xuất bản không có thật |
| Số hiệu văn bản pháp luật, mức phạt, lệ phí | Rất cao | Nhầm số nghị định, dùng quy định đã hết hiệu lực |
| Số liệu thống kê, giá cả, tỷ lệ phần trăm | Cao | Con số tròn đẹp không có nguồn, lệch năm |
| Tiểu sử người ít nổi tiếng, công ty nhỏ | Cao | Gán thành tích, chức vụ của người này cho người khác |
| Tính toán nhiều bước | Trung bình | Cộng nhầm, làm tròn sai ở bước giữa |
| Kiến thức phổ thông, khái niệm cơ bản | Thấp | Ít sai, nhưng có thể giản lược quá mức |
| Viết lại, tóm tắt văn bản bạn đưa | Thấp đến trung bình | Thêm ý không có trong bản gốc, bỏ sót điều kiện quan trọng |
Để ý dòng cuối: kể cả khi chỉ tóm tắt tài liệu bạn đưa, AI vẫn có thể chêm vào ý không có trong bản gốc. Với hợp đồng, quy chế, đề cương ôn thi, hãy đối chiếu lại những ý quan trọng.
Quy trình 5 bước kiểm tra câu trả lời của AI
Áp dụng cho mọi thông tin bạn định dùng để ra quyết định, gửi cho người khác hoặc đăng công khai:
- Tách dữ kiện ra khỏi lời văn. Đọc lướt câu trả lời và đánh dấu mọi con số, tên riêng, ngày tháng, tên văn bản, câu trích. Đó là những thứ cần kiểm; phần còn lại là diễn giải.
- Yêu cầu nguồn, rồi tự mở nguồn. Hỏi "thông tin này lấy từ đâu, cho nguồn cụ thể". Nếu trợ lý có tìm kiếm web, bấm vào từng nguồn và tìm đúng đoạn chứa dữ kiện. Nguồn không mở được, hoặc mở ra không hề nhắc tới dữ kiện đó, coi như chưa kiểm được.
- Tra nguồn gốc chính thức. Quy định pháp luật tra văn bản gốc trên cổng thông tin của cơ quan ban hành hoặc Cổng Dịch vụ công quốc gia; thông tin sức khoẻ tra trang của Bộ Y tế, bệnh viện lớn; số liệu kinh tế tra cơ quan thống kê. Báo chính thống đưa tin lại là nguồn thứ hai, vẫn tốt hơn trang lạ.
- Hỏi lại theo cách khác. Mở cuộc trò chuyện mới, hỏi cùng ý bằng câu khác, hoặc hỏi sang trợ lý khác. Nếu dữ kiện thay đổi giữa các lần hỏi, đó là dấu hiệu mô hình đang đoán.
- Kiểm bằng hiểu biết thông thường. Con số có hợp lý không? Một quy định có mâu thuẫn với điều bạn biết chắc không? Thời điểm có khớp không? Câu trả lời đẹp quá mức, đúng y điều bạn mong muốn, càng cần kiểm kỹ.
Với việc ít rủi ro như gợi ý món ăn hay ý tưởng quà tặng, không cần đi đủ năm bước. Với việc liên quan tiền bạc, sức khoẻ, pháp lý và danh tiếng, không bỏ bước nào.
Câu lệnh giúp giảm khả năng bị bịa
Cho phép AI nói "không biết". Thêm vào cuối câu hỏi: "Nếu không chắc chắn, hãy nói rõ là không chắc, đừng đoán." Mô hình sẽ thường xuyên đánh dấu chỗ nghi ngờ hơn, dù không loại bỏ hoàn toàn lỗi.
Giới hạn trong tài liệu bạn đưa. Khi hỏi về một văn bản, viết "chỉ trả lời dựa trên tài liệu đính kèm, trích nguyên văn đoạn liên quan và nêu số trang". Có trích dẫn nguyên văn thì bạn kiểm được ngay trong vài giây.
Bật tìm kiếm cho câu hỏi về hiện tại. Giá, lịch, quy định mới, sự kiện gần đây cần tra web. Hỏi kèm "tính đến thời điểm hiện tại, nguồn công bố ngày nào".
Yêu cầu tách mức độ chắc chắn. Xin trình bày thành hai phần: điều có nguồn xác thực và điều là suy luận. Cách này buộc mô hình phân biệt, và giúp bạn biết phần nào cần kiểm thêm.
Kiểm tính toán bằng công cụ. Nhờ AI viết công thức Excel thay vì tự tính ra kết quả; dán công thức vào bảng tính để máy tính làm phần số học.
Dấu hiệu nhận ra một câu trả lời có thể đang bịa
Không cần là chuyên gia, chỉ cần để ý vài tín hiệu sau trong câu trả lời:
- Chi tiết quá cụ thể mà không có nguồn: "theo một nghiên cứu năm 2019 trên 3.200 người" nhưng không nói của ai, đăng ở đâu.
- Con số tròn đẹp bất thường: đúng 50%, đúng 10 triệu người, đúng gấp 3 lần. Số liệu thật thường lẻ.
- Đường dẫn hoặc tên tài liệu trông hợp lý nhưng không mở được: đường dẫn đúng tên miền báo lớn nhưng báo lỗi không tìm thấy trang.
- Trả lời ngay một câu hỏi rất ngách như quy định riêng của một xã, tiểu sử một người bình thường, giá dịch vụ một cơ sở nhỏ, mà không hề rào đón.
- Tự sửa khi bị chất vấn: bạn hỏi "có chắc không?" và nó lập tức đưa ra con số khác. Mô hình đang chiều theo người hỏi chứ không dựa trên dữ kiện.
- Trộn mốc thời gian: gọi tên đơn vị hành chính đã sáp nhập như đang tồn tại, nhắc mức lương cơ sở hoặc lệ phí của nhiều năm trước.
- Trích dẫn nguyên văn lời một người nổi tiếng mà bạn chưa từng thấy ở đâu. Câu trích bịa là loại lỗi lan nhanh nhất trên mạng xã hội.
Gặp một trong các dấu hiệu này không có nghĩa câu trả lời chắc chắn sai, nhưng là lúc phải dừng lại kiểm trước khi dùng.
Khi nào tuyệt đối không dựa vào câu trả lời của AI
Có những tình huống mà sai một lần là trả giá đắt, AI chỉ nên đóng vai người giải thích, không phải người quyết định. Sức khoẻ: triệu chứng đau ngực, khó thở, yếu liệt nửa người, sốt cao ở trẻ nhỏ cần gọi cấp cứu hoặc đến cơ sở y tế, không hỏi chatbot. Liều thuốc, phối hợp thuốc phải hỏi dược sĩ, bác sĩ.
Pháp lý và giấy tờ: hợp đồng mua bán nhà đất, tranh chấp lao động, thủ tục thừa kế cần văn bản gốc và người có chuyên môn. AI giúp bạn hiểu thuật ngữ và chuẩn bị câu hỏi để buổi tư vấn hiệu quả hơn. Tiền bạc: quyết định đầu tư, vay nợ, chuyển khoản theo lời một "chuyên gia" nào đó mà AI dẫn ra đều phải tự xác minh.
Một nguyên tắc dễ nhớ: nếu bạn sẽ không dám nói "mình làm vậy vì AI bảo thế" trước người chịu ảnh hưởng, thì đừng làm chỉ vì AI bảo thế.
Câu hỏi thường gặp
Bật tìm kiếm web rồi thì AI còn bịa không?
Ít hơn nhưng vẫn có. AI có thể đọc sai nguồn, gộp thông tin từ hai trang khác nhau, hoặc dẫn một nguồn không chứa dữ kiện nó nêu. Vì vậy vẫn cần bấm vào nguồn và tìm đúng đoạn liên quan, nhất là với con số và trích dẫn.
Vì sao hỏi hai lần lại ra hai đáp án khác nhau?
Mô hình chọn chữ theo xác suất có yếu tố ngẫu nhiên, nên mỗi lần tạo câu trả lời có thể khác. Với văn bản sáng tạo đây là điểm cộng. Với dữ kiện, nếu hai lần ra hai con số khác nhau thì gần như chắc chắn ít nhất một lần sai, cần kiểm nguồn.
AI có cố tình nói dối không?
Không theo nghĩa có ý định lừa. Mô hình không có khái niệm đúng sai như con người, nó tạo câu trả lời có vẻ hợp lý dựa trên mẫu đã học. Kết quả với người dùng thì giống nhau: thông tin sai trình bày như thật, nên trách nhiệm kiểm tra thuộc về người dùng.
Làm sao biết một trích dẫn AI đưa ra là có thật?
Chép nguyên câu trích hoặc tên tài liệu vào công cụ tìm kiếm, đặt trong dấu ngoặc kép. Với bài báo khoa học, tra tên trên Google Scholar hoặc trang của tạp chí. Không tìm thấy ở đâu ngoài câu trả lời của AI thì coi như không tồn tại.
Có công cụ nào tự kiểm tra câu trả lời AI không?
Một số trợ lý có nút kiểm lại bằng tìm kiếm, ví dụ Gemini có tính năng đối chiếu câu trả lời với kết quả Google. Các công cụ này hữu ích để đánh dấu chỗ nghi ngờ nhưng không thay được việc bạn tự mở nguồn gốc với dữ kiện quan trọng.
AI trả lời câu hỏi toán của học sinh có đáng tin không?
Các mô hình mới giải toán phổ thông khá tốt nhưng vẫn sai ở bài nhiều bước, bài có hình vẽ, đề chụp mờ. Nên yêu cầu trình bày từng bước và tự thay số kiểm lại kết quả. Học sinh dùng để hiểu cách làm sẽ an toàn hơn chép đáp án.
