Ảo giác AI (hallucination) là hiện tượng chatbot đưa ra thông tin không có thật hoặc sai, nhưng trình bày trôi chảy và tự tin như sự thật: một điều luật không tồn tại, một con số tự nghĩ ra, một câu trích không ai nói, một bước quy trình lắp ghép sai. Đây không phải lỗi hiếm gặp có thể sửa một lần là hết, mà là đặc điểm gắn với cách mô hình ngôn ngữ tạo ra câu trả lời.
Với người quản lý, ảo giác nguy hiểm ở chỗ nó đi qua tay nhiều người: nhân viên soạn, bạn duyệt, khách hoặc cấp trên đọc. Mỗi người tưởng người trước đã kiểm. Bài này chỉ ra những vùng ảo giác hay xuất hiện, cách kiểm bốn lớp tuỳ mức rủi ro, và một quy ước đơn giản để đội không gửi thông tin sai ra ngoài.
Vì sao AI bịa mà không biết mình bịa
Mô hình ngôn ngữ tạo câu trả lời bằng cách chọn chữ tiếp theo hợp lý nhất. Khi gặp câu hỏi mà dữ liệu học có nhiều thông tin, câu hợp lý nhất thường trùng với sự thật. Khi gặp câu hỏi hiếm, quá chi tiết, hoặc yêu cầu điều không có, như "liệt kê năm nghiên cứu về chủ đề X", mô hình vẫn tạo ra thứ trông giống một danh sách nghiên cứu, vì hình dạng của câu trả lời đó rất quen thuộc với nó.
Điều quan trọng là mô hình không có một bộ phận riêng để phân biệt "mình chắc" và "mình đoán". Một số công cụ đã được cải thiện để nói "không chắc" thường hơn, hoặc kèm nguồn khi có tìm kiếm, nhưng không có công cụ nào loại bỏ hoàn toàn ảo giác. Vì vậy, quy trình kiểm phải nằm ở phía con người.
Một chi tiết hay bị bỏ qua: ảo giác không chỉ là bịa sự kiện. Nó còn có thể là tóm tắt sai ý tài liệu bạn đưa vào, gán lời của người này cho người khác trong biên bản, hay thêm một cam kết không ai đưa ra. Những dạng này khó phát hiện hơn vì bạn tưởng mình đã cung cấp nguồn thì AI sẽ bám đúng.
Những vùng ảo giác hay xuất hiện trong việc của người quản lý
Bảng dưới liệt kê các loại nội dung người quản lý hay nhờ AI và mức độ dễ sai. Mức độ ở đây là nhận định thực tế từ cách mô hình hoạt động, không phải số đo.
| Loại nội dung | Dạng sai hay gặp | Mức cần kiểm |
|---|---|---|
| Quy định lao động, bảo hiểm, thuế | Dẫn sai điều khoản, dùng văn bản đã hết hiệu lực, bịa mức cụ thể | Rất cao: luôn đối chiếu văn bản hiện hành hoặc hỏi người phụ trách |
| Số liệu thị trường, thống kê ngành | Con số tự nghĩ, nguồn không tồn tại | Rất cao: không dùng nếu không có nguồn gốc kiểm được |
| Câu trích danh nhân, tên sách, tác giả | Gán sai người nói, sách không có thật | Cao: mặc định không dùng trích dẫn nếu không kiểm được |
| Tóm tắt tài liệu bạn đưa vào | Bỏ sót ý quan trọng, thêm ý không có | Trung bình: đối chiếu các điểm chính với bản gốc |
| Biên bản họp từ ghi âm hoặc ghi chép | Gán lời sai người, thêm cam kết | Trung bình đến cao: người dự họp đọc lại trước khi gửi |
| Dàn ý, gợi ý ý tưởng, bản nháp thư | Chung chung, lặp, nhưng ít sai sự kiện | Thấp: đọc lại về giọng và sự phù hợp |
Bạn sẽ thấy những vùng rủi ro cao trùng với những thứ có vẻ "tra cứu", nghĩa là đúng loại việc nhiều người nghĩ AI làm giỏi nhất. Đây là chỗ cần thay đổi thói quen nhiều nhất.
Kiểm bốn lớp tuỳ mức rủi ro
Không phải câu trả lời nào cũng cần kiểm kỹ như nhau. Bốn lớp dưới đây được xếp từ nhẹ tới nặng; việc càng rủi ro càng phải đi qua nhiều lớp.
- Lớp 1, đọc có chủ đích: đọc lại với câu hỏi "câu nào là sự kiện, câu nào là nhận định". Gạch chân mọi con số, tên riêng, ngày tháng, điều khoản, cam kết. Đây là lớp tối thiểu cho mọi thứ gửi đi.
- Lớp 2, hỏi lại chính AI: yêu cầu nó chỉ ra câu nào ít chắc chắn nhất, nguồn của từng con số, và điều gì có thể đã thay đổi gần đây. Lớp này không chứng minh được gì nhưng giúp khoanh vùng chỗ cần kiểm.
- Lớp 3, đối chiếu nguồn gốc: với mỗi chi tiết đã gạch chân, tìm nguồn chính thức như văn bản pháp luật trên cổng thông tin chính thức, tài liệu nội bộ, sổ sách. Chi tiết nào không tìm được nguồn thì bỏ hoặc ghi rõ là ước tính.
- Lớp 4, người có chuyên môn xem: với nội dung pháp lý, tài chính, an toàn, nhờ người phụ trách hoặc chuyên gia đọc trước khi dùng. Với câu hỏi pháp lý về một tình huống cụ thể, bạn có thể hỏi luật sư trên AI Cố Vấn (aicovan.com).
Một mẹo giữ kỷ luật: ghi vào cuối tài liệu nội bộ một dòng ngắn cho biết đã kiểm tới lớp nào. Người đọc tiếp theo biết mình cần làm gì thêm, và không ai tưởng người trước đã kiểm hết.
Dấu hiệu nhận ra một câu trả lời có thể đang bịa
Cụ thể một cách đáng ngờ. Một con số lẻ như "giảm 37,4%" kèm tên một khảo sát nghe rất chính thức nhưng không có đường kiểm. Độ cụ thể làm người đọc tin hơn, chính vì vậy cần cảnh giác hơn.
Nguồn không truy được. Tên báo cáo, tên tác giả, tên văn bản mà khi tìm không thấy, hoặc tìm thấy nhưng nội dung khác. Gặp một trường hợp như vậy, hãy nghi ngờ cả phần còn lại của câu trả lời.
Trả lời mọi thứ, không có chỗ nào "không biết". Một câu hỏi phức tạp mà câu trả lời không có chút rào đón, không nêu điều kiện, không nói phụ thuộc vào gì, thường là dấu hiệu nó đang lấp chỗ trống.
Mâu thuẫn khi hỏi lại. Hỏi cùng một chi tiết theo cách khác mà ra con số khác. Chi tiết nào thay đổi giữa hai lần hỏi là chi tiết không đáng tin.
Khớp quá hoàn hảo với điều bạn muốn nghe. Nếu câu trả lời xác nhận đúng giả định bạn đặt sẵn trong câu hỏi, hãy dừng lại. Mô hình có xu hướng chiều người hỏi, và đó là lúc dễ bị dẫn dắt nhất.
Ví dụ giả định: một chi tiết bịa suýt lọt vào thông báo gửi đội
Chị Mai, trưởng nhóm hành chính ở một công ty dịch vụ tại Thành phố Hồ Chí Minh, nhờ AI soạn thông báo về chế độ nghỉ phép năm cho nhân viên mới. Bản nháp viết mạch lạc, có cả một đoạn nêu số ngày phép tăng thêm theo thâm niên và trích dẫn tên một văn bản. Đọc lướt, mọi thứ có vẻ đúng, giọng văn còn chuyên nghiệp hơn thông báo năm ngoái.
Khi áp dụng lớp kiểm đầu tiên, chị gạch chân ba chi tiết: số ngày phép, mốc thâm niên và tên văn bản. Đối chiếu với quy chế nội bộ của công ty, chị thấy mốc thâm niên khác hẳn, vì công ty có chính sách riêng có lợi hơn cho người lao động. Tên văn bản được trích thì không phải văn bản công ty dùng làm căn cứ. Nếu gửi đi, nhân viên mới sẽ hiểu sai quyền lợi của mình, còn người cũ sẽ thắc mắc vì sao thông báo khác quy chế họ đã ký.
Điều đáng học từ ví dụ này không phải là AI kém, mà là chỗ sai nằm đúng ở phần quan trọng nhất của thông báo: con số và căn cứ. Phần câu chữ thì AI làm tốt. Từ đó chị Mai đổi cách làm: đưa quy chế nội bộ đã che thông tin cá nhân vào làm nguồn, yêu cầu AI chỉ diễn đạt lại, và vẫn đối chiếu từng con số trước khi gửi.
Quy ước của đội để ảo giác không lọt ra ngoài
Người quản lý không thể tự kiểm mọi thứ đội làm. Điều bạn làm được là đặt quy ước để trách nhiệm kiểm rõ ràng. Quy ước đơn giản nhất gồm ba câu: người soạn chịu trách nhiệm kiểm sự kiện trước khi chuyển; người duyệt chịu trách nhiệm đọc lại những chi tiết đã gạch chân; không ai được nói "AI viết vậy" như một lời giải thích khi có sai sót.
Thêm một quy ước nên có: những tài liệu có số liệu, quy định hay cam kết gửi khách thì người soạn ghi chú nguồn bên cạnh, dù chỉ là "theo sổ bán hàng tháng trước" hay "theo quy định công ty bản tháng gần nhất". Ghi chú này không phải gửi đi, nhưng giúp người duyệt kiểm nhanh. Lâu dần, đội có thói quen tự hỏi "mình lấy cái này từ đâu" trước khi viết.
Khi có người phát hiện ảo giác, đừng biến đó thành chuyện chê trách. Hãy khen người phát hiện trong buổi giao ban, kể lại ngắn gọn lỗi là gì, đã ẩn tên khách. Những câu chuyện thật như vậy dạy đội nhanh hơn mọi bản hướng dẫn, và giữ cho mọi người dám báo khi thấy sai.
Câu lệnh mẫu giúp khoanh vùng chỗ cần kiểm
Những câu lệnh dưới không làm câu trả lời đúng hơn, nhưng giúp bạn biết phải kiểm chỗ nào trước. Dùng sau khi đã có câu trả lời đầu tiên.
- "Trong câu trả lời trên, liệt kê mọi con số, tên riêng, văn bản, ngày tháng. Với mỗi mục, cho biết đó là thông tin chắc chắn, ước tính hay không rõ nguồn."
- "Câu nào trong câu trả lời trên có khả năng đã lỗi thời nhất? Vì sao?"
- "Hãy đóng vai người phản biện, tìm ba chỗ trong câu trả lời trên có thể sai hoặc thiếu điều kiện."
- "So sánh bản tóm tắt bạn vừa viết với đoạn gốc bên dưới. Có ý nào trong bản tóm tắt không xuất hiện trong bản gốc không?"
Nếu công cụ có khả năng tìm kiếm, hãy yêu cầu kèm nguồn và tự bấm mở từng nguồn để đọc. Nguồn được liệt kê nhưng không mở được, hoặc mở ra không chứa nội dung tương ứng, nghĩa là thông tin đó chưa được kiểm.
Câu hỏi thường gặp
Ảo giác AI có xảy ra với các công cụ trả phí không?
Có. Gói trả phí thường dùng mô hình mạnh hơn và có thêm tính năng tìm kiếm, nhưng không có gói nào loại bỏ hoàn toàn ảo giác. Thói quen kiểm của người dùng vẫn là lớp bảo vệ chính.
Nếu đã đưa tài liệu gốc cho AI thì còn ảo giác không?
Vẫn có thể. AI có thể tóm tắt sai, bỏ sót ý hoặc thêm thông tin không có trong tài liệu. Rủi ro thấp hơn so với hỏi không có nguồn, nhưng vẫn cần đối chiếu các điểm chính với bản gốc.
Nhân viên gửi báo cáo có số liệu do AI bịa thì xử lý thế nào?
Trước hết sửa báo cáo và báo cho người nhận nếu đã gửi đi. Sau đó nói chuyện riêng với nhân viên về cách kiểm, coi lần đầu là cơ hội hướng dẫn. Nếu chưa có quy ước kiểm rõ ràng, trách nhiệm một phần thuộc về người quản lý.
Có cách nào yêu cầu AI không bịa không?
Bạn có thể yêu cầu nó nói "không biết" khi không chắc và tách thông tin chắc chắn với ước tính. Cách này giảm được một phần nhưng không loại bỏ hoàn toàn. Không có câu lệnh nào thay được việc kiểm nguồn.
Có nên cấm đội dùng AI cho việc tra cứu không?
Cấm hẳn thường khiến nhân viên dùng lén mà không ai kiểm. Cách tốt hơn là cho dùng để định hướng và hiểu khái niệm, kèm quy ước bắt buộc đối chiếu nguồn chính thức với mọi thông tin đưa vào tài liệu chính thức hoặc gửi khách.
Trích dẫn câu nói của danh nhân do AI đưa ra có dùng được không?
Nên mặc định không dùng nếu không kiểm được nguồn gốc. Rất nhiều câu nói lan truyền được gán sai người, và AI dễ lặp lại hoặc tự ghép thêm. Dùng ý của bạn diễn đạt bằng lời mình thường thuyết phục hơn.