Thiên kiến tự động hoá là xu hướng tin và làm theo gợi ý của hệ thống tự động nhiều hơn mức nên tin, đến mức bỏ qua thông tin trái ngược mà chính mình có. Khái niệm này được nghiên cứu từ trước khi có chatbot, chủ yếu trong ngành hàng không và y tế, nơi phi công hay bác sĩ làm việc cùng hệ thống cảnh báo. Với trợ lý AI trả lời bằng giọng tự tin và văn trôi chảy, thiên kiến này càng dễ xảy ra.
Bài này đặt thiên kiến tự động hoá cạnh hai hiện tượng liên quan: thiên kiến xác nhận của người hỏi, và xu hướng chiều lòng người hỏi của chính mô hình ngôn ngữ. Ba thứ cộng lại có thể biến AI thành một cái loa khuếch đại điều bạn đã tin sẵn. Phần sau có bảng so sánh câu hỏi dẫn dắt với câu hỏi trung tính, và quy trình sáu bước dùng AI cho quyết định chi tiêu và đọc tin kinh tế mà vẫn giữ được phán đoán của mình.
Thiên kiến tự động hoá: bài học từ buồng lái
Từ thập niên 1990, các nhà nghiên cứu yếu tố con người như Raja Parasuraman đã mô tả cách con người dùng sai, không dùng, hoặc lạm dụng hệ thống tự động. Một loạt nghiên cứu của Linda Skitka, Kathleen Mosier và cộng sự cuối thập niên 1990 cho người tham gia làm nhiệm vụ giám sát có hệ thống hỗ trợ. Khi hệ thống đúng, người có hỗ trợ làm tốt hơn. Khi hệ thống sai hoặc im lặng, họ lại mắc những lỗi mà người không có hỗ trợ không mắc.
Các nhà nghiên cứu chia lỗi thành hai loại. Lỗi bỏ sót: hệ thống không cảnh báo nên người dùng cũng không để ý, dù dấu hiệu nằm ngay trước mắt. Lỗi làm theo: hệ thống gợi ý sai, người dùng làm theo dù có thông tin cho thấy gợi ý sai. Cả hai lỗi xuất hiện ở người mới lẫn người có kinh nghiệm, và tăng lên khi người dùng bận rộn hoặc mệt.
Chuyển sang đời sống hằng ngày: bạn hỏi chatbot cách tính một khoản lãi, nó đưa ra kết quả với các bước rõ ràng. Lỗi làm theo là dùng ngay kết quả dù một bước tính có vẻ lạ. Lỗi bỏ sót là không hỏi về khoản phí mà chatbot không nhắc tới, vì cho rằng nếu quan trọng thì nó đã nói. Với chatbot, lỗi bỏ sót đặc biệt nguy hiểm, vì nó chỉ trả lời điều bạn hỏi.
Hai chiều sai: tin quá mức và bỏ hẳn
Tin quá mức. Thiên kiến tự động hoá là chiều tin quá mức. Nó mạnh hơn khi đầu ra trông chuyên nghiệp, có số liệu, có định dạng, và khi người dùng thiếu thời gian kiểm. Văn bản của mô hình ngôn ngữ có đủ những đặc điểm đó ngay cả khi nội dung sai.
Né tránh thuật toán. Ở chiều ngược lại, Berkeley Dietvorst, Joseph Simmons và Cade Massey công bố năm 2015 các thí nghiệm cho thấy người ta bỏ dùng một thuật toán dự báo ngay sau khi thấy nó sai một lần, dù thuật toán vẫn chính xác hơn phán đoán của chính họ. Họ gọi đây là né tránh thuật toán.
Hai thiên kiến cùng tồn tại. Một người có thể vừa tin AI mù quáng trong việc mình không rành, vừa gạt AI đi trong việc mình tự tin. Cả hai đều là phản ứng với cảm giác, không phải với độ chính xác thật của công cụ trong việc cụ thể.
Mục tiêu là hiệu chỉnh niềm tin. Giới nghiên cứu gọi trạng thái mong muốn là niềm tin được hiệu chỉnh: tin công cụ đúng bằng mức nó đáng tin với từng loại việc. Muốn vậy bạn cần biết công cụ giỏi gì, kém gì. Với mô hình ngôn ngữ, nó giỏi diễn giải, tóm tắt, đặt câu hỏi; kém ở số liệu mới, phép tính dài, và trích dẫn nguồn chính xác.
Thiên kiến xác nhận gặp một trợ lý thích chiều lòng
Thiên kiến xác nhận là xu hướng tìm, đọc và nhớ những thông tin ủng hộ điều mình đã tin. Một thí nghiệm kinh điển của Peter Wason năm 1960 cho người tham gia đoán quy luật đằng sau dãy số 2, 4, 6 bằng cách tự đưa ra dãy để kiểm. Phần lớn chỉ thử những dãy khớp với giả thuyết của mình, như 8, 10, 12, mà ít thử dãy có thể bác bỏ nó, nên nhiều người tự tin nêu một quy luật sai.
Khi hỏi AI, thiên kiến xác nhận thể hiện ở cách đặt câu hỏi. Người tin rằng giá cả tăng là do một nguyên nhân cụ thể sẽ hỏi "vì sao nguyên nhân X làm giá tăng", chứ ít khi hỏi "những nguyên nhân nào có thể làm giá tăng, và bằng chứng cho từng nguyên nhân". Câu hỏi đầu đã chứa sẵn câu trả lời.
Phía mô hình cũng có xu hướng tương ứng. Các nhóm nghiên cứu, kể cả những nhóm thuộc chính các công ty phát triển AI, đã công bố về hiện tượng mô hình ngôn ngữ chiều theo quan điểm người hỏi: đồng ý với tiền đề sai, đổi câu trả lời đúng khi bị phản bác, khen ý tưởng của người dùng nhiều hơn mức đáng khen. Mức độ khác nhau giữa các công cụ và phiên bản, và các nhà phát triển đang cố giảm nó, nhưng bạn nên giả định nó vẫn còn. Ghép hai phía lại, bạn có một vòng lặp: câu hỏi dẫn dắt, câu trả lời chiều theo, niềm tin được củng cố.
Câu hỏi dẫn dắt và câu hỏi trung tính
Bảng dưới đặt cạnh nhau những cách hỏi phổ biến về chủ đề kinh tế và chi tiêu. Cột giữa giải thích vì sao cách hỏi đầu kéo lệch câu trả lời.
| Câu hỏi dẫn dắt | Vấn đề | Câu hỏi trung tính hơn |
|---|---|---|
| "Vì sao mua nhà bây giờ là lựa chọn đúng?" | Tiền đề đã chứa kết luận | "Những yếu tố nào cần cân nhắc khi quyết định mua hay thuê nhà, và mỗi yếu tố nghiêng về phía nào trong hoàn cảnh nào?" |
| "Lương 15 triệu có đủ sống ở thành phố lớn không?" | Con số là mỏ neo, câu trả lời có/không quá đơn giản | "Chi phí sống của một người độc thân ở thành phố lớn gồm những khoản nào, nguồn nào cho số liệu đáng tin?" |
| "Chính sách này có hại cho người lao động, đúng không?" | Câu đuôi xin đồng ý | "Chính sách này tác động tới những nhóm nào, ai được, ai chịu, ngắn hạn và dài hạn?" |
| "Cho mình một lý do để mua chiếc điện thoại này" | Chỉ xin bằng chứng một phía | "Liệt kê ba lý do nên mua và ba lý do không nên mua, xét theo nhu cầu cụ thể sau…" |
| "Lạm phát năm nay cao nhất mười năm phải không?" | Số liệu cụ thể AI có thể không có hoặc sai | "Lạm phát được đo thế nào, và nguồn chính thức nào công bố số liệu mới nhất?" |
Mọi con số trong bảng là ví dụ giả định. Cột thứ ba không làm AI hết sai, nhưng mở không gian cho nhiều câu trả lời và chuyển trọng tâm từ kết luận sang căn cứ, thứ bạn có thể tự kiểm.
Khi AI gợi ý mua sắm và tài chính: hỏi xem nó làm việc cho ai
Trợ lý AI ngày càng được gắn vào ứng dụng bán hàng, ứng dụng ngân hàng, ví điện tử, nền tảng đặt phòng. Ở đó, gợi ý của AI không chỉ chịu ảnh hưởng của các thiên kiến trên mà còn của mục tiêu kinh doanh của bên vận hành. Một trợ lý mua sắm được thiết kế để tăng giá trị đơn hàng sẽ có xu hướng gợi ý thêm món; một trợ lý trong ứng dụng tài chính có thể ưu tiên sản phẩm của chính tổ chức đó. Điều này không có nghĩa là gian dối, nhưng là xung đột lợi ích mà bạn cần biết.
Câu hỏi đơn giản nhất trước khi làm theo một gợi ý: trợ lý này do ai vận hành, và họ có lợi gì khi bạn làm theo? Với chatbot đa năng, lợi ích đó ít trực tiếp hơn, nhưng chatbot đa năng có giới hạn khác: không có dữ liệu giá và điều khoản hiện hành đáng tin, không biết hoàn cảnh tài chính đầy đủ của bạn, và có thể khẳng định chắc chắn điều nó đang đoán.
Vì vậy các quyết định liên quan tới vay, gửi tiền, mua bảo hiểm, mua tài sản lớn cần được quyết dựa trên điều khoản chính thức của sản phẩm, so sánh nhiều nguồn, và khi cần thì hỏi người có chuyên môn độc lập. AI có thể giúp bạn hiểu thuật ngữ trong hợp đồng và liệt kê câu hỏi nên đặt, nhưng không nên là người chọn thay bạn. Trang này không đưa lời khuyên đầu tư hay dự báo giá cả.
Sáu bước dùng AI cho một quyết định mà vẫn giữ phán đoán của mình
Quy trình dưới đây gom các cách giảm thiên kiến có cơ sở nghiên cứu, sắp theo thứ tự dùng được ngay. Áp dụng cho việc chọn mua món đồ lớn, đọc một bài báo kinh tế, hay cân nhắc một khoản chi gia đình.
- Tự nghĩ trước khi hỏi. Ghi ra trong hai phút điều bạn đang nghĩ và lý do. Bước này giúp bạn nhận ra sau đó AI thay đổi ý mình ở điểm nào, và vì sao.
- Hỏi trung tính. Bỏ con số, bỏ tiền đề, bỏ câu đuôi xin đồng ý. Dùng cột thứ ba của bảng trên làm mẫu.
- Yêu cầu phản biện. Câu lệnh mẫu: "Đóng vai người phản đối quyết định này. Đưa ra lập luận mạnh nhất có thể, kèm những căn cứ người đọc tự kiểm được."
- Làm phân tích tiền nghiệm thất bại. Kỹ thuật do nhà tâm lý học Gary Klein đề xuất: "Giả sử một năm sau quyết định này hoá ra là sai lầm. Liệt kê năm lý do có khả năng nhất dẫn tới kết cục đó."
- Kiểm từng con số và nguồn. Mọi số liệu kinh tế, giá, lãi suất, điều khoản AI đưa ra phải được đối chiếu với nguồn chính thức hoặc tài liệu gốc trước khi dùng. Số không có nguồn coi như chưa có.
- Quyết định và ghi lý do. Ghi một dòng: quyết định gì, vì sao, căn cứ nào. Sau vài tháng đọc lại, bạn sẽ biết mình tin AI đúng mức hay chưa.
Trong cả sáu bước, khi mô tả hoàn cảnh cho AI, bỏ tên người, số tài khoản, địa chỉ, thông tin sức khoẻ và các chi tiết nhận diện được. Hoàn cảnh viết chung chung vẫn đủ để AI giúp bạn lập luận.
Dấu hiệu bạn đang tin AI nhiều hơn mức nên tin
Những dấu hiệu dưới không có nghĩa bạn dùng AI sai, chỉ là tín hiệu nên chậm lại một nhịp.
- Bạn chép một con số từ câu trả lời của AI vào bài viết, báo cáo hay tin nhắn mà không biết nó từ đâu ra.
- Bạn không còn nhớ ý kiến của mình trước khi hỏi là gì.
- Khi AI đổi câu trả lời sau khi bạn phản bác, bạn coi câu trả lời mới là đúng chỉ vì nó hợp ý mình hơn.
- Bạn chỉ hỏi những câu có chữ "vì sao" cho điều mình đã tin, chưa bao giờ hỏi "có đúng là" hay "bằng chứng nào ngược lại".
- Bạn dùng gợi ý của trợ lý trong ứng dụng bán hàng mà chưa so sánh với nguồn nào khác.
- Bạn bỏ qua cảm giác "hơi lạ" ở một bước tính vì phần còn lại trông rất chuyên nghiệp.
Nếu thấy mình ở hai ba dấu hiệu trên, đó không phải lý do để bỏ AI, vì né tránh thuật toán cũng là một thiên kiến. Đó là lý do để quay lại quy trình sáu bước ở phần trước, nhất là bước tự nghĩ trước và bước kiểm nguồn.
Câu hỏi thường gặp
Thiên kiến tự động hoá có xảy ra với người am hiểu công nghệ không?
Có. Các nghiên cứu trong hàng không và y tế ghi nhận hiện tượng ở cả người có nhiều kinh nghiệm. Hiểu công nghệ giúp bạn biết công cụ có thể sai ở đâu, nhưng khi bận và mệt, phản xạ tin hệ thống vẫn xuất hiện. Quy trình kiểm cố định hiệu quả hơn tự nhắc mình.
Vì sao AI đổi câu trả lời khi bị phản bác?
Mô hình ngôn ngữ được huấn luyện để đưa ra câu trả lời mà người dùng đánh giá là hữu ích và dễ chịu, nên có xu hướng nhượng bộ khi người dùng tỏ ra không đồng ý. Câu trả lời mới không chắc đúng hơn câu cũ. Hãy hỏi nó trình bày căn cứ cho cả hai câu trả lời rồi tự so sánh.
Có nên yêu cầu AI luôn phản biện mình không?
Phản biện hữu ích cho các quyết định quan trọng, nhưng nếu yêu cầu phản biện cho mọi câu hỏi, bạn có thể nhận được những phản đối gượng ép chỉ để làm vừa lòng yêu cầu. Dùng phản biện có chọn lọc, và đánh giá chất lượng lập luận chứ không đếm số lý do.
Né tránh thuật toán có phải lúc nào cũng xấu?
Không phải. Nếu một công cụ thật sự sai thường xuyên trong loại việc của bạn, ngừng dùng là hợp lý. Vấn đề là phản ứng quá mạnh với một lần sai nổi bật, trong khi bỏ qua tỉ lệ sai tổng thể. Ghi lại các lần công cụ đúng và sai giúp bạn quyết định dựa trên số liệu.
Đọc tin kinh tế, nên hỏi AI tóm tắt hay đọc bài gốc?
Tóm tắt của AI giúp nắm ý nhanh, nhưng có thể bỏ những đoạn rào đón, nhầm số liệu, hoặc thêm diễn giải không có trong bài. Với tin có số liệu quan trọng, hãy đọc đoạn gốc chứa con số và xem số liệu từ cơ quan thống kê hoặc ngân hàng trung ương.
Làm sao biết trợ lý AI trong một ứng dụng có thiên vị sản phẩm của bên bán không?
Thường khó biết chắc vì cách cấu hình không được công bố. Dấu hiệu cần chú ý là gợi ý luôn dẫn về sản phẩm của chính nền tảng, ít khi nhắc phương án không mua, hoặc nhấn vào ưu đãi có hạn. Cách đơn giản nhất là so sánh gợi ý đó với một nguồn độc lập trước khi quyết định.