Công nghệ trí tuệ nhân tạo (AI) ngày càng tiến bộ, mang lại nhiều lợi ích trong các lĩnh vực như tài chính và y tế. Tuy nhiên, các hệ thống AI có thể đưa ra các phán đoán thiên lệch trong nhiều khía cạnh, từ nhận thức đến cảm xúc. Nghiên cứu mới với 1.401 người tham gia đã chỉ ra rằng sự tương tác giữa con người và AI có thể tạo ra một vòng lặp phản hồi, làm gia tăng thiên lệch trong con người. Hiện tượng này xảy ra mạnh mẽ hơn so với tương tác giữa con người với nhau, do xu hướng AI khuếch đại thiên lệch và cách con người cảm nhận về AI. Đáng chú ý, nhiều người không nhận ra mức độ ảnh hưởng của AI, khiến họ dễ bị tác động hơn.
Hiện nay, tương tác giữa con người và AI đang trở nên phổ biến, làm thay đổi xã hội hiện đại. Nghiên cứu chỉ ra rằng khi con người lặp lại các tương tác với AI thiên lệch, họ dần học cách trở nên thiên lệch hơn. Hiện tượng này được quan sát trong nhiều lĩnh vực và với các thuật toán khác nhau, bao gồm cả hệ thống AI chuyển văn bản thành hình ảnh.
AI hiện đại dựa trên các thuật toán học máy, như mạng nơ-ron tích chập (CNNs) và transformer, để phân tích dữ liệu lớn. Trong nhiều lĩnh vực, AI đã cải thiện khả năng tự nhiên của con người. Tuy nhiên, các nghiên cứu đã chỉ ra rằng AI có thể tự động hóa và làm tăng thêm các thiên lệch hiện có, ví dụ như trong chuẩn đoán y tế hay tuyển dụng.
Thiên lệch trong các hệ thống AI thường xuất phát từ dữ liệu chứa thiên lệch mà con người sử dụng để huấn luyện AI. Các công cụ AI như nhận diện khuôn mặt, hệ thống gợi ý, hay phần mềm tuyển dụng cũng có thể tái tạo và khuếch đại thiên lệch xã hội.
Một ví dụ là khi con người tương tác với các hình ảnh hoặc nội dung do AI tạo ra, họ có thể học hỏi và nội tâm hóa các thiên lệch đó. Hiện nay, hàng tỷ hình ảnh do AI tạo ra đang lưu hành trực tuyến, ảnh hưởng đến nhận thức của người dùng trên mạng xã hội và các nền tảng số.
Nghiên cứu đã chỉ ra rằng khi con người tương tác với AI thiên lệch, các phán đoán thiên lệch của họ tăng dần theo thời gian. Điều này xảy ra vì AI nhạy cảm hơn với những thiên lệch nhỏ trong dữ liệu và có khả năng sử dụng các thiên lệch này để cải thiện độ chính xác dự đoán. Khi con người coi AI là vượt trội hơn con người, việc họ học theo những thiên lệch của AI trở nên hợp lý. Ví dụ, trong một nhiệm vụ phân loại cảm xúc, AI được huấn luyện trên dữ liệu thiên lệch từ con người đã khuếch đại thiên lệch này. Khi con người tương tác với AI, các phán đoán ban đầu của họ trở nên thiên lệch hơn, tạo ra một vòng lặp phản hồi liên tục.
Khi nghiên cứu tương tác giữa con người với nhau, kết quả cho thấy không có sự gia tăng thiên lệch. Điều này cho thấy con người, không giống như AI, dựa vào nhiều yếu tố khác như kinh nghiệm và kỳ vọng cá nhân để đưa ra phán đoán.
Nghiên cứu cũng kiểm tra xem liệu thiên lệch tăng lên có phải do đầu vào của AI hay cách con người nhìn nhận AI. Khi người tham gia nghĩ rằng họ đang tương tác với một con người (thực tế là AI), thiên lệch vẫn tăng nhưng ở mức thấp hơn. Điều này chứng tỏ cả đầu vào và cách nhận thức về AI đều ảnh hưởng đến sự gia tăng thiên lệch.
Tương tác giữa con người và AI không chỉ làm lộ ra các thiên lệch có sẵn trong hệ thống mà còn làm gia tăng thiên lệch của con người. Điều này gây lo ngại khi AI được sử dụng rộng rãi trong các lĩnh vực như y tế, giáo dục và tài chính. Các nghiên cứu sâu hơn là cần thiết để giảm thiểu những tác động tiêu cực này và đảm bảo rằng AI hỗ trợ con người đưa ra quyết định chính xác hơn thay vì làm thiên lệch chúng.
P.A.T (NASATI), theo https://www.nature.com/, 13/12/2024
