Human-in-the-loop

Hôm qua trong cuộc họp báo cáo tiến độ các dự án, tôi có được nghe B trình bày về dự án Ecombox AI Agent, B có nói một cụm từ mà tôi thấy rất đúng và sẽ xem là kim chỉ nam cho các dự án AI sau này. Cụm từ đó là "Human-in-the-loop", đoạn sau tôi sẽ dùng từ viết tắt là HITL.

HITL nôm na là sự kết hợp giữa con người và AI. Con người đóng vai trò giám sát, hướng dẫn và sửa lỗi để đảm bảo kết quả đầu ra chính xác và hiệu quả hơn. Một điều làm tôi bất ngờ khi tìm hiểu và HITL là nó đã xuất hiện từ rất lâu, ngay từ thời 1940-1950. Vào thời gian đó, HITL xuất hiện trong các nghiên cứu về cybernetics và lý thuyết điều khiển. Nhà khoa học Norbert Wiener chính là người đặt nền móng đầu tiên.

Mặc dù thời điểm hiện tại có rất nhiều dự án AI Agent hướng tới tự động hoá hoàn toàn, ví dụ như dự án OpenClaw đang nổi gần đây. Nhưng theo quan điểm của tôi HITL là yếu tố không thể thiếu đối với những nhiệm vụ mang tính chất quan trọng. Nếu bạn là một người dùng AI cơ bản, không cần bạn là chuyên gia vẫn có thể nhìn thấy được có những vấn đề sau:

• AI có định kiến và ảo giác (hallucinations). Định kiến đó là kết quả từ dữ liệu huấn luyện. Nếu bạn dùng AI trong những tác vụ quan trọng, bạn không giám sát thì định kiến đó có thể dẫn tới sai lầm nghiêm trọng. Để minh hoạ cho điều này tôi sẽ lấy ví dụ bạn cần làm một báo cáo về tình trạng nhân quyền ở nước ABC. Bạn không thể phó thác cho AI tìm hiểu hết được vì tôi chắc chắn dữ liệu AI được huấn luyện đa phần sẽ lấy từ báo chí, các kênh tuyên truyền của nước ABC. Nó sẽ dẫn tới kết quả bị sai lệch so với thực tế.
• AI chỉ là máy móc. Nó cần bạn để bạn bổ sung ngữ cảnh, để bạn xác nhận và đưa ra các khía cạnh đạo đức.
• AI cần bạn vì bạn là con người. Bạn sẽ chịu trách nhiệm cho hành động chứ không phải .
• Độ chính xác thì không cần bàn tới. Chắc chắn nếu có bạn đồng hành cùng AI, kết quả của task đó sẽ tốt hơn bạn giao cho nó tự làm 100%.

Từ kinh nghiệm làm các dự án AI generative, tôi nhận thấy người dùng đôi khi không thực sự biết họ muốn gì. Như ở dự án Deligent, việc tạo ra một hình ảnh để in lên áo tưởng chừng đơn giản nhưng người dùng thường lúng túng trong việc lựa chọn hoặc xác định rõ nhu cầu của mình. Với triết lý HITL, thay vì chỉ gõ một prompt dài rồi thụ động đợi kết quả, người dùng sẽ đồng hành trong từng bước của quá trình tạo hình. Việc trực tiếp tham gia không chỉ giúp họ gắn bó hơn với sản phẩm mình tạo ra mà còn tiết kiệm đáng kể chi phí tính toán do hạn chế được việc phải tạo lại nhiều lần.

Chính vì thế, ở Ecombox và các dự án sau này, tôi chọn HITL làm kim chỉ nam để định hướng sản phẩm. Với tôi, con người phải là trọng tâm. Dù AI có tiến hóa đến đâu, nó vẫn cần sự đồng hành của con người để tạo ra giá trị thực tế. Trong tương lai, có thể AI sẽ đạt đến ngưỡng tự động hóa hoàn toàn mà không cần hỗ trợ, nhưng để những kết quả đó có ý nghĩa thì con người vẫn sẽ là thước đo và thang đánh giá hiệu quả cuối cùng.