Thoughtworks: mô hình quyết định đang đưa vận hành IT tiến gần tới "không cần con người" (NoOps)
Zichuan Xiong của Thoughtworks mô tả hành trình AI cho vận hành IT (AIOps) của công ty qua bốn giai đoạn kể từ quý 4/2024, đỉnh điểm là cái mà họ gọi là "vận hành không con người". Ban đầu, một plugin AI trong Zendesk gợi ý câu trả lời cho nhân viên vận hành dựa trên quy trình chuẩn và các ticket cũ. Năm 2025, các yêu cầu rủi ro thấp, dễ đoán được chuyển cho một agent chạy bằng LLM xử lý trước, con người chỉ vào cuộc khi độ tin cậy thấp; từ quý 1/2026, các mô hình mạnh hơn có thể phân loại sự kiện phức tạp, lập kế hoạch xử lý, tạo pull request, kiểm thử trong sandbox, đóng ticket và học từ kết quả, nhưng việc agent trao đổi nhiều vòng khiến chi phí token trở thành mối lo lớn. Tháng 9/2026, nhóm chuyển toàn bộ agent phân loại từ LLM sang "mô hình quyết định" (như JEV, còn gọi là mô hình System 1) vốn nhanh, chuyên biệt, chỉ phân loại và ra quyết định thay vì viết văn bản mở, với chi phí chỉ bằng một phần nhỏ so với LLM. Mọi trường hợp, từ yêu cầu hạ tầng, cảnh báo ứng dụng, sự cố data pipeline đến yêu cầu thay đổi, nay đều đi theo một luồng: tiếp nhận, phân loại, rồi tự khắc phục hoặc chuyển lên con người. Con người chỉ quan sát hoặc hỗ trợ hệ thống chứ không can thiệp ở cấp từng tác vụ, và rủi ro chính còn lại là xác định khi nào hệ thống cần con người can thiệp. Tác giả cho rằng công việc vận hành sẽ chuyển từ tự tay chạy hệ thống sang giám sát phần tự động hóa đang chạy chúng.
Đội ngũ vận hành IT và lãnh đạo doanh nghiệp nên xem đây là một lộ trình tham khảo: bắt đầu từ AI gợi ý, rồi dần chuyển sang tự động xử lý sự cố, đồng thời chuẩn bị cơ chế giám sát và quy tắc chuyển lên con người. Nên cân nhắc chi phí token khi dùng LLM cho tác vụ phân loại.
Đọc bài gốc