Claude Haiku 5.5 hay GPT-6.1 Sol: playbook chọn model cho coding agent
Đừng chọn model chỉ theo giá token. Playbook này giúp chia việc trong coding agent, theo dõi ngưỡng context, đọc đúng benchmark và kiểm soát đầu ra khi dùng Claude Haiku 5.5 cùng GPT-6.1 Sol.
Một coding agent phải làm hai loại việc rất khác nhau:
Quét codebase, tìm symbol, gom API contract, tóm tắt dependency.
Dựa trên ngữ cảnh đó để thiết kế lại module, sửa lỗi liên tầng hoặc xử lý một workflow terminal phức tạp.
Đưa cả hai vào một model có thể khiến chi phí tăng không cần thiết, hoặc làm giảm tỷ lệ hoàn thành ở tác vụ khó. Với Claude Haiku 5.5 và GPT-6.1 Sol, hướng tiếp cận thực tế hơn là phân tuyến từng bước trong workflow, thay vì cố chọn một model “thắng tuyệt đối”.
Chia việc thay vì chọn một model duy nhất
Claude Haiku 5.5 (claude-haiku-5-5) được định vị cho thông lượng cao, độ trễ thấp và vai trò subagent. Các tình huống được nêu gồm trích xuất thông tin, nén tài liệu, thao tác desktop và hỗ trợ các agent khác.
GPT-6.1 Sol (gpt-6.1-sol) được định vị cho các tác vụ kỹ thuật phức tạp hơn, như viết mã theo chuỗi dài, tái cấu trúc kiến trúc và phân tích dependency liên module.
Vì vậy, một cách tổ chức hợp lý cho coding agent là:
Haiku: khám phá repo, trích xuất dữ kiện, tóm tắt log và tạo context pack.
Sol: lập kế hoạch thay đổi, xử lý refactor nhiều module, giải bài toán kỹ thuật khó và thực thi workflow dài.
Đây không phải quy tắc cứng. Một bug nhỏ trong một file có thể không cần Sol. Ngược lại, một tác vụ trích xuất nhưng chứa nhiều quan hệ logic vẫn có thể cần tăng mức suy luận của Haiku.
Đọc benchmark đúng cách trước khi đưa vào production
Bảng so sánh của Artificial Analysis đặt cả hai model ở chế độ Max. Trong thiết lập đó:
| Chỉ số | Claude Haiku 5.5 | GPT-6.1 Sol |
|---|---:|---:|
| Intelligence Index | 43 | 52 |
| Terminal-Bench 4.0 | 33% | 56% |
| GDPval-AA v2.1 | 1620 | 1592 |
| Tốc độ sinh đầu ra | 237 token/giây | 59 token/giây |
| Chi phí trung bình mỗi tác vụ đánh giá | 0,21 USD | 0,72 USD |
Terminal-Bench 4.0 là benchmark cho coding agent và sử dụng terminal. Ở bài đo này, Sol dẫn trước Haiku. Ngược lại, Haiku có tốc độ đầu ra cao hơn đáng kể.
Tuy nhiên, không nên xem các số trên là hóa đơn hoặc tỷ lệ thành công dự kiến cho repository của bạn. Chi phí thực tế còn phụ thuộc vào độ dài prompt, số token suy luận, tỷ lệ cache, tool schema, lịch sử hội thoại và cách agent lặp lại giữa các bước.
Giá token: rẻ hơn chưa chắc rẻ nhất cho mọi request
Trong vùng prompt tiêu chuẩn, bảng giá được nêu như sau:
| Model | Input / 1 triệu token | Output / 1 triệu token | Cache hit / 1 triệu token |
|---|---:|---:|---:|
| Claude Haiku 5.5, prompt ≤100K | 0,10 USD | 0,50 USD | 0,01 USD |
| GPT-6.1 Sol, prompt ≤272K | 2 USD | 10 USD | 0,10 USD |
Theo các mức giá này, Haiku có đơn giá input và output thấp hơn đáng kể. Nhưng cần để ý các ngưỡng tính phí.
Ngưỡng 100K token của Haiku
Khi prompt vượt 100K token, giá của Haiku tăng lên:
Input: 0,50 USD / 1 triệu token
Output: 2,50 USD / 1 triệu token
Cache hit: 0,05 USD / 1 triệu token
Mức giá này áp dụng cho toàn bộ request theo bậc. Vì vậy, request từ 100.000 lên 100.001 token có thể chuyển sang bậc giá cao hơn cho cả request, không chỉ phần token vượt ngưỡng.
System prompt, định nghĩa tool và lịch sử hội thoại tích lũy đều có thể góp phần đẩy request qua mốc này.
Ngưỡng 272K token của Sol
Sol giữ mức giá thấp hơn đến 272K token. Khi vượt mốc này, mức giá là:
Input: 4 USD / 1 triệu token
Output: 15 USD / 1 triệu token
Cache hit: 0,20 USD / 1 triệu token
Nếu agent phải đưa nhiều source file, đặc tả và lịch sử hội thoại vào cùng một request, hãy tính cả ngưỡng giá thay vì chỉ nhìn đơn giá input ban đầu.
Theo Artificial Analysis, cả hai model có cửa sổ ngữ cảnh 1 triệu token. Dù vậy, giới hạn kỹ thuật không đồng nghĩa nên luôn nhồi đầy context: context lớn hơn có thể làm tăng chi phí và khiến agent khó tập trung vào dữ kiện liên quan.
Playbook: dựng router hai tầng cho coding agent
Tài liệu tham chiếu không cung cấp endpoint, SDK snippet hoặc tên tham số API cụ thể. Vì vậy, phần dưới đây tập trung vào logic orchestration và prompt nội bộ, thay vì giả định chi tiết tích hợp API.
Bước 1: dùng Haiku tạo context pack có thể kiểm chứng
Đừng bắt đầu bằng việc yêu cầu model sửa toàn bộ codebase. Hãy cho agent khám phá tạo một gói ngữ cảnh nhỏ, tập trung vào dữ kiện cần thiết cho bước sau.
text
Bạn là subagent khám phá codebase.
Nhiệm vụ: phân tích các đoạn mã được cung cấp để phục vụ task:
<motabughoacfeature>
Chỉ trả về:
symbol và file liên quan
luồng dữ liệu hoặc dependency quan trọng
giả định chưa được xác minh
file cần đọc thêm
rủi ro khi sửa
Không đề xuất patch. Không bịa nội dung của file chưa được cung cấp.
Mục tiêu của bước này không phải tạo patch, mà là trả về thông tin có cấu trúc để orchestration layer quyết định cần đọc thêm file nào.
Vai trò này phù hợp với các tác vụ lặp lại như:
tìm định nghĩa symbol;
tóm tắt log;
trích xuất contract;
gom dependency;
phân loại issue;
nén ngữ cảnh trước khi chuyển sang bước suy luận sâu hơn.
Haiku hỗ trợ các mức suy luận low, medium, high, xhigh và max; mức mặc định là medium. Với trích xuất hoặc phân loại đơn giản, có thể cân nhắc mức thấp hơn. Khi cần liên kết quan hệ giữa nhiều module, có thể nâng mức suy luận và đo lại trên workload thực tế.
Bước 2: chỉ chuyển quyết định kỹ thuật khó sang Sol
Khi context pack đã đủ, giao cho Sol phần cần lập kế hoạch hoặc xử lý thay đổi có nhiều điểm phụ thuộc.
text
Bạn là kỹ sư phần mềm chịu trách nhiệm triển khai thay đổi.
Task:
<motathaydoi>
Context pack đã được kiểm chứng:
<contextpack>
Ràng buộc:
chỉ sử dụng thông tin trong context pack và các file được cung cấp
nêu rõ giả định trước khi đề xuất thay đổi
đưa kế hoạch sửa theo từng file
chỉ ra kiểm tra cần chạy sau khi sửa
nếu thiếu dữ liệu, dừng và yêu cầu đúng file cần bổ sung
Ví dụ, context pack có thể xác định service nào gọi module nào, interface nào được dùng để truyền dữ liệu và lỗi xuất hiện ở bước mapping. Một đề xuất tốt cần chỉ ra:
file hoặc module liên quan;
contract có thể bị ảnh hưởng;
giả định chưa được xác minh;
thay đổi dự kiến theo từng file;
kiểm tra hồi quy cần chạy.
Cách tách này giúp hạn chế việc gửi toàn bộ repository vào Sol ngay từ đầu, đồng thời giảm nguy cơ vượt ngưỡng context hoặc bậc giá ngoài ý muốn.
Bước 3: kiểm tra đầu ra trước khi cho agent hành động
Benchmark không phải bảo chứng cho patch production. Trước khi cho phép agent ghi file hoặc chạy tool, hãy yêu cầu nó trả lời rõ các điểm sau:
Bằng chứng: Symbol, file và dependency được dùng làm cơ sở là gì?
Phạm vi: Thay đổi ảnh hưởng module nào? Có vượt quá task hay không?
Giả định: Dữ kiện nào chưa có trong context?
Kiểm thử: Cần chạy test nào để xác nhận thay đổi?
Điều kiện dừng: Khi nào agent phải yêu cầu thêm dữ liệu thay vì suy đoán?
Với Sol, tài liệu nêu rằng tool calling không dùng giao diện Chat Completions tiêu chuẩn; các tác vụ gọi hàm ngoài, tìm kiếm web hoặc thao tác dữ liệu có cấu trúc cần dùng Responses API. Nếu hệ thống hiện có chỉ xây quanh Chat Completions, đây là điểm cần đánh giá khi lập kế hoạch migration.
Rủi ro tích hợp và dữ liệu
Theo Artificial Analysis, cả hai model đều là proprietary và không công bố trọng số. Nếu hệ thống bắt buộc self-host hoặc cần làm việc trực tiếp với weights, đây không phải lựa chọn phù hợp.
Việc nén context cũng không tự động làm dữ liệu an toàn hơn. Context pack vẫn có thể chứa credential, thông tin khách hàng hoặc cấu hình hạ tầng. Trong pipeline thực tế, nên:
lọc credential và dữ liệu nhạy cảm trước khi gửi;
chỉ đưa vào context phần thông tin cần thiết;
tách quyền đọc repository khỏi quyền thực thi tool;
buộc agent nêu dữ kiện và giả định trước khi tạo thay đổi.
Checklist phân tuyến task
[ ] Dùng Haiku cho khám phá codebase, trích xuất và nén ngữ cảnh.
[ ] Dùng Sol cho refactor đa module, thuật toán khó và workflow terminal dài.
[ ] Theo dõi token của system prompt, tool schema và lịch sử chat.
[ ] Chặn hoặc chia nhỏ request Haiku khi sắp vượt mốc 100K token.
[ ] Tính đến ngưỡng 272K token khi đưa context dài vào Sol.
[ ] Chuẩn bị Responses API nếu Sol cần gọi tool theo tài liệu.
[ ] Bắt agent nêu bằng chứng, giả định và kế hoạch test trước khi sửa code.
[ ] Đo trên repository và task thật của đội thay vì suy trực tiếp từ benchmark.
Kết luận
Claude Haiku 5.5 phù hợp cho lớp “đọc, tìm và chuẩn bị ngữ cảnh”, nơi tốc độ và chi phí token thấp là lợi thế. GPT-6.1 Sol phù hợp hơn cho lớp “suy luận và thực thi khó”, đặc biệt khi task có nhiều bước kỹ thuật hoặc phụ thuộc liên module.
Giá trị lớn nhất không nằm ở việc chọn một model duy nhất. Nó nằm ở router giúp mỗi model xử lý đúng loại việc, với context vừa đủ và các điểm kiểm soát rõ ràng trước khi agent tác động vào codebase.