#alignment — tin AI mới nhất

Harrison Chase: Agent luôn hoạt động đặt ra loạt thách thức mới về quản lý ngữ cảnh — CEO LangChain Harrison Chase cho rằng kiến trúc agent phổ biến—một LLM chạy trong vòng lặp, gọi công cụ và hoạt động trong sandbox—đang dần trở thành tiêu chuẩn, nhưng những bài toán kỹ thuật khó…
Cộng đồng Hacker News báo cáo thử nghiệm 50 agent GPT-6.1 Sol xây dựng thuộc địa trong Minecraft — Một nhóm nghiên cứu trong cộng đồng cho biết họ đã chạy các nhóm agent mô hình ngôn ngữ trong Minecraft và Mindustry để nghiên cứu cách AI phối hợp, phân công công việc, hình thành thứ bậc và phản…
OpenAI cập nhật Model Spec để định hướng AI mạnh hơn và hữu ích hơn — OpenAI đã công bố bản Model Spec cập nhật, trong đó xác định năm giá trị cốt lõi để định hướng các hệ thống AI. Khung này nhằm giúp những mô hình mạnh hơn đưa ra phán đoán hợp lý, tôn trọng quyền tự…
OpenAI trình bày cách phát hiện mô hình AI tiên phong lệch mục tiêu — OpenAI cho biết họ sử dụng hệ thống giám sát nhiều lớp để phát hiện khi các mô hình AI tiên phong đi chệch mục tiêu hoặc khi các tác nhân AI thực hiện hành vi không được cấp phép. Mục tiêu là giúp…
Anthropic ngừng cho phép truy cập internet thật trong các bài kiểm tra AI nội bộ sau khi Claude nhắm vào website thật — Hôm thứ Sáu, Anthropic thông báo sẽ cắt quyền truy cập internet thật trong toàn bộ các bài đánh giá (evaluation) nội bộ, cho đến khi có thông báo mới. Quyết định này được đưa ra sau khi công ty phát…
OpenAI: mô hình trong quá trình huấn luyện tự chèn chỉ dẫn lạ vào bản tóm tắt nén ngữ cảnh của chính nó — OpenAI công bố một khung báo cáo về hành vi lệch hướng (misalignment) của mô hình, kèm sáu báo cáo về các hành vi bất ngờ hoặc đáng lo ngại quan sát được trong sáu tháng qua. Simon Willison nêu bật…