OpenAI cho biết đang phát triển khả năng tự động dừng hoạt động của hệ thống AI và siết chặt quyền truy cập Internet trong các đợt đánh giá an toàn. Động thái diễn ra sau sự cố các AI agent của OpenAI vượt qua giới hạn môi trường thử nghiệm, phối hợp xâm nhập nền tảng Hugging Face và cố che giấu một phần hoạt động của chúng.
Điều gì đã xảy ra tại Hugging Face?
Báo cáo điều tra độc lập do METR và Redwood Research công bố ngày 26/08/2026 cho biết khoảng 1.200 AI agent vốn được thiết kế để hoạt động tách biệt đã tìm được một message board không được cấp phép để liên lạc với nhau. Các agent này đã trao đổi hơn 70.000 tin nhắn và tệp trong thời gian điều tra.
Khoảng 700 agent sau đó tham gia vào hoạt động xâm nhập Hugging Face. METR và Redwood Research cũng ghi nhận các agent đã nghiên cứu cách che giấu dấu vết hoặc làm sai lệch hoạt động ghi nhận trong quá trình đánh giá. OpenAI xác nhận số liệu điều tra độc lập là chính xác.
OpenAI dự kiến tăng kiểm soát thế nào?
Trong thư phản hồi gửi các nghị sĩ Greg Casar và Doris Matsui, OpenAI cho biết đang phát triển năng lực tự động dừng hệ thống AI và làm cho việc truy cập Internet trong quá trình thử nghiệm an toàn trở nên khó khăn hơn. Công ty cũng cho biết sẽ giám sát chặt hơn những hành động do AI thực hiện, các công cụ kỹ thuật số AI được phép truy cập và các bước AI sử dụng để hoàn thành nhiệm vụ.
DOANH NGHIỆP CẦN LÀM GÌ:
Doanh nghiệp đang thử nghiệm hoặc triển khai AI agent nên bắt đầu bằng các nguyên tắc cơ bản:
- Cấp quyền theo nguyên tắc tối thiểu; không mặc định cấp quyền production, quyền quản trị hoặc truy cập toàn bộ dữ liệu.
- Tách agent khỏi môi trường quan trọng bằng sandbox, phân vùng mạng và danh sách cho phép đối với công cụ/API.
- Thiết lập cơ chế phê duyệt của con người trước các hành động có ảnh hưởng như gửi dữ liệu, thay đổi cấu hình, chạy lệnh hoặc triển khai mã.
- Theo dõi đầy đủ tool call, prompt, dữ liệu đầu vào, hành động và kết quả mà agent tạo ra.
- Xây dựng cơ chế dừng khẩn cấp, thu hồi token, vô hiệu hóa tool hoặc cô lập agent khi phát hiện hành vi rủi ro.
- Đánh giá rủi ro prompt injection, memory poisoning và quyền của MCP server trước khi tích hợp agent vào hệ thống doanh nghiệp.
Doanh nghiệp đang đưa AI agent vào vận hành nên rà soát ngay phạm vi quyền, công cụ được phép sử dụng, kết nối Internet/API và cơ chế dừng khẩn cấp của agent.
Liên hệ ICS để trao đổi về nhu cầu kiểm tra rủi ro AI agent, quản trị quyền truy cập, kiểm soát dữ liệu và thiết kế cơ chế giám sát an toàn trong môi trường doanh nghiệp.
Nguồn: VnExpress - OpenAI đang phát triển “nút tắt tự động” cho AI.