Trí tuệ nhân tạo đã trở thành một trong những nội dung nổi bật tại kỳ họp cấp cao Đại hội đồng Liên Hợp Quốc (UNGA) lần thứ 81, diễn ra trong bối cảnh thế giới đồng thời đối mặt với xung đột kéo dài, biến đổi khí hậu, bất bình đẳng và áp lực kinh tế. Liên Hợp Quốc cảnh báo tốc độ phát triển AI đang vượt nhanh hơn khả năng thiết lập cơ chế quản trị, khiến nhu cầu về các “lan can an toàn” mang tính toàn cầu trở nên cấp thiết.
AI trong bài toán toàn cầu
Tổng Thư ký Liên Hợp Quốc António Guterres xác định chiến tranh và hòa bình, bất bình đẳng, biến đổi khí hậu và AI là bốn “phép thử của quyền lực” có thể quyết định liệu thế giới sẽ tiến tới hợp tác hay chia rẽ sâu sắc hơn. Ông nhấn mạnh rủi ro không nằm ở bản thân công nghệ, mà ở việc công nghệ được phát triển và triển khai khi thiếu trách nhiệm giải trình.
Theo Liên Hợp Quốc, quyền lực AI đang ngày càng tập trung vào dữ liệu, năng lực tính toán và thuật toán; trong khi đó, các quy định, tiêu chuẩn và cơ chế giám sát độc lập chưa theo kịp. Vấn đề đặt ra không chỉ là năng lực kỹ thuật của AI, mà còn là ai kiểm soát hệ thống, cách dữ liệu được sử dụng và trách nhiệm thuộc về ai khi AI gây ra thiệt hại.
Kêu gọi khung quản trị chung
Tại UNGA, Liên Hợp Quốc kêu gọi các quốc gia thúc đẩy một khuôn khổ quản trị AI đa phương, có cơ chế giám sát độc lập và áp dụng các nguyên tắc chung về an toàn, minh bạch, trách nhiệm giải trình và tôn trọng phẩm giá con người. Một thông điệp cốt lõi được nhấn mạnh: những quyết định liên quan đến sự sống và cái chết không nên được giao hoàn toàn cho máy móc.
Các cuộc thảo luận cũng phản ánh khác biệt trong quan điểm giữa các quốc gia. Trong khi nhiều bên ủng hộ nguyên tắc quản trị quốc tế để hạn chế một “cuộc đua xuống đáy” về an toàn AI, một số ý kiến lo ngại quy định quá chặt có thể làm chậm đổi mới hoặc tạo lợi thế cho các quốc gia đã nắm giữ hạ tầng AI.
AI có thể tạo ra giá trị lớn trong tự động hóa, phân tích, dịch vụ khách hàng và phòng thủ an ninh mạng. Tuy nhiên, giá trị đó chỉ bền vững khi công nghệ được triển khai cùng quản trị dữ liệu, bảo mật ngay từ thiết kế và trách nhiệm giải trình rõ ràng.
ICS hỗ trợ doanh nghiệp đánh giá mức độ sẵn sàng đối với AI, xây dựng chính sách sử dụng GenAI an toàn, kiểm soát rủi ro dữ liệu và tích hợp AI governance vào chương trình an ninh mạng hiện có.