Microsoft công bố dự thảo bộ quy tắc ứng xử dành cho các mô hình trí tuệ nhân tạo (AI), nhấn mạnh yêu cầu con người duy trì quyền giám sát, kiểm soát hoạt động và khả năng dừng hệ thống khi cần thiết.
Đặt giới hạn cho hoạt động của AI
Ngày 14/9, Microsoft công bố dự thảo bộ quy tắc ứng xử nhằm định hướng phát triển và vận hành các mô hình AI trong tương lai. Đề xuất tập trung vào việc bảo đảm hệ thống hoạt động trong phạm vi được cho phép, không vượt quá quyền hạn được cấp và luôn chịu sự giám sát của con người.
Theo định hướng được nêu trong tài liệu, các nguyên tắc an toàn cần được tích hợp ngay từ khâu thiết kế và phát triển mô hình, thay vì chỉ kiểm tra sau khi sản phẩm hoàn thành. Microsoft cho rằng khi năng lực AI ngày càng tăng, việc xác lập giới hạn kỹ thuật từ sớm sẽ giúp giảm nguy cơ hệ thống bị sử dụng sai mục đích hoặc hoạt động ngoài dự kiến.
Dự thảo đặt ra các giới hạn đối với việc sử dụng AI để hỗ trợ phát triển vũ khí hủy diệt hàng loạt, thực hiện tấn công mạng, tạo nội dung giả mạo gây hại, thao túng hoặc cổ súy bạo lực. Các hoạt động an ninh mạng mang tính phòng thủ chỉ được thực hiện trong phạm vi được ủy quyền.
Một nội dung đáng chú ý khác là yêu cầu hệ thống không chống lại các biện pháp can thiệp của con người. Mô hình không được tìm cách né tránh lệnh dừng, cản trở việc chỉnh sửa hoặc che giấu hoạt động nhằm tránh bị kiểm tra.
Duy trì quyền kiểm soát của con người
Bên cạnh việc ngăn chặn các hành vi gây hại, dự thảo nhấn mạnh nguyên tắc giới hạn quyền tự chủ của AI. Hệ thống phải hoạt động trong phạm vi tài nguyên và quyền hạn được cấp; khi gặp tình huống chưa rõ ràng, cần yêu cầu con người hướng dẫn thay vì tự mở rộng nhiệm vụ.
Microsoft cũng đề cao khả năng truy xuất và kiểm toán. Hoạt động của hệ thống cần được ghi nhận đầy đủ để phục vụ việc kiểm tra, đánh giá và xác định trách nhiệm khi xảy ra sự cố.
Dự thảo được đưa ra lấy ý kiến công chúng trong sáu tuần trước khi hoàn thiện, theo thông tin trong bài viết gốc. Microsoft dự kiến sử dụng bộ quy tắc làm cơ sở định hướng công tác phát triển mô hình từ năm 2027.
Đề xuất được đưa ra trong bối cảnh các doanh nghiệp công nghệ đang tìm cách cân bằng giữa việc nâng cao năng lực AI và kiểm soát rủi ro. Khi những hệ thống này có thể đảm nhiệm ngày càng nhiều tác vụ phức tạp, các yêu cầu về tính minh bạch, khả năng can thiệp và trách nhiệm của nhà phát triển trở thành vấn đề quan trọng.
Dù vậy, bộ quy tắc ứng xử mới vẫn là một dự thảo. Hiệu quả thực tế sẽ phụ thuộc vào cách các nguyên tắc được chuyển thành biện pháp kỹ thuật, quy trình kiểm tra và cơ chế giám sát trong quá trình triển khai.
