'Phải kiểm soát công nghệ tạo vũ khí hủy diệt qua Internet'
Sáng 8/8, Quốc hội thảo luận dự án Luật Phòng, chống phổ biến vũ khí hủy diệt hàng loạt. Đại biểu Phạm Trọng Nhân, thành viên Ban Nghiên cứu phát triển TP HCM, cho rằng công nghệ đang làm thay đổi căn bản phương thức hình thành và lan truyền các nguy cơ.
Theo ông, hơn nửa thế kỷ qua, việc ngăn chặn phổ biến vũ khí hủy diệt hàng loạt chủ yếu gắn với biên giới, cảng biển và cửa khẩu, nơi cơ quan chức năng có thể giữ một chuyến tàu, kiểm tra container hoặc niêm phong lô hàng. Nhưng những nguy cơ mới có thể tồn tại dưới dạng mã nguồn, trọng số mô hình hay thuật toán, được truyền qua Internet. Các công nghệ này có khả năng hỗ trợ thiết kế vật liệu, hợp chất hoặc quy trình mà trước đây phòng thí nghiệm phải mất nhiều năm mới thực hiện được.
"Ai kiểm soát năng lực đó khi nó không mang hình dạng của một loại hàng hóa? Ai chịu trách nhiệm khi nguy cơ không còn đi qua cửa khẩu?", ông Nhân đặt vấn đề.
Dự thảo đã coi việc chuyển giao công nghệ, mã nguồn, bí quyết công nghệ nhằm phục vụ vũ khí hủy diệt hàng loạt là một hình thức phổ biến. Tuy nhiên, phần giải thích và danh mục kiểm soát mới đề cập "hàng hóa lưỡng dụng", chưa bao quát "công nghệ lưỡng dụng". Theo ông Nhân, AI, điện toán hiệu năng cao, công nghệ thiết kế phân tử bằng AI hay robot tự hành đều có thể phục vụ y tế, công nghiệp, nhưng cũng làm giảm đáng kể rào cản tiếp cận những năng lực nguy hiểm.
Ông đề nghị bổ sung khái niệm "công nghệ lưỡng dụng", coi mô hình AI vượt ngưỡng năng lực nguy hiểm là một dạng công nghệ lưỡng dụng đặc biệt, thuộc diện kiểm soát xuất khẩu. Chính phủ cần được giao quy định tiêu chí và ngưỡng rủi ro để kịp thời cập nhật theo sự phát triển của khoa học, công nghệ.
"Vấn đề không phải kiểm soát AI nói chung, mà chỉ quản lý những mô hình có khả năng làm gia tăng đáng kể nguy cơ phổ biến", ông nói.
Đại biểu Phạm Trọng Nhân phát biểu tại nghị trường sáng 8/8. Ảnh: Cổng TTĐT Quốc hội
Để chứng minh tốc độ phát triển năng lực tự chủ của AI, đại biểu dẫn cuộc kiểm thử được Viện An ninh AI của Vương quốc Anh công bố ngày 4/8. Trong đó, một tác nhân AI tự tạo danh tính giả để tìm cách cài mã độc vào dự án mã nguồn mở đang hoạt động. Nỗ lực thất bại do quản trị viên phát hiện và từ chối, không phải nhờ hệ thống tự ngăn chặn.
Trong một cuộc kiểm thử khác, khi lớp an toàn được chủ động tắt để đo giới hạn kỹ thuật, mô hình AI tự vượt khỏi phạm vi được giao và thực hiện hơn 17.000 hành động trên hạ tầng thật của một tổ chức công nghệ.
Ông Nhân nhấn mạnh hai trường hợp này không thuộc phạm vi điều chỉnh trực tiếp của dự luật, nhưng cho thấy năng lực tự chủ của AI phát triển rất nhanh. Nếu năng lực ấy kết hợp với tri thức hóa học và sinh học, khoảng cách từ một cuộc thử nghiệm an ninh đến nguy cơ phổ biến vũ khí hủy diệt hàng loạt có thể bị rút ngắn.
Từ đó, ông đề nghị dự luật bổ sung 4 nhóm tiêu chí nhận diện rủi ro, gồm năng lực tính toán và mức độ tự chủ của hệ thống; khả năng tự động thiết kế vật liệu, hóa chất, tác nhân sinh học; khả năng vượt qua cơ chế an toàn; mức độ kết nối xuyên biên giới của dữ liệu huấn luyện và chuỗi cung ứng phần mềm. Khi mô hình AI vượt ngưỡng năng lực nguy hiểm, cơ quan chức năng cần được phép đánh giá rủi ro quốc gia đột xuất, thay vì chờ kỳ đánh giá định kỳ 5 năm một lần.
Đại biểu đoàn TP HCM cũng đề nghị nâng hệ thống cảnh báo sớm từ nơi tiếp nhận, lưu trữ và tổng hợp thông tin thành năng lực phân tích rủi ro quốc gia. AI và dữ liệu lớn có thể được ứng dụng để phát hiện dấu hiệu bất thường trong hoạt động chuyển giao công nghệ và các mô hình có nguy cơ cao.
Hệ thống này cần kết nối Bộ Quốc phòng, Bộ Công an, Bộ Khoa học và Công nghệ, Hải quan, Ngân hàng Nhà nước, đồng thời bảo vệ bí mật nhà nước và dữ liệu cá nhân. Theo ông, sự cảnh giác riêng lẻ của con người phải được chuyển thành cơ chế cảnh báo sớm có tổ chức, khả năng phân tích và trách nhiệm giải trình.
Cùng quan điểm, thiếu tướng Nguyễn Văn Lịch, Phó tư lệnh Quân khu 1, cho rằng AI, công nghệ sinh học và các công nghệ lưỡng dụng đang tạo ra phương thức phổ biến vũ khí hủy diệt hàng loạt ngày càng tinh vi. Nguy cơ hiện không chỉ đến từ vật liệu, thiết bị mà có thể phát sinh trong nghiên cứu, chuyển giao công nghệ, dịch vụ tài chính, vận tải và chuỗi cung ứng quốc tế. Vì vậy, cách quản lý cần chuyển từ xử lý sau khi vi phạm xảy ra sang nhận diện nguy cơ, đánh giá rủi ro, cảnh báo và ngăn chặn từ sớm.
Ông Lịch đề nghị làm rõ cơ chế phối hợp, chia sẻ thông tin giữa các bộ, ngành; đẩy mạnh chuyển đổi số và xây dựng cơ sở dữ liệu chung. Các biện pháp quản lý phải bảo đảm quốc phòng, an ninh nhưng không chồng chéo với pháp luật chuyên ngành hoặc tạo thêm thủ tục không cần thiết cho doanh nghiệp.
Đại tướng Phan Văn Giang, Phó thủ tướng, Bộ trưởng Quốc phòng, tiếp thu các ý kiến góp ý của đại biểu. Ảnh: Ngọc Thành
Giải trình cuối phiên, Đại tướng Phan Văn Giang, Phó thủ tướng, Bộ trưởng Quốc phòng, cho biết Chính phủ sẽ tiếp thu, rà soát và chỉnh lý từng nội dung để dự luật chặt chẽ, khả thi, thống nhất. Các quy định phải bảo đảm quốc phòng, an ninh quốc gia nhưng không cản trở hoạt động dân sự, sản xuất kinh doanh, nghiên cứu khoa học và đổi mới sáng tạo hợp pháp.
Quốc hội dự kiến biểu quyết thông qua dự luật sáng 24/8.
Sơn Hà
